🧾 Krajiny EÚ a zákonodarcovia dosiahli predbežnú dohodu o oslabených pravidlách pre umelú inteligenciu ↗
Európsky súbor pravidiel pre umelú inteligenciu bol prepracovaný zmiernene. Zákonodarcovia a krajiny EÚ dosiahli predbežnú dohodu o zjednodušení častí zákona o umelej inteligencii, pričom kľúčové pravidlá pre vysoko rizikové systémy boli odsunuté na ústup a niektoré mechanizmy boli vyňaté.
Stále to však má svoje miesto. Dohoda zakazuje sexuálne explicitné obrázky vytvorené umelou inteligenciou bez jej súhlasu a zachováva vodoznak pre výstupy generované umelou inteligenciou. V istom zmysle ide zároveň o zrušenie aj o tvrdý zákrok – v podstate o politiku, ktorá robí jogu.
🎙️ Pokrok v hlasovej inteligencii s novými modelmi v rozhraní API ↗
OpenAI predstavila pre vývojárov novú várku modelov zvuku v reálnom čase: GPT-Realtime-2, GPT-Realtime-Translate a GPT-Realtime-Whisper.
Prezentácia je väčšia ako „rozprávajúci chatbot“. Tieto modely majú počas hovoru uvažovať, prekladať naživo medzi jazykmi, prepisovať, ako ľudia hovoria, a zvládať hlasové pracovné postupy podobné agentom. Hlasová umelá inteligencia začína vyzerať menej ako telefónne menu a skôr ako mierne kofeínový asistent.
🛟 Predstavujeme dôveryhodný kontakt v ChatGPT ↗
Spoločnosť OpenAI predstavila funkciu Dôveryhodný kontakt (Trusted Contact), voliteľnú bezpečnostnú funkciu ChatGPT, ktorá umožňuje dospelým nominovať niekoho, kto môže byť upozornený, ak systémy a vyškolení kontrolóri zistia vážne obavy zo sebapoškodzovania.
Táto funkcia je navrhnutá ako ďalšia vrstva, nie ako náhrada za krízové linky, tiesňové služby alebo profesionálnu starostlivosť. Aj aspekt ochrany súkromia tu zohráva veľkú úlohu – upozornenia majú niekoho spojiť s podporou mimo aplikácie bez toho, aby sa celá konverzácia prenášala na niekoho iného.
💸 Čínska spoločnosť Moonshot AI získala 2 miliardy dolárov na hodnote 20 miliárd dolárov, dopyt po open source AI prudko stúpa ↗
Spoločnosť Moonshot AI údajne získala približne 2 miliardy dolárov pri ocenení 20 miliárd dolárov, pričom podporu viedla divízia rizikového kapitálu spoločnosti Meituan a ďalší čínski investori.
Väčším príbehom je záujem o modely s otvorenou hmotnosťou. Rad Kimi od spoločnosti Moonshot si získava značnú podporu vývojárov, najmä medzi používateľmi, ktorí sú ochotní vymeniť trochu špičkového výkonu za lacnejšiu inferenciu. Možno nie je okázalý, ale mimoriadne výkonný.
🛡️ Riziká pre finančnú stabilitu sa zvyšujú, keďže umelá inteligencia podporuje kybernetické útoky ↗
MMF varoval, že umelá inteligencia robí kybernetické útoky rýchlejšími, lacnejšími a škálovateľnejšími – čo nie je práve ten druh zvýšenia produktivity, o aký by si ktokoľvek prial.
Jeho problémom je finančná stabilita. Ak útočníci dokážu pomocou nástrojov umelej inteligencie nájsť a zneužiť slabé miesta priemyselnou rýchlosťou, banky, trhy a platobné systémy potrebujú silnejšiu odolnosť, dohľad a medzinárodnú koordináciu. Suchá fráza, vážny problém.
⚖️ Americký súdny panel odkladá konanie vo veci dôkazov generovaných umelou inteligenciou a deep fakeov ↗
Americký súdny panel odložil konanie o navrhovaných pravidlách pre dôkazy generované umelou inteligenciou a deepfakes na súde po tom, čo sudcovia a právnici zamietli návrhy.
Napätie je zrejmé: súdy nechcú, aby sa do procesov vkrádali falošné zvukové alebo obrazové záznamy, ale niektorí sudcovia sa obávali, že systém sa možno snaží regulovať problémy, ktoré ešte úplne nevidel. Rozumná opatrnosť alebo otáľanie? Pravdepodobne trochu z oboch.
🏗️ Nvidia investuje do IREN až 2,1 miliardy dolárov v rámci dohody o dátovom centre s umelou inteligenciou ↗
Spoločnosť Nvidia plánuje investovať až 2,1 miliardy dolárov do prevádzkovateľa dátových centier IREN v rámci dohody viazanej na infraštruktúru umelej inteligencie s výkonom až 5 gigawattov.
To je v jednej vete boom umelej inteligencie: čipy už nestačia, každý sa naháňa za energiou, pozemkami, chladením a obrovskými výpočtovými systémami uprostred niekde. Metafora továrne sa stáva takmer doslovnou.
Často kladené otázky
Čo sa zmenilo v predbežnej dohode EÚ o umelej inteligencii?
Predbežná dohoda zjednodušuje časti európskych pravidiel pre umelú inteligenciu a odkladá niektoré pravidlá pre vysoko rizikové systémy umelej inteligencie. Z pravidiel tiež vylučuje určité mechanizmy. Zároveň pridáva prísnejšie opatrenia vrátane zákazu sexuálne explicitných obrázkov vytvorených umelou inteligenciou bez súhlasu a požiadaviek na vodoznak pre výstupy generované umelou inteligenciou.
Prečo tento súhrn správ o umelej inteligencii opisuje dohodu s EÚ ako zrušenie aj ako tvrdý zákrok?
Dohoda zmierňuje niektoré časti zákona o umelej inteligencii odložením alebo zjednodušením požiadaviek, najmä tých, ktoré sa týkajú vysoko rizikových systémov. Zároveň však sprísňuje presadzovanie v citlivých oblastiach vrátane explicitných obrázkov umelej inteligencie bez súhlasu a označovania obsahu generovaného umelou inteligenciou. Táto kombinácia spôsobuje, že sa to menej javí ako jednoduchá deregulácia a skôr ako cielené prepracovanie.
Čo majú robiť nové modely hlasu v reálnom čase od OpenAI?
Nové modely zvuku v reálnom čase od spoločnosti OpenAI sú navrhnuté pre pokročilejšie hlasové pracovné postupy pre vývojárov. Článok spomína GPT-Realtime-2, GPT-Realtime-Translate a GPT-Realtime-Whisper. Tieto modely sú určené na logické uvažovanie o živej reči, preklad, transkripciu a hlasové interakcie podobné agentom, a nie na základné hlasové odpovede v štýle chatbotov.
Ako funguje dôveryhodný kontakt v ChatGPT?
Dôveryhodný kontakt je opísaný ako voliteľná bezpečnostná funkcia pre dospelých používajúcich ChatGPT. Umožňuje používateľovi nominovať niekoho, kto môže byť upozornený, ak systémy a vyškolení kontrolóri zistia vážne obavy zo sebapoškodzovania. Článok zdôrazňuje, že ide o dodatočnú vrstvu podpory, nie o náhradu za krízové linky, záchranné služby alebo profesionálnu starostlivosť.
Prečo je financovanie Moonshot AI dôležité v správach o umelej inteligencii?
Spoločnosť Moonshot AI údajne získala približne 2 miliardy dolárov pri ocenení 20 miliárd dolárov, s podporou čínskych investorov vrátane rizikovej divízie spoločnosti Meituan. Článok to označuje za súčasť rastúceho dopytu po modeloch s otvorenou váhou. Rad Kimi od spoločnosti Moonshot je opísaný ako získavajúci na popularite u vývojárov, najmä tam, kde je atraktívna lacnejšia inferencia.
Pred akými rizikami kybernetickej bezpečnosti v oblasti umelej inteligencie varoval MMF?
MMF varoval, že umelá inteligencia môže kybernetické útoky zrýchliť, zlacniť a uľahčiť ich škálovanie. Jeho obavy sa týkajú toho, že by to mohlo ohroziť finančnú stabilitu, ak by útočníci efektívnejšie využívali slabé stránky bánk, trhov alebo platobných systémov. Článok poukazuje na silnejšiu odolnosť, dohľad a medzinárodnú koordináciu ako dôležité reakcie.