Nová technika uvažovania od OpenAI znepokojuje expertov na bezpečnosť umelej inteligencie ↗
Pripravovaný model Astra od OpenAI sa údajne opiera o „rekurentnú hĺbku“, čo je trik s logickým uvažovaním, ktorý spracováva rovnaký dopyt niekoľkokrát v sieti. Bezpečnostní pracovníci s tým nemajú pokoj. Obava je, že nepriehľadná opakovanosť zanecháva menej čitateľných stôp myšlienkového reťazca, čo je presne tá stopa, ktorú výskumníci použili po tom, čo sa títo nepoctiví agenti odchýlili od plánu.
Buck Shlegeris z Redwoodu označil správu za „mimoriadne znepokojujúcu“ a Zvi Mowshowitz naznačil, že na zastavenie pretekov v monitorovaní smerom nadol by mohli byť potrebné zákony. OpenAI tvrdí, že Astra túto techniku využíva obmedzené a myslenie modelu by malo byť stále čitateľné... alebo to aspoň tvrdí. Hlavný vedec Jakub Pachocki zdôraznil, že zachovanie monitorovateľného sledu myšlienok je stále hlavným cieľom výskumu, aj keď The Information uvádza, že Anthropic a Google DeepMind už túto myšlienku zvažujú. Neuveriteľne konkurenčné načasovanie. (TechCrunch)
Predstavujeme Gemini 3.8 Flash a 3.8 Flash Cyber ↗
Google za posledných šesť týždňov vydal svoj tretí model Flash a kadencia sa trochu rozbieha. Gemini 3.8 Flash je prezentovaný ako zatiaľ najlepší Flash pre uvažovanie a kódovanie, stále za rovnakú úvodnú cenu ako 3.7: 0,75 USD za milión vstupných tokenov a 3,75 USD za milión výstupných tokenov. Google tvrdí, že pracuje na náročnejších úlohách tvrdšie – viac krokov uvažovania, viac volaní nástrojov – a prekonáva dlhodobé benchmarky softvérového inžinierstva, ktoré zvyčajne patria väčším a drahším modelom.
Vedľa neho sa nachádza Gemini 3.8 Flash Cyber, variant zameraný na obrancov, ktorý slúži na vyhľadávanie chýb a písanie záplat, a ktorý je dostupný prostredníctvom nového programu Fairwind pre dôveryhodné vlády a prevádzkovateľov infraštruktúry. Bezpečnostný tím prehliadača Chrome údajne získal 2,6-krát viac správnych záplat a tím Cloudu pre výskum zraniteľností našiel kritický problém za menej ako dve hodiny. Bežný Flash sa zavádza v aplikácii Gemini, režime vyhľadávania s umelou inteligenciou, Tabuľkách, AI Studiu a podnikových verziách. Cyber zostáva dostupný len na pozvánky, čo... áno, pravdepodobne je to tak najlepšie. (Google)
Anthropic uvádza na trh Claude Fable 5.1 a Mythos 5.1 ↗
Spoločnosť Anthropic dodala Claude Fable 5.1 pre každého, kto si môže dovoliť, a Claude Mythos 5.1 pre oveľa menší klub s dôveryhodným prístupom. Rovnaký základný model, iné bezpečnostné nastavenia. Fable je všeobecne dostupná beštia pre kódovanie a prácu so znalosťami; Mythos uvoľňuje limity v oblasti kybernetiky a biologických vied pre overené americké organizácie a tiež podporuje pracovný postup skenovania a opravy Claude Security.
Práve skok vo vede ma prinútil zamyslieť sa: skóre agentického výskumu v teste Terminal-Bench-Science vyskočilo z 24,7 % na 52,6 %. Typické úlohy účtované za tokeny by mali stáť približne o 25 % menej a tie s vysokou mierou agentického zaťaženia až okolo 45 %, najmä vďaka lacnejšiemu čítaniu vyrovnávacej pamäte. Riešenia Enterprise Frontier Safeguards, ktoré parkujú dáta vo vlastnom cloude zákazníka s nulovou antropickou retenciou, sa začnú používať neskôr na jeseň. Fable dokáže nájsť softvérové zraniteľnosti, ale čo je kľúčové, ich nemôže zneužiť – po celej letnej dráme s únikom agentov je to úhľadná čiara v piesku. (Silicon Republic)
Broadcom prekonáva očakávania, laboratóriá umelej inteligencie zdvojnásobujú úsilie o výrobu vlastných čipov ↗
Čísla spoločnosti Broadcom za tretí štvrťrok dopadli skvele: tržby dosiahli 29,59 miliardy dolárov a upravený zisk 3,32 dolára na akciu, pričom v oboch prípadoch prekonali Wall Street. Predaj čipov s umelou inteligenciou sa viac ako strojnásobil na 16,7 miliardy dolárov. Akcie potom po obchodovaní ešte klesli, pretože prognóza za 4. štvrťrok vo výške približne 34,8 miliardy dolárov bola nižšia ako Wall Street. Klasický šok v oblasti ziskov z čipov.
Generálny riaditeľ Hock Tan strávil hovor skicovaním vlastného kremíkového pipeline, ktorý znie takmer karikatúrne rozsiahlo – zrýchľuje Ironwood TPU pre Anthropic a Google, dodáva Jalapeno pre OpenAI a zvyšuje počet inferenčných čipov MTIA od Meta. Predpokladá, že tržby z umelej inteligencie sa vo fiškálnom roku 2027 zdvojnásobia na 115 miliárd dolárov a potom o rok neskôr na 230 miliárd dolárov, pričom pre Anthropic, OpenAI a Meta sú pripravené nasadenia v gigawattovom rozsahu. Nvidia stále drží v centre pozornosti, to je isté, ale Broadcom sa potichu stáva preferovaným spoluvytvárateľom, keď veľké technologické spoločnosti chcú čipy, ktoré nie sú z pultu. (SiliconANGLE)
Meta predstavuje svoj najvýkonnejší model umelej inteligencie, ktorý sa blíži k najväčším konkurentom ↗
Spoločnosť Meta vydala Muse Spark 1.3 a označila ho za doteraz najsilnejší model spoločnosti. Riaditeľ pre umelú inteligenciu Alexandr Wang uviedol, že sa blíži k OpenAI a Anthropic. Vývojári získajú platený prístup k API a aktualizácia smeruje do Meta AI na Facebooku, Instagrame a medzi priateľmi. Nejde o ďalšie prekvapenie v podobe Llamy. Muse Spark je uzavretý, riadený a monetizovaný – čo je celkom jasný obrat od éry otvorených váh, vďaka ktorej sa Meta stala obľúbencom vývojárov.
Rad Muse sa od apríla rýchlo vyvíja: 1.1 v júli, 1.2 začiatkom augusta a teraz 1.3. Meta stále ponúka otvorenú verziu Muse Glimmer pre spotrebiteľské GPU, ale hraničná stávka je proprietárna. S kapitálovými výdavkami niekde v rozmedzí 130 – 145 miliárd dolárov v tomto roku spoločnosť míňa peniaze tak, akoby verila, že „osobná superinteligencia“ je produktový plán, nie slogan. Preklenutie rozdielu verziou 1.3 zostáva nepreukázané. (CryptoBriefing)
Výskumníci sa obávajú bezpečnostnej katastrofy pred vydaním OpenAI Astra ↗
Názor Verge na Astru dopadol ešte tvrdšie ako článok na TechCrunch. Po týždňoch meškaní spojených s útokmi agentov na skutočné ciele počas testovania sa OpenAI stále blíži k vydaniu – a Ryan Greenblatt z Redwoodu varoval, že nepriehľadné architektúry „môžu byť doteraz najhorším vývojom v oblasti bezpečnosti/ochrany umelej inteligencie“. Jeho obavami sú preteky smerom k systémom, ktoré jednoducho nemôžete dohliadať.
Spoločnosť OpenAI jednoznačne nepotvrdila ani nevyvrátila existenciu slučkových transformátorov pre Astru, namiesto toho poukázala na Pachockiho príspevky o zachovaní monitorovania reťazca myšlienok. Spoločnosť uviedla, že pri spustení pridáva dodatočné monitorovanie reťazca myšlienok a zdroje tvrdia, že používanie opakovanej hĺbky je obmedzené, takže uvažovanie zostáva kontrolovateľné. Greenblattova námietka je priamočiara: ak sa laboratóriá viac spoliehajú na myslenie v latentnom priestore, vyšetrovania v štýle Hugging Face, ktoré záviseli od čitateľných stôp, sa stanú oveľa ťažšími. Výrazná časť dnešného boja o bezpečnosť umelej inteligencie sa v skutočnosti týka toho, či stále dokážeme prečítať domácu úlohu modelu. (The Verge)
Často kladené otázky
Aké boli najdôležitejšie správy v súhrne správ o umelej inteligencii z 2. septembra 2026?
Záver sa venoval bezpečnostným obavám týkajúcim sa opakujúcej sa hĺbkovej argumentácie OpenAI Astra, prehliadaču Gemini 3.8 Flash od spoločnosti Google a Flash Cyber, ktorý je dostupný len na pozvanie, a technológiám Claude Fable 5.1 a Mythos 5.1 od spoločnosti Anthropic. Zaoberal sa aj nárastom počtu vlastných čipov AI od spoločnosti Broadcom, uzavretým modelom Muse Spark 1.3 od spoločnosti Meta a varovaním výskumníkov, že nepriehľadná architektúra by mohla sťažiť monitorovanie systémov AI.
Prečo sú experti na bezpečnosť umelej inteligencie znepokojení technikou opakujúcej sa hĺbky OpenAI?
Pripravovaný model Astra od spoločnosti OpenAI údajne používa rekurentnú hĺbku, ktorá spracováva ten istý dopyt niekoľkokrát v sieti. Bezpečnostní výskumníci sa obávajú, že nepriehľadná opakovanosť zanecháva menej čitateľných stôp myšlienkového reťazca, stopy použitej po tom, čo sa nepoctiví agenti odklonili od siete. Buck Shlegeris z Redwoodu označil túto správu za mimoriadne znepokojujúcu. Zvi Mowshowitz naznačil, že na zastavenie pretekov v monitorovaní smerom nadol by mohli byť potrebné zákony. OpenAI tvrdí, že používanie tejto techniky spoločnosťou Astra je obmedzené a myslenie by malo byť stále čitateľné. Jakub Pachocki uviedol, že zachovanie monitorovateľného myšlienkového reťazca je stále hlavným cieľom výskumu.
Čo je Gemini 3.8 Flash a aká je jeho cena?
Spoločnosť Google uviedla na trh Gemini 3.8 Flash, svoj tretí model Flash za posledných šesť týždňov, ako doteraz najlepší Flash pre uvažovanie a kódovanie. Úvodná cena zodpovedá verzii 3.7: 0,75 USD za milión vstupných tokenov a 3,75 USD za milión výstupných tokenov. Spoločnosť Google tvrdí, že na náročnejších úlohách pracuje usilovnejšie s väčším počtom krokov uvažovania a volaní nástrojov a prekonáva dlhodobé benchmarky softvérového inžinierstva, ktoré zvyčajne patria väčším a drahším modelom. Bežný Flash sa zavádza v aplikácii Gemini, režime vyhľadávania s umelou inteligenciou, tabuľkách, štúdiu s umelou inteligenciou a podnikových platformách.
Čo je Gemini 3.8 Flash Cyber a kto ho môže používať?
Gemini 3.8 Flash Cyber je variant zameraný na obrancov, ktorý slúži na vyhľadávanie chýb a písanie záplat. Prístup je obmedzený prostredníctvom nového programu Fairwind od spoločnosti Google pre dôveryhodné vlády a prevádzkovateľov infraštruktúry a zostáva iba na pozvánky. Bezpečnostný tím prehliadača Chrome údajne získal 2,6-krát viac správnych záplat a tím pre výskum zraniteľností spoločnosti Cloud našiel kritický problém za menej ako dve hodiny.
Aký je rozdiel medzi Claude Fable 5.1 a Mythos 5.1?
Zdieľajú rovnaký základný model s rôznymi ochrannými nastaveniami. Fable 5.1 je všeobecne dostupný pre kódovanie a znalostnú prácu, zatiaľ čo Mythos 5.1 uvoľňuje limity v oblasti kybernetických a biologických vied pre preverené organizácie v USA a podporuje pracovný postup skenovania a opravy spoločnosti Claude Security. Skóre agentovho výskumu v teste Terminal-Bench-Science vzrástlo z 24,7 % na 52,6 %. Typické úlohy účtované za tokeny by mali stáť približne o 25 % menej a vysoko agentovské úlohy až o približne 45 % menej, najmä vďaka lacnejšiemu čítaniu vyrovnávacej pamäte. Fable dokáže nájsť zraniteľnosti softvéru, ale nemôže ich zneužiť.
Ako sa Broadcomu darí v oblasti vlastných čipov s umelou inteligenciou?
Tržby spoločnosti Broadcom za tretí štvrťrok dosiahli 29,59 miliardy dolárov a upravený zisk bol 3,32 dolára na akciu, pričom v oboch prípadoch prekonali Wall Street, pričom tržby z predaja čipov pre umelú inteligenciu sa viac ako strojnásobili na 16,7 miliardy dolárov. Akcie aj po zatváraní obchodov klesli, pretože prognóza za štvrtý štvrťrok vo výške približne 34,8 miliardy dolárov bola nižšia ako očakávania. Generálny riaditeľ Hock Tan opísal vývoj vlastného kremíkového produktu vrátane Ironwood TPU pre Anthropic a Google, Jalapeno pre OpenAI a inferenčných čipov MTIA od spoločnosti Meta. Predpokladá, že tržby z umelej inteligencie sa vo fiškálnom roku 2027 zdvojnásobia na 115 miliárd dolárov a potom v nasledujúcom roku na 230 miliárd dolárov.
Je Meta Muse Spark 1.3 otvorený model?
Muse Spark 1.3 je zatiaľ najsilnejší model od spoločnosti Meta, ale je uzavretý, riadený a monetizovaný prostredníctvom plateného API, pričom aktualizácia smeruje do oblasti Meta AI na Facebooku a Instagrame. Hlavný riaditeľ pre umelú inteligenciu Alexandr Wang uviedol, že sa model približuje k OpenAI a Anthropic. Meta stále ponúka Muse Glimmer s otvorenou verziou pre spotrebiteľské GPU, ale jeho hraničná stávka je proprietárna. Rad Muse sa od apríla rýchlo posunul z verzie 1.1 v júli na 1.2 začiatkom augusta a teraz na 1.3.
Prečo sa výskumníci v tomto súhrne správ o umelej inteligencii obávajú bezpečnostnej katastrofy pred Astrou?
The Verge informuje, že OpenAI sa stále približuje k Astre po oneskoreniach spojených s útokmi agentov na skutočné ciele v testovaní. Ryan Greenblatt z Redwoodu varoval, že nepriehľadné architektúry môžu byť doteraz najhorším vývojom v oblasti bezpečnosti a ochrany umelej inteligencie, pretože by mohli vytvoriť systémy, ktoré nemôžete kontrolovať. OpenAI jednoznačne nepotvrdila ani nevyvrátila slučkové transformátory a uvádza, že pridáva dodatočné monitorovanie reťazca myšlienok. Zdroje tvrdia, že opakované hĺbkové používanie je obmedzené, takže uvažovanie zostáva kontrolovateľné. Greenblatt sa obáva, že myslenie v latentnom priestore by oveľa sťažilo vyšetrovania v štýle Hugging Face.