SpaceX oficiálne uzatvára akvizíciu spoločnosti Cursor ↗
Cursor je oficiálne súčasťou SpaceX. Startup zameraný na kódovanie umelej inteligencie tvrdí, že dohoda mu poskytuje prístup k tomu, čo nazýva najväčšou flotilou grafických procesorov na svete – poriadnemu výpočtovému úložisku.
Akvizícia nasledovala po predchádzajúcej dohode, ktorá dala spoločnosti SpaceX opciu na kúpu spoločnosti Cursor za 60 miliárd dolárov. Cursor teraz stojí po boku rozširujúcich sa ambícií SpaceX v oblasti umelej inteligencie a výpočtov, vrátane infraštruktúry, ktorá sa už prenajíma spoločnostiam ako Anthropic a Google. (TechCrunch)
Anthropic zdieľa viac podrobností o tom, ako budú Claudeove nové vodoznaky fungovať ↗
Spoločnosť Anthropic vysvetlila, ako bude Claudov systém neviditeľného vodoznaku v texte fungovať v praxi. Plánuje použiť prístup SynthID-Text od spoločnosti Google, ktorý jemne ovplyvňuje výber slov tak, aby vygenerovaný text obsahoval detekovateľný štatistický vzorec bez viditeľnej zmeny výstupu.
Anthropic tiež plánuje API na detekciu vodoznakov. Ľahké úpravy môžu vodoznak ponechať nedotknutý, zatiaľ čo úplné prepísanie ho môže odstrániť – takže áno, je to šikovné, ale ťažko sa dá povedať, že ide o magický atrament. Kód by mal niesť oveľa slabšie signály vodoznakov, pretože modely majú menšiu slobodu pri ľubovoľnom formulovaní. (TechCrunch)
Nvidia znižuje záruku financovania dátového centra OpenAI v Ohiu, informuje WSJ ↗
Nvidia údajne znížila finančnú záruku, ktorú zvažuje pre obrovský projekt dátového centra OpenAI v Ohiu. Počiatočná záruka by teraz mala byť nižšia ako 120 miliárd dolárov, a nie skôr spomínaných 250 miliárd dolárov.
Tento posun údajne nasledoval po obavách investorov, že Nvidia preberá príliš veľkú finančnú angažovanosť. OpenAI stále rokuje o záväznej nájme pokrývajúcej celý 10-gigawattový areál – investície do infraštruktúry v rozsahu, ktorý sa začína podobať menej na cloud computing a skôr na budovanie malej krajiny. (Reuters)
Vysvetlenie: Iniciatíva Daybreak od OpenAI a GPT-5.6.Cyber ↗
Spoločnosť OpenAI rozšírila svoj program kybernetickej bezpečnosti Daybreak o dve úrovne prístupu: Daybreak Blue pre obrannú bezpečnostnú prácu s využitím pohraničných modelov a Daybreak Red pre intenzívnejší výskum s využitím GPT-5.6-Cyber.
Model špecializovaný na kybernetickú bezpečnosť údajne splnil 95 % pokročilých kybernetických bezpečnostných požiadaviek bez ich odmietnutia, v porovnaní s 57,3 % u svojho predchodcu. OpenAI tiež tvrdí, že model pomohol identifikovať dve predtým neznáme zraniteľnosti v JavaScriptovom engine V8 od spoločnosti Google. Výkonná vec... a prirodzene, táto znížená miera odmietnutia robí prísny sandbox dosť dôležitým. (aimagazine.com)
Hodnotiaci systém zistil, čo kvalitatívna kontrola nedokázala: Modely umelej inteligencie sú si najistejšie, keď sa mýlia ↗
Experiment s umelou inteligenciou v podniku odhalil nepríjemný problém so spoľahlivosťou: výstupy, ktoré zneli uhladene a presvedčivo, často zlyhali pri testovaní oproti známym základným údajom. V najťažších prípadoch nebola spoľahlivosť modelu spoľahlivým ukazovateľom správnosti.
Navrhované riešenie je pomerne nevýrazné, ale dôležité – vytvoriť hodnotiace systémy s použitím kontrolovaných testovacích prípadov, kde je už známa správna odpoveď, a potom vyhodnotiť, či model identifikuje a zoradí tieto odpovede správne. V podstate prestať hodnotiť umelú inteligenciu na základe povrchovej spoľahlivosti. (IT Intelligence)
Žena tvrdí, že jej nevlastný otec použil Groka na premenu detskej fotografie na explicitné obrázky ↗
Žena sa pripojila k žalobe proti spoločnosti xAI s tvrdením, že spoločnosť Grok bola použitá na premenu jej detskej fotografie na tisíce sexuálne explicitných obrázkov. Prípad sa pripája k žalobám troch tínedžerov, ktorí spoločnosť obviňujú z nedostatočnej ochrany pred zneužívajúcim vytváraním obrázkov, ktoré zahŕňajú skutočné osoby a maloletých.
Tieto obvinenia opäť upriamujú nepríjemný dôraz na záruky generatívneho imidžu – pretože schopnosti už zjavne nie sú jediným kritériom. Rovnako dôležité sa stáva aj zabránenie tomu, aby sa modely používali ako zbraň proti skutočným ľuďom. (TechCrunch)
Často kladené otázky
Prečo SpaceX kúpila Cursor?
Akvizícia spoločnosti Cursor poskytuje startupu zameranému na kódovanie umelej inteligencie prístup k rozsiahlej infraštruktúre grafických procesorov (GPU) spoločnosti SpaceX a zároveň ju zaraďuje do širšej stratégie spoločnosti v oblasti umelej inteligencie a výpočtov. SpaceX si predtým zabezpečila opciu na kúpu spoločnosti Cursor za 60 miliárd dolárov. Dohoda tiež spája spoločnosť Cursor s infraštruktúrou, ktorú SpaceX už prenajíma spoločnostiam zaoberajúcim sa umelou inteligenciou, vrátane Anthropic a Google.
Ako bude fungovať vodoznak v texte Claude v Anthropic?
Spoločnosť Anthropic plánuje použiť prístup SynthID-Text od spoločnosti Google na vytvorenie neviditeľných štatistických vzorcov v texte generovanom Claudom. Systém jemne ovplyvňuje výber slov, namiesto toho, aby pridával viditeľnú značku. Ľahká úprava môže vodoznak zachovať, zatiaľ čo úplné prepísanie ho môže odstrániť. Spoločnosť Anthropic tiež plánuje ponúknuť API schopné detekovať tieto signály vodoznaku.
Prečo Nvidia znížila svoju navrhovanú záruku pre dátové centrum OpenAI v Ohiu?
Nvidia údajne znížila zvažovanú finančnú záruku z dôvodu obáv z prevzatia príliš veľkej finančnej expozície. Navrhovaná záruka by teraz mala byť nižšia ako 120 miliárd dolárov, namiesto predtým diskutovaných 250 miliárd dolárov. OpenAI údajne stále rokuje o záväznej nájme pokrývajúcej celé 10-gigawattové dátové centrum v Ohiu.
Na čo sú určené OpenAI Daybreak a GPT-5.6-Cyber?
Kybernetický bezpečnostný program Daybreak od spoločnosti OpenAI poskytuje rôzne úrovne prístupu pre bezpečnostný výskum. Daybreak Blue sa zameriava na obrannú bezpečnostnú prácu s využitím hraničných modelov, zatiaľ čo Daybreak Red podporuje intenzívnejší výskum s využitím GPT-5.6-Cyber. Model špecializovaný na kybernetickú bezpečnosť je navrhnutý tak, aby spracovával pokročilé požiadavky v oblasti kybernetickej bezpečnosti, vďaka čomu sú kontroly, ako napríklad sandboxing, obzvlášť dôležité, keď sú modelom poskytnuté širšie možnosti.
Prečo sú hodnotiace postroje dôležité pre spoľahlivé systémy umelej inteligencie?
Hodnotenie využíva testovanie modelov umelej inteligencie na kontrolovaných príkladoch, kde je správna odpoveď už známa. To pomáha tímom merať, či model identifikuje a hodnotí správnu odpoveď, namiesto toho, aby ju posudzovali podľa toho, ako prepracovaná alebo sebavedomá znie jej odpoveď. Podnikový experiment opísaný v článku zistil, že sebavedomie samo o sebe nebolo spoľahlivým ukazovateľom správnosti v zložitých prípadoch.
Čo naznačuje žaloba Grok ohľadom záruk generovania obrázkov pomocou umelej inteligencie?
Žaloba zdôrazňuje obavy zo zneužívania systémov generatívneho zobrazovania na vytváranie urážlivých explicitných snímok zahŕňajúcich skutočné osoby a maloletých. Žena tvrdí, že systém Grok bol použitý na premenu jej detskej fotografie na tisíce explicitných obrázkov. Prípad zdôrazňuje rastúci význam ochranných opatrení, ktoré riešia zneužívanie, nielen zlepšovanie modelovacích schopností.