🔐 OpenAI identifikuje bezpečnostný problém týkajúci sa nástroja tretej strany a tvrdí, že k používateľským údajom nebol prístup ↗
Spoločnosť OpenAI uviedla, že napadnutý nástroj pre vývojárov tretej strany ovplyvnil proces, ktorý spoločnosť používa na certifikáciu legitímnych aplikácií pre macOS. Spoločnosť uviedla, že nenašla žiadne dôkazy o tom, že by došlo k prístupu k používateľským údajom, že by boli napadnuté jej systémy alebo IP adresy, alebo že by bol jej softvér zmenený – čo je kľúčové. (Reuters)
Praktické následky sú stále dosť vážne. OpenAI striedala certifikáty a sprísnila veci, aby sa falošné, ale presvedčivé aplikácie ChatGPT nestali väčším problémom, než by museli byť. Nie je to teda porušenie bezpečnosti – ale skôr jeden z tých momentov, kedy si treba „aktualizovať aplikáciu teraz“. (OpenAI)
🧯 Sam Altman reaguje na „provokujúci“ článok v New Yorkeri po útoku na jeho dom ↗
Sam Altman verejne oponoval ostro kritickému profilu Newyorčana po zjavnom útoku na jeho dom a niektoré jeho časti označil za zavádzajúce a osobné. Celá vec pôsobila na post generálneho riaditeľa nezvyčajne surovo – skôr defenzívne než uhladené, možno zámerne. (TechCrunch)
Zároveň polícia zatkla podozrivého v súvislosti s útokom Molotovom, ktorý bol spojený s Altmanovou rezidenciou v San Franciscu, pričom nikto nebol hlásený za zranených. Takže príbeh sa v okamihu presunul z mediálnej kritiky na fyzickú bezpečnosť – ktorá sa už stala skutočnou súčasťou diania okolo umelej inteligencie. (AP News)
🏗️ Bývalí lídri OpenAI Stargate sa plánujú pripojiť k Meta platformám ↗
Údajne do Mety smerujú traja vysokopostavení predstavitelia viazaní na infraštruktúrne úsilie spoločnosti OpenAI o Stargate. Nejde len o odliv talentov – ide o odliv talentov v rámci počítačovej vojny, ktorý dopadne inak, keď sa všetci snažia získať dátové centrá, čipy a energiu.
Nábor naznačoval, že Meta nielenže míňa veľa peňazí na modely, ale snaží sa aj absorbovať ľudí, ktorí vedia, ako postaviť priemyselné potrubie pod nimi. Na povrchu je to možno suché, ale práve tu sa teraz nachádza veľká časť pretekov. (Bloomberg)
🛡️ Náhľad Clauda Mythosa ↗
Spoločnosť Anthropic uviedla, že jej nový model Mythos je v oblasti kybernetickej bezpečnosti dostatočne silný, že ho zatiaľ neuvoľňuje do širokej verejnosti. Namiesto toho je zapojený do prísne kontrolovaného obranného úsilia, pretože spoločnosť verí, že model dokáže odhaliť nebezpečné softvérové chyby v rozsahu, ktorý je, no, trochu alarmujúci. (Red Anthropic)
Táto opatrnosť sa už šíri. Správy hovoria, že americkí predstavitelia a veľké firmy vnímajú skok v možnostiach modelu ako skutočný problém s bezpečnosťou infraštruktúry, nie len ako ďalšie okázalé uvedenie na trh. Pre zmenu má cyklus umelej inteligencie nasadenú tvrdú prilbu. (Axios)
☁️ CoreWeave uzatvára s Anthropic dohodu o cloude s umelou inteligenciou, akcie rastú ↗
Spoločnosť CoreWeave uviedla, že poskytne spoločnosti Anthropic cloudové výpočtové kapacity na základe viacročnej zmluvy, pričom sa očakáva, že kapacita bude spustená neskôr v tomto roku. Je to ďalšia pripomienka toho, že modelové spoločnosti sú stále len také rýchle, ako je rýchla infraštruktúra pod nimi – očarujúci softvér, brutálne fyzické úzke miesta.
Pre spoločnosť Anthropic dohoda posilňuje prístup k výpočtom pre rad Claude. Pre spoločnosť CoreWeave je to ďalší znak toho, že špecializovaní hráči v oblasti cloudu s umelou inteligenciou naďalej odťahujú zákazníkov od absolútne najvyššej úrovne tvorcov modelov, ktorá sa – trochu prekvapivo – drží pevne. (Reuters)
💸 Spoločnosť SiFive podporovaná spoločnosťou Nvidia dosiahla hodnotu 3,65 miliardy dolárov za otvorené čipy pre umelú inteligenciu ↗
Spoločnosť SiFive získala kolo investícií v hodnote 400 miliónov dolárov s ocenením 3,65 miliardy dolárov, čo je veľkým dôkazom dôvery v otvorený dizajn čipov pre systémy umelej inteligencie. Zatiaľ to nie je len otáľanie trónu spoločnosti Nvidia, nie – ale ukazuje to, že investori stále chcú alternatívne cesty do hardvéru umelej inteligencie.
Širší pointu je ťažké prehliadnuť. UI už nie je len príbehom o modeli, alebo dokonca príbehom o čipe – stáva sa bojom o to, ktoré vrstvy zostanú otvorené, ktoré zostanú proprietárne a kto dostane zaplatené na každej zastávke na dopravnom páse. (TechCrunch)
Často kladené otázky
Čo sa stalo s problémom so zabezpečením aplikácie OpenAI pre macOS?
Spoločnosť OpenAI uviedla, že napadnutý nástroj pre vývojárov tretej strany ovplyvnil proces podpisovania používaný na certifikáciu jej aplikácií pre macOS. Spoločnosť tiež uviedla, že nenašla žiadne dôkazy o tom, že by došlo k prístupu k používateľským údajom, že by boli ohrozené jej systémy alebo duševné vlastníctvo, ani o zmene jej softvéru. Ústredným problémom bola dôvera a autenticita aplikácie, nie potvrdené porušenie informácií o zákazníkoch.
Mal by som po tomto incidente s OpenAI aktualizovať aplikáciu ChatGPT pre macOS?
Áno, aktualizácia aplikácie je praktickým ponaučením. OpenAI striedala certifikáty a sprísňovala proces, takže falošné, ale presvedčivé aplikácie ChatGPT s menšou pravdepodobnosťou spôsobia zmätok alebo vytvoria riziko. V takýchto prípadoch je najbezpečnejším krokom použiť najnovšiu oficiálnu verziu a vyhnúť sa sťahovaniu desktopových aplikácií z neoficiálnych zdrojov alebo zrkadlových stránok.
Prečo je problém s nástrojom pre vývojárov tretej strany dôležitý, ak neboli ukradnuté žiadne údaje?
Pretože dôvera v softvér nespočíva len v prístupe k údajom. Ak je nástroj zapojený do certifikácie aplikácií ohrozený, môže to vyvolať pochybnosti o tom, či používatelia dokážu spoľahlivo identifikovať legitímny softvér. V mnohých produkčných prostrediach je tento druh problému dôležitý, pretože ovplyvňuje bezpečnosť distribúcie, dôveru v aktualizácie a riziko presvedčivých pokusov o vydávanie sa za inú osobu.
Prečo je pre Metu zamestnávanie bývalých lídrov OpenAI Stargate a ďalších lídrov v oblasti infraštruktúry umelej inteligencie takým veľkým problémom?
Tieto prijatia poukazujú na konkurenciu pod modelovou vrstvou, kde sú dátové centrá, čipy, energia a kapacita nasadenia rovnako dôležité ako výskumní talenti. Infraštruktúra umelej inteligencie sa stáva strategickou výhodou, nielen podpornou funkciou. Článok naznačuje, že Meta sa snaží posilniť priemyselnú stránku umelej inteligencie, nielen pridať ďalších výskumníkov modelov.
Čo je to model Mythos od spoločnosti Anthropic a prečo by spoločnosť obmedzovala jeho vydanie?
Spoločnosť Anthropic opísala systém Mythos ako dostatočne pokročilý v oblasti kybernetickej bezpečnosti, takže je udržiavaný pod prísnou kontrolou, a nie je široko vydávaný. Zdá sa, že obava spočíva v tom, že výkonný systém na vyhľadávanie softvérových chýb by mohol ponúknuť obrannú hodnotu a zároveň zvýšiť riziko zneužitia. Bežným prístupom v takýchto situáciách je obmedzený prístup, úzke nasadenie a prísnejší dohľad.
Prečo sú dohody o infraštruktúre umelej inteligencie a financovanie otvorených čipov dôležité pre širší trh s umelou inteligenciou?
Ukazujú, že preteky v oblasti umelej inteligencie sú čoraz viac formované prístupom k výpočtom a výberom hardvéru, nielen funkciami chatbotov. Dohoda medzi CoreWeave a Anthropic zdôrazňuje, ako modelové spoločnosti stále závisia od cloudovej kapacity, zatiaľ čo financovanie zo strany SiFive signalizuje záujem investorov o alternatívy v rámci čipov pre umelú inteligenciu. Tieto kroky spolu naznačujú, že infraštruktúra umelej inteligencie sa stáva hlavným bojiskom pre rast a kontrolu.