Zdroje uvádzajú, že Trumpovi poradcovia hovoria firmám zaoberajúcim sa umelou inteligenciou, že nebudú testovať bezpečnosť modelov s otvorenou váhou ↗
Podľa ľudí oboznámených s diskusiami Trumpova administratíva oznámila popredným spoločnostiam zaoberajúcim sa umelou inteligenciou, že nebude testovať bezpečnostné modely s otvorenou váhou. To ponecháva pomerne závažnú časť hodnotenia rizík mimo vládneho rámca.
V praxi môžu vývojári a používatelia niesť väčšiu zodpovednosť za hodnotenie modelov pred vydaním alebo nasadením. Možno je to priaznivé pre inovácie... ale načasovanie je neisté, pretože otvorené modely sa rýchlym tempom stávajú schopnejšími. (Reuters)
Modely umelej inteligencie s otvorenou váhou dobiehajú hranice. Bezpečnostná medzera pretrváva. ↗
Z.ai GLM-5.2 údajne zaostáva za poprednými uzavretými modelmi v kybernetických a biologických schopnostiach len o niekoľko mesiacov. Testy spoločnosti SaferAI zistili, že neodmietla žiadnu z ofenzívnych kybernetických alebo biologických úloh s dvojitým použitím, ktoré jej boli predložené.
Uzavreté modely sa môžu spoliehať na trénovanie odmietnutia, klasifikátory a ovládacie prvky API. Sťahovateľné váhy sú iná vec – po uvoľnení je možné ochranné opatrenia zmeniť alebo odstrániť, vďaka čomu sa bezpečnostná medzera javí ako výrazne kaňonovitý tvar. (TechCrunch)
Spoločnosť Samsung Electronics uvádza na trh novú generáciu technológie umelej inteligencie pre pamäť ↗
Spoločnosť Samsung predstavila prototyp BV-NAND s viac ako 400 vrstvami a novým dizajnom spájania doštičiek. Spoločnosť tvrdí, že poskytuje približne o 58 % vyššiu hustotu pamäte ako predchádzajúca generácia, spolu s rýchlejším čítaním, zápisom a vstupno-výstupným výkonom.
Spoločnosť Samsung tiež načrtla vertikálne stohované pamäte zHBM umiestnené nad akcelerátormi umelej inteligencie. Tvrdí, že architektúra by mohla ponúknuť viac ako desaťnásobok hustoty konvenčnej HBM5, trojnásobnú energetickú účinnosť a podstatne nižší tepelný odpor – čo sú, mierne povedané, značné sľuby. (Reuters)
Preteky v oblasti dátových centier s umelou inteligenciou vytvárajú pre veľké technologické spoločnosti záťaž prenájmu vo výške 1 bilióna dolárov ↗
Spoločnosti Microsoft, Meta, Oracle, Amazon a Alphabet sa zaviazali k sume približne 1,09 bilióna dolárov na lízingy, ktoré ešte nezačali, najmä na dátové centrá s umelou inteligenciou. Tieto záväzky sú takmer štvornásobkom ich uznaných záväzkov z lízingu.
Táto kapacita by mohla viesť k ďalšiemu boomu cloudových technológií. Alebo, menej optimisticky, by mohla viesť k tomu, že firmy budú musieť platiť za obrovské zariadenia, ak dopyt po umelej inteligencii sklame – kabát za bilión dolárov by sa kúpil ešte predtým, ako by niekto skontroloval počasie. (Reuters)
Anthropic podpísala zmluvu v hodnote 10 miliárd dolárov so startupom Volta zameraným na cloudovú technológiu umelej inteligencie ↗
Spoločnosť Anthropic údajne súhlasila s nákupom výpočtovej kapacity v hodnote 10 miliárd dolárov od startupu Volta, ktorý sa zaoberá cloudom s umelou inteligenciou, v priebehu šiestich rokov. Dohoda by podporila nórske dátové centrum s kapacitou 133 megawattov.
Očakáva sa, že spoločnosť Bitdeer, ktorá sa zaoberá ťažbou kryptomien, pomôže s vývojom zariadenia, ktoré bude využívať systémy Vera Rubin od spoločnosti Nvidia. Anthropic zhromažďuje výpočtové partnerstvá ako magnety na chladničku – až na to, že tieto magnety stoja miliardy. (TechCrunch)
Svetová banka tvrdí, že umelá inteligencia ponúka „záchranné lano“ pre rozvíjajúce sa ekonomiky ↗
Svetová banka tvrdí, že umelá inteligencia by mohla rozvojovým ekonomikám umožniť zhustiť storočie pokroku do desaťročia, za predpokladu, že zlepšia elektrinu, konektivitu a digitálne zručnosti. Menšie, lokálne prispôsobené nástroje by mohli podporiť zdravotnú starostlivosť, vzdelávanie, poľnohospodárstvo a verejné služby bez toho, aby si vyžadovali obrovské národné modely.
V správe sa odhaduje, že 4,5 % pracovných miest v krajinách s nízkymi a strednými príjmami je vystavených generatívnej umelej inteligencii v porovnaní so 14,2 % v bohatších ekonomikách. Napriek tomu tento prísľub prichádza s ostrými varovaniami pred nerovnosťou, dezinformáciami a politickou represiou – záchranným lanom s niekoľkými uzlami. (Reuters)
Často kladené otázky
Prečo vláda USA netestuje bezpečnosť modelov umelej inteligencie s otvorenou váhou?
Podľa článku Trumpova administratíva oznámila popredným spoločnostiam zaoberajúcim sa umelou inteligenciou, že modely s otvorenou váhou nebudú zahrnuté do jej vládneho rámca pre testovanie bezpečnosti. To kladie väčšiu zodpovednosť na vývojárov, distribútorov a používateľov modelov, ktorí môžu pred vydaním alebo prijatím týchto systémov musieť nezávisle posúdiť kybernetické, biologické riziká, riziká zneužitia a nasadenia.
Prečo je ťažšie zabezpečiť otvorené modely umelej inteligencie ako uzavreté modely?
Modely umelej inteligencie s otvorenou váhou je možné stiahnuť, upraviť a prevádzkovať mimo pôvodnej infraštruktúry vývojára. V dôsledku toho môžu byť oslabené alebo odstránené ochranné opatrenia, ako je trénovanie odmietnutia, klasifikátory a kontroly prístupu. Uzavreté modely sa zvyčajne poskytujú prostredníctvom kontrolovaných rozhraní API, čo poskytovateľom dáva väčší priestor na monitorovanie používania, obmedzovanie prístupu a aktualizáciu ochran po nasadení.
Ako by mali organizácie hodnotiť modely umelej inteligencie s otvorenou váhou pred nasadením?
Bežným prístupom je testovanie modelu v realistických scenároch zneužitia vrátane útočných kybernetických úloh, požiadaviek na dvojaké biologické použitie a pokusov o obídenie ochranných opatrení. Organizácie by mali tiež preskúmať, ako bude model hostovaný, kto ho bude môcť upravovať a aké monitorovacie systémy sú k dispozícii. Nasadenia s vyšším rizikom si zvyčajne vyžadujú prísnejšie kontroly prístupu a trvalý ľudský dohľad.
Čo má vylepšiť nová technológia umelej inteligencie od spoločnosti Samsung?
Prototyp BV-NAND od spoločnosti Samsung využíva viac ako 400 vrstiev a dizajn spájania doštičiek, ktorý má zvýšiť hustotu pamäte a zároveň zlepšiť výkon čítania, zápisu a vstupno-výstupných procesov. Spoločnosť tiež opísala vertikálne stohovanú pamäť zHBM umiestnenú nad akcelerátormi umelej inteligencie. Tieto návrhy majú riešiť požiadavky na kapacitu, energiu a teplo, ktoré vytvárajú čoraz intenzívnejšie pracovné záťaže umelej inteligencie.
Prečo sa prenájmy dátových centier pre umelú inteligenciu od veľkých technologických spoločností považujú za finančné riziko?
Spoločnosti Microsoft, Meta, Oracle, Amazon a Alphabet údajne zaviazali k prenájmu v hodnote približne 1,09 bilióna dolárov, pričom veľká časť z nich sa týka dátových centier s umelou inteligenciou. Pridaná kapacita by mohla podporiť rýchly rast dopytu po cloude a umelej inteligencii. Spoločnosti však môžu stále dlhovať značné platby, ak sa dopyt bude vyvíjať pomalšie, ako sa očakávalo, alebo ak infraštruktúra zostane nedostatočne využívaná.
Ako by mohla umelá inteligencia prospieť rozvíjajúcim sa ekonomikám?
Svetová banka tvrdí, že umelá inteligencia by mohla pomôcť rozvojovým ekonomikám posilniť zdravotníctvo, vzdelávanie, poľnohospodárstvo a verejné služby, najmä prostredníctvom menších nástrojov prispôsobených miestnym potrebám. Tieto výhody závisia od spoľahlivej elektriny, prístupu na internet a digitálnych zručností. Vlády musia tiež riadiť riziká, ako je nerovnosť, dezinformácie a politické represie, keďže sa jej používanie rozširuje.