🏛️ Ako sa veľké technologické spoločnosti presadili v Trumpovom výkonnom nariadení o umelej inteligencii ↗
Trump odstúpil od plánovaného výkonného nariadenia o umelej inteligencii, ktoré by presadilo bezpečnostné kontroly nových modelov. Dôvod v podstate: nespomaľovať Ameriku v pretekoch s Čínou.
Pozoruhodné je, že nariadenie bolo údajne už pomerne mierne – dobrovoľné, nie nejakým rozsiahlym regulačným kladivom. Napriek tomu sa proti nemu technologickí lídri tvrdo bránili a dostali, čo chceli. (The Guardian)
🛡️ Umelá inteligencia Claudea Mythosa našla 10 000 vysoko závažných zraniteľností v široko používanom softvéri ↗
Spoločnosť Anthropic uviedla, že jej projekt Glasswing pomocou nástroja Claude Mythos Preview našiel viac ako 10 000 zraniteľností s vysokou alebo kritickou závažnosťou. To je pôsobivé, ale zároveň to vyzerá ako požiarny hlásič s plášťom.
Spoločnosť uvádza, že 1 726 zistení bolo potvrdených ako skutočne pozitívnych, pričom 97 bolo opravených a 88 bolo vydaných upozornení. Najťažšie teraz nie je nájsť chyby, ale opraviť ich skôr, ako sa k rovnakým problémom dostanú útočníci. (The Hacker News)
🛰️ Biely dom schválil 9 miliárd dolárov pre špionážne agentúry, aby dobehli umelú inteligenciu ↗
Biely dom schválil tajnú žiadosť o nákup pokročilých čipov pre americké spravodajské služby v hodnote 9 miliárd dolárov, ktorých cieľom je prevádzkovať modely umelej inteligencie na hraničných úkonoch pre utajované účely.
Kongres ešte musí schváliť väčšie financovanie, ale 800 miliónov dolárov sa preprogramuje na rýchlejší prístup k výpočtom. Podtext je ťažké prehliadnuť: dokonca aj špionážne agentúry teraz uviazli v rade na čipy umelej inteligencie, čo je absurdné aj predvídateľné zároveň. (Inquirer.com)
🪞 „Nemôžete ovládať všetko“: nárast počtu plastických chirurgov, ktorých požiadali o vytvorenie „tváre s umelou inteligenciou“ ↗
Plastickí chirurgovia tvrdia, že čoraz viac pacientov si ako cieľ operácie vyberá selfie upravené umelou inteligenciou – ostrejšie lícne kosti, dokonalú symetriu, pleť bez pórov a celý ten tajomný nákupný zoznam.
Chirurgovia varujú, že umelá inteligencia dokáže preskupovať pixely, nie anatómiu. Jeden z nich recenzoval zákroky odporúčané umelou inteligenciou, ktoré by mohli stáť viac ako 100 000 libier a stále by nedosiahli vysnívanú tvár. Toto je pochmúrne malé zrkadlové bludisko. (The Guardian)
💰 Anthropic plánuje uzavrieť kolo investícií v hodnote viac ako 30 miliárd dolárov už budúci týždeň ↗
Spoločnosť Anthropic sa údajne blíži ku kola financovania presahujúcemu 30 miliárd dolárov, pričom jej hodnota sa blíži k 900 miliárd dolárov. Áno, toto číslo sa točí okolo nuly.
Toto kolo je poháňané obrovským dopytom po Claudeovi v oblasti kódovania, obchodných pracovných postupov a kybernetickej bezpečnosti. Spoločnosť sa tiež snaží uzamknúť viac výpočtov, pretože v súčasnosti sú v oblasti umelej inteligencie peniaze väčšinou palivom pre nosenie obleku. (Business Standard)
🖼️ Obrázky ChatGPT obsahujú neviditeľné značky umelej inteligencie, ktoré dokáže rozpoznať každý: Čo by mali vedieť používatelia, ktorí nemôžu zverejniť informácie o umelej inteligencii generácie ↗
Výstupy obrázkov z OpenAI teraz obsahujú dva signály pôvodu: metadáta C2PA a vodoznak SynthID od Google DeepMind. Jeden poskytuje bohatší kontext súboru, zatiaľ čo druhý je určený na uloženie snímok obrazovky a kompresie.
V ukážkovej verzii je aj verejný overovací nástroj. Nie je úplne spoľahlivý, to nie – výskumníci preukázali útoky s vodoznakom – ale vďaka tomu je tvrdenie „vôbec som nepoužil umelú inteligenciu“ oveľa riskantnejším malým klamstvom. (Tech Times)
Často kladené otázky
Prečo Trump odstúpil od plánovaného výkonného nariadenia o umelej inteligencii?
V článku sa uvádza, že plánované výkonné nariadenie o umelej inteligencii bolo údajne zmiernené po tlaku zo strany veľkých technologických lídrov. Nariadenie bolo už predtým opísané ako relatívne mierne a dobrovoľné, so zameraním na bezpečnostné kontroly nových modelov umelej inteligencie. Hlavným argumentom proti nemu bolo, že dodatočné procesy kontroly by mohli spomaliť USA v ich pretekoch s Čínou v oblasti umelej inteligencie.
Čo objavil Claude Mythos z Anthropicu v softvéri?
Spoločnosť Anthropic uviedla, že jej projekt Project Glasswing využil nástroj Claude Mythos Preview na identifikáciu viac ako 10 000 zraniteľností s vysokou alebo kritickou závažnosťou v široko používanom softvéri. V článku sa uvádza, že 1 726 zistení bolo potvrdených ako skutočne pozitívnych, pričom už boli vydané niektoré záplaty a upozornenia. Širším problémom je, či obrancovia dokážu tieto slabiny opraviť skôr, ako útočníci zneužijú podobné nástroje umelej inteligencie.
Prečo americké tajné služby žiadajú viac čipov s umelou inteligenciou?
V článku sa uvádza, že Biely dom schválil tajnú žiadosť o 9 miliárd dolárov na pomoc americkým spravodajským agentúram pri nákupe pokročilých čipov pre modely umelej inteligencie na hraniciach. Cieľom je podporiť utajovanú prácu s umelou inteligenciou, ktorá si vyžaduje veľké množstvo výpočtov. Taktiež sa v ňom uvádza, že Kongres ešte musí schváliť širšie financovanie, zatiaľ čo časť peňazí sa preprogramuje pre rýchlejší prístup.
Čo znamená „tvár s umelou inteligenciou“ v kozmetickej chirurgii?
„Tvár s umelou inteligenciou“ označuje pacientov, ktorí prinášajú plastickým chirurgom selfie upravené umelou inteligenciou ako príklady toho, ako chcú vyzerať. Tieto obrázky môžu zobrazovať ostrejšie črty, dokonalú symetriu alebo nerealistickú pleť. Chirurgovia citovaní v článku varujú, že umelá inteligencia dokáže ľahko meniť pixely, ale skutočná anatómia má limity, ktoré chirurgia nedokáže vždy prekonať.
Ako neviditeľné značky na obrázkoch ChatGPT ovplyvňujú používateľov?
V článku sa uvádza, že výstupy obrázkov ChatGPT teraz obsahujú signály pôvodu, ako sú metadáta C2PA a vodoznak SynthID. Tieto značky môžu pomôcť identifikovať obrázky generované umelou inteligenciou, a to aj v prípadoch, keď niekto nechce zverejniť použitie umelej inteligencie. Článok tiež poznamenáva, že vodoznak nie je spoľahlivý, ale uľahčuje odhalenie nezverejneného použitia obrázkov s umelou inteligenciou.