🇬🇧 Odvážna stávka na umelú inteligenciu udrží Spojené kráľovstvo v popredí vedeckých a výskumných prelomov od zdravotnej starostlivosti až po lepšie verejné služby ↗
Hlavný verejný poskytovateľ finančných prostriedkov na výskum v Spojenom kráľovstve (UKRI) zverejnil svoju prvú stratégiu zameranú na umelú inteligenciu, v ktorej v podstate argumentuje za viac umelej inteligencie vo výskume, viac zručností v oblasti umelej inteligencie, viac infraštruktúry umelej inteligencie – teda za celý rad ďalších faktorov.
Ide o značné finančné prostriedky zamerané na umelú inteligenciu, plus špecifické investície, ako je modernizácia superpočítača DAWN v Cambridge a podpora práce „AI pre vedu“ (neprekvapivo sa spomína objav liekov). Znie to ako „robiť základy, ale aj prinášať výsledky“... čo je buď nálada, alebo lano, alebo oboje.
🛡️ OpenAI a Microsoft sa pripájajú k medzinárodnej koalícii Spojeného kráľovstva na ochranu rozvoja umelej inteligencie ↗
Spoločnosti OpenAI a Microsoft prisľúbili nové financovanie projektu Alignment Project britského Inštitútu pre bezpečnosť umelej inteligencie – fond na nezávislý výskum v oblasti algoritmov sa zväčšil a prezentujú ho ako budovanie dôvery, nielen ako kritiku nerdov.
Dôležité je poznamenať štruktúru: medzinárodná koalícia, viacerí financovatelia a množstvo grantov rozdeľovaných do viacerých krajín. Je to „zosúladenie ako ekosystém“, nie „zosúladenie ako tajná prísada jedného laboratória“... aj keď laboratóriá stále držia väčšinu prísad.
🧠 Pokrok v nezávislom výskume v oblasti zosúladenia umelej inteligencie ↗
Spoločnosť OpenAI vyčlenila 7,5 milióna dolárov na projekt zarovnávania AISI v Spojenom kráľovstve – peniaze sú určené špeciálne pre nezávislé tímy vykonávajúce bezpečnostné/zarovnávacie práce mimo hraničných laboratórií.
Prezentácia je dosť priamočiara: hraničné laboratóriá dokážu vykonávať zarovnávanie s dôrazom na prístup k modelom, ale táto oblasť potrebuje aj idiosynkratické, rozmanité a nekorelované nápady od externých odborníkov (ich slová sú milšie, ale chápete). Pod tým všetkým sa skrýva aj jasný pohľad na svet „iteratívne nasadzovanie“ – prepravovať, učiť sa, zdokonaľovať... opakovať... alebo sa to aspoň tak zdá.
💳 Ministerstvo financií vydáva dva nové zdroje, ktoré budú usmerňovať používanie umelej inteligencie vo finančnom sektore ↗
Ministerstvo financií USA zrušilo dva praktické nástroje pre financie: spoločný lexikón umelej inteligencie (aby sa všetci prestali hádať o význame slov) a rámec riadenia rizík umelej inteligencie vo finančných službách, ktorý prispôsobuje prístup NIST realite bankovníctva.
Rámec predstavuje riadenie založené na riziku s dostatočnými podrobnosťami na to, aby ho mohli používať tímy pre dodržiavanie predpisov, regulačné orgány a dodávatelia bez toho, aby si každý musel súbežne vymýšľať vlastné definície. Je to druh prozaického dokumentu, ktorý potichu formuje to, čo sa schvaľuje... čo je silné v zmysle kartotéky.
🪖 Technický riaditeľ Pentagonu tvrdí, že obmedzenie vojenského využitia umelej inteligencie od spoločnosti Anthropic nie je „demokratické“ ↗
Vedúci predstaviteľ technologického oddelenia Pentagonu verejne oponoval obmedzeniu vojenského využitia Claude spoločnosťou Anthropic a označil za „nedemokratické“, aby jedna spoločnosť stanovila ďalšie pravidlá nad rámec zákona a regulácie.
Toto sa odvíja od širšieho zmätku, kde viaceré spoločnosti zaoberajúce sa pohraničnými modelmi majú obranné zmluvy na prispôsobenie genAI pre vojenské kontexty – a bod trenia je presne taký, aký by ste očakávali: pravidlá používania spoločností verzus apetít vlády po operačnom využití. Celá vec pôsobí ako podanie ruky, ktoré sa mení na preťahovanie rukou uprostred fotografie.
Často kladené otázky
Čo je stratégia UKRI pre umelú inteligenciu a prečo je dôležitá?
Prvá špecializovaná stratégia UKRI pre umelú inteligenciu sa zasadzuje za ďalšie zapojenie umelej inteligencie do výskumného procesu – zručnosti, infraštruktúra a praktické nasadenie. Rámec je „robiť základy, ale aj poskytovať výsledky“, čo signalizuje tlak na premenu investícií do výskumu na verejný prínos. Poukazuje tiež na celoplošný prístup: nielen modely financovania, ale aj výpočty, ľudia a spôsoby zavádzania, ktoré zabezpečujú pokrok.
Čo vlastne umožňuje modernizácia superpočítača DAWN v Cambridge?
Modernizácia superpočítača DAWN v Cambridge je vnímaná ako infraštruktúrny krok, ktorý podporuje ambicióznejšiu prácu v oblasti umelej inteligencie v celom britskom výskume. V praxi to zvyčajne znamená väčšiu kapacitu pre školenia, hodnotenie a rozsiahle experimenty, ktoré menšie zariadenia len ťažko efektívne prevádzkujú. V mnohých vývojových procesoch silnejšie zdieľané výpočty zmierňujú úzke miesta na univerzitách a urýchľujú cyklus od prototypov k publikovateľným a testovateľným výsledkom.
Čo znamená „AI pre vedu“ v kontexte stratégie AI v Spojenom kráľovstve?
„AI pre vedu“ sa prezentuje ako využitie metód AI na urýchlenie objavovania, pričom objavovanie liekov je explicitne kontrolované. V praxi to často zahŕňa využitie AI na generovanie hypotéz, vyhľadávanie rozsiahlych dizajnových priestorov alebo stanovovanie priorít experimentov. Dôraz naznačuje chuť na výsledky, ktoré jasne presahujú akademickú oblasť – nové metódy, kratšie cykly a aplikácie, ktoré sú prepojené so zdravotnou starostlivosťou a verejnými službami.
Čo je projekt zosúladenia britského inštitútu pre bezpečnosť umelej inteligencie a kto ho financuje?
Projekt zosúladenia britského Inštitútu pre bezpečnosť umelej inteligencie (AI Security Institute) je opísaný ako medzinárodná koaličná štruktúra, ktorá podporuje nezávislý výskum zosúladenia, do ktorého prispieva viacero finančných prostriedkov. OpenAI a Microsoft sú zdôraznené ako pridávanie nových finančných prostriedkov, ktoré sú koncipované ako budovanie dôvery a podpora ekosystému. Model je „zosúladenie ako ekosystém“, pričom granty prúdia do tímov naprieč krajinami, a nie sú práca sústredená v rámci hraničných laboratórií.
Prečo spoločnosť OpenAI investovala 7,5 milióna dolárov do nezávislého výskumu zameraného na zosúladenie umelej inteligencie?
Logika OpenAI spočíva v tom, že hraničné laboratóriá môžu vykonávať bezpečnostnú prácu, ktorá závisí od prístupu k hlbokým modelom, zatiaľ čo nezávislé tímy môžu prispievať rôznymi, nekorelovanými nápadmi, ktoré by laboratóriá mohli prehliadnuť. Dôraz sa kladie na rozšírenie oblasti nad rámec „tajnej prísady jedného laboratória“. Článok tiež naznačuje pohľad na svet „iteratívneho nasadzovania“ – nasadiť, poučiť sa zo spätnej väzby z nasadenia, posilniť systémy a potom zopakovať.
Ako zdroje amerického ministerstva financií na umelú inteligenciu ovplyvňujú riadenie finančného sektora s umelou inteligenciou?
Ministerstvo financií USA vydalo spoločný lexikón umelej inteligencie a rámec riadenia rizík v oblasti umelej inteligencie vo finančných službách, ktorý bol adaptovaný z myslenia v štýle NIST. Zámerom je znížiť rozpínanie definícií a poskytnúť tímom pre dodržiavanie predpisov, regulačným orgánom a dodávateľom spoločný postup. V mnohých organizáciách takéto dokumenty formujú to, čo sa v praxi schvaľuje, pretože štandardizujú očakávania týkajúce sa kontrol, dokumentácie a rozhodovania na základe rizika.