🧬 DeepMind spúšťa AlphaGenome na odhaľovanie genetických faktorov chorôb ↗
Spoločnosť DeepMind predstavila AlphaGenome, systém umelej inteligencie zameraný na predpovedanie toho, ako mutácie DNA menia reguláciu génov – v podstate kedy sa gény aktivujú, kde a ako silno. Dokáže naraz skenovať obrovské úseky DNA vrátane rozsiahlych nekódujúcich oblastí, ktoré sa často javia ako biologická temná hmota.
Návrh je celkom priamočiary: rýchlejšia identifikácia mutácií, ktoré sú skutočne dôležité pre veci, ako je riziko rakoviny a komplexné dedičné choroby. Ak to funguje tak, ako sa o tom hovorí, výskumníci strávia menej času hádaním a viac času testovaním správnych vecí – čo znie očividne, ale je to v podstate celá hra.
🧑💼 Umelá inteligencia bude stáť pracovné miesta, pripúšťa Liz Kendall ↗
Britská ministerka technológií otvorene povedala, že zavedenie umelej inteligencie spôsobí stratu pracovných miest – nie v obvyklom duchu „bude to v poriadku, sľubujem“. Poukázala na obavy týkajúce sa pozícií pre absolventov v oblastiach ako právo a financie a netvárila sa, že niekto môže ponúknuť nejaké pekné číslo.
Zároveň sa vláda intenzívne zameriava na adaptáciu: výrazne sa snaží vyškoliť milióny pracovníkov v základných zručnostiach v oblasti umelej inteligencie s cieľom rýchlejšie prijať umelú inteligenciu v Spojenom kráľovstve. Je to klasické napätie – áno, pracovné miesta miznú, áno, pracovné miesta sa objavujú, nie, nebude to mať hladký stred.
🗞️ Spojené kráľovstvo nalieha na Google, aby umožnil webovým stránkam odhlásiť sa z prehľadov AI ↗
Britskí regulátori hospodárskej súťaže navrhli zmeny, ktoré by vydavateľom umožnili odhlásiť sa z používania ich obsahu v prehľadoch umelej inteligencie spoločnosti Google – alebo na trénovanie samostatných modelov umelej inteligencie – bez toho, aby boli penalizovaní v bežnom umiestnení vo vyhľadávaní. Táto časť „bez penalizácie“ tu odvádza veľa práce.
Cieľom je znovu vyvážiť sily, keďže súhrny umelej inteligencie menia spôsob, akým ľudia klikajú (alebo neklikajú). Reakcia Googlu bola v podstate taká: správanie pri vyhľadávaní sa mení, zvažujeme viac ovládacích prvkov, ale nerozdeľujeme produkt na neprakticky fragmentovanú verziu seba samého... čo je síce fér, ale aj pohodlné.
🛡️ Udržiavanie vašich údajov v bezpečí, keď agent umelej inteligencie klikne na odkaz ↗
OpenAI podrobne opísala konkrétne bezpečnostné riziko pre agentov: únik údajov na základe URL adresy – kde útočník oklame umelú inteligenciu, aby načítala URL adresu, ktorá potichu vloží súkromné informácie do reťazca dopytu. Aj keď model nikdy „nepovie“ tajomstvo, samotná požiadavka ho môže uniknúť. Nepríjemné a odzbrojujúco nízkotechnologické.
Ich zmiernenie spočíva v jednoduchom pravidle s ostrými hranami: agenti by mali automaticky načítavať iba tie URL adresy, ktoré sú už verejné a o ktorých existencii je známe prostredníctvom nezávislého webového indexu. Ak odkaz nie je overený ako verejný, systém by sa mal spomaliť a vrátiť používateľovi kontrolu pomocou upozornení – zámerné trenie, ale v dobrom zmysle.
🇪🇺 Ďalšia kapitola pre umelú inteligenciu v EÚ ↗
Spoločnosť OpenAI zverejnila plán zameraný na EÚ, ktorý rieši problém „prebytku schopností“ – modely dokážu viac, než na čo ich ľudia a firmy v súčasnosti používajú, a táto medzera predstavuje riziko nerovnomerného zisku v jednotlivých krajinách. Je to ako vlastniť pretekárske auto a jazdiť s ním len do obchodu na rohu... až na to, že obchod na rohu je celá vaša ekonomika.
Popri rétorike existujú aj konkrétne prvky: program zameraný na vyškolenie tisícok európskych malých a stredných podnikov v oblasti umelej inteligencie, grant viazaný na výskum bezpečnosti a blahobytu mládeže a rozšírený prístup „spolupráce s vládami“. Je to čiastočne politické memorandum, čiastočne kampaň na prijatie – a áno, tieto prvky sa do seba stierajú.
🔐 Riziko umelej inteligencie sa stretáva s kybernetickou správou: Návrh profilu kybernetickej umelej inteligencie od NIST ↗
Nový návrh profilu od NIST (na základe analýzy článku z právnickej firmy) sa zameriava na to, ako by mali organizácie začleniť umelú inteligenciu do kybernetickej správy – a to ako zabezpečenie samotných systémov umelej inteligencie, tak aj používanie umelej inteligencie na zlepšenie kybernetickej obrany. Dobrovoľnosť je na papieri dobrovoľná, ale „dobrovoľnosť“ sa časom môže stať očakávanou.
Návrhové skupiny sa zaoberajú témami, ako je zabezpečenie komponentov umelej inteligencie a nasadenie obrany s využitím umelej inteligencie – vrátane zohľadnenia dodávateľského reťazca a automatizácie podobnej agentom v pracovných postupoch reakcie. Zámerom je: brať umelú inteligenciu ako nový útočný povrch a novú sadu nástrojov a netváriť sa, že sa tieto prvky vyrušia.
Často kladené otázky
Čo je AlphaGenome od DeepMind a aký problém sa snaží vyriešiť?
AlphaGenome je systém umelej inteligencie, o ktorom spoločnosť DeepMind tvrdí, že dokáže predpovedať, ako mutácie DNA ovplyvňujú reguláciu génov – kedy sa gény aktivujú, kde sa to stane a ako silno. Je navrhnutý tak, aby skenoval veľmi veľké úseky DNA naraz, vrátane nekódujúcich oblastí, ktoré sa notoricky ťažko interpretujú. Cieľom je pomôcť výskumníkom zistiť, ktoré mutácie s najväčšou pravdepodobnosťou spôsobujú ochorenia, aby sa laboratórne testovanie mohlo sústrediť na najsľubnejšie stopy.
Ako by AlphaGenome mohol pomôcť výskumníkom rýchlejšie nájsť genetické faktory, ktoré spôsobujú choroby?
V mnohých genetických pracovných postupoch je úzkym hrdlom zmenšovanie obrovských zoznamov variantov na tie, ktoré vierohodne menia aktivitu génov. AlphaGenome sľubuje obmedziť tieto dohady predpovedaním toho, ako by špecifické mutácie mohli zmeniť reguláciu v dlhých sekvenciách DNA. Ak sa tieto predpovede potvrdia, tímy môžu uprednostniť experimenty zamerané na varianty s najväčšou pravdepodobnosťou spojené s rizikom rakoviny alebo komplexnými dedičnými ochoreniami, čím strávia menej času na slepých uličkách.
Naozaj bude prijatie umelej inteligencie stáť pracovné miesta v Spojenom kráľovstve a ktoré pozície sú najviac ohrozené?
Britská ministerka technológií Liz Kendallová uviedla, že prijatie umelej inteligencie spôsobí stratu pracovných miest a zdôraznila obavy týkajúce sa pozícií pre absolventov. Konkrétne poukázala na oblasti ako právo a financie, kde úlohy na začiatku kariéry môžu byť automatizovanejšie. Vláda zároveň kladie dôraz na adaptáciu prostredníctvom rozsiahleho školenia v základných zručnostiach v oblasti umelej inteligencie a uznáva, že prechod sa môže zdať nerovnomerný, aj keď sa objavia nové pracovné pozície.
Môžu sa britskí vydavatelia odhlásiť z prehľadov umelej inteligencie od spoločnosti Google bez straty pozícií vo vyhľadávaní?
Britskí regulátori hospodárskej súťaže navrhli zmeny, ktoré by vydavateľom umožnili odhlásiť sa z používania ich obsahu v prehľadoch umelej inteligencie od spoločnosti Google – alebo na trénovanie samostatných modelov umelej inteligencie – bez toho, aby boli penalizovaní v štandardnom rebríčku vyhľadávania. Cieľom je znovu vyvážiť sily, keďže prehľady umelej inteligencie menia správanie pri klikaní. Spoločnosť Google signalizovala, že zvažuje ďalšie kontroly, pričom varovala pred fragmentovaným vyhľadávaním.
Ako môže agent umelej inteligencie prezradiť súkromné údaje len kliknutím na odkaz?
OpenAI opísala riziko úniku údajov na základe URL adresy, kde útočník vyzve agenta umelej inteligencie, aby načítal odkaz, ktorý nenápadne vkladá citlivé informácie do reťazca dopytu. Aj keď model vo svojom výstupe nikdy nezopakuje tajomstvo, samotná požiadavka ho môže prenášať. Bežným spôsobom zmiernenia je pridanie „zámerného trenia“, ako sú upozornenia a vyžadovanie potvrdenia od používateľa, keď odkaz nie je nezávisle overený ako verejný.
Čo je návrh profilu kybernetickej umelej inteligencie od NIST a ako mení kybernetickú správu?
Návrh profilu NIST (diskutovaný prostredníctvom právnej analýzy) chápe umelú inteligenciu ako niečo, čo treba zabezpečiť, aj ako niečo, čo treba použiť v kybernetickej obrane. Zoskupuje prácu do tém, ako je zabezpečenie komponentov umelej inteligencie, riešenie rizík v dodávateľskom reťazci a nasadzovanie obranných systémov založených na umelej inteligencii – vrátane automatizovanejších pracovných postupov reakcie podobných agentom. Hoci sú rámce tohto typu dobrovoľné, často sa stávajú de facto očakávaniami a nútia organizácie formálne začleniť umelú inteligenciu do riadenia a kontrolných mechanizmov.