Google napadne nemecké rozhodnutie, v ktorom tvrdí, že je zodpovedný za nepravdivé tvrdenia generované umelou inteligenciou ↗
Spoločnosť Google plánuje odvolať sa proti rozhodnutiu mníchovského súdu, ktoré klasifikuje súhrny AI Overviews ako vlastný publikovaný obsah spoločnosti, a preto je právne zodpovedná, ak tieto súhrny obsahujú nepravdivé tvrdenia.
Prípad podali dvaja nemeckí vydavatelia, ktorí boli mylne spojení s podvodmi a pochybnými obchodnými praktikami. Google opisuje chyby ako úzke, ale rozhodnutie by mohlo uvaliť prekvapivo závažné právne bremeno na každý vyhľadávač odpovedí s umelou inteligenciou. (Reuters)
Vedúci predstavitelia technológií sa zúčastnia summitu G7, na ktorom sa lídri budú venovať umelej inteligencii a online bezpečnosti ↗
Očakáva sa, že lídri spoločností OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere a Meta sa pripoja k predstaviteľom G7 na diskusiách o regulácii umelej inteligencie, infraštruktúre a online bezpečnosti.
Na stole je aj online ochrana detí. Takže áno, odvetvie umelej inteligencie si zasadáva po boku svetových lídrov – hoci či to prináša skutočnú zodpovednosť alebo len mimoriadne ozdobený obed, zostáva nejasné. (Reuters)
Anthropic tvrdí, že v súlade s nariadením vlády USA odpája Claude Fable 5 z offline režimu ↗
Spoločnosť Anthropic vyradila z prevádzky spoločnosti Claude Fable 5 a Mythos 5 po tom, čo dostala smernicu USA o kontrole vývozu, ktorá mala zablokovať prístup cudzím štátnym príslušníkom vrátane zamestnancov spoločnosti Anthropic.
Spoločnosť odobrala prístup pre všetkých a zároveň spochybnila odôvodnenie vlády. Úradníci údajne uviedli obavy z úniku z väzenia, ale Anthropic tvrdí, že predvedený obtok bol úzky a odhalil iba relatívne malé, predtým známe zraniteľnosti... mierne povedané, nepríjemné. (WIRED)
Nová jednotka umelej inteligencie spoločnosti Meta je údajne v chaose ↗
Podľa zamestnancov a firemných diskusií, ktoré preskúmal WIRED, čelí organizácia spoločnosti Meta zameraná na aplikovanú umelú inteligenciu rozsiahlej vnútornej frustrácii. Skupina s približne 6 500 členmi bola zriadená na podporu výskumníkov superinteligencie spoločnosti Meta.
Zamestnanci údajne cítili, že boli zatiahnutí do opakujúcej sa práce na zlepšovaní modelu uprostred nejasného vedenia a nepravidelných priorít. Napätie sa dosť vystupňovalo, keď zamestnanec prerušil rozsiahlu internú prezentáciu tirádou plnou nadávok – nebolo to nenápadné. (WIRED)
Čínska kyberzločinná operácia, ktorá pomocou umelej inteligencie oklamala „stovkytisíce obetí“, je žalovaná spoločnosťou Google ↗
Spoločnosť Google žaluje spoločnosť Outsider Enterprise, údajnú sieť kyberkriminality obvinenú z používania nástrojov s podporou umelej inteligencie na vytváranie presvedčivých phishingových stránok a odosielanie podvodných textových správ vydávajúcich sa za významné značky.
Spoločnosť Google tvrdí, že v rámci operácie boli nasadené tisíce falošných webových stránok, približne milión podvodných domén a milióny správ. Jej softvér údajne umožňoval ľuďom s obmedzenými technickými zručnosťami vytvoriť phishingovú infraštruktúru v priebehu niekoľkých minút – kyberkriminalitu s pevne privarenými tréningovými kolieskami. (TechCrunch)
Často kladené otázky
Prečo sa Google odvoláva proti rozhodnutiu v nemeckom prípade AI Overviews?
Spoločnosť Google plánuje napadnúť rozhodnutie mníchovského súdu, ktoré považuje prehľady AI za obsah publikovaný samotnou spoločnosťou Google. Rozhodnutie nasledovalo po falošných súhrnoch, ktoré spájali dvoch nemeckých vydavateľov s podvodmi a pochybnými obchodnými praktikami. Ak bude rozhodnutie potvrdené, poskytovateľov odpovedí AI by mohlo právne zodpovedať za nepresné tvrdenia vygenerované v ich súhrnoch vyhľadávania.
Čo by mohlo nemecké rozhodnutie znamenať pre zodpovednosť umelej inteligencie?
Toto rozhodnutie môže zaviesť širší štandard pre zodpovednosť umelej inteligencie tým, že platformu bude považovať za zodpovednú za vyhlásenia vytvorené prostredníctvom jej vlastných funkcií umelej inteligencie. Súdy v mnohých jurisdikciách stále rozhodujú o tom, či by sa vygenerované súhrny mali považovať za hostovaný obsah tretích strán alebo za priamu publikáciu. Odvolanie by preto mohlo ovplyvniť spôsob, akým sa porovnateľné spory riešia inde.
Prečo sa vedúci predstavitelia technologických firiem zúčastňujú summitu G7?
Očakáva sa, že na diskusiách s lídrami G7 sa zúčastnia vedúci predstavitelia spoločností OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere a Meta. Program zahŕňa reguláciu umelej inteligencie, infraštruktúru, online bezpečnosť a ochranu detí. Ich účasť dáva vládam možnosť priamo sa pýtať hlavných vývojárov umelej inteligencie na riziká, zodpovednosti a budúcu politiku.
Prečo Anthropic odstavil Claude Fable 5 a Mythos 5 z offline režimu?
Spoločnosť Anthropic deaktivovala oba modely po tom, čo dostala smernicu USA o kontrole exportu, ktorá mala zabrániť prístupu určitým cudzím štátnym príslušníkom vrátane niektorých zamestnancov. Spoločnosť zrušila prístup pre všetkých a zároveň spochybnila odôvodnenie vlády. Úradníci údajne uviedli obavy z jailbreaku, hoci Anthropic opísala predvedený obtok ako úzky a zahŕňajúci relatívne malé zraniteľnosti, ktoré už boli známe.
Čo spôsobuje hlásený nepokoj v jednotke umelej inteligencie spoločnosti Meta?
Zamestnanci údajne opisujú nejasné vedenie, meniace sa priority a opakujúcu sa prácu na vylepšovaní modelov v rámci organizácie Applied AI spoločnosti Meta. Skupina bola vytvorená na podporu výskumníkov superinteligencie spoločnosti a zahŕňa približne 6 500 ľudí. Frustrácia sa stala obzvlášť viditeľnou, keď zamestnanec prerušil veľkú internú prezentáciu nahnevanou sťažnosťou plnou nadávok.
Ako zločinci využívajú umelú inteligenciu na phishingové podvody?
Podľa žaloby spoločnosti Google údajná sieť Outsider Enterprise používala softvér s podporou umelej inteligencie na vytváranie presvedčivých phishingových webových stránok a podvodných správ, ktoré sa vydávali za významné značky. Nástroje údajne pomáhali používateľom s obmedzenými technickými skúsenosťami rýchlo vybudovať phishingovú infraštruktúru. Google tvrdí, že operácia zahŕňala tisíce falošných stránok, približne milión podvodných domén a milióny správ.