🛡️ Britské regulačné orgány sa ponáhľajú posúdiť riziká najnovšieho modelu antropickej umelej inteligencie, informuje FT ↗
Britské finančné dozorné orgány údajne rýchlo pracujú na novom modeli Mythos od spoločnosti Anthropic po obavách, že by mohol odhaliť vážne slabiny v kritických systémoch. Rokovaní sa zúčastňujú Bank of England, FCA, ministerstvo financií a Národné centrum pre kybernetickú bezpečnosť – čo je na jeden ukážkový model impozantná zostava.
Obava je, že Mythos je nezvyčajne zdatný v hľadaní zraniteľností softvéru, hoci Anthropic tvrdí, že zavádzanie je prísne obmedzené a zamerané na obranné bezpečnostné práce. Očakáva sa, že banky, poisťovne a burzy budú informované, takže to teraz pôsobí menej ako laboratórne klebety a skôr ako politika infraštruktúry.
🤖 Na konferencii HumanX všetci hovorili o Claudovi ↗
Zdá sa, že Anthropic udával tón v HumanX – to bol príbeh. Počas panelových diskusií, rozhovorov s dodávateľmi a klebetenia v chodbe sa Claude neustále objavoval ako vzorový človek, ktorého ľudia najviac žiadali pre obchodné a kódovacie pracovné postupy.
Zaujímavé bolo relatívne ticho okolo ChatGPT. Článok naznačuje, že OpenAI má stále rozsah a peniaze, ale nálada na konferencii sa priklonila k Claudeovi ako nástroju s výraznejším ťahom pre podniky v súčasnosti – alebo sa to aspoň zdá.
📄 Claude pre Word od Anthropic je ďalšou výzvou pre softvérové impérium spoločnosti Microsoft ↗
Spoločnosť Anthropic spustila beta verziu nástroja Claude pre Word, čím sa posunula ďalej do bežného kancelárskeho softvéru namiesto toho, aby zostala obmedzená na nástroj pre vývojárov. Dokáže odpovedať na otázky týkajúce sa dokumentu pomocou klikateľných citácií sekcií, upravovať vybraný text bez narušenia formátovania a spracovať sledované zmeny.
Cieľová skupina je celkom jasná: tímy s veľkým zameraním na dokumenty, najmä právne a finančné oddelenie. Vďaka tomu je to viac než len doplnok funkcie – je to priamy útok na domácu pôdu Microsoftu a dosť drzý krok.
🌐 Boti s umelou inteligenciou ťažia z webu a Anthropic je v tomto smere na čele ↗
Nový pohľad na dáta Cloudflare tvrdí, že spoločnosti zaoberajúce sa umelou inteligenciou získavajú z webu oveľa viac, ako mu vracajú. Kľúčovou štatistikou je pomer prehľadávania a odkazovania – ako často boty scrapingujú stránky oproti tomu, ako často posielajú používateľov späť – a Anthropic dopadol obzvlášť zle.
Pomer Anthropicu sa uvádza ako 8 800 k 1, pričom OpenAI je tiež vysoký, ale oveľa nižší. Širší bod je tvrdý: stará webová dohoda bola, že nás najprv prehľadáva a potom nám posiela návštevnosť. AI enginy odpovedí si prvú časť ponechajú a druhú nechajú zabudnúť.
⚔️ Pohľad na eskalujúce globálne preteky v zbrojení s využitím umelej inteligencie, keďže USA, Čína, Rusko a ďalšie krajiny sa ponáhľajú s budovaním autonómnych zbraní a obranných systémov podporovaných umelou inteligenciou ↗
Najnovšie spravodajstvo o vojenskej umelej inteligencii sa menej zameriava na okázalé demonštrácie a viac na strategické zrýchlenie. Veľmoci súčasne presadzujú autonómne a obranné systémy s podporou umelej inteligencie, čo celú vec robí dojmom štafetového behu, kde všetci chytili štafetu a zabudli na brzdy.
To vyvoláva obvyklé otázky – kontrola, eskalácia, zodpovednosť – ale teraz s väčšou naliehavosťou. Akonáhle je umelá inteligencia hlbšie začlenená do zameriavania, sledovania a rozhodovania na bojisku, „experimentálne“ začne znieť ako papierový štítok na niečom, čo už je v pohybe.
🏭 Japonská SoftBank spúšťa jednotku na vývoj domácej umelej inteligencie ↗
Spoločnosť SoftBank sa spojila so spoločnosťami Sony, Honda a ďalšími japonskými spoločnosťami, aby vytvorila nový podnik v oblasti umelej inteligencie zameraný na „fyzickú umelú inteligenciu“ – modely určené na ovládanie strojov a robotov, nielen na odpovedanie textovými správami. To je iná cesta ako bežná súťaž chatbotov a možno aj zaujímavejšia.
Ambícia je obrovská, pričom úsilie sa údajne zameriava na veľmi rozsiahly základný model a dlhú cestu k priemyselnému využitiu. Je to čiastočne národno-technologická stratégia, čiastočne pokus o úspech a čiastočne anime mechov so zasadnutiami predstavenstva.
Často kladené otázky
Prečo britské regulačné orgány pozorne sledujú model Mythos od spoločnosti Anthropic?
Správy naznačujú, že britské úrady považujú Mythos za potenciálne riziko, pretože môže byť nezvyčajne zručný v hľadaní zraniteľností softvéru. Diskusie údajne vedú Bank of England, FCA, ministerstvo financií a Národné centrum kybernetickej bezpečnosti. Táto kombinácia inštitúcií signalizuje obavy z možných vplyvov na kritické systémy, najmä vo financiách a infraštruktúre.
Čím sa model Anthropic Mythos líši od bežného vydania umelej inteligencie?
Obava nespočíva len v tom, že ide o nový model, ale v tom, že sa javí ako obzvlášť schopný v obrannej bezpečnostnej práci súvisiacej s odhaľovaním slabých miest softvéru. Anthropic údajne tvrdí, že prístup je prísne obmedzený, čo naznačuje, že s uvedením na trh sa zaobchádza opatrnejšie ako s uvedením na trh pre širokú verejnosť. V praxi sa to zdá byť skôr kontrolovanou bezpečnostnou funkciou ako štandardnou aktualizáciou chatbota.
Prečo sa Claudeovi na konferencii HumanX venovala taká pozornosť?
Podľa článku sa Claude opakovane objavoval v panelových diskusiách, rozhovoroch s dodávateľmi a neformálnych diskusiách ako silná možnosť pre obchodné a kódovacie pracovné postupy. Článok prezentuje Anthropic ako platformu, ktorá na tejto udalosti zaznamenala u podnikových používateľov pozoruhodný úspech. Naznačuje tiež, že nálada okolo HumanX bola na ChatGPT tlmenejšia, hoci OpenAI má stále veľký rozsah a zdroje.
Čo Claude for Word vlastne robí pre tímy s veľkým množstvom dokumentov?
Beta verzia opísaná v tomto dokumente je navrhnutá tak, aby fungovala v rámci dokumentov, a nie len generovala samostatný text. Dokáže odpovedať na otázky týkajúce sa dokumentu s citáciami sekcií, upravovať vybrané pasáže bez narušenia formátovania a spracovávať sledované zmeny. Vďaka tomu je obzvlášť relevantná pre právne, finančné a iné tímy, ktoré potrebujú dôkladnú kontrolu, a nie len hrubé formulácie.
Čo hovorí pomer prehľadávania k odkazom o AI botoch a webe?
Článok predstavuje tento pomer ako spôsob porovnania toho, koľko spoločností zaoberajúcich sa umelou inteligenciou prehľadávajú webové stránky, oproti tomu, ako často posielajú používateľov späť. V tomto kontexte veľmi vysoký pomer naznačuje extrakciu s nízkou návratovou návštevnosťou. Anthropic je podľa tohto merania označený za obzvlášť slabý, čo zdôrazňuje širšiu kritiku, že vyhľadávače odpovedí s umelou inteligenciou môžu oslabiť staršiu webovú výmenu indexovania výmenou za odporúčania.
Prečo ľudia spájajú pokrok v oblasti umelej inteligencie s autonómnymi zbraňami aj s fyzickou umelou inteligenciou?
Článok poukazuje na dva prepojené trendy: vlády urýchľujúce zavádzanie obranných systémov podporovaných umelou inteligenciou a spoločnosti ako SoftBank podporujúce modely určené na ovládanie strojov a robotov. Spoločne ukazujú, že umelá inteligencia sa posúva za hranice chatu a vyhľadávania do fyzických systémov, ktoré dokážu vnímať, rozhodovať a konať. To vyvoláva väčšie otázky o kontrole, zodpovednosti, priemyselnom využití a o tom, ako rýchlo sa tieto systémy premenia z experimentálneho stavu na operačný.