OpenAI podporuje v americkom Kongrese návrhy zákonov o umelej inteligencii a hrozbách biologických zbraní
OpenAI podporuje sériu dvojstranných návrhov zákonov o biologických dátach – zákon o webe biologických dát (Web of Biological Data Act), zákon o štandardoch biologických dát pre umelú inteligenciu (AI-Ready Bio-Data Standards Act) a zákon o škálovateľnej biológii (Scale Biology Act). Hlavná myšlienka: zastaviť modely v preplňovaní biologických zbraní a syntetických vírusov. Ťažká téma na utorkové tlačové vyhlásenie.
A počkajte – podporujú aj časť zákona FRONTIER Act, ktorá núti špičkové laboratóriá zapojiť nezávislých hodnotiteľov bezpečnosti. Podľa Hillovej reportáže prvýkrát podpísali takýto konkrétny federálny mandát.
Takže... spoločnosť, ktorá roky hovorila „dôverujte nám“, zrazu žiada Kongres, aby prinútil zvonku obzrieť sa cez plece. Pokrok a lobistické divadlo môžu ísť ruka v ruke.
V každom prípade je posolstvo hlasné: biologické riziko už nie je len poznámkou pod čiarou v bielej knihe.
Nadácia Gatesovcov uviedla, že vynaloží 1 miliardu dolárov na rozšírenie prístupu k umelej inteligencii.
Zatiaľ čo laboratóriá sa hádajú o tom, či treba zabrzdiť, Gatesova nadácia práve prisľúbila najmenej miliardu dolárov v priebehu dvoch rokov na to, aby umelú inteligenciu presunula k ľuďom, ktorí zvyčajne dostávajú zvyšky jedla.
Hrubé rozdelenie od zavedenia Goalkeepers: približne 40 % vzdelávanie, 40 % zdravotníctvo, 10 % poľnohospodárstvo, 10 % jazyky a digitálne inštalatérstvo. Predstavte si doučovateľov matematiky, nástroje pre vidiecke kliniky, pomocníkov pre pôdu/plodiny – plus súbory údajov, aby modely neboli navždy len v angličtine.
Gatesova línia je priamočiara – bez zásahu trh buduje umelú inteligenciu najprv pre najbohatších. Filantropia sa môže javiť ako riešenie alebo obväz na štrukturálny problém. Napriek tomu. Miliarda nie je len pokrčenie pliec.
Tiež - ultrazvuk s umelou inteligenciou na báze telefónu, ktorý je určený na meranie v nemocničnej kvalite. Úžasné, ak sa bude predávať vo veľkom meradle.
Nový model uvažovania od Salesforce a Nvidie je všetko, čoho by sa mali laboratóriá umelej inteligencie obávať
Dreamforce drop: Koa. Prvý model uvažovania CRM od Salesforce, následne trénovaný na otvorenom platformovom riešení Nvidia Nemotron – zameraný na predaj, podporu a zložité viacstupňové podnikové záležitosti, na ktoré zvyčajne narazia Claude a ChatGPT.
Žiadne skutočné údaje o zákazníkoch v tréningu - namiesto toho syntetické persony, vrátane „nahnevaných volajúcich“, čo je až príliš priamočiare. Salesforce udržiava váhy v rámci svojej hranice dôveryhodnosti. Ich CRM bench hlási menej chýb s menším počtom tokenov. Tokenomika. Obľúbený slogan každého v tomto odvetví.
Až na to, že sa Anthropicu nezbavujú. ClaudeForce stále existuje. Takže áno - vytvorte si vlastný logický systém a prenajímajte si pohraničné laboratóriá. Protirečenie. Mierne. Extrémne Salesforce.
Piloti už idú – Formula 1, nemocnice, úverové družstvá. Pohraničné laboratóriá by sa možno mali trochu zapotiť.
Meta teraz umožňuje agentom umelej inteligencie zvládnuť nudné časti nastavenia WhatsApp Business
Metin krok je menej existencionálnou drámou, skôr skôr „prosím, prestaňte nútiť vývojárov klikať na dvanásť konzol“. Nový WhatsApp Business Tools MCP umožňuje Claudeovi, Cursorovi, Codexu, ChatGPT – vyberte si svojho agenta – nastaviť obchodné správy prostredníctvom chatu o nich.
Vytvorte si účet. Overte číslo. Zaregistrujte sa do cloudového rozhrania API. Navrhujte šablóny. Sledujte webhooky. Dokonca vás budú otravovať, keď Podmienky služby alebo platba potichu zlyhajú. Nudná práca s lepidlom, ktorú nikto nechce vlastniť.
Nástup do podniku cez chat a MCP všade, až kým sa niečo nestane vtipným spôsobom, môže byť pravdou.
Každopádne – ak sa vám vaše nastavenie WhatsApp Business zrazu zdá ako rozhovor s trochu prehnane dychtivým stážistom, teraz viete prečo.
Huang z Nvidie sa rozchádza s generálnymi riaditeľmi spoločností Anthropic a OpenAI v otázke bezpečnosti umelej inteligencie v Dreamforce
Rovnaké Mosconeovo pódium, v opačných registroch. Amodei hovorí Benioffovi, že tempo je spôsob, akým vediete – buďte príkladom, buďte lepší. Huang pokračuje a nazýva rýchlosť verzus bezpečnosť „falošnou voľbou“. Trhové sily. Nie sú potrebné žiadne nové zákony. Bežte rýchlo... pokiaľ sa nechystáte prepraviť niečo nebezpečné, potom sa zastavte.
Altman neskôr: bezpečnosť a monitorovanie pred schopnosťami. „K tomu by nemalo byť žiadne obmedzenie.“ Takže títo traja generálni riaditelia nie sú zosúladení. Možno susedia.
Dav sa počas jedného dňa dozvedel celé spektrum – kázne o spomalení, optimizmus v prospech kráľa čipov a zdôrazňovanie zodpovednosti zo strany OpenAI bez akéhokoľvek únikového poklopu typu „pokiaľ konkurenti nepodvádzajú“.
Ktorý argument v praxi vyhráva, zostáva nejasný. Sledujte, čo sa dostane na trh v budúcom štvrťroku. Slová sú lacné. Grafické karty nie.
Španielsky dozorný orgán zverejnil prvú správu o úniku údajov súvisiacom s umelou inteligenciou
Španielska polícia AEPD (Americký úrad pre policajné detekcie) oznámila, že dostala prvé oznámenie o úniku osobných údajov, ktorý údajne vykonal agent umelej inteligencie – použil všeobecne známy LLM na nájdenie medzier, prístup k údajom, úpravu osobných údajov a nahliadnutie do faktúr.
Obmedzený ľudský zásah vo viacerých fázach útoku. To je tá desivá časť. Žiadna sci-fi. Incident s papierovačkami so zabudovanou autonómiou.
Agentúra je opatrná: neuvádza meno modelky ani obete; tvrdí, že infraštruktúra poskytovateľa nebola ohrozená len preto, že niekto priviezol agenta. Stále sa to preveruje. Stále znepokojujúce.
Jeden prípad už nie je trend. Ale už to ani nie je teoretické. Kontrolóri, pripravte si stopky – útoky sa práve zrýchlili.
Často kladené otázky
Ktoré zákony o umelej inteligencii a biologických zbraniach podporuje OpenAI v Kongrese?
OpenAI schválila súbor dvojstranných zákonov o biologických dátach vrátane zákona o webe biologických dát (Web of Biological Data Act), zákona o štandardoch biologických dát pre umelú inteligenciu (AI-Ready Bio-Data Standards Act) a zákona o škálovateľnej biológii (Scale Biology Act). Cieľom je zabrániť modelom v preplňovaní biologických zbraní a syntetických vírusov. OpenAI tiež podporuje ustanovenie zákona FRONTIER Act, ktoré núti špičkové laboratóriá zapojiť nezávislých hodnotiteľov bezpečnosti – údajne ide o prvý prípad, keď spoločnosť podpísala takýto konkrétny federálny mandát. Biologické riziko sa už nepovažuje za poznámku pod čiarou v bielej knihe.
Ako Gatesova nadácia míňa 1 miliardu dolárov na prístup k umelej inteligencii?
Nadácia Gatesovcov prisľúbila najmenej miliardu dolárov v priebehu dvoch rokov na rozšírenie prístupu k umelej inteligencii pre ľudí, ktorým zvyčajne zostanú zvyšky. Zavedenie programu Goalkeepers zhruba rozdeľuje približne 40 % na vzdelávanie, 40 % na zdravotnú starostlivosť, 10 % na poľnohospodárstvo a 10 % na jazyky a digitálne inštalatérstvo, pričom zahŕňa doučovateľov matematiky, nástroje pre vidiecke kliniky, pomocníkov pri pestovaní pôdy a plodín a súbory údajov, takže modely nebudú navždy len v angličtine. Gates tvrdí, že bez zásahu trh vytvorí umelú inteligenciu najprv pre najbohatších. Jedným ambicióznym príkladom, ak sa bude predávať vo veľkom meradle, je ultrazvuk s umelou inteligenciou založený na telefónoch zameraný na čítanie na nemocničnej úrovni.
Čo je model uvažovania Koa od Salesforce a Nvidie?
Koa je prvý model uvažovania v oblasti CRM od spoločnosti Salesforce, ktorý bol následne trénovaný na platforme Nvidia Nemotron s otvorenou váhou a je zameraný na predaj, podporu a zložitú viacstupňovú podnikovú prácu. Pri školení sa používali syntetické persony – vrátane nahnevaných volajúcich – namiesto skutočných údajov o zákazníkoch a Salesforce udržiava váhy v rámci svojej hranice dôveryhodnosti. CRM benchmarky hlásia menej chýb s menším počtom tokenov. Salesforce sa nezbavuje Anthropic: ClaudeForce zostáva, takže si buduje vlastný engine na uvažovanie a zároveň si stále prenajíma pohraničné laboratóriá s pilotmi, ktorí už pôsobia vo Formule 1, nemocniciach a úverových družstvách.
Ako pomáha Meta WhatsApp Business MCP agentom s umelou inteligenciou?
Nový nástroj WhatsApp Business Tools MCP od spoločnosti Meta umožňuje agentom ako Claude, Cursor, Codex a ChatGPT nastaviť obchodné správy prostredníctvom chatu. Agenti si môžu vytvoriť účet, overiť číslo, zaregistrovať sa do cloudového rozhrania API, navrhovať šablóny, sledovať webové hooky a otravovať sa, keď ticho zlyhávajú zmluvné podmienky alebo platba. Cieľom je nahradiť nudnú prácu s viacerými konzolami, ktorú nikto nechce vlastniť. Zaškolenie v podniku začína vyzerať skôr ako rozhovor s príliš nedočkavým stážistom než klikanie na dvanásť administrátorských obrazoviek.
Ako sa Huang z Nvidie odchýlil od Anthropic a OpenAI v otázke bezpečnosti umelej inteligencie?
V Dreamforce Amodei povedal Benioffovi, že tempo je spôsob, akým vediete – buďte príkladom a buďte lepší – zatiaľ čo Jensen Huang označil rýchlosť verzus bezpečnosť za falošnú voľbu riadenú trhovými silami, bez potreby nových zákonov, pokiaľ sa nechystáte uviesť na trh niečo nebezpečné. Altman neskôr zdôraznil bezpečnosť a monitorovanie pred funkciami bez akéhokoľvek pripomienkovania. Traja generálni riaditelia sa nezhodli: na tom istom pódiu sa konali kázne o spomalení, optimizmus v prospech kráľa čipov a prezentácia zodpovednosti OpenAI. To, čo sa uvedie na trh v budúcom štvrťroku, bude dôležitejšie ako hlavné prejavy.
Čo španielsky orgán pre dohľad nad údajmi informoval o narušení bezpečnosti agentov umelej inteligencie?
Španielsky úrad pre policajné detekcie (AEPD) zverejnil svoje prvé oznámenie o úniku osobných údajov, ku ktorému údajne došlo agentom umelej inteligencie pomocou známeho LLM na nájdenie dier, prístup k údajom, úpravu osobných údajov a nahliadnutie do faktúr. Depresívnejšia je obmedzený ľudský zásah vo viacerých fázach útoku – incident s papierovou záležitosťou a zabudovanou autonómiou. Úrad neuviedol model ani obeť a uviedol, že infraštruktúra poskytovateľa nebola ohrozená len preto, že niekto priviedol agenta k útoku. Prípad sa stále prešetruje, ale už to nie je len teória.