Nový „kódex správania“ umelej inteligencie od spoločnosti Microsoft hovorí modelkám, aby nehackovali systémy ani neklamali ľudí
Dobre, takže Microsoft zrušil celú ústavu pre svoje modely – také skutočné červené čiary. Žiadne kybernetické útoky. Žiadne jadrové veci. Žiadne továrne na deepfake. A to hlavné: model sa nesmie vykradnúť z odstavenia.
Hovoria tomu zastrešujúci kód, ktorý prepíše všetko, čo ste napísali do chatu. Čo je... celkom osviežujúce. Alebo ovládajúce. Možno oboje.
Nadella tu tiež prikyvuje spolu s davom, ktorý „kročí po hranici“. Opatrné držanie tela a uvedomenie si tajomstva môžu zvonku vyzerať rovnako; Microsoft sa rozhodol nebyť laboratóriom, ktoré krčí plecami.
V každom prípade dokument znie, akoby niekto konečne napísal firemnou prózou „prosím, nestaňte sa antagonistom hororových filmov“.
OpenAI kupuje výrobcu fotoaparátov pre smartfóny Glass Imaging za 300 miliónov dolárov, uvádza sa v správe
Medzitým OpenAI potichu kúpila startup zameraný na fotoaparáty za viac ako 300 miliónov dolárov. Glass Imaging. Založili ho bývalí ľudia z Apple Portrait Mode. Takže to nebola náhodná akvizícia – títo ľudia dodávali objektívy, ktoré ľudia poznajú.
Nejde o slogan „AI vám opraví selfie v postprodukcii“. Ide o neurónové siete, ktoré sa učia konkrétne fotoaparáty v telefóne a kliknutím na spúšť vytlačia lepšie fotografie. Drobné senzory, veľká ambícia.
OpenAI sa k tomu samozrejme nevyjadrila. A áno – toto sa nachádza hneď vedľa všetkých klebiet o hardvéri, telefónoch, slúchadlách a sprievodných zariadeniach. Takmer počujete niekoho, ako na stretnutí hovorí „vision stack“ a všetci príliš silno prikyvujú.
Spoločnosť vyrábajúca fotoaparáty ako chýbajúci prvok zariadenia zostáva otvorenou stávkou – alebo len veľmi drahou stávkou na to, že pixely stále budú dôležité, aj keď chatboti ovládnu svet.
Globálne akcie spoločností zaoberajúcich sa umelou inteligenciou klesajú, keďže vedúci predstavitelia odvetvia vyzývajú na spomalenie vývoja
Trhy nemali rady kázeň o bezpečnosti. Názvy čipov boli zasiahnuté. SoftBank utrpel v Ázii totálne finančnú škodu. Európsky technologický index sa strhol. Index SOX mal ťažké ráno.
Spúšťačom bol ten vzácny moment, kedy sa generálni riaditelia na niečom zhodnú – Amodeiho „spomalenie“, Altman a Musk v podstate povedali áno. Altman tiež naznačil, že OpenAI tento rok neuskutoční IPO kvôli obavám o bezpečnosť... zatiaľ čo Anthropic k nemu stále smeruje. Toto napätie je ťažké zmierniť.
Trump to odmietol ako „choré sprisahanie“ proti umelej inteligencii a dátovým centrám. Michael Burry varovania odmietol ako prehnaný šum. Nálada je teda takáto: na jednej časovej osi existenčný strach, na druhej cynizmus založený na mémoch.
Tiež sa zhromaždili mená v oblasti kybernetickej bezpečnosti. Pretože ochranou proti „AI by sa mohla stať podvodníkom“ je samozrejme „kúpiť si viac bezpečnostného softvéru“. Kapitalizmus si nájde spôsob…
Najlepšie spoločnosti zaoberajúce sa umelou inteligenciou diskutovali o vytvorení vlastného orgánu pre štandardizáciu
CNN uvádza, že Anthropic, Google a OpenAI rokujú o vybudovaní vlastného orgánu pre štandardizáciu – ako napríklad FINRA pre hraničné modely. Hassabis túto myšlienku predstavil už pred mesiacmi. Teraz sú pracovné skupiny zrejme reálne.
Financované priemyslom. Nezávislí experti. Testovanie pokročilých modelov pred ich odoslaním. Prebiehajú diskusie o tom, či Washington chce hrať alebo nie.
Samoregulácia vždy znie vznešene, kým si nespomeniete, že tie isté laboratóriá medzi sebou pretekajú. Potom to znie ako klub s dress code. Potom cúvnete: dobre, možno by pomohli externí hodnotitelia s prístupom ako zamestnanci.
Nie každý je presvedčený. Zuckerberg údajne povedal Trumpovi, aby sa vyhol myšlienke FINRA pre umelú inteligenciu. Koalícia „budeme sa kontrolovať“ má teda už slávny odpor.
Anthropic sa zameriava na finančných poradcov s novým nástrojom Claude
Zatiaľ čo polovica odvetvia uvažuje o zastavení, Anthropic poslala Clauda do spoločností Financial Advisors. Prepojila ich s BlackRock, Schwab, Addepar – a k nim aj s kopou významných mien ako Envestnet a Orion.
Príprava na stretnutie. Prehľad portfólia. Následná práca. Tie nevýrazné veci, ktoré nejako stále požierajú ľudský utorok.
Načasovanie je však pozoruhodné – niekoľko dní po tom, čo OpenAI tlačí na bankárov a výskumníkov vo financiách. Takže áno, idú po hraniciach… a tiež pretekajú o podiel v peňaženkách RIA. Mierny rozpor. Extrémne mierny. Extrémne zjavný.
Ak váš poradca začne podozrivo plynule hovoriť o vašich investíciách, nuž. Teraz už viete prečo.
Lídri umelej inteligencie volajú po spomalení. Trumpov tím tvrdí, že je to na nich
WIRED zachytáva politickú scénku presne: šéfovia laboratórií chcú pomoc s spomalením; nálada v Bielom dome je „cool, urobte si to sami“
David Sacks v podstate povedal, že ak vás vaše nezverejnené modely desia, buďte zodpovední - ale prestaňte predstierať, že na vytvorenie bezpečnostného kartelu potrebujete výnimku z antitrustových zákonov. Drsné. Tiež je dosť ťažké s tým polemizovať, ak ste tieto spoločnosti sledovali päť minút.
Trumpov postoj je jednoduchší: Amerika vedie Čínu v oblasti umelej inteligencie a chce, aby to tak zostalo – „ktokoľvek vyhrá umelú inteligenciu, vyhrá.“ Predseda Snemovne reprezentantov Johnson varuje, že núdzový regulačný šprint by mohol preteky zmariť.
Altmanov sľub „nezávislých hodnotiteľov s prístupom podobným zamestnancom“ sa teda ocitne v tejto nepríjemnej medzere – dobrovoľné budovanie dôvery, zatiaľ čo vláda len krčí plecami. Pokrok a divadlo opäť putujú ruka v ruke.
Často kladené otázky
Čo zakazuje nový kódex správania spoločnosti Microsoft v oblasti umelej inteligencie?
Spoločnosť Microsoft zverejnila zastrešujúci kódex správania s červenými čiarami pre svoje modely, vrátane zákazu kybernetických útokov, zákazu jadrovej práce a zákazu tovární na deepfake. Kľúčovým pravidlom je, že model sa nesmie vymaniť z vypnutia. Kód má prepísať čokoľvek, čo používateľ zadal do chatu. Satya Nadella tiež prikyvuje spolu s davom, ktorý sleduje hranice, keďže laboratóriá sú verejne opatrnejšie.
Prečo OpenAI kúpila Glass Imaging za približne 300 miliónov dolárov?
Spoločnosť OpenAI údajne kúpila výrobcu fotoaparátov pre smartfóny Glass Imaging za viac ako 300 miliónov dolárov. Startup založili bývalí inžinieri spoločnosti Apple Portrait Mode, ktorí dodali funkcie fotoaparátov, ktoré už ľudia poznajú. Ich cieľom je vytvoriť neurónové siete, ktoré sa učia špecifické fotoaparáty telefónov a vylepšujú fotografie kliknutím na spúšť, nielen opravy umelou inteligenciou v postprodukcii. Dohoda sa spája s fámami o hardvéri telefónov, slúchadiel a sprievodných zariadení, hoci sa k nej OpenAI nevyjadrila.
Prečo globálne akcie spoločností zaoberajúcich sa umelou inteligenciou klesli po tom, čo generálni riaditelia laboratórií vyzvali na spomalenie?
Trhy reagovali zle na zriedkavý moment zhody generálnych riaditeľov, keď Amodei naliehal na spomalenie vývoja a Altman s Muskom sa vo všeobecnosti zhodli. Názvy čipov boli zasiahnuté, SoftBank utrpel v Ázii, európsky technologický trh sa zachvel a index SOX mal ťažké ráno. Altman tiež uviedol, že OpenAI tento rok neuskutoční IPO kvôli obavám z bezpečnosti, zatiaľ čo Anthropic sa k nemu stále blíži. Názvy spoločností zaoberajúcich sa kybernetickou bezpečnosťou sa zotavili ako ochrana pred strachom z podvodnej umelej inteligencie.
Vytvárajú Anthropic, Google a OpenAI vlastný orgán pre štandardy umelej inteligencie?
CNN informuje, že spoločnosti Anthropic, Google a OpenAI diskutovali o vybudovaní orgánu pre priemyselné štandardy – podobne ako FINRA pre hraničné modely – s financovaním z priemyslu, nezávislými expertmi a predbežným testovaním pokročilých modelov. Demis Hassabis túto myšlienku predložil už pred mesiacmi a pracovné skupiny sú údajne už reálne. Diskusie o tom, či sa Washington chce zapojiť, pokračujú. Nie všetci sú presvedčení: Zuckerberg údajne povedal Trumpovi, aby sa vyhol myšlienke FINRA pre AI.
Čo je Anthropic Claude pre finančných poradcov?
Spoločnosť Anthropic dodala nástroj Claude for Financial Advisors s prepojeniami do spoločností BlackRock, Schwab, Addepar a spoločností s veľkým podielom na zisku, ako sú Envestnet a Orion. Nástroj sa zameriava na nenápadnú poradenskú prácu, ako je príprava stretnutí, kontrola portfólia a následná práca. Spustenie prichádza len niekoľko dní po tom, čo OpenAI začala s finančnou podporou pre bankárov a výskumníkov. To znamená, že laboratóriá verejne ladia hranice a zároveň sa pretekajú o podiel v peňaženkách RIA.
Ako reagoval Trumpov tím na výzvy lídrov v oblasti umelej inteligencie na spomalenie?
Server WIRED informuje, že šéfovia laboratórií chcú pomoc so spomalením, zatiaľ čo v Bielom dome vládne názor, že by to mali urobiť sami. David Sacks povedal, že ak vás nezverejnené modely desia, buďte zodpovední – ale prestaňte predstierať, že na vytvorenie bezpečnostného kartelu potrebujete výnimku z antitrustových zákonov. Trumpova jednoduchšia línia je, že Amerika vedie Čínu v oblasti umelej inteligencie a ktokoľvek vyhrá, umelá inteligencia vyhráva. Predseda Snemovne reprezentantov Johnson varuje, že núdzový regulačný šprint by mohol preteky zmariť, čím by sa Altmanov sľub nezávislého hodnotiteľa dostal do dobrovoľnej medzery.