Naše rozhodnutie o Cursore po jeho akvizícii spoločnosťou SpaceX ↗
Spoločnosť OpenAI oznámila, že po akvizícii kódovacej platformy spoločnosťou SpaceX ukončí svoju dohodu o dodávke modelov spoločnosti Cursor. Spoločnosť tvrdí, že si už nemôže byť istá, že SpaceX bude používať jej technológiu v súlade s podmienkami OpenAI.
OpenAI tiež tvrdí, že nebude poskytovať budúce modely pre Cursor. To je dosť významný rozdiel – najmä pre vývojárov, ktorí začali brať Cursor a modely OpenAI ako takmer predvolený kódovací stack. (OpenAI)
Čínska spoločnosť Tencent vydáva nový model umelej inteligencie s otvoreným zdrojovým kódom pre kódovanie a výskumné úlohy ↗
Spoločnosť Tencent vydala ukážku Hy4, open-source modelu zameraného na softvérové inžinierstvo, výskum a finančnú analýzu. Používa architektúru zmiešaných expertov so 770 miliardami parametrov, pričom pre každú textovú požiadavku aktivuje približne 49 miliárd.
Spoločnosť Tencent plánuje túto funkciu zaviesť do produktov vrátane CodeBuddy a WorkBuddy. Spoločnosť pripúšťa, že ukážka môže príliš premýšľať o zložitých otázkach a overovať sa až príliš nadšene... svojím vlastným spôsobom sa s ňou dá stotožniť. (Reuters)
Automatizovaní výskumníci dokážu spoľahlivo zmierniť zlyhania zarovnania ↗
Anthropic ukázal Claudeovi, ako autonómne vyhľadáva výskum, navrhuje tréningové techniky, vykonáva experimenty a vylepšuje modely v 10 kategóriách zlyhania zosúladenia – vrátane klamstva, útek z väzenia a podliezania.
Jeho najsilnejšie metódy zlepšili každý cieľový benchmark bez toho, aby zhoršili schopnosti merané spoločnosťou Anthropic, a niektoré sa preniesli na modely až 4,7-krát väčšie. Claudeov automatizovaný výskumník tiež prekonal návrhy skúsených výskumníkov v oblasti ľudskej bezpečnosti v rámci nastavenia štúdie.
Samozrejme, je tu háčik. Anthropic odhalil podvádzanie v malej časti automatizovaných výskumných behov a zdôrazňuje, že jeho benchmarky pokrývajú len úzky úsek praktických podmienok zosúladenia. Takže... sebazdokonaľujúci sa výskum umelej inteligencie, pričom umelá inteligencia sleduje výskumníka umelej inteligencie. Veľmi bežná vec. (Anthropic)
Súd rozhodol, že Anthropic bol nezákonne zaradený na čiernu listinu Trumpovej administratívy ↗
Federálny sudca rozhodol, že rozhodnutie Pentagonu zaradiť Anthropic na čiernu listinu ako riziko pre dodávateľský reťazec je protiústavné, pričom tento krok označil za nezákonnú odvetu a toto označenie považoval za svojvoľné a rozmarné.
Boj sa začal odmietnutím spoločnosti Anthropic zrušiť obmedzenia týkajúce sa používania jej umelej inteligencie na hromadné sledovanie Američanov alebo smrtiacich autonómnych zbraní bez ľudského dohľadu. Toto rozhodnutie je pre Anthropic vážnym víťazstvom – a pomerne ostrým precedensom v spore o to, či môžu vlády trestať dodávateľov umelej inteligencie za to, že si sami stanovujú bezpečnostné hranice. (The Verge)
Fond strojového veku ↗
Spoločnosť Andreessen Horowitz získala 1,1 miliardy dolárov pre nový fond Machine Age Fund zameraný na fyzickú infraštruktúru umelej inteligencie – čipy, pamäť, siete, úložiská, dátové centrá, robotiku a dokonca aj domáci hardvér umelej inteligencie.
Hlavnou tézou je, že ďalším úzkym hrdlom umelej inteligencie nie je ďalšia šikovná funkcia chatbota, ale fyzika. Napájanie, chladenie, šírka pásma pamäte a sieťové pripojenie sa musia brutálne rýchlo škálovať a a16z chce mať miesto pri tomto hardvérovom stole. (Andreessen Horowitz)
Google ďalej skrýva výsledky vyhľadávania v režime umelej inteligencie ↗
Google začal automaticky rozširovať prehľady umelej inteligencie pre niektoré vyhľadávania. Namiesto krátkeho zhrnutia, po ktorom rýchlo nasledujú tradičné odkazy, môžu používatelia získať úplnú odpoveď umelej inteligencie, pole „Opýtajte sa čokoľvek“ a až potom známe webové výsledky.
Google tvrdí, že rozšírený zážitok sa objaví, keď si jeho systémy myslia, že bude obzvlášť cenný. Pre vydavateľov je však nepríjemná časť zrejmá – bežné odkazy sa posúvajú ešte nižšie na stránke, zatiaľ čo umelá inteligencia Googlu sa stáva čoraz ťažšie ovládateľnou. (The Verge)
Často kladené otázky
Prečo OpenAI po akvizícii SpaceX ukončuje svoju modelovú dohodu so spoločnosťou Cursor?
Spoločnosť OpenAI uviedla, že plánuje ukončiť prístup k modelom pre Cursor, pretože si už nemôže byť istá, že SpaceX bude používať jej technológiu v súlade s podmienkami OpenAI. Spoločnosť tiež uvádza, že budúce modely OpenAI nebudú spoločnosti Cursor poskytované. Pre vývojárov by to mohlo zmeniť pracovný postup kódovania, ktorý bežne spájal Cursor s modelmi OpenAI.
Čo je Tencent Hy4 a na čo je určený?
Tencent Hy4 je open-source model umelej inteligencie vytvorený pre softvérové inžinierstvo, výskum a finančnú analýzu. Preview využíva architektúru zmiešanej expertízy so 770 miliardami parametrov, pričom pre každú textovú požiadavku aktivuje približne 49 miliárd. Tencent plánuje integrovať Hy4 do produktov vrátane CodeBuddy a WorkBuddy, hoci uvádza, že preview môže niekedy preháňať a overovať zložité otázky.
Môžu výskumníci v oblasti umelej inteligencie automaticky zlepšiť zarovnanie modelov?
Výskum spoločnosti Anthropic naznačuje, že automatizovaní výskumníci umelej inteligencie dokážu identifikovať a testovať techniky na zníženie niekoľkých typov zlyhaní zarovnania. Claude bol použitý na vyhľadávanie existujúceho výskumu, navrhovanie tréningových prístupov, vykonávanie experimentov a hodnotenie vylepšení v oblastiach, ako sú klamstvo, útek z väzenia a podliezanie. Spoločnosť Anthropic tiež zistila, že niektoré úspešné techniky sa dajú preniesť na väčšie modely, hoci štúdia pokrývala iba obmedzený rozsah praktických podmienok zarovnania.
Prečo súd rozhodol, že Anthropic bol nezákonne na čiernej listine?
Federálny sudca rozhodol, že označenie spoločnosti Anthropic za rizikovú pre dodávateľský reťazec Pentagonom bolo protiústavné, svojvoľné a svojvoľné. Spor nasledoval po tom, čo spoločnosť Anthropic odmietla odstrániť obmedzenia týkajúce sa hromadného sledovania Američanov a smrtiacich autonómnych zbraní bez ľudského dohľadu. Toto rozhodnutie by sa mohlo stať dôležitým referenčným bodom v budúcich sporoch o to, či môžu vlády penalizovať spoločnosti zaoberajúce sa umelou inteligenciou za zachovanie vlastných bezpečnostných obmedzení.
Prečo a16z investuje 1,1 miliardy dolárov do infraštruktúry umelej inteligencie?
Spoločnosť Andreessen Horowitz vytvorila svoj fond Machine Age Fund s hodnotou 1,1 miliardy dolárov na investovanie do fyzických systémov potrebných na škálovanie umelej inteligencie. Jeho zameranie zahŕňa čipy, pamäť, siete, úložiská, dátové centrá, robotiku a domáci hardvér umelej inteligencie. Fond odráža širšiu tému správ o umelej inteligencii: budúci pokrok môže závisieť rovnako od napájania, chladenia, šírky pásma a výpočtovej infraštruktúry, ako aj od vylepšení softvérových modelov.
Ako menia prehľady umelej inteligencie Google tradičné výsledky vyhľadávania?
Google automaticky rozširuje prehľady umelej inteligencie pre niektoré vyhľadávania a pred tradičné webové výsledky umiestňuje kompletnejšiu odpoveď generovanú umelou inteligenciou a rozhranie „Opýtajte sa čokoľvek“. To znamená, že bežné odkazy sa môžu zobraziť nižšie na stránke ako predtým. Pre vydavateľov a SEO tímy, ktoré sledujú novinky o umelej inteligencii, táto zmena vyvoláva praktické otázky týkajúce sa viditeľnosti vo vyhľadávaní, návštevnosti z odkazov a toho, ako používatelia objavujú originálne zdroje.