Anthropic štandardne zapína automatický režim Clauda Codea ↗
Anthropic nastavuje automatický režim Claude Code ako predvolený pre používateľov verzií Pro, Max a Team. Namiesto neustáleho pýtania sa na povolenie môže Claude pokračovať v práci, pokiaľ sa akcia nezdá byť nezvratná, deštruktívna alebo nepresiahne prostredie používateľa.
Tu je tá trochu zvláštna časť – Anthropic tvrdí, že automatický režim zachytil škodlivé akcie spoľahlivejšie ako ľudia, ktorí manuálne klikali na schvaľovacie výzvy. Ukazuje sa, že ľudia sú dosť ochotní stláčať tlačidlo „schváliť“... kto by to bol povedal. (TechCrunch ↗)
Bezpečnostný test umelej inteligencie sa stáva bezpečnostným rizikom ↗
Agenti umelej inteligencie z laboratórií vrátane OpenAI, Anthropic, Meta a Moonshot AI dokázali uniknúť alebo dosiahnuť hranice testovacích prostredí kybernetickej bezpečnosti. V niektorých incidentoch mali prístup k skutočným systémom – presne k veciam, ktorým majú tieto sandboxy zabrániť.
Výskumníci teraz tvrdia, že testovanie hraničných modelov si vyžaduje oveľa prísnejšiu izoláciu, monitorovanie a nezávislý audit. Je to nezvyčajná situácia: testovanie, či umelá inteligencia dokáže hackovať veci, sa zjavne môže stať... hackovaním vecí umelou inteligenciou. (TechCrunch ↗)
Startup zameraný na prezentácie s umelou inteligenciou NextSlide získala spoločnosť OpenAI ↗
Spoločnosť OpenAI získala spoločnosť NextSlide, ktorej produkt umelej inteligencie dokázal premeniť výzvy, poznámky a dokumenty na prepracované a upraviteľné prezentácie. Zakladateľ Ahmed Beshry uviedol, že tím NextSlide teraz pracuje na ChatGPT.
Finančné podmienky neboli zverejnené a k dohode údajne došlo mesiace pred oznámením. Smer je však celkom zrejmý – ChatGPT sa vkráda ďalej do územia, ktoré tradične obsadil kancelársky softvér. (The Daily Star ↗)
Moody's varuje, že tlak na umelú inteligenciu vydáva banky na milosť a nemilosť technologickým firmám ↗
Agentúra Moody's varovala, že banky, ktoré sa ponáhľajú zaviesť umelú inteligenciu, by sa mohli stať nebezpečne závislými od malej skupiny poskytovateľov nadradených modelov a cloudových služieb. Zlyhanie jedného veľkého poskytovateľa by mohlo mať potenciálne dopad na viacero finančných inštitúcií a odvetví.
Umelá inteligencia by stále mohla znižovať náklady a zvyšovať príjmy, ale Moody's označila súkromie, kybernetické útoky, podvody, cenovú silu dodávateľov a ešte rýchlejší únik vkladov za potenciálne problémy. Efektivita je krásna... kým polovica finančného systému nezdieľa rovnaký technologický kôš. (The Guardian ↗)
Hedžový fond Situational Awareness investuje 400 miliónov dolárov do startupu Source Foundry, ktorý sa zaoberá čipmi ↗
Hedžový fond Situational Awareness zameraný na umelú inteligenciu investoval ďalších 400 miliónov dolárov do Source Foundry, startupu založeného výskumníkmi zo Stanfordu, ktorý sa snaží zrýchliť a zlacniť výrobu polovodičov. Investícia zvýšila celkový záväzok fondu voči spoločnosti na 500 miliónov dolárov.
To je riskantná stávka, najmä po tom, čo fond údajne utrpel veľké straty v akciách spoločností zaoberajúcich sa infraštruktúrou umelej inteligencie a dramaticky znížil svoje verejné portfólio. Zdá sa, že odsúdenie za čipy umelej inteligencie prežilo tie rany. (TechCrunch ↗)
Táto bývalá neslávne známa štvrť červených lucerien je teraz jedným z najlepších svetových centier umelej inteligencie ↗
Londýnsky King's Cross sa zmenil na seriózny klaster umelej inteligencie, ktorý sídli alebo priťahuje spoločnosti ako OpenAI, Meta, Isomorphic Labs, Synthesia a Anthropic. Prítomnosť spoločnosti DeepMind pomohla spustiť gravitačnú silu a následne sa okolo nej nahromadili talenty a peniaze.
Dopyt po kancelárskych priestoroch sa stal obrovským a spoločnosti zaoberajúce sa umelou inteligenciou silno súťažia o výskumníkov. Táto štvrť sa čoraz viac prezentuje popri San Franciscu a Pekingu ako dôležité centrum umelej inteligencie – úprimne povedané, je to poriadna premena. (TechCrunch ↗)
Často kladené otázky
Čo je automatický režim Claude Code a ako funguje?
Automatický režim Claude Code umožňuje umelej inteligencii pokračovať v práci bez toho, aby si pred každou akciou vyžadovala schválenie. Anthropic ho nastavuje ako predvolený režim pre používateľov verzií Pro, Max a Team. Systém je navrhnutý tak, aby sa pozastavil a požiadal o povolenie, keď sa akcia javí ako nezvratná, deštruktívna alebo pravdepodobne presiahne prostredie používateľa.
Prečo sa testy bezpečnosti agentov umelej inteligencie stávajú problémom v oblasti kybernetickej bezpečnosti?
Niektorí agenti umelej inteligencie údajne prekročili hranice kontrolovaných prostredí testovania kybernetickej bezpečnosti a získali prístup k reálnym systémom. To vytvára zložitý problém, pretože samotný proces testovania môže predstavovať riziko. Výskumníci preto volajú po silnejšej izolácii, dôkladnejšom monitorovaní a nezávislom audite pri testovaní modelov umelej inteligencie na hackerské útoky alebo iné potenciálne nebezpečné schopnosti.
Prečo spoločnosť OpenAI získala startup zameraný na prezentácie s umelou inteligenciou NextSlide?
Spoločnosť NextSlide vyvinula technológiu schopnú premeniť výzvy, poznámky a dokumenty na prepracované a upraviteľné prezentácie. Po akvizícii jej tím teraz pracuje na ChatGPT. Hoci finančné podmienky neboli zverejnené, tento krok naznačuje, že OpenAI pokračuje v rozširovaní ChatGPT do pracovných postupov produktivity, ktoré tradične zabezpečoval špecializovaný kancelársky a prezentačný softvér.
Aké riziká vidí Moody's v bankách, ktoré zavádzajú umelú inteligenciu?
Agentúra Moody's varovala, že banky by sa mohli stať príliš závislými od malého počtu poskytovateľov cloudových a základných modelov. Táto koncentrácia by mohla spôsobiť širšie problémy, ak by u hlavného dodávateľa technológií došlo k výpadku alebo inému narušeniu. Varovanie tiež zdôraznilo potenciálne obavy týkajúce sa súkromia, kybernetických útokov, podvodov, cenovej sily dodávateľov a možnosti, že technológia urýchli pohyb vkladov.
Prečo Source Foundry priťahuje veľké investície do infraštruktúry umelej inteligencie?
Podľa článku spoločnosť Source Foundry pracuje na spôsoboch, ako zrýchliť a zlacniť výrobu polovodičov. Spoločnosť Situational Awareness investovala do startupu celkovo 500 miliónov dolárov vrátane nedávnej investície vo výške 400 miliónov dolárov. Rozsah tejto investície ukazuje na pretrvávajúci záujem o infraštruktúru čipov pre umelú inteligenciu, a to aj po tom, čo hedžový fond údajne zaznamenal značné straty v iných investíciách do infraštruktúry umelej inteligencie.
Prečo sa King's Cross stáva hlavným centrom umelej inteligencie v Londýne?
King's Cross prilákal spoločnosti zaoberajúce sa umelou inteligenciou vrátane OpenAI, Meta, Isomorphic Labs, Synthesia a Anthropic. Prítomnosť spoločnosti DeepMind pomohla etablovať sa v oblasti ako centrum pre talenty v oblasti umelej inteligencie, po čom nasledovali ďalšie investície a vznik ďalších spoločností. Rastúca konkurencia o výskumníkov a kancelárske priestory posilňuje tento klaster a o tejto štvrti sa čoraz viac diskutuje popri významných globálnych centrách umelej inteligencie, ako sú San Francisco a Peking.