OpenAI pozastaví časť práce na modeli umelej inteligencie Astra z dôvodu bezpečnostných obáv ↗
Spoločnosť OpenAI pozastavuje internú prácu na platforme Astra, ktorá nespĺňa prísnejšie bezpečnostné požiadavky po tom, čo hodnotenia naznačili, že jej kybernetické schopnosti mohli prekročiť „kritickú“ hranicu. Agent by údajne mohol nájsť a zneužiť zraniteľnosti bez ľudského zásahu alebo vykonať útoky z cieľa na vysokej úrovni. Áno... to je dosť vážna hranica, ktorú treba prekročiť.
Spoločnosť sprísňuje izolované testovanie, prístup k sieti a nástrojom, ochranu na základe váhy modelu, šifrovanie a monitorovanie. Astra nebola zapojená do predchádzajúceho incidentu Hugging Face spoločnosti OpenAI, ale širší vzorec čoraz autonómnejších agentov robí z obmedzovania oveľa väčšie obavy. (Zdroj: The Guardian)
Apple tvrdí, že používatelia Macov v Číne sa môžu pripojiť k službe umelej inteligencie Qwen od spoločnosti Alibaba ↗
Oprávnení používatelia Macu v pevninskej Číne môžu teraz prepojiť Qwen od Alibaby so Siri a nástrojmi na písanie od Apple. To znamená podrobnejšie odpovede a analýzu dokumentov a obrázkov, ako aj generovanie textu a obrázkov z popisov.
Úprimne povedané, je to zaujímavé spojenie – Apple získava lokálne kompatibilnú cestu k silnejším funkciám umelej inteligencie na silne konkurenčnom trhu s počítačmi, zatiaľ čo Alibaba zavádza Qwen oveľa hlbšie do ekosystému niekoho iného. Apple tvrdí, že materiál odoslaný prostredníctvom rozšírenia nemôže Alibaba použiť na trénovanie svojich modelov. (Zdroj: Reuters)
Google DeepMind vstupuje do novej éry, spoluzakladateľ Demis Hassabis mení svoju úlohu v oblasti umelej inteligencie ↗
Demis Hassabis sa vzdáva každodenného vedenia spoločnosti DeepMind a stáva sa predsedom predstavenstva, pričom zároveň preberá funkciu hlavného vedca v spoločnosti Alphabet. Jeho dlhoročný kolega Koray Kavukcuoglu preberá prevádzkovú kontrolu ako senior viceprezident namiesto generálneho riaditeľa – nenápadná zmena titulu, ktorá však veľa vypovedá.
K tejto reorganizácii dochádza spolu s ďalšími významnými odchodmi výskumníkov a otázkami, či sa DeepMind stáva menej nezávislým a či nie je viac absorbovaný do komerčného systému umelej inteligencie spoločnosti Google. Google popiera, že by táto zmena súvisela s konkurenčným výkonom spoločnosti Gemini. (Zdroj: The Guardian)
Rastúci počet detí v Spojenom kráľovstve hlási, že vidia explicitné deepfaky seba samých ↗
Počet hlásení od britských detí o explicitných falošných alebo manipulovaných obrázkoch samých seba prudko vzrástol. Služba Report Remove prijala za šesť mesiacov 420 hlásení, čím už prekonala svoj predchádzajúci ročný počet 397 hlásení. Nástroje na „nahotu“ založené na umelej inteligencii tento problém strašne uľahčujú.
Nadácia Internet Watch Foundation tvrdí, že mnohé nahlásené manipulované obrázky boli dostatočne závažné na to, aby prekročili hranicu materiálu zobrazujúceho sexuálne zneužívanie detí. Niektoré obete sa stali aj terčom sexuálneho vykorisťovania, čím sa obrázok vygenerovaný umelou inteligenciou premenil na veľmi hmatateľnú zbraň. (Zdroj: The Guardian)
Prieskum ukazuje, že funkcie umelej inteligencie prudko prevyšujú obchodnú hodnotu ↗
Softvérové spoločnosti zaoberajúce sa podnikovým softvérom síce zavádzajú funkcie umelej inteligencie, ale zákazníci ich nemusia nevyhnutne používať. V prieskume viac ako 260 vertikálnych softvérových spoločností 51 % uviedlo, že menej ako štvrtina ich zákazníkov používa funkcie umelej inteligencie, ktoré vytvorili. Trochu trápne po tom všetkom doručovaní...
Úzke miesto sa javí menej ako schopnosť umelej inteligencie a viac ako integrácia, bezpečnosť, súkromie, zmeny pracovných postupov a preukázanie konkrétnej obchodnej hodnoty. Jedným obzvlášť zvláštnym javom je „tokenmaxxing“ – nadmerná spotreba umelej inteligencie, ktorá vyzerá na dashboarde pôsobivo bez jasného dôkazu, že prináša lepšie výsledky. (Zdroj: Forbes)
Umelá inteligencia mení prácu rýchlejšie, ako s tým dokážu držať krok dáta ↗
Argument o pracovných miestach v oblasti umelej inteligencie sa stáva čoraz zamotanejším, nie čistejším. Štúdia zahŕňajúca viac ako 21 000 amerických firiem zistila, že firmy s najväčším zavádzaním umelej inteligencie zaznamenali nárast celkového počtu zamestnancov o 10 % a počtu zamestnancov na základnej úrovni o 12 %, zatiaľ čo firmy s menej intenzívnym zavádzaním umelej inteligencie nezaznamenali žiadny nárast počtu zamestnancov.
Iný výskum však zistil tlak na zamestnanosť medzi mladšími pracovníkmi v pozíciách vystavených umelej inteligencii a ekonómovia varujú, že rastúce spoločnosti môžu stále prijímať zamestnancov, zatiaľ čo umelá inteligencia mení povolania v rámci širšej ekonomiky. Takže umelá inteligencia ničí pracovné miesta a zároveň ich vytvára... alebo by ste sa tak aspoň chceli presvedčiť z protichodných súborov údajov. (Zdroj: Fortune)
Často kladené otázky
Aké sú momentálne najväčšie novinky v oblasti umelej inteligencie?
Nedávne správy o umelej inteligencii poukazujú na niekoľko prekrývajúcich sa tém: silnejšie autonómne schopnosti, prísnejšie bezpečnostné kontroly, hlbšie integrácie platforiem, zmeny vo vedení, riziká online bezpečnosti a neistá obchodná hodnota. OpenAI sprísňuje bezpečnostné opatrenia okolo Astry, Apple prepája Qwen s Macmi v Číne a DeepMind mení vedenie. Zároveň narastajú obavy týkajúce sa deepfakeov, ich zavádzania v podnikoch a vplyvu umelej inteligencie na zamestnanosť.
Prečo OpenAI pozastavilo niektoré práce na Astre?
Spoločnosť OpenAI údajne pozastavila internú prácu na platforme Astra, ktorá nespĺňala prísnejšie bezpečnostné požiadavky, po tom, čo hodnotenia naznačili, že kybernetické schopnosti modelu mohli dosiahnuť kritickú úroveň. Obavy sú, že pokročilý agent by mohol potenciálne odhaliť a zneužiť zraniteľnosti s obmedzeným alebo žiadnym ľudským zásahom. V reakcii na to spoločnosť OpenAI posilňuje izolované testovanie, kontroly prístupu, šifrovanie, monitorovanie a ochranu v súvislosti s váhami modelu.
Ako bude Alibaba Qwen spolupracovať s počítačmi Apple Mac v Číne?
Oprávnení používatelia počítačov Mac v pevninskej Číne môžu prepojiť službu Qwen od spoločnosti Alibaba so Siri a nástrojmi na písanie od spoločnosti Apple. Integrácia môže podporiť podrobnejšie odpovede, analýzu dokumentov a obrázkov a generovanie textu alebo obrázkov z popisov. Pre spoločnosť Apple toto usporiadanie poskytuje lokálne kompatibilnú cestu k silnejšej funkcionalite umelej inteligencie, zatiaľ čo Alibaba získava hlbší prístup k ekosystému spoločnosti Apple. Spoločnosť Apple tvrdí, že odoslaný materiál nemožno použiť na trénovanie modelov spoločnosti Alibaba.
Čo znamená zmena vedenia DeepMind pre Google AI?
Demis Hassabis sa vzďaľuje od každodenného vedenia spoločnosti DeepMind a stáva sa predsedom predstavenstva, pričom preberá funkciu hlavného vedca v spoločnosti Alphabet. Koray Kavukcuoglu prevezme prevádzkovú kontrolu ako senior viceprezident. Táto zmena vyvolala otázky o tom, či sa DeepMind viac integruje so širšími komerčnými operáciami spoločnosti Google v oblasti umelej inteligencie, hoci Google popiera náznaky, že táto reorganizácia súvisí s konkurenčnými výsledkami spoločnosti Gemini.
Prečo sa deepfakey s umelou inteligenciou stávajú väčším problémom pre bezpečnosť detí?
Nástroje na manipuláciu s obrázkami poháňané umelou inteligenciou môžu uľahčiť vytváranie realistických explicitných falošných obrázkov vo veľkom rozsahu. Deti v Spojenom kráľovstve čoraz častejšie nahlasujú manipulované alebo vymyslené obrázky seba samých a niektoré prípady boli dostatočne závažné na to, aby splnili prahovú hodnotu pre materiál zobrazujúci sexuálne zneužívanie detí. Tieto obrázky sa dajú použiť aj na sexuálne vydieranie, čo znamená, že vymyslený obrázok môže stále spôsobiť značné poškodenie reputácie, emocionálne a finančné škody.
Využívajú už podniky a pracovníci výhody umelej inteligencie?
Najnovšie správy o umelej inteligencii naznačujú zmiešanú odpoveď. Mnoho softvérových spoločností pridáva funkcie umelej inteligencie rýchlejšie, ako ich zákazníci prijímajú, pričom integrácia, súkromie, bezpečnosť a merateľná obchodná hodnota zostávajú hlavnými prekážkami. Údaje o zamestnanosti sú podobne komplikované: niektoré spoločnosti s intenzívnym zavádzaním umelej inteligencie rozširujú nábor, zatiaľ čo iný výskum poukazuje na tlak na mladších pracovníkov v pozíciách vystavených umelej inteligencii. Celkový vplyv vo veľkej miere závisí od odvetvia, pracovného postupu a spôsobu implementácie umelej inteligencie.