Prvé výsledky Jalapeña ukazujú špičkovú rýchlosť a efektívnosť v oblasti inferencie umelej inteligencie ↗
Spoločnosť OpenAI zverejnila prvé výsledky výkonu pre svoj vlastný inferenčný čip Jalapeño. V prípade čipu GPT-OSS 120B sa uvádza, že dosiahol približne 1,9-krát vyššiu špičkovú priepustnosť na kilowatt a približne 1,7-krát nižšiu latenciu medzi koncovými bodmi ako porovnávací systém.
Zisky sa preniesli aj na DeepSeek R1 a Kimi K2.5. OpenAI plánuje nasadiť Jalapeño vo svojej vlastnej výpočtovej infraštruktúre, zatiaľ čo návrhy druhej a tretej generácie sú už v plnom prúde... takže áno, OpenAI sa čoraz viac stáva aj spoločnosťou zaoberajúcou sa čipmi. (OpenAI)
Claude Cowork si konečne spomenie, čo ste povedali aplikácii v chate ↗
Anthropic zjednotil Claudovu pamäť v bežnom chate a Coworkingu. Informácie získané počas konverzácií teraz môžu sprevádzať používateľov aj pri vykonávaní úloh agentov, čím sa odstránil ten mierne šialene dráždivý rituál opakovaného vysvetľovania toho istého projektu.
Používatelia si môžu prezerať, upravovať a mazať zapamätané témy, pričom sa spomienky aktualizujú počas prebiehajúcich konverzácií. Táto funkcia je štandardne povolená v plánoch Free, Pro a Max. (TechCrunch)
Google Cloud spúšťa Gemini Enterprise pre právne účely ↗
Spoločnosť Google Cloud predstavila účelový balík Gemini Enterprise pre právnikov, ktorý posúva jej agentov za hranice generického chatu do oblastí kontroly zmlúv, právneho výskumu, regulačného monitorovania, žiadostí o ochranu súkromia a tvorby dokumentov.
Zahŕňa konektory pre platformy ako Harvey, iManage, Docusign, RelativityOne a Thomson Reuters, pričom zachováva existujúce kontroly prístupu a etické bariéry firiem. Záber pôdy agentmi umelej inteligencie dosiahol aj právne oddelenie... predvídateľne, ale stále dosť rýchlo. (Press Corner pre Google Cloud)
Google Cloud spúšťa Gemini Enterprise pre finančné služby ↗
Spoločnosť Google tiež spustila ponuku Gemini Enterprise zameranú na financie, ktorá zahŕňa agenta pre spravovaný finančný výskum, viac ako 50 špecializovaných zručností a 13 prepojení s finančnými a trhovými dátovými systémami.
Platforma sa zameriava na pracovné postupy vrátane hodnotenia úverového rizika, monitorovania portfólia, výskumu KYC a analýzy trhu. Medzi organizácie, ktoré sa už zapojili, patria CME Group a Deutsche Bank – podnikoví agenti sa stávajú čoraz špecializovanejšími, takmer ako softvér v obleku. (Press Corner od Google Cloudu)
NVIDIA predstavuje robotický počítač Jetson Orin Nano 2, ktorý nanovo definuje základnú úroveň umelej inteligencie na okraji počítača ↗
Spoločnosť Nvidia predstavila Jetson Orin Nano 2, kompaktný počítač určený pre roboty, drony a iné fyzické systémy s umelou inteligenciou. Ponúka 78 biliónov operácií za sekundu, 8 GB pamäte a osemjadrový procesor Arm.
Nvidia tvrdí, že výkon inferencie sa v porovnaní s predchádzajúcim modelom Nano Super zdvojnásobuje, pričom porovnanie jeho výkonu môže vyžadovať o 40 % menej energie. Zaujímavosťou je, že menšie modely sa stávajú skutočne schopnými pracovať aj na kompaktnom hardvéri – umelá inteligencia už nemusí vždy telefonovať do obrovského dátového centra. (NVIDIA Newsroom)
Perplexity spolupracuje so spoločnosťou Nvidia na spustení prenosného počítača, plne lokálneho agenta s umelou inteligenciou s nulovými nákladmi na tokeny ↗
Spoločnosť Perplexity spustila prenosný počítač, ktorý prináša zážitok z agentového počítača na lokálny hardvér s technológiou Nvidia. Modely, súbory a vykonávanie agentov môžu zostať na počítači používateľa, pričom lokálne vykonaná práca nespotrebúva žiadne kredity za cloudovú fakturáciu.
Úlohy začínajú lokálne a systém si pred prechodom na model hraničného cloudu vyžiada povolenie. Spúšťa sa na systémoch Nvidia DGX Spark a Linux s dostatočne výkonnými grafickými kartami RTX – súkromie a náklady sa zrazu stávajú súčasťou predajnej prezentácie lokálnej umelej inteligencie, nielen rýchlosť. (Venturebeat)
Podľa WSJ sa očakáva, že Anthropic oznámi investorom, že predpokladá potenciálne tržby vo výške viac ako 30 biliónov dolárov ↗
Spoločnosť Anthropic sa údajne chystá oznámiť investorom, že jej celkový adresovateľný trh by mohol presiahnuť 30 biliónov dolárov. Dôležitý rozdiel – ide o teoretickú ročnú príležitosť, ak by umelá inteligencia zachytila relevantnú prácu, nie o to, že Anthropic predpovedá, že v budúcnosti zarobí 30 biliónov dolárov. (Reuters)
Toto obrovské číslo pomáha objasniť výdavky spoločnosti Anthropic na infraštruktúru, jej konkurenciu s OpenAI a Google a širší investorský príbeh. Je to mimoriadne veľké číslo... dokonca aj podľa štandardov odvetvia umelej inteligencie. (Reuters)
Často kladené otázky
Čo znamenajú výsledky testu čipu Jalapeño od OpenAI pre inferenciu umelej inteligencie?
OpenAI uvádza, že Jalapeño dosiahol vyššiu špičkovú priepustnosť na kilowatt a nižšiu latenciu medzi koncovými bodmi ako jeho porovnávací systém pri spustení GPT-OSS 120B. Podobné zisky boli zaznamenané aj pri DeepSeek R1 a Kimi K2.5. Výsledky naznačujú, že OpenAI čoraz viac navrhuje hardvér s ohľadom na špecifické požiadavky na efektivitu a rýchlosť rozsiahlej inferencie umelej inteligencie.
Ako funguje Claudov zdieľaný pamäť v chate a Coworku?
Claude teraz môže prenášať informácie získané v bežných konverzáciách do úloh v rámci Coworku, čím sa znižuje potreba opakovane vysvetľovať ten istý projekt alebo kontext. Používatelia si môžu prezerať, upravovať a mazať zapamätané témy, pričom tieto spomienky sa môžu priebežne aktualizovať s vývojom konverzácií. Podľa oznámenia uvedeného v článku je táto funkcia štandardne povolená v plánoch Free, Pro a Max.
Čo dokáže Gemini Enterprise pre právne a finančné služby?
Špecializované ponuky služby Gemini Enterprise od spoločnosti Google Cloud sú zamerané na pracovné postupy špecifické pre dané odvetvie, a nie na všeobecný chat s umelou inteligenciou. Právny balík pokrýva oblasti, ako je kontrola zmlúv, výskum, regulačné monitorovanie, žiadosti o ochranu súkromia a vypracovanie dokumentov, zatiaľ čo verzia pre finančné služby podporuje pracovné postupy vrátane hodnotenia úverového rizika, monitorovania portfólia, prieskumu KYC a analýzy trhu. Obe sa tiež dokážu prepojiť s existujúcimi profesionálnymi dátovými a softvérovými systémami.
Prečo sa lokálna inferencia umelej inteligencie stáva čoraz dôležitejšou?
Lokálna inferencia umelej inteligencie môže posilniť súkromie, znížiť závislosť od cloudovej infraštruktúry a potenciálne znížiť priebežné náklady na používanie. Jetson Orin Nano 2 od spoločnosti Nvidia sa zameriava na roboty, drony a iné okrajové systémy, zatiaľ čo prenosný počítač od spoločnosti Perplexity uchováva modely, súbory a vykonávanie agentov na kompatibilnom lokálnom hardvéri. V mnohých pracovných postupoch je potom možné cloudové modely rezervovať pre úlohy, ktoré vyžadujú dodatočné možnosti.
Ako sa prenosný počítač Perplexity rozhodne, kedy použiť cloudovú umelú inteligenciu?
Úlohy sú navrhnuté tak, aby sa spúšťali na lokálnom hardvéri používateľa s technológiou Nvidia, pričom sa v počítači zachováva kompatibilné vykonávanie modelu a súbory. Ak krok vyžaduje model Frontier cloud, systém pred jeho eskaláciou požiada používateľa o povolenie. Práca vykonaná lokálne nespotrebúva cloudové fakturačné kredity, vďaka čomu je tento prístup relevantný pre používateľov, ktorí sa obávajú o súkromie aj o opakujúce sa náklady na inferenciu.
Čo znamená odhad trhu s umelou inteligenciou spoločnosti Anthropic na 30 biliónov dolárov?
Uvedený údaj sa vzťahuje na pohľad spoločnosti Anthropic na potenciálny celkový adresovateľný trh s umelou inteligenciou, nie na predpoveď, že samotná spoločnosť Anthropic vygeneruje ročné príjmy vo výške 30 biliónov dolárov. Predstavuje teoretickú hodnotu práce, ktorú by umelá inteligencia mohla potenciálne riešiť v celej ekonomike. Odhad tiež pomáha vysvetliť, prečo popredné spoločnosti zaoberajúce sa umelou inteligenciou tak výrazne investujú do infraštruktúry a podnikových kapacít.