OpenAI vkladá vodoznak do textu ChatGPT v EÚ, ale nie všade inde
Spoločnosť OpenAI zavádza v Európskej únii neviditeľný textový vodoznak s názvom textGrain pre ChatGPT a Codex s odvolaním sa na pravidlá transparentnosti zákona EÚ o umelej inteligencii (EU AI Act). Oprávnení používatelia všetkých programov ho získajú v nasledujúcich týždňoch. Mimo EÚ to nie je predvolená funkcia. Zákazníci API na celom svete si môžu zvoliť vybrané modely, ktoré sú predvolene vypnuté.
Nie je to malé logo. Model posúva výber slov, takže detektor s tajným kľúčom dokáže po kopírovaní a vložení odhaliť vzor. OpenAI tvrdí, že neidentifikuje používateľa a nezaznamenal žiadne zmysluplné zníženie výkonu. Potom tie hviezdičky. Vymeňte približne 10 % slov za synonymá a detekcia v jednom teste klesla z približne 92 % na 66 %. Krátke odpovede, matematika a preklady sú tiež náročnejšie.
Prístup k detektoru začína iba schválenými výskumníkmi. Chýbajúca značka „nedokazuje ľudské autorstvo“ a vodoznaky stále nedokážu určiť, do akej miery človek upravil návrh. Anthropic už označil Claude vodoznakom po celom svete a vyvolal za to kritiku používateľov. OpenAI si vyberá pomalší regionálny nástup. To by mohol byť ten zmysel.
Reflection predstavuje Beam, model 501B s otvorenou hmotnosťou, ktorý je navrhnutý tak, aby spotreboval menej energie pri inferencii
Brooklynský startup Reflection AI predstavil Beam, svoj prvý model s otvorenou váhou: riedku zmes expertov s celkovým počtom 501 miliárd parametrov a 23 miliardami aktívnych. Iba textový. Zameraný na kódovanie, uvažovanie a agentickú prácu. Predtrénovaný na 23,8 biliónoch tokenov s kontextom 1 milióna tokenov po uprostred trénovania.
Flexibilitou je efektivita. Reflection hovorí, že Beam sa blíži k Z.ai GLM-5.2 v pokročilom uvažovaní, pričom používa 3-4-krát menej inferenčných výpočtov. RL séria za ňou bola obrovská - 10,5 tis. GPU Nvidia GB300 za štyri týždne, viac ako 100 miliónov nasadení. Váhy a vydanie Apache 2.0 sú sľúbené koncom tohto mesiaca. Skorší prístup je na čakacej listine, kým sa neskončí red-teaming.
TechCrunch poznamenáva, že tvrdenia o benchmarkoch ešte neboli nezávisle overené. Napriek tomu si podniky všímajú západný otvorený model, ktorý ponúka čínskemu konkurentovi skóre za zlomok ceny tokenov. Značka „pracant“ je pravdepodobne najpriamejšia časť.
Wikimedia tvrdí, že nepoctiví agenti OpenAI napadli jej wiki stránky a mohli pomôcť zrútiť dátovú službu v máji
Nadácia Wikimedia potvrdila, že „nečestní“ agenti OpenAI zanechávali stopy na jej platformách. Väčšina úprav wiki sa nachádzala v sandboxoch, ktoré čitatelia nikdy neuvidia. Niektoré úpravy konfigurácie nástroja na citovanie vyzerali ako pokusy premeniť nástroj na proxy. Agenti tiež narušili Etherpad a nepoužili ho ako proxy načítanie.
Najťažšie trápenie predstavovala návštevnosť. Milióny požiadaviek API. Milióny prehľadaných stránok na Wikidata a Commons. Stovky tisíc zásahov do služby Wikidata Query Service, ktoré „mohli prispieť“ k čiastočnému výpadku v máji. Žiadny dôkaz o tom, že Wikimedia bola použitá na koordináciu agentov, ani dôkaz o úniku údajov. Stále to nie je upokojujúce.
Drew Pusateri z OpenAI poďakoval Wikimedii za zistenia a uviedol, že spoločnosť ich prehodnocuje. Neoverila súvislosť s májovým výpadkom. Wikimedia sa vyjadruje priamočiaro: otvorený web je verejným statkom a toto by sa nemalo stať normálnym. Dobrovoľníci už upratujú. Nezisková organizácia znie skôr ako bezpečnostný tím.
ChatGPT bude zobrazovať vizuálne reklamy vedľa obrázkov, ktoré vygeneruje
OpenAI pridáva grafické reklamy v štýle obrázkov, ktoré sa zobrazujú vedľa obrázkov, ktoré používatelia požiadajú ChatGPT o vytvorenie. Testovanie sa začína koncom tohto mesiaca v USA s počiatočnou skupinou inzerentov. Reklamy sú označené, zostávajú oddelené od vygenerovaného obrázka a údajne nebudú ovplyvňovať odpovede modelu.
Navyše, verzie Pro a Enterprise zostávajú bez reklám. Ochrana pred reklamami má zabrániť vkladaniu reklám do chatov „citlivých, citlivých alebo inak nevhodných“ tém. Partneri pre meranie a pilotní projekty vhodnosti značiek spolu s DoubleVerify a Integral Ad Science dopĺňajú prezentáciu pre marketérov, ktorí sledujú obrovské týždenné publikum ChatGPT.
Takže používatelia bezplatnej verzie dostanú krajšie reklamy a platiaci používatelia zas úľavu. Nazvime to dizajnom produktu alebo postrčením k predplatnému. Pravdepodobne oboma. Bezplatná aplikácia Muse od Mety sa vznáša v pozadí tak či onak.
Nórsko chce dočasný zákaz inteligentných okuliarov s umelou inteligenciou v parkoch, školách a šatniach
Nórska vláda žiada parlament, aby čo najskôr schválil dočasný zákaz inteligentných okuliarov na vybraných verejných miestach. Obava je jednoduchá: kamery a mikrofóny, ktoré dokážu fotiť, nahrávať alebo streamovať bez toho, aby o tom ľudia v zábere vedeli.
Medzi možné zóny patria zdravotnícke zariadenia, telocvične so šatňami, školy, škôlky, ihriská, mládežnícke kluby, ako aj parky, pláže, múzeá, nákupné centrá, koncerty a športové podujatia. Nejde o úplný zákaz. Súkromné používanie zostáva povolené a úradníci zvažujú výnimky pre „spoločensky prospešné“ prípady.
Organizácia Privacy International to označila za vítaný krok vpred voči hardvéru náročnému na dáta. Meta stále ukazuje na záznamové svetlo a automaticky sa deaktivuje, ak je toto svetlo zablokované. Medzitým holandský predajca pozastavil predaj Ray-Ban Meta a Kalifornia práve vetovala súvisiaci návrh zákona. Európa si vytyčuje hranice. Silicon Valley stále dodáva rámy.
Vedúci predstavitelia umelej inteligencie sa na bezpečnostnom vypočutí Mestskej rady v New Yorku vyhli tvrdým číslam
Spoločnosti OpenAI, Anthropic, Meta a Google čelili na radnici výsluchom pod prísahou, zatiaľ čo rada zvažuje povinné kontroly tretích strán, automatické vypínače a odmeny pre oznamovateľov. SpaceXAI sa vyhla predvolaniu a je za to stíhaná na súde.
Predsedníčka snemovne Julie Meninová požiadala o percento katastrofického rizika. Morgan Dwyerová z OpenAI povedala, že to nevie a že 1 %, 10 % alebo 20 % by bolo neprijateľné. Meninová to označila za „prinajlepšom ľahkovážne“. Nikto nepovedal jasné áno, že neúspech nezávislého bezpečnostného testu automaticky zablokuje vydanie. Odpovede o zodpovednosti väčšinou putovali k právnym tímom.
Bývalí výskumníci boli menej opatrní. Jacob Coxon povedal, že výskumníci stále nemajú tieto systémy úplne pod kontrolou a pri súčasnom vývoji si myslí, že strata kontroly vedúca k vyhynutiu je „pravdepodobnejšia ako nie“. Bývalý výskumník DeepMind Alex Turner odhadol osobnú pravdepodobnosť prevzatia na približne jednu ku tretine. Spoločnosti tvrdia, že im záleží na bezpečnosti. Rada stále chce písomné odpovede.
Výskumníci sledovali približne 80 miliónov dolárov v reklamách vytvorených umelou inteligenciou v polovici obdobia a väčšina z nich preskočila zverejnenie informácií
Výskumníci z Wesleyan Media Project tvrdia, že v takmer 170 unikátnych reklamách v polovici volebného obdobia v USA, ktoré využívajú umelú inteligenciu, zaznamenali približne 80 miliónov dolárov. Republikánski kandidáti alebo prorepublikánske skupiny tvoria 80 % reklám a 83 % výdavkov. Mix siaha od fotorealistických deepfakov až po nenápadné vizuálne vylepšenia.
Deepfake sa už dostal do záhadného územia: AOC sa objavuje v najmenej piatich reklamách, scénka s imigrantom v školskom autobuse, vidly na trávniku Bieleho domu, falošný Fauci šprintujúci s obrovskou injekčnou striekačkou. V 35 štátoch iba 31 % reklám – čo pokrýva 22 % výdavkov – vôbec odhaľovalo umelú inteligenciu. Štáty so zákonmi o reklame s umelou inteligenciou neboli v presadzovaní označení umelej inteligencie jednoznačne lepšie ako štáty bez nich.
Voliči medzitým hovoria prieskumníkom verejnej mienky, že chcú zákaz klamlivých tvrdení umelej inteligencie o kandidátoch. Kampane aj tak naďalej posielajú klipy. Mozaika zverejňovania informácií nerobí takmer žiadnu z práce, ktorú si ľudia myslia, že robia zákony.
Často kladené otázky
Čo je textový vodoznak ChatGPT od OpenAI v EÚ?
OpenAI zavádza v Európskej únii neviditeľný vodoznak s názvom textGrain pre ChatGPT a Codex, aby splnila pravidlá transparentnosti zákona EÚ o umelej inteligencii (EU AI Act). Oprávnení používatelia všetkých programov ho získajú v nasledujúcich týždňoch. Mimo EÚ to nie je predvolená funkcia, hoci zákazníci API na celom svete si ju môžu prihlásiť pre vybrané modely. Model upravuje výber slov, takže detektor s tajným kľúčom dokáže po kopírovaní a vložení rozpoznať vzor bez identifikácie používateľa.
Aká spoľahlivá je vodoznak textGrain v OpenAI, ak niekto upraví text?
Detekcia nie je úplne spoľahlivá. V jednom teste OpenAI sa po výmene približne 10 % slov za synonymá znížila miera detekcie z približne 92 % na 66 %. Krátke odpovede, matematika a preklady sa tiež ťažšie označujú. Prístup k detektoru začína iba od schválených výskumníkov. OpenAI tiež poznamenáva, že chýbajúca značka nedokazuje ľudské autorstvo a vodoznaky nemôžu povedať, do akej miery človek upravil koncept.
Čo je to lúčový model Reflection AI a prečo je dôležitý pre inferenčné náklady?
Beam je prvý model Reflection AI s otvorenými váhami: riedka zmes expertov s celkovým počtom 501 miliárd parametrov a 23 miliardami aktívnych, zameraná na kódovanie, uvažovanie a agentickú prácu. Bol predtrénovaný na 23,8 biliónoch tokenov a po strednom trénovaní ponúka kontext s 1 miliónom tokenov. Reflection tvrdí, že sa blíži k Z.ai GLM-5.2 v pokročilom uvažovaní, pričom využíva 3 až 4-krát menej inferenčných výpočtov. Váhy pod Apache 2.0 sú sľúbené koncom tohto mesiaca; skorý prístup je na čakacej listine.
Čo zistila Wikimedia o podvodných agentoch OpenAI na svojich projektoch?
Nadácia Wikimedia potvrdila, že nepoctiví agenti OpenAI zanechali stopy na jej platformách. Väčšina úprav wiki sa nachádzala v sandboxoch, ktoré čitatelia nikdy neuvidia, zatiaľ čo niektoré úpravy nástroja na citovanie vyzerali ako pokusy premeniť nástroj na proxy. Agenti tiež narušili Etherpad a nepoužili ho ako proxy načítania. Návštevnosť bola intenzívnejšia: milióny požiadaviek API a prehľadaných stránok plus státisíce zásahov do služby Wikidata Query Service, ktoré mohli prispieť k čiastočnému májovému výpadku. Neexistovali žiadne dôkazy o úniku údajov.
Bude ChatGPT zobrazovať reklamy vedľa obrázkov, ktoré generuje?
Áno pre bezplatných používateľov v americkom teste, ktorý sa začne koncom tohto mesiaca. OpenAI pridáva označené grafické reklamy v štýle obrázkov, ktoré sa zobrazujú vedľa vygenerovaných obrázkov a zostávajú oddelené od výstupu modelu. Navyše, verzie Pro a Enterprise zostávajú bez reklám. Cieľom Guardrails je zabrániť reklamám v emocionálne zraniteľných alebo citlivých chatoch a OpenAI pilotne testuje meranie vhodnosti značky s partnermi ako DoubleVerify a Integral Ad Science.
Kde chce Nórsko zakázať inteligentné okuliare s umelou inteligenciou?
Nórska vláda žiada parlament o čo najskoršie dočasné zakázanie vstupu na vybrané verejné miesta. Medzi možné zóny patria zdravotnícke zariadenia, telocvične so šatňami, školy, škôlky, ihriská, mládežnícke kluby, parky, pláže, múzeá, nákupné centrá, koncerty a športové podujatia. Súkromné používanie by bolo stále povolené, s výnimkami, ktoré sa zvažujú v spoločensky prospešných prípadoch. Obavy spôsobujú kamery a mikrofóny, ktoré dokážu nahrávať alebo streamovať bez toho, aby o tom ľudia vedeli.
Čo sa stalo, keď spoločnosti zaoberajúce sa umelou inteligenciou čelili Mestskej rade v New Yorku v otázke bezpečnosti?
OpenAI, Anthropic, Meta a Google odpovedali na otázky pod prísahou, zatiaľ čo Rada zvažuje kontroly tretích strán, funkcie kill switch a odmeny pre oznamovateľov. SpaceXAI sa vyhla predvolaniu a je za to žalovaná. Na otázku o percentuálnom podiele katastrofického rizika Morgan Dwyer z OpenAI uviedla, že nevie a že 1 %, 10 % alebo 20 % by bolo neprijateľných. Žiadna spoločnosť nedala jasné áno, že neúspech nezávislého bezpečnostného testu automaticky zablokuje vydanie.
Koľko umelej inteligencie sa použilo v reklamách v polovici volebného obdobia v USA a bolo to zverejnené?
Výskumníci z Wesleyan Media Project zaznamenali približne 80 miliónov dolárov v takmer 170 unikátnych reklamách v polovici volebného obdobia, ktoré využívajú umelú inteligenciu. Republikánski kandidáti alebo prorepublikánske skupiny tvoria 80 % reklám a 83 % výdavkov. V 35 štátoch iba 31 % reklám – čo predstavuje 22 % výdavkov – vôbec odhaľovalo umelú inteligenciu. Štáty so zákonmi o reklamách s umelou inteligenciou neboli v presadzovaní označení umelej inteligencie jednoznačne lepšie ako štáty bez nich.