🧒 OpenAI zavádza predikciu veku v ChatGPT ↗
OpenAI začala do ChatGPT zavádzať vrstvu „predikcie veku“ – tichý systém, ktorý sa snaží odvodiť, kedy účet pravdepodobne patrí neplnoletej osobe, a potom zacvakne na dodatočné bezpečnostné zábradlia. Ak si myslí, že máte menej ako 18 rokov, automaticky zúži prístup na citlivejší obsah.
Keď sa mýli (čo... sa niekedy stane), riešením je overenie identity prostredníctvom Persony s využitím selfie. Taktiež sa to prelína so širšími zmenami platforiem, ako sú experimenty s „režimom pre dospelých“ a monetizačné kroky, ktoré, úprimne povedané, pôsobia ako niekoľko tanierov točiacich sa naraz.
🏦 Británia potrebuje „stresové testy umelej inteligencie“ pre finančné služby, tvrdia zákonodarcovia ↗
Britskí zákonodarcovia v podstate hovoria: prestaňte byť pokojní voči umelej inteligencii vo financiách. Ich argumentom je, že regulačné orgány a vlády by mali podrobiť systémy umelej inteligencie nátlaku, podobne ako banky podstupujú záťažové testy – pretože „oops“ v krajine peňazí má tendenciu sa rýchlo šíriť.
Problémom je ten druh problémov, ktorý sa prejaví len vo veľkom meradle: skreslenie, kaskády chýb, podvodné vzorce, spätné väzby. Je to ako nechať batoľa šoférovať autobus, pretože cesta je rovná... až kým zrazu nie je rovná.
🏛️ Šampióni umelej inteligencie vymenovaní, aby pomohli mestu bezpečne využiť príležitosti v oblasti umelej inteligencie ↗
Britská vláda vymenovala dvoch „šampiónov umelej inteligencie“, aby pomohli urýchliť zavádzanie umelej inteligencie vo finančných službách – so zvyčajnými sľubmi rastu, produktivity, investícií a všetkých tých dobre znejúcich mechanizmov.
Pozoruhodné je vyváženie: energia „rýchleho pohybu“ s nápisom „bezpečne“ navrchu. Upokojujúce… alebo mierne komické, v závislosti od vašej nálady v daný deň.
💰 Humans&, startup zameraný na umelú inteligenciu „zameraný na človeka“, ktorý založili absolventi spoločností Anthropic, xAI a Google, získal počiatočné financovanie vo výške 480 miliónov dolárov ↗
Humans& dorazili s obrovským počtom účastníkov a tímom, ktorý znie ako „štartovací balíček AI lab“ – ľudia z veľkých modelárskych dielní a veľkých technologických spoločností. Uvedeným cieľom je menej chatbotov a viac „pomôcť ľuďom koordinovať a spolupracovať“ so systémami, ktoré môžu fungovať medzi ľuďmi a agentmi AI.
Je to veľa peňazí za niečo, čo je ešte len v počiatočnom štádiu, čo je buď znakom dôvery trhu... alebo to, že všetci kolektívne kupujeme ohňostroje, pretože sa nám páči ich zvuk. Úprimne povedané, mohlo by to byť oboje.
⚖️ Legálny startup s umelou inteligenciou Ivo získal v najnovšom kole financovania 55 miliónov dolárov ↗
Spoločnosť Ivo, startup zameraný na právnickú umelú inteligenciu, získala nové finančné prostriedky na vybudovanie svojej platformy a zvýšenie predaja, pričom sa viezla na vlne advokátskych kancelárií a interných právnych tímov, ktoré automatizovali pracovné postupy s vysokou administratívnou náročnosťou.
Táto kategória stále víťazí, pretože jej hodnota je priamočiara a jednoduchá: menej hodín strávených opakujúcou sa prácou s dokumentmi, menej vecí, ktoré prepadnú trhlinám. Nie je to okázalé, ale veľmi, veľmi účtovateľné.
🧠 Taiwanský Inventec tvrdí, že rozhodnutie o čipe Nvidia H200 „zdá sa byť zaseknuté“ na strane Číny ↗
Taiwanský výrobca serverov uviedol, že otázka predaja čipu H200 s umelou inteligenciou od spoločnosti Nvidia do Číny sa zdá byť „zaseknutá“ – čo naznačuje, že úzkym hrdlom nie sú len externé pravidlá, ale aj schvaľovanie na strane Číny alebo interná dynamika.
Toto je nepríjemná realita hardvéru umelej inteligencie: každý hovorí o modeloch a agentoch, ale celá budúcnosť môže závisieť od niekoľkých úzkych miest, povolení a politiky dodávateľského reťazca. Je to ako plánovať štart rakety... a potom si uvedomiť, že ste zabudli kľúč od palivového ventilu.
Často kladené otázky
Aká je predpoveď veku OpenAI na ChatGPT a čo sa zmení, ak ste označení ako osoba mladšia ako 18 rokov?
Spoločnosť OpenAI zaviedla nenápadnú vrstvu „predikcie veku“, ktorá sa pokúša odvodiť, či účet pravdepodobne patrí neplnoletej osobe. Ak systém dospeje k záveru, že máte menej ako 18 rokov, ChatGPT automaticky použije ďalšie bezpečnostné opatrenia. V praxi to zvyčajne znamená prísnejšie obmedzenia obsahu, ktorý sa považuje za citlivejší. Cieľom je znížiť riziko bez toho, aby každý používateľ musel vopred deklarovať svoj vek.
Čo sa stane, ak sa predpoveď veku v ChatGPT pomýli?
Ak predikcia veku v ChatGPT zlyhá a dospelú osobu označí ako osobu mladšiu ako 18 rokov, uvedeným riešením je overenie identity. V tomto zavedení sa toto overenie vykonáva prostredníctvom Persony pomocou procesu založeného na selfie. Po overení sa účet môže vrátiť k normálnemu prístupu, namiesto toho, aby zostal uzamknutý za prísnejšími ochrannými zábradliami. Je to kompromis: menej rizikových okrajových prípadov s väčším trením, keď systém odhadne nesprávne.
Ako zapadá overovanie selfie z Persony do bezpečnostného prístupu OpenAI?
Persona slúži ako mechanizmus na riešenie neistoty súvisiacej s vekom, keď sa systémové závery považujú za nespoľahlivé. Proces overovania identity na základe selfie je umiestnený ako nápravný krok po nesprávnej predpovedi veku. Na mnohých platformách sa tento druh kroku používa na vyváženie bezpečnosti a prístupu bez trvalého blokovania legitímnych používateľov. Taktiež poukazuje na väčšiu mieru presadzovania na úrovni účtu, nielen na filtrovanie na úrovni výziev.
Prečo OpenAI teraz pridáva vekové obmedzenie a čo to má spoločné s „režimom pre dospelých“?
Táto aktualizácia prichádza spolu so širšími zmenami platformy vrátane experimentov s „režimom pre dospelých“ a krokov v oblasti monetizácie, ktoré boli spomenuté v tej istej diskusii. Predikcia veku v ChatGPT sa v podstate stáva prepínačom, ktorý určuje, kto dostane prísnejšie predvolené nastavenia oproti širšiemu prístupu. To je užitočné pre platformu, ktorá testuje rôzne zážitky pre rôzne publikum. Môže tiež obmedziť vystavenie rizikovejšiemu obsahu a zároveň umožniť expanziu inde.
Čo sú to „stresové testy umelej inteligencie“ pre finančné služby v Spojenom kráľovstve a prečo ich zákonodarcovia chcú?
Britskí zákonodarcovia požadujú „stresové testy umelej inteligencie“, ktoré by sa k systémom umelej inteligencie správali skôr ako k bankám: testovali by sa skôr, ako sa problémy rozšíria. Obavy spočívajú v tom, že skreslenie, kaskády chýb, vzorce podvodov a spätné väzby sa môžu prejaviť až vo veľkom meradle. Vo financiách sa malé zlyhania môžu rýchlo šíriť cez úzko prepojené systémy. Stresové testovanie má odhaliť slabé miesta skôr, skôr ako budú ovplyvnené skutočné peniaze a skutoční zákazníci.
Kto sú britskí „šampióni umelej inteligencie“ pre mesto a čo majú robiť?
Vláda Spojeného kráľovstva vymenovala dvoch „šampiónov AI“, ktorí majú pomôcť urýchliť zavádzanie AI vo finančných službách. Ich úloha je koncipovaná tak, aby pomohla mestu využiť príležitosti AI a zároveň to robiť „bezpečne“. V praxi to znamená koordináciu a obhajobu: povzbudzovanie zavádzania, podpora osvedčených postupov a zosúladenie zainteresovaných strán. Signalizuje to, že vláda chce rýchlejšie zavádzanie s viditeľným bezpečnostným obalom okolo neho.