Ako sa dá generatívna umelá inteligencia využiť v kybernetickej bezpečnosti?

Úvod

Generatívna umelá inteligencia – systémy umelej inteligencie schopné vytvárať nový obsah alebo predpovede – sa stáva transformačnou silou v kybernetickej bezpečnosti. Nástroje ako GPT-4 od OpenAI preukázali schopnosť analyzovať komplexné dáta a generovať text podobný ľudskému, čo umožňuje nové prístupy k obrane pred kybernetickými hrozbami. Odborníci na kybernetickú bezpečnosť a osoby s obchodnými rozhodnutiami v rôznych odvetviach skúmajú, ako môže generatívna umelá inteligencia posilniť obranu proti vyvíjajúcim sa útokom. Od financií a zdravotníctva až po maloobchod a verejnú správu, organizácie v každom sektore čelia sofistikovaným phishingovým pokusom, škodlivému softvéru a iným hrozbám, ktorým by generatívna umelá inteligencia mohla pomôcť čeliť. V tejto bielej knihe skúmame, ako možno generatívnu umelú inteligenciu využiť v kybernetickej bezpečnosti , pričom zdôrazňujeme reálne aplikácie, budúce možnosti a dôležité aspekty, ktoré je potrebné zvážiť pri jej prijatí.

Generatívna umelá inteligencia sa od tradičnej analytickej umelej inteligencie líši nielen detekciou vzorcov, ale aj vytváraním obsahu – či už simuluje útoky na trénovanie obrany alebo vytvára vysvetlenia v prirodzenom jazyku pre zložité bezpečnostné údaje. Táto dvojitá schopnosť z nej robí dvojsečnú zbraň: ponúka nové výkonné obranné nástroje, ale môžu ju zneužiť aj útočníci. Nasledujúce časti skúmajú širokú škálu prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti, od automatizácie detekcie phishingu až po zlepšenie reakcie na incidenty. Diskutujeme tiež o výhodách, ktoré tieto inovácie umelej inteligencie sľubujú, spolu s rizikami (ako sú „halucinácie“ umelej inteligencie alebo zneužitie zo strany nepriateľa), ktoré musia organizácie riadiť. Nakoniec poskytujeme praktické rady, ktoré pomôžu podnikom vyhodnotiť a zodpovedne integrovať generatívnu umelú inteligenciu do ich stratégií kybernetickej bezpečnosti.

Generatívna umelá inteligencia v kybernetickej bezpečnosti: Prehľad

Generatívna umelá inteligencia v kybernetickej bezpečnosti označuje modely umelej inteligencie – často modely s rozsiahlymi jazykmi alebo iné neurónové siete – ktoré dokážu generovať poznatky, odporúčania, kód alebo dokonca syntetické údaje na pomoc pri bezpečnostných úlohách. Na rozdiel od čisto prediktívnych modelov dokáže generatívna umelá inteligencia simulovať scenáre a na základe svojich tréningových údajov vytvárať výstupy čitateľné človekom (napr. správy, upozornenia alebo dokonca vzorky škodlivého kódu). Táto schopnosť sa využíva na predpovedanie, detekciu a reakciu na hrozby dynamickejším spôsobom ako predtým ( Čo je generatívna umelá inteligencia v kybernetickej bezpečnosti? - Palo Alto Networks ). Generatívne modely napríklad dokážu analyzovať rozsiahle protokoly alebo úložiská informácií o hrozbách a vytvoriť stručné zhrnutie alebo odporúčanú akciu, čím fungujú takmer ako „asistent“ umelej inteligencie pre bezpečnostné tímy.

Prvé implementácie generatívnej umelej inteligencie pre kybernetickú obranu sa ukázali ako sľubné. V roku 2023 spoločnosť Microsoft predstavila Security Copilot , asistenta pre bezpečnostných analytikov s podporou GPT-4, ktorý pomáha identifikovať narušenia a preosiať 65 biliónov signálov, ktoré spoločnosť Microsoft denne spracováva ( Microsoft Security Copilot je nový asistent umelej inteligencie s podporou GPT-4 pre kybernetickú bezpečnosť | The Verge ). Analytici môžu tento systém ovládať v prirodzenom jazyku (napr. „Zhrnúť všetky bezpečnostné incidenty za posledných 24 hodín“ ) a Copilot vygeneruje užitočné naratívne zhrnutie. Podobne umelá inteligencia pre spravodajstvo o hrozbách používa generatívny model s názvom Gemini , ktorý umožňuje konverzačné vyhľadávanie v rozsiahlej databáze informácií o hrozbách od spoločnosti Google, rýchlo analyzuje podozrivý kód a sumarizuje zistenia, aby pomohla lovcom škodlivého softvéru ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). Tieto príklady ilustrujú potenciál: generatívna umelá inteligencia dokáže spracovať komplexné, rozsiahle údaje o kybernetickej bezpečnosti a prezentovať poznatky v prístupnej forme, čím urýchľuje rozhodovanie.

Zároveň dokáže generatívna umelá inteligencia vytvárať vysoko realistický falošný obsah, čo je prínosom pre simuláciu a tréning (a, žiaľ, aj pre útočníkov využívajúcich sociálne inžinierstvo). Keď prejdeme ku konkrétnym prípadom použitia, uvidíme, že schopnosť generatívnej umelej inteligencie syntetizovať aj analyzovať informácie je základom jej mnohých aplikácií v oblasti kybernetickej bezpečnosti. Nižšie sa ponoríme do kľúčových prípadov použitia, od prevencie phishingu až po vývoj bezpečného softvéru, s príkladmi toho, ako sa každý z nich uplatňuje v rôznych odvetviach.

Kľúčové aplikácie generatívnej umelej inteligencie v kybernetickej bezpečnosti

Obrázok: Medzi kľúčové prípady použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti patria kopiloti umelej inteligencie pre bezpečnostné tímy, analýza zraniteľností kódu, adaptívna detekcia hrozieb, simulácia útokov nulového dňa, vylepšená biometrická bezpečnosť a detekcia phishingu ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ).

Detekcia a prevencia phishingu

Phishing zostáva jednou z najrozšírenejších kybernetických hrozieb, ktorá láka používateľov, aby klikli na škodlivé odkazy alebo prezradili svoje prihlasovacie údaje. Generatívna umelá inteligencia sa nasadzuje na detekciu phishingových pokusov a na posilnenie školenia používateľov s cieľom zabrániť úspešným útokom. Na defenzívu môžu modely umelej inteligencie analyzovať obsah e-mailov a správanie odosielateľov, aby odhalili jemné známky phishingu, ktoré by filtre založené na pravidlách mohli prehliadnuť. Generatívny model sa učí z veľkých súborov údajov o legitímnych a podvodných e-mailoch a označuje anomálie v tóne, formulácii alebo kontexte, ktoré naznačujú podvod – aj keď gramatika a pravopis ho už neprezradia. Výskumníci spoločnosti Palo Alto Networks dokonca poznamenávajú, že generatívna umelá inteligencia dokáže identifikovať „jemné známky phishingových e-mailov, ktoré by inak mohli zostať neodhalené“, čo pomáha organizáciám zostať o krok vpred pred podvodníkmi ( Čo je generatívna umelá inteligencia v kybernetickej bezpečnosti? - Palo Alto Networks ).

Bezpečnostné tímy tiež používajú generatívnu umelú inteligenciu na simuláciu phishingových útokov na účely školenia a analýzy. Napríklad spoločnosť Ironscales predstavila nástroj na simuláciu phishingu s podporou GPT, ktorý automaticky generuje falošné phishingové e-maily prispôsobené zamestnancom organizácie ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). Tieto e-maily vytvorené umelou inteligenciou odrážajú najnovšie taktiky útočníkov a poskytujú zamestnancom realistický precvičovací postup pri odhaľovaní phishingového obsahu. Takéto personalizované školenie je kľúčové, pretože samotní útočníci používajú umelú inteligenciu na vytváranie presvedčivejších návnad. Je pozoruhodné, že hoci generatívna umelá inteligencia dokáže vytvárať veľmi prepracované phishingové správy (časy ľahko odhaliteľnej lámanej angličtiny sú preč), obrancovia zistili, že umelá inteligencia nie je neprekonateľná. V roku 2024 výskumníci spoločnosti IBM Security uskutočnili experiment porovnávajúci phishingové e-maily napísané ľuďmi s e-mailmi generovanými umelou inteligenciou a „prekvapivo sa e-maily generované umelou inteligenciou stále dali ľahko odhaliť napriek ich správnej gramatike“ ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ). To naznačuje, že ľudská intuícia v kombinácii s detekciou pomocou umelej inteligencie stále dokáže rozpoznať jemné nezrovnalosti alebo signály metadát v podvodoch napísaných umelou inteligenciou.

Generatívna umelá inteligencia pomáha pri ochrane proti phishingu aj inými spôsobmi. Modely sa dajú použiť na generovanie automatických odpovedí alebo filtrov , ktoré testujú podozrivé e-maily. Napríklad systém umelej inteligencie by mohol odpovedať na e-mail s určitými otázkami na overenie legitimity odosielateľa alebo použiť LLM na analýzu odkazov a príloh e-mailu v sandboxe a potom zhrnúť akýkoľvek škodlivý úmysel. Bezpečnostná platforma Morpheus demonštruje silu umelej inteligencie v tejto oblasti – používa generatívne modely NLP na rýchlu analýzu a klasifikáciu e-mailov a zistilo sa, že zlepšuje detekciu spear phishingových e-mailov o 21 % v porovnaní s tradičnými bezpečnostnými nástrojmi ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ). Morpheus dokonca profiluje komunikačné vzorce používateľov na detekciu nezvyčajného správania (napríklad používateľ, ktorý náhle odošle e-mail na mnoho externých adries), čo môže naznačovať, že napadnutý účet odosiela phishingové e-maily.

V praxi spoločnosti naprieč odvetviami začínajú dôverovať umelej inteligencii pri filtrovaní e-mailov a webovej prevádzky a odstraňovaní útokov sociálneho inžinierstva. Finančné firmy napríklad používajú generatívnu umelú inteligenciu na skenovanie komunikácie a vyhľadávanie pokusov o vydávanie sa za inú podobu, ktoré by mohli viesť k elektronickým podvodom, zatiaľ čo poskytovatelia zdravotnej starostlivosti nasadzujú umelú inteligenciu na ochranu údajov pacientov pred phishingovými útokmi. Generovaním realistických phishingových scenárov a identifikáciou charakteristických znakov škodlivých správ generatívna umelá inteligencia pridáva silnú vrstvu k stratégiám prevencie phishingu. Ponaučenie: Umelá inteligencia môže pomôcť odhaliť a zneškodniť phishingové útoky rýchlejšie a presnejšie, a to aj v prípade, že útočníci používajú rovnakú technológiu na vylepšenie svojej stratégie.

Detekcia škodlivého softvéru a analýza hrozieb

Moderný malware sa neustále vyvíja – útočníci generujú nové varianty alebo zahmlievajú kód, aby obišli antivírusové podpisy. Generatívna umelá inteligencia ponúka nové techniky na detekciu malvéru aj na pochopenie jeho správania. Jedným z prístupov je použitie umelej inteligencie na generovanie „zlých dvojčiat“ malvéru : bezpečnostní výskumníci môžu vložiť známu vzorku malvéru do generatívneho modelu a vytvoriť tak mnoho mutovaných variantov daného malvéru. Týmto spôsobom efektívne predvídajú úpravy, ktoré by útočník mohol vykonať. Tieto varianty generované umelou inteligenciou sa potom dajú použiť na trénovanie antivírusových systémov a systémov detekcie narušenia, takže aj upravené verzie malvéru sú rozpoznané v reálnom čase ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ). Táto proaktívna stratégia pomáha prelomiť cyklus, v ktorom hackeri mierne menia svoj malware, aby sa vyhli detekcii, a obrancovia sa musia zakaždým snažiť napísať nové podpisy. Ako bolo uvedené v jednom podcaste z odvetvia, bezpečnostní experti teraz používajú generatívnu umelú inteligenciu na „simuláciu sieťovej prevádzky a generovanie škodlivých údajov, ktoré napodobňujú sofistikované útoky“, čím testujú svoju obranu proti celej rodine hrozieb, a nie len proti jednému prípadu. Táto adaptívna detekcia hrozieb znamená, že bezpečnostné nástroje sa stávajú odolnejšími voči polymorfnému malvéru, ktorý by inak prešiel.

Okrem detekcie generatívna umelá inteligencia pomáha aj pri analýze škodlivého softvéru a reverznom inžinierstve , čo sú tradične pre analytikov hrozieb náročné úlohy. Rozsiahle jazykové modely môžu byť poverené skúmaním podozrivého kódu alebo skriptov a vysvetľovaním v jednoduchom jazyku, čo má kód robiť. Príkladom z reálneho sveta je VirusTotal Code Insight , funkcia od spoločnosti VirusTotal od spoločnosti Google, ktorá využíva generatívny model umelej inteligencie (Sec-PaLM od spoločnosti Google) na vytváranie súhrnov potenciálne škodlivého kódu v prirodzenom jazyku ( Ako možno použiť generatívnu umelú inteligenciu v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). V podstate ide o „typ ChatGPT venovaný bezpečnostnému kódovaniu“, ktorý funguje ako analytik škodlivého softvéru s umelou inteligenciou, ktorý pracuje 24 hodín denne, 7 dní v týždni, aby pomohol ľudským analytikom pochopiť hrozby ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ). Namiesto skúmania neznámeho skriptu alebo binárneho kódu môže člen bezpečnostného tímu získať okamžité vysvetlenie od umelej inteligencie – napríklad: „Tento skript sa pokúša stiahnuť súbor zo servera XYZ a potom upraviť nastavenia systému, čo naznačuje správanie škodlivého softvéru.“ To dramaticky zrýchľuje reakciu na incidenty, pretože analytici môžu triediť a porozumieť novému malvéru rýchlejšie ako kedykoľvek predtým.

Generatívna umelá inteligencia sa tiež používa na identifikáciu škodlivého softvéru v rozsiahlych súboroch údajov . Tradičné antivírusové nástroje skenujú súbory a hľadajú známe podpisy, ale generatívny model dokáže vyhodnotiť charakteristiky súboru a dokonca predpovedať, či je škodlivý na základe naučených vzorcov. Analýzou atribútov miliárd súborov (škodlivých aj benígnych) môže umelá inteligencia odhaliť škodlivý úmysel aj tam, kde neexistuje žiadny explicitný podpis. Napríklad generatívny model by mohol označiť spustiteľný súbor ako podozrivý, pretože jeho profil správania „vyzerá“ ako mierna variácia ransomvéru, ktorý videl počas trénovania, aj keď je binárny súbor nový. Táto detekcia založená na správaní pomáha bojovať proti novému alebo zero-day škodlivému softvéru. Umelá inteligencia hrozbami od spoločnosti Google (súčasť Chronicle/Mandiant) údajne používa svoj generatívny model na analýzu potenciálne škodlivého kódu a na „efektívnejšiu a účinnejšiu pomoc bezpečnostným profesionálom v boji proti škodlivému softvéru a iným typom hrozieb“. ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ).

Na druhej strane musíme uznať, že útočníci môžu použiť generatívnu umelú inteligenciu aj v tomto prípade – na automatické vytváranie malvéru, ktorý sa prispôsobuje. Bezpečnostní experti dokonca varujú, že generatívna umelá inteligencia môže kyberzločincom pomôcť vyvinúť malvér , ktorý je ťažšie odhaliť ( Čo je generatívna umelá inteligencia v kybernetickej bezpečnosti? - Palo Alto Networks ). Model umelej inteligencie môže byť inštruovaný, aby opakovane menil kus malvéru (menil štruktúru jeho súborov, metódy šifrovania atď.), kým sa nevyhne všetkým známym antivírusovým kontrolám. Toto nepriateľské použitie je rastúcim problémom (niekedy sa označuje ako „malvér poháňaný umelou inteligenciou“ alebo polymorfný malvér ako služba). O takýchto rizikách budeme diskutovať neskôr, ale zdôrazňuje to, že generatívna umelá inteligencia je nástrojom v tejto hre na mačku a myš, ktorú používajú obrancovia aj útočníci.

Celkovo generatívna umelá inteligencia zlepšuje obranu pred malvérom tým, že umožňuje bezpečnostným tímom myslieť ako útočník – generovať nové hrozby a riešenia interne. Či už ide o vytváranie syntetického malvéru na zlepšenie miery detekcie alebo o používanie umelej inteligencie na vysvetlenie a obmedzenie skutočného malvéru nachádzajúceho sa v sieťach, tieto techniky sa uplatňujú vo všetkých odvetviach. Banka môže použiť analýzu malvéru riadenú umelou inteligenciou na rýchlu analýzu podozrivého makra v tabuľke, zatiaľ čo výrobná firma sa môže spoľahnúť na umelú inteligenciu na detekciu malvéru zameraného na priemyselné riadiace systémy. Rozšírením tradičnej analýzy malvéru o generatívnu umelú inteligenciu môžu organizácie reagovať na kampane malvéru rýchlejšie a proaktívnejšie ako predtým.

Informácie o hrozbách a automatizovaná analýza

Organizácie sú každý deň bombardované údajmi o hrozbách – od novo objavených indikátorov kompromitácie (IOC) až po analytické správy o vznikajúcich hackerských taktikách. Výzvou pre bezpečnostné tímy je preosiať túto záplavu informácií a extrahovať z nich užitočné poznatky. Generatívna umelá inteligencia sa ukazuje ako neoceniteľná pri automatizácii analýzy a využívania informácií o hrozbách . Namiesto manuálneho čítania desiatok správ alebo databázových položiek môžu analytici využiť umelú inteligenciu na zhrnutie a kontextualizáciu informácií o hrozbách rýchlosťou stroja.

Threat Intelligence od spoločnosti Google , ktorý integruje generatívnu umelú inteligenciu (model Gemini) s množstvom údajov o hrozbách od spoločností Mandiant a VirusTotal. Táto umelá inteligencia poskytuje „konverzačné vyhľadávanie v rozsiahlom úložisku informácií o hrozbách od spoločnosti Google“ , čo používateľom umožňuje klásť prirodzené otázky o hrozbách a dostávať zhrnuté odpovede ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). Napríklad analytik by sa mohol opýtať: „Videli sme nejaký malvér súvisiaci so skupinou hrozieb X zameraný na naše odvetvie?“ a umelá inteligencia získa relevantné informácie, napríklad poznamenajúc: „Áno, skupina hrozieb X bola minulý mesiac prepojená s phishingovou kampaňou pomocou malvéru Y“ spolu so súhrnom správania tohto malvéru. To dramaticky skracuje čas potrebný na zhromažďovanie informácií, ktoré by inak vyžadovali vyhľadávanie vo viacerých nástrojoch alebo čítanie dlhých správ.

Generatívna umelá inteligencia dokáže tiež korelovať a sumarizovať trendy v oblasti hrozieb . Dokáže prehľadať tisíce blogových príspevkov o bezpečnosti, správ o narušeniach bezpečnosti a diskusií na dark webe a potom vygenerovať súhrn „najväčších kybernetických hrozieb tohto týždňa“ pre brífing CISO. Tradične si táto úroveň analýzy a reportovania vyžadovala značné ľudské úsilie; teraz ju dobre vyladený model dokáže vypracovať v priebehu niekoľkých sekúnd, pričom ľudia výstup iba spresňujú. Spoločnosti ako ZeroFox vyvinuli FoxGPT , generatívny nástroj umelej inteligencie špeciálne navrhnutý na „zrýchlenie analýzy a sumarizácie spravodajských informácií naprieč veľkými súbormi údajov“ vrátane škodlivého obsahu a phishingových údajov ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). Automatizáciou ťažkej práce s čítaním a krížovým porovnávaním údajov umožňuje umelá inteligencia tímom zaoberajúcim sa spravodajskými informáciami o hrozbách sústrediť sa na rozhodovanie a reakciu.

Ďalším prípadom použitia je konverzačné hľadanie hrozieb . Predstavte si bezpečnostného analytika, ktorý komunikuje s asistentom umelej inteligencie: „Ukážte mi akékoľvek známky úniku údajov za posledných 48 hodín“ alebo „Aké sú najčastejšie nové zraniteľnosti, ktoré útočníci tento týždeň zneužívajú?“ Umelá inteligencia dokáže interpretovať dopyt, prehľadávať interné protokoly alebo externé zdroje informácií a odpovedať jasnou odpoveďou alebo dokonca zoznamom relevantných incidentov. To nie je pritiahnuté za vlasy – moderné systémy riadenia bezpečnostných informácií a udalostí (SIEM) začínajú zahŕňať dotazovanie v prirodzenom jazyku. Napríklad bezpečnostný balík QRadar od spoločnosti IBM pridáva v roku 2024 generatívne funkcie umelej inteligencie, ktoré umožnia analytikom „klásť […] konkrétne otázky o súhrnnej ceste útoku“ incidentu a získať podrobné odpovede. Dokáže tiež „interpretovať a zhrnúť vysoko relevantné informácie o hrozbách“ ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). V podstate generatívna umelá inteligencia na požiadanie premieňa hory technických údajov na prehľady veľkosti chatu.

To má v rôznych odvetviach veľké dôsledky. Poskytovateľ zdravotnej starostlivosti môže pomocou umelej inteligencie sledovať najnovšie skupiny ransomvéru zamerané na nemocnice bez toho, aby musel venovať analytika výskumu na plný úväzok. Riaditeľ ochrany údajov (SOC) maloobchodnej spoločnosti môže rýchlo zhrnúť nové taktiky malvéru pre pokladničné systémy pri informovaní IT personálu predajne. A vo verejnej správe, kde je potrebné syntetizovať údaje o hrozbách z rôznych agentúr, môže umelá inteligencia vytvárať jednotné správy s dôrazom na kľúčové varovania. Automatizáciou zhromažďovania a interpretácie informácií o hrozbách pomáha generatívna umelá inteligencia organizáciám rýchlejšie reagovať na vznikajúce hrozby a znižuje riziko prehliadnutia kritických varovaní skrytých v rušivom prostredí.

Optimalizácia bezpečnostného operačného centra (SOC)

Centrá bezpečnostných operácií sú známe únavou z výstrah a ohromujúcim objemom údajov. Typický analytik SOC sa denne prebrodí tisíckami výstrah a udalostí a vyšetruje potenciálne incidenty. Generatívna umelá inteligencia funguje v SOC ako multiplikátor sily automatizáciou rutinnej práce, poskytovaním inteligentných súhrnov a dokonca aj organizovaním niektorých reakcií. Cieľom je optimalizovať pracovné postupy SOC tak, aby sa ľudskí analytici mohli sústrediť na najdôležitejšie problémy, zatiaľ čo kopilot s umelou inteligenciou sa postará o zvyšok.

Jednou z hlavných aplikácií je využitie generatívnej umelej inteligencie ako „analytikovho druhého pilota“ . Microsoft Security Copilot, ktorý bol spomenutý vyššie, je toho príkladom: „je navrhnutý tak, aby pomáhal bezpečnostnému analytikovi pri práci, a nie aby ju nahradil“, pomáha s vyšetrovaním a hlásením incidentov ( Microsoft Security Copilot je nový asistent umelej inteligencie GPT-4 pre kybernetickú bezpečnosť | The Verge ). V praxi to znamená, že analytik môže zadať nespracované údaje – protokoly firewallu, časovú os udalostí alebo popis incidentu – a požiadať umelú inteligenciu, aby ich analyzovala alebo zhrnula. Druhý pilot môže vydať naratív ako: „Zdá sa, že o 2:35 ráno sa podarilo podozrivé prihlásenie z IP adresy X na serveri Y, po ktorom nasledovali nezvyčajné prenosy údajov, čo naznačuje potenciálne narušenie bezpečnosti tohto servera.“ Tento druh okamžitej kontextualizácie je neoceniteľný, keď je čas kľúčový.

Kopiloti s umelou inteligenciou tiež pomáhajú znižovať záťaž triedenia na úrovni 1. Podľa údajov z odvetvia môže bezpečnostný tím stráviť 15 hodín týždenne len triedením približne 22 000 upozornení a falošne pozitívnych výsledkov ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ). Vďaka generatívnej umelej inteligencii je možné mnohé z týchto upozornení automaticky triediť – umelá inteligencia dokáže odmietnuť tie, ktoré sú jednoznačne neškodné (s uvedením zdôvodnenia) a zvýrazniť tie, ktoré skutočne vyžadujú pozornosť, niekedy dokonca navrhnúť prioritu. V skutočnosti sila generatívnej umelej inteligencie v chápaní kontextu znamená, že dokáže krížovo korelovať upozornenia, ktoré sa môžu samostatne zdať neškodné, ale spoločne naznačujú viacstupňový útok. To znižuje pravdepodobnosť prehliadnutia útoku kvôli „únave z upozornení“.

Analytici SOC tiež používajú prirodzený jazyk s umelou inteligenciou na urýchlenie vyhľadávania a vyšetrovania. Purple AI napríklad kombinuje rozhranie založené na LLM s bezpečnostnými údajmi v reálnom čase, čo analytikom umožňuje „klásť zložité otázky týkajúce sa vyhľadávania hrozieb v jednoduchej angličtine a získavať rýchle a presné odpovede“ ( Ako sa dá generatívna umelá inteligencia použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). Analytik by mohol napísať otázku: „Komunikovali nejaké koncové body s doménou badguy123[.]com za posledný mesiac?“ a umelá inteligencia Purple prehľadá protokoly, aby odpovedala. To analytikovi ušetrí písanie databázových dotazov alebo skriptov – umelá inteligencia to robí „pod kapotou“. To tiež znamená, že juniorní analytici môžu zvládať úlohy, ktoré predtým vyžadovali skúseného inžiniera so znalosťami dotazovacích jazykov, čím efektívne zvyšujú kvalifikáciu tímu prostredníctvom pomoci umelej inteligencie . Analytici skutočne uvádzajú, že generatívne vedenie pomocou umelej inteligencie „zvyšuje ich zručnosti a odbornosť“ , pretože mladší zamestnanci teraz môžu získať podporu s kódovaním alebo analytické tipy od umelej inteligencie na požiadanie, čím sa znižuje závislosť od neustáleho žiadania o pomoc od vedúcich členov tímu ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ).

Ďalšou optimalizáciou SOC je automatizované sumarizovanie a dokumentovanie incidentov . Po vyriešení incidentu musí niekto napísať správu – úloha, ktorú mnohí považujú za zdĺhavú. Generatívna umelá inteligencia dokáže vziať forenzné údaje (systémové protokoly, analýzu škodlivého softvéru, časovú os akcií) a vygenerovať prvý návrh správy o incidente. IBM túto funkciu zabudováva do QRadaru, aby bolo „jediným kliknutím“ vytvoriť súhrn incidentu pre rôzne zainteresované strany (vedúcich pracovníkov, IT tímy atď.) ( Ako možno generatívnu umelú inteligenciu využiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). To nielen šetrí čas, ale tiež zabezpečuje, že v správe sa nič neprehliadne, pretože umelá inteligencia môže konzistentne obsahovať všetky relevantné podrobnosti. Podobne, na účely dodržiavania predpisov a auditu, umelá inteligencia môže vypĺňať formuláre alebo tabuľky s dôkazmi na základe údajov o incidentoch.

Výsledky z reálneho sveta sú presvedčivé. Prví používatelia SOAR (bezpečnostná orchestrácia, automatizácia a reakcia) od spoločnosti Swimlane riadeného umelou inteligenciou (AI) hlásia obrovské zvýšenie produktivity – napríklad spoločnosť Global Data Systems zaznamenala, že ich tím SecOps zvládol oveľa väčšie množstvo prípadov; jeden riaditeľ povedal: „to, čo dnes robím so 7 analytikmi, by pravdepodobne vyžadovalo 20 zamestnancov bez“ automatizácie s umelou inteligenciou ( Ako sa dá generatívna umelá inteligencia použiť v kybernetickej bezpečnosti ). Inými slovami, umelá inteligencia v SOC môže znásobiť kapacitu . V rôznych odvetviach, či už ide o technologickú spoločnosť zaoberajúcu sa cloudovými bezpečnostnými upozorneniami alebo o výrobný závod monitorujúci OT systémy, tímy SOC môžu získať rýchlejšiu detekciu a reakciu, menej premeškaných incidentov a efektívnejšiu prevádzku vďaka prijatiu generatívnych asistentov umelej inteligencie. Ide o inteligentnejšiu prácu – umožnenie strojom zvládať opakujúce sa a dátovo náročné úlohy, aby ľudia mohli uplatniť svoju intuíciu a odborné znalosti tam, kde je to najdôležitejšie.

Riadenie zraniteľností a simulácia hrozieb

Identifikácia a správa zraniteľností – slabých miest v softvéri alebo systémoch, ktoré by útočníci mohli zneužiť – je základnou funkciou kybernetickej bezpečnosti. Generatívna umelá inteligencia zlepšuje správu zraniteľností tým, že urýchľuje ich objavovanie, pomáha pri prioritizácii záplat a dokonca simuluje útoky na tieto zraniteľnosti s cieľom zlepšiť pripravenosť. V podstate umelá inteligencia pomáha organizáciám rýchlejšie nájsť a opraviť diery v ich brnení a proaktívne testovať obranu skôr, ako to urobia skutoční útočníci.

Jednou z významných aplikácií je použitie generatívnej umelej inteligencie na automatizovanú kontrolu kódu a objavovanie zraniteľností . Veľké kódové bázy (najmä staršie systémy) často obsahujú bezpečnostné chyby, ktoré zostávajú nepovšimnuté. Modely generatívnej umelej inteligencie je možné trénovať na bezpečných kódovacích postupoch a bežných vzoroch chýb a potom ich uviesť do prevádzky na zdrojovom kóde alebo skompilovaných binárnych súboroch na nájdenie potenciálnych zraniteľností. Napríklad výskumníci spoločnosti NVIDIA vyvinuli generatívny kanál umelej inteligencie, ktorý by mohol analyzovať staršie softvérové ​​kontajnery a identifikovať zraniteľnosti „s vysokou presnosťou – až 4× rýchlejšie ako ľudskí experti.“ ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ). Umelá inteligencia sa v podstate naučila, ako vyzerá nezabezpečený kód, a bola schopná prehľadávať desaťročia starý softvér, aby označila rizikové funkcie a knižnice, čím výrazne urýchlila bežne pomalý proces manuálneho auditu kódu. Tento druh nástroja môže byť prelomový pre odvetvia, ako sú financie alebo vláda, ktoré sa spoliehajú na rozsiahle, staršie kódové bázy – umelá inteligencia pomáha modernizovať bezpečnosť tým, že odhaľuje problémy, ktorých nájdenie zamestnancom môže trvať mesiace alebo roky (ak vôbec).

Generatívna umelá inteligencia tiež pomáha v pracovných postupoch riadenia zraniteľností spracovaním výsledkov skenovania zraniteľností a ich prioritizáciou. Nástroje ako ExposureAI využívajú generatívnu umelú inteligenciu, aby umožnili analytikom vyhľadávať údaje o zraniteľnostiach v jednoduchom jazyku a získať okamžité odpovede ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). ExposureAI dokáže „zhrnúť celú cestu útoku v naratíve“ pre danú kritickú zraniteľnosť a vysvetliť, ako by ju útočník mohol prepojiť s ďalšími slabinami, aby ohrozil systém. Dokonca odporúča kroky na nápravu a odpovedá na následné otázky týkajúce sa rizika. To znamená, že keď je oznámená nová kritická CVE (bežné zraniteľnosti a expozície), analytik sa môže umelej inteligencie opýtať: „Sú niektoré z našich serverov ovplyvnené týmto CVE a aký je najhorší scenár, ak nenainštalujeme opravu?“ a získať jasné posúdenie vychádzajúce z vlastných údajov zo skenovania organizácie. Kontextualizáciou zraniteľností (napr. táto je vystavená internetu a na serveri s vysokou hodnotou, takže má najvyššiu prioritu) pomáha generatívna umelá inteligencia tímom inteligentne opravovať s obmedzenými zdrojmi.

Okrem vyhľadávania a správy známych zraniteľností prispieva generatívna umelá inteligencia k penetračnému testovaniu a simulácii útokov – v podstate objavuje neznáme zraniteľnosti alebo testuje bezpečnostné kontroly. Generatívne adverzárne siete (GAN), typ generatívnej umelej inteligencie, sa používajú na vytváranie syntetických údajov, ktoré napodobňujú skutočnú sieťovú prevádzku alebo správanie používateľov, ktoré môžu zahŕňať skryté vzory útokov. Štúdia z roku 2023 navrhla použitie GAN na generovanie realistickej prevádzky zero-day útokov na trénovanie systémov detekcie narušenia ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ). Poskytovaním útočných scenárov vytvorených umelou inteligenciou do systému IDS (ktoré neriskujú použitie skutočného škodlivého softvéru v produkčných sieťach) môžu organizácie trénovať svoju obranu na rozpoznávanie nových hrozieb bez toho, aby čakali, kým ich v skutočnosti zasiahnu. Podobne môže umelá inteligencia simulovať útočníka, ktorý skúma systém – napríklad automaticky skúša rôzne techniky zneužitia v bezpečnom prostredí, aby zistil, či niektoré z nich uspejú. Americká Agentúra pre pokročilé výskumné projekty v oblasti obrany (DARPA) v tomto vidí sľub: jej súťaž AI Cyber ​​Challenge z roku 2023 explicitne využíva generatívnu umelú inteligenciu (ako sú modely veľkých jazykov) na „automatické vyhľadávanie a opravu zraniteľností v softvéri s otvoreným zdrojovým kódom“ ako súčasť súťaže ( DARPA sa zameriava na vývoj aplikácií umelej inteligencie a autonómie, ktorým môžu bojovníci dôverovať > Ministerstvo obrany USA > Správy z ministerstva obrany ). Táto iniciatíva zdôrazňuje, že umelá inteligencia nielen pomáha opravovať známe diery, ale aktívne odhaľuje nové a navrhuje opravy, čo je úloha, ktorá je tradične obmedzená na kvalifikovaných (a drahých) bezpečnostných výskumníkov.

Generatívna umelá inteligencia dokáže dokonca vytvárať inteligentné honeypoty a digitálne dvojčatá na obranu. Startupy vyvíjajú návnadové systémy riadené umelou inteligenciou, ktoré presvedčivo napodobňujú skutočné servery alebo zariadenia. Ako vysvetlil jeden generálny riaditeľ, generatívna umelá inteligencia dokáže „klonovať digitálne systémy, aby napodobnila skutočné a nalákala hackerov“ ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ). Tieto honeypoty generované umelou inteligenciou sa správajú ako skutočné prostredie (napríklad falošné zariadenie internetu vecí odosielajúce normálnu telemetriu), ale existujú výlučne na prilákanie útočníkov. Keď sa útočník zameria na návnadu, umelá inteligencia ho v podstate oklamala, aby odhalil svoje metódy, ktoré potom môžu obrancovia študovať a použiť na posilnenie skutočných systémov. Tento koncept, založený na generatívnom modelovaní, poskytuje progresívny spôsob, ako obrátiť situáciu proti útočníkom pomocou klamstva vylepšeného umelou inteligenciou.

V rôznych odvetviach znamená rýchlejšia a inteligentnejšia správa zraniteľností menej narušení bezpečnosti. Napríklad v oblasti IT v zdravotníctve môže umelá inteligencia rýchlo odhaliť zraniteľnú, zastaranú knižnicu v zdravotníckom zariadení a vyvolať opravu firmvéru skôr, ako ju útočník zneužije. V bankovníctve by umelá inteligencia mohla simulovať útok zvnútra na novú aplikáciu, aby sa zabezpečilo, že údaje zákazníkov zostanú v bezpečí za všetkých scenárov. Generatívna umelá inteligencia tak funguje ako mikroskop aj záťažový tester bezpečnostného stavu organizácií: odhaľuje skryté nedostatky a vyvíja tlak na systémy nápaditými spôsobmi, aby sa zabezpečila odolnosť.

Bezpečné generovanie kódu a vývoj softvéru

Schopnosti generatívnej umelej inteligencie sa neobmedzujú len na detekciu útokov – rozširujú sa aj na vytváranie bezpečnejších systémov od samého začiatku . Vo vývoji softvéru môžu generátory kódu s umelou inteligenciou (ako GitHub Copilot, OpenAI Codex atď.) pomôcť vývojárom písať kód rýchlejšie tým, že im navrhnú úryvky kódu alebo dokonca celé funkcie. Z hľadiska kybernetickej bezpečnosti sa zabezpečuje bezpečnosť týchto úryvkov kódu navrhnutých umelou inteligenciou a umelá inteligencia sa využíva na zlepšenie kódovacích postupov.

Na jednej strane môže generatívna umelá inteligencia fungovať ako asistent kódovania, ktorý zahŕňa osvedčené postupy v oblasti bezpečnosti . Vývojári môžu spustiť nástroj umelej inteligencie „Vygenerujte funkciu na obnovenie hesla v jazyku Python“ a ideálne získať späť kód, ktorý je nielen funkčný, ale aj dodržiava bezpečnostné pokyny (napr. správne overovanie vstupu, protokolovanie, spracovanie chýb bez úniku informácií atď.). Takýto asistent, vyškolený na rozsiahlych príkladoch bezpečného kódu, môže pomôcť znížiť ľudské chyby, ktoré vedú k zraniteľnostiam. Napríklad, ak vývojár zabudne dezinfikovať vstup používateľa (otvorí tak dvere SQL injection alebo podobným problémom), umelá inteligencia by to mohla buď štandardne zahrnúť, alebo ho na to upozorniť. Niektoré nástroje na kódovanie umelej inteligencie sa teraz dolaďujú s údajmi zameranými na bezpečnosť, aby slúžili presne tomuto účelu – v podstate umelá inteligencia spáruje programovanie s bezpečnostným svedomím .

Existuje však aj odvrátená strana: generatívna umelá inteligencia môže rovnako ľahko zaviesť zraniteľnosti, ak nie je správne riadená. Ako poznamenal bezpečnostný expert spoločnosti Sophos Ben Verschaeren, používanie generatívnej umelej inteligencie na kódovanie je „v poriadku pre krátky, overiteľný kód, ale riskantné, keď sa do produkčných systémov integruje nekontrolovaný kód“ . Riziko spočíva v tom, že umelá inteligencia môže vytvoriť logicky správny kód, ktorý je nezabezpečený spôsobmi, ktoré by si neexpert nemusel všimnúť. Okrem toho by útočníci mohli úmyselne ovplyvniť verejné modely umelej inteligencie tým, že by ich osadili zraniteľnými vzormi kódu (forma otravy dát), takže umelá inteligencia by navrhla nezabezpečený kód. Väčšina vývojárov nie sú bezpečnostní experti , takže ak umelá inteligencia navrhne pohodlné riešenie, môže ho použiť naslepo, bez toho, aby si uvedomila, že má chybu ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ). Táto obava je reálna – v skutočnosti teraz existuje zoznam OWASP Top 10 pre LLM (modely veľkých jazykov), ktorý načrtáva bežné riziká, ako je toto, pri používaní umelej inteligencie na kódovanie.

Aby sa tieto problémy riešili, odborníci navrhujú v oblasti kódovania „bojovať proti generatívnej umelej inteligencii pomocou generatívnej umelej inteligencie“ kontrolu a testovanie kódu , ktorý napísala iná umelá inteligencia (alebo ľudia). Umelá inteligencia dokáže prehľadávať nové commity kódu oveľa rýchlejšie ako ľudský recenzent kódu a označiť potenciálne zraniteľnosti alebo logické problémy. Už teraz vidíme vznikajúce nástroje, ktoré sa integrujú do životného cyklu vývoja softvéru: kód sa napíše (možno s pomocou umelej inteligencie), potom ho generatívny model vyškolený na princípoch bezpečného kódu skontroluje a vygeneruje správu o akýchkoľvek problémoch (napríklad použitie zastaraných funkcií, chýbajúce kontroly autentifikácie atď.). Výskum spoločnosti NVIDIA, ktorý bol spomenutý vyššie, ktorý dosiahol 4-krát rýchlejšiu detekciu zraniteľností v kóde, je príkladom využitia umelej inteligencie na analýzu bezpečného kódu ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ).

Generatívna umelá inteligencia môže navyše pomôcť pri vytváraní bezpečných konfigurácií a skriptov . Napríklad, ak spoločnosť potrebuje nasadiť bezpečnú cloudovú infraštruktúru, inžinier by mohol požiadať umelú inteligenciu o vygenerovanie konfiguračných skriptov (infraštruktúra ako kód) s integrovanými bezpečnostnými kontrolami (ako je správna segmentácia siete, role IAM s najnižšími privilégiami). Umelá inteligencia, ktorá bola vyškolená na tisíckach takýchto konfigurácií, dokáže vytvoriť základnú líniu, ktorú potom inžinier doladí. To urýchľuje bezpečné nastavenie systémov a znižuje chyby spôsobené nesprávnou konfiguráciou – bežný zdroj incidentov v oblasti cloudovej bezpečnosti.

Niektoré organizácie tiež využívajú generatívnu umelú inteligenciu na udržiavanie znalostnej bázy o bezpečných kódovacích vzoroch. Ak si vývojár nie je istý, ako bezpečne implementovať určitú funkciu, môže sa obrátiť na internú umelú inteligenciu, ktorá sa poučila z predchádzajúcich projektov a bezpečnostných pokynov spoločnosti. Umelá inteligencia môže vrátiť odporúčaný prístup alebo dokonca úryvok kódu, ktorý je v súlade s funkčnými požiadavkami aj s bezpečnostnými štandardmi spoločnosti. Tento prístup používajú nástroje ako Secureframe's Questionnaire Automation , ktoré vyťahujú odpovede z politík spoločnosti a predchádzajúcich riešení, aby sa zabezpečili konzistentné a presné odpovede (v podstate generovanie bezpečnej dokumentácie) ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). Tento koncept sa prekladá do kódovania: umelá inteligencia, ktorá si „pamätá“, ako ste niečo predtým bezpečne implementovali, a vedie vás, aby ste to urobili týmto spôsobom znova.

Stručne povedané, generatívna umelá inteligencia ovplyvňuje vývoj softvéru tým, že sprístupňuje pomoc s bezpečným kódovaním . Odvetvia, ktoré vyvíjajú veľa softvéru na mieru – technológie, financie, obrana atď. – môžu profitovať z toho, že majú pomocníkov s umelou inteligenciou, ktorí nielen urýchľujú kódovanie, ale fungujú aj ako neustále ostražitý kontrolór bezpečnosti. Pri správnom riadení môžu tieto nástroje umelej inteligencie znížiť zavádzanie nových zraniteľností a pomôcť vývojovým tímom dodržiavať osvedčené postupy, a to aj v prípade, že tím nemá v každom kroku zapojeného bezpečnostného experta. Výsledkom je softvér, ktorý je od prvého dňa odolnejší voči útokom.

Podpora reakcie na incidenty

Keď dôjde k kybernetickému incidentu – či už ide o vypuknutie malvéru, únik údajov alebo výpadok systému v dôsledku útoku – čas je kritický. Generatívna umelá inteligencia sa čoraz viac používa na podporu tímov pre reakciu na incidenty (IR) pri rýchlejšiem zvládaní a náprave incidentov s väčším množstvom informácií. Myšlienkou je, že umelá inteligencia môže prevziať časť vyšetrovacej a dokumentačnej záťaže počas incidentu a dokonca navrhnúť alebo automatizovať niektoré reakčné opatrenia.

Jednou z kľúčových úloh umelej inteligencie v oblasti IR je analýza a sumarizácia incidentov v reálnom čase . Uprostred incidentu môžu záchranári potrebovať odpovede na otázky typu „Ako sa útočník dostal dnu?“ , „Ktoré systémy sú ovplyvnené?“ a „Aké údaje mohli byť ohrozené?“ . Generatívna umelá inteligencia dokáže analyzovať protokoly, upozornenia a forenzné údaje z postihnutých systémov a rýchlo poskytovať prehľady. Napríklad Microsoft Security Copilot umožňuje záchranárovi poskytnúť rôzne dôkazy (súbory, URL adresy, protokoly udalostí) a požiadať o časovú os alebo súhrn ( Microsoft Security Copilot je nový asistent umelej inteligencie GPT-4 pre kybernetickú bezpečnosť | The Verge ). Umelá inteligencia môže odpovedať takto: „Narušenie pravdepodobne začalo phishingovým e-mailom používateľovi JohnDoe o 10:53 GMT, ktorý obsahoval malvér X. Po spustení malvér vytvoril zadné vrátka, ktoré boli o dva dni neskôr použité na laterálny presun na finančný server, kde zhromažďoval údaje.“ Vďaka tomuto ucelenému obrazu v priebehu niekoľkých minút namiesto hodín môže tím oveľa rýchlejšie robiť informované rozhodnutia (napríklad ktoré systémy izolovať).

Generatívna umelá inteligencia môže tiež navrhnúť opatrenia na obmedzenie a nápravu . Napríklad, ak je koncový bod infikovaný ransomvérom, nástroj umelej inteligencie by mohol vygenerovať skript alebo súbor pokynov na izoláciu daného počítača, deaktiváciu určitých účtov a blokovanie známych škodlivých IP adries na firewalle – v podstate ide o spustenie podľa postupu. Spoločnosť Palo Alto Networks poznamenáva, že generatívna umelá inteligencia je schopná „generovať vhodné akcie alebo skripty na základe povahy incidentu“ a automatizovať počiatočné kroky reakcie ( Čo je generatívna umelá inteligencia v kybernetickej bezpečnosti? - Palo Alto Networks ). V scenári, keď je bezpečnostný tím preťažený (povedzme rozsiahly útok na stovky zariadení), by umelá inteligencia mohla dokonca priamo vykonať niektoré z týchto akcií za vopred schválených podmienok a správať sa ako juniorský respondent, ktorý pracuje neúnavne. Napríklad agent umelej inteligencie by mohol automaticky resetovať poverenia, ktoré považuje za ohrozené, alebo dať do karantény hostiteľov, ktorí vykazujú škodlivú aktivitu zodpovedajúcu profilu incidentu.

Počas reakcie na incident je komunikácia nevyhnutná – v rámci tímu aj so zainteresovanými stranami. Generatívna umelá inteligencia môže pomôcť tým, že vypracuje správy o aktualizáciách incidentov alebo stručné informácie za pochodu . Namiesto toho, aby inžinier prerušil riešenie problémov a napísal e-mailovú aktualizáciu, mohol by umelú inteligenciu požiadať: „Zhrňte, čo sa doteraz stalo v tomto incidente , aby ste informovali vedúcich pracovníkov.“ Umelá inteligencia po prijatí údajov o incidente môže vytvoriť stručné zhrnutie: „K 15:00 útočníci pristupovali k 2 používateľským účtom a 5 serverom. Medzi dotknuté údaje patria záznamy klientov v databáze X. Opatrenia na obmedzenie: Prístup k VPN pre napadnuté účty bol zrušený a servery izolované. Ďalšie kroky: skenovanie akýchkoľvek mechanizmov pretrvávania.“ Reagujúca osoba potom môže túto informáciu rýchlo overiť alebo upraviť a odoslať, čím sa zabezpečí, že zainteresované strany budú informované o presných a aktuálnych informáciách.

Po usadení prachu sa zvyčajne pripraví podrobná správa o incidente a zostaví sa poučenie. Toto je ďalšia oblasť, kde podpora umelej inteligencie vyniká. Dokáže preskúmať všetky údaje o incidente a vygenerovať správu po incidente, ktorá zahŕňa hlavnú príčinu, chronológiu, dopad a odporúčania. Napríklad spoločnosť IBM integruje generatívnu umelú inteligenciu na vytvorenie „jednoduchých súhrnov bezpečnostných prípadov a incidentov, ktoré je možné zdieľať so zainteresovanými stranami“ stlačením tlačidla ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). Zjednodušením následného podávania správ môžu organizácie rýchlejšie implementovať vylepšenia a tiež mať lepšiu dokumentáciu na účely dodržiavania predpisov.

Jedným inovatívnym využitím zameraným na budúcnosť sú simulácie incidentov riadené umelou inteligenciou . Podobne ako by sa dalo spustiť požiarne cvičenie, niektoré spoločnosti používajú generatívnu umelú inteligenciu na precvičovanie scenárov incidentov typu „čo ak“. Umelá inteligencia môže simulovať, ako by sa ransomvér mohol šíriť vzhľadom na rozloženie siete alebo ako by sa zasvätená osoba mohla vykradnúť z dát, a potom vyhodnotiť účinnosť aktuálnych plánov reakcie. To pomáha tímom pripraviť a vylepšiť stratégie ešte predtým, ako dôjde k skutočnému incidentu. Je to ako mať neustále sa zlepšujúceho poradcu pre reakciu na incidenty, ktorý neustále testuje vašu pripravenosť.

Vo vysoko rizikových odvetviach, ako sú financie alebo zdravotníctvo, kde sú prestoje alebo strata údajov v dôsledku incidentov obzvlášť nákladné, sú tieto IR funkcie riadené umelou inteligenciou veľmi atraktívne. Nemocnica, ktorá zažíva kybernetický incident, si nemôže dovoliť dlhodobé výpadky systému – umelá inteligencia, ktorá rýchlo pomáha s jeho obmedzením, môže doslova zachrániť život. Podobne môže finančná inštitúcia použiť umelú inteligenciu na zvládnutie počiatočného triedenia podozrenia z podvodného narušenia o 3:00 ráno, takže v čase, keď sú pohotovostní pracovníci online, je už veľa prípravných prác (odhlásenie postihnutých účtov, blokovanie transakcií atď.) hotových. Rozšírením tímov pre reakciu na incidenty o generatívnu umelú inteligenciu môžu organizácie výrazne skrátiť reakčné časy a zlepšiť dôkladnosť ich riešenia, čím sa v konečnom dôsledku zmiernia škody spôsobené kybernetickými incidentmi.

Behaviorálna analytika a detekcia anomálií

Mnohé kybernetické útoky možno odhaliť zaznamenaním odchýlok od „normálneho“ správania – či už ide o používateľský účet sťahujúci nezvyčajné množstvo údajov alebo sieťové zariadenie, ktoré náhle komunikuje s neznámym hostiteľom. Generatívna umelá inteligencia ponúka pokročilé techniky na analýzu správania a detekciu anomálií , učí sa bežné vzorce používateľov a systémov a následne signalizuje, keď sa niečo javí ako nezvyčajné.

Tradičná detekcia anomálií často využíva štatistické prahy alebo jednoduché strojové učenie na základe špecifických metrík (špičky využitia CPU, prihlásenie v nezvyčajných hodinách atď.). Generatívna umelá inteligencia to môže posunúť ďalej vytvorením precíznejších profilov správania. Napríklad model umelej inteligencie dokáže v priebehu času prijímať prihlásenia, vzorce prístupu k súborom a e-mailové návyky zamestnanca a vytvárať viacrozmerné chápanie „normálnosti“ daného používateľa. Ak tento účet neskôr urobí niečo drasticky mimo svojej normy (napríklad prihlásenie z novej krajiny a prístup k množstvu súborov HR o polnoci), umelá inteligencia by zistila odchýlku nielen na jednej metrike, ale ako na celom vzorci správania, ktorý nezodpovedá profilu používateľa. Z technického hľadiska generatívne modely (ako napríklad autoenkodéry alebo sekvenčné modely) dokážu modelovať, ako vyzerá „normálnosť“, a potom vygenerovať očakávaný rozsah správania. Keď realita prekročí tento rozsah, označí sa ako anomália ( Čo je generatívna umelá inteligencia v kybernetickej bezpečnosti? - Palo Alto Networks ).

Jednou z praktických implementácií je monitorovanie sieťovej prevádzky . Podľa prieskumu z roku 2024 54 % amerických organizácií uviedlo monitorovanie sieťovej prevádzky ako hlavný prípad použitia umelej inteligencie v kybernetickej bezpečnosti ( Severná Amerika: najlepšie prípady použitia umelej inteligencie v kybernetickej bezpečnosti na celom svete v roku 2024 ). Generatívna umelá inteligencia sa dokáže naučiť bežné komunikačné vzorce podnikovej siete – ktoré servery medzi sebou zvyčajne komunikujú, aké objemy údajov sa presúvajú počas pracovnej doby v porovnaní s nocou atď. Ak útočník začne odoberať údaje zo servera, aj keď pomaly, aby sa vyhol odhaleniu, systém založený na umelej inteligencii si môže všimnúť, že „Server A nikdy neodošle 500 MB údajov o 2:00 ráno na externú IP adresu“ a spustiť upozornenie. Keďže umelá inteligencia nepoužíva iba statické pravidlá, ale vyvíjajúci sa model správania siete, dokáže zachytiť jemné anomálie, ktoré by statické pravidlá (ako napríklad „upozornenie, ak údaje > X MB“) mohli prehliadnuť alebo omylom označiť. Táto adaptívna povaha robí detekciu anomálií riadenú umelou inteligenciou účinnou v prostrediach, ako sú bankové transakčné siete, cloudová infraštruktúra alebo flotily zariadení internetu vecí, kde je definovanie pevných pravidiel pre normálne a abnormálne rozlišovanie mimoriadne zložité.

Generatívna umelá inteligencia tiež pomáha s analýzou správania používateľov (UBA) , ktorá je kľúčová pre odhaľovanie vnútorných hrozieb alebo kompromitovaných účtov. Vygenerovaním základnej línie každého používateľa alebo entity dokáže umelá inteligencia odhaliť veci, ako je zneužitie poverení. Napríklad, ak Bob z účtovníctva zrazu začne vyhľadávať v databáze zákazníkov (čo nikdy predtým nerobil), model Bobovho správania v rámci umelej inteligencie to označí ako nezvyčajné. Nemusí to byť malvér – môže ísť o prípad, keď útočník ukradol a použil Bobove poverenia, alebo keď Bob pátra tam, kde by nemal. V každom prípade je bezpečnostný tím upozornený na vyšetrovanie. Takéto systémy UBA riadené umelou inteligenciou existujú v rôznych bezpečnostných produktoch a techniky generatívneho modelovania zvyšujú ich presnosť a znižujú počet falošných poplachov tým, že zohľadňujú kontext (možno je Bob na špeciálnom projekte atď., čo umelá inteligencia niekedy dokáže odvodiť z iných údajov).

V oblasti správy identít a prístupov detekcia deepfake rastúcou potrebou – generatívna umelá inteligencia dokáže vytvárať syntetické hlasy a videá, ktoré oklamú biometrickú bezpečnosť. Je zaujímavé, že generatívna umelá inteligencia dokáže pomôcť odhaliť tieto deepfake analýzou jemných artefaktov v zvuku alebo videu, ktoré si ľudia ťažko všimnú. Videli sme príklad so spoločnosťou Accenture, ktorá použila generatívnu umelú inteligenciu na simuláciu nespočetných výrazov tváre a podmienok na trénovanie svojich biometrických systémov, aby rozlišovali skutočných používateľov od deepfake generovaných umelou inteligenciou. Počas piatich rokov tento prístup pomohol spoločnosti Accenture eliminovať heslá pre 90 % jej systémov (prechod na biometriu a ďalšie faktory) a znížiť počet útokov o 60 % ( 6 prípadov použitia generatívnej umelej inteligencie v kybernetickej bezpečnosti [+ príklady] ). V podstate použili generatívnu umelú inteligenciu na posilnenie biometrickej autentifikácie, čím ju urobili odolnou voči generatívnym útokom (skvelý príklad boja umelej inteligencie proti umelej inteligencii). Tento druh behaviorálneho modelovania – v tomto prípade rozpoznávanie rozdielu medzi živou ľudskou tvárou a tvárou syntetizovanou umelou inteligenciou – je kľúčový, pretože sa pri autentifikácii viac spoliehame na umelú inteligenciu.

Detekcia anomálií pomocou generatívnej umelej inteligencie je uplatniteľná vo všetkých odvetviach: v zdravotníctve, monitorovanie správania zdravotníckych pomôcok a zistenie známok hackerského útoku; vo financiách, sledovanie obchodných systémov a zistenie nepravidelných vzorcov, ktoré by mohli naznačovať podvod alebo algoritmickú manipuláciu; v energetike/verejných službách, pozorovanie signálov riadiacich systémov a zistenie známok narušenia bezpečnosti. Kombinácia šírky (pozeranie sa na všetky aspekty správania) a hĺbky (pochopenie zložitých vzorcov), ktorú generatívna umelá inteligencia poskytuje, z nej robí účinný nástroj na odhaľovanie indikátorov kybernetického incidentu typu „hľadanie ihly v kope sena“. Keďže hrozby sa stávajú nenápadnejšími a skrývajú sa medzi bežnými operáciami, táto schopnosť presne charakterizovať „normál“ a upozorniť na odchýlky sa stáva nevyhnutnou. Generatívna umelá inteligencia tak slúži ako neúnavný strážca, ktorý sa neustále učí a aktualizuje svoju definíciu normality, aby držal krok so zmenami v prostredí a upozorňoval bezpečnostné tímy na anomálie, ktoré si zaslúžia bližšiu kontrolu.

Príležitosti a výhody generatívnej umelej inteligencie v kybernetickej bezpečnosti

Aplikácia generatívnej umelej inteligencie v kybernetickej bezpečnosti prináša množstvo príležitostí a výhod pre organizácie, ktoré sú ochotné tieto nástroje prijať. Nižšie uvádzame zhrnutie kľúčových výhod, vďaka ktorým je generatívna umelá inteligencia presvedčivým doplnkom programov kybernetickej bezpečnosti:

• Rýchlejšia detekcia a reakcia na hrozby: Generatívne systémy umelej inteligencie dokážu analyzovať obrovské množstvo údajov v reálnom čase a rozpoznávať hrozby oveľa rýchlejšie ako manuálna ľudská analýza. Táto výhoda v rýchlosti znamená skoršiu detekciu útokov a rýchlejšie obmedzenie incidentov. V praxi dokáže monitorovanie bezpečnosti riadené umelou inteligenciou zachytiť hrozby, ktorých korelácia by ľuďom trvala oveľa dlhšie. Promptnou reakciou na incidenty (alebo dokonca autonómnym vykonávaním počiatočných reakcií) môžu organizácie dramaticky skrátiť čas zotrvania útočníkov vo svojich sieťach a minimalizovať škody.

• Zlepšená presnosť a pokrytie hrozieb: Vďaka neustálemu učeniu sa z nových údajov sa generatívne modely dokážu prispôsobiť vyvíjajúcim sa hrozbám a zachytiť jemnejšie známky škodlivej aktivity. To vedie k zlepšenej presnosti detekcie (menej falošne negatívnych a falošne pozitívnych výsledkov) v porovnaní so statickými pravidlami. Napríklad umelá inteligencia, ktorá sa naučila rozpoznať znaky phishingového e-mailu alebo správania škodlivého softvéru, dokáže identifikovať varianty, ktoré sa doteraz nevideli. Výsledkom je širšie pokrytie typov hrozieb – vrátane nových útokov – čím sa posilňuje celková bezpečnostná pozícia. Bezpečnostné tímy tiež získavajú podrobné informácie z analýzy umelej inteligencie (napr. vysvetlenia správania škodlivého softvéru), čo umožňuje presnejšiu a cielenejšiu obranu ( Čo je generatívna umelá inteligencia v kybernetickej bezpečnosti? – Palo Alto Networks ).

• Automatizácia opakujúcich sa úloh: Generatívna umelá inteligencia vyniká v automatizácii rutinných, prácne náročných bezpečnostných úloh – od prehľadávania protokolov a zostavovania správ až po písanie skriptov reakcie na incidenty. Táto automatizácia znižuje záťaž ľudských analytikov a umožňuje im sústrediť sa na stratégiu na vysokej úrovni a komplexné rozhodovanie ( Čo je generatívna umelá inteligencia v kybernetickej bezpečnosti? - Palo Alto Networks ). Všedné, ale dôležité úlohy, ako je skenovanie zraniteľností, audit konfigurácie, analýza aktivity používateľov a reportovanie súladu, môže zvládnuť (alebo aspoň načrtnúť) umelá inteligencia. Zvládaním týchto úloh rýchlosťou stroja umelá inteligencia nielen zlepšuje efektivitu, ale aj znižuje ľudské chyby (významný faktor pri narušeniach bezpečnosti).

• Proaktívna obrana a simulácia: Generatívna umelá inteligencia umožňuje organizáciám prejsť od reaktívneho k proaktívnemu zabezpečeniu. Prostredníctvom techník, ako je simulácia útokov, generovanie syntetických údajov a školenie založené na scenároch, môžu obrancovia predvídať hrozby a pripraviť sa na ne skôr, ako sa prejavia v reálnom svete. Bezpečnostné tímy môžu simulovať kybernetické útoky (phishingové kampane, prepuknutia škodlivého softvéru, DDoS atď.) v bezpečnom prostredí, aby otestovali svoje reakcie a posilnili akékoľvek slabé stránky. Toto neustále školenie, ktoré je často nemožné dôkladne vykonať len ľudským úsilím, udržiava obranu ostrú a aktuálnu. Je to podobné kybernetickému „požiarnemu cvičeniu“ – umelá inteligencia môže na vašu obranu vrhnúť mnoho hypotetických hrozieb, aby ste si mohli precvičovať a zlepšovať sa.

• Rozšírenie ľudskej expertízy (UI ako multiplikátor sily): Generatívna UI funguje ako neúnavný juniorský analytik, poradca a asistent v jednom. Menej skúseným členom tímu môže poskytnúť poradenstvo a odporúčania, ktoré sa zvyčajne očakávajú od skúsených expertov, čím efektívne demokratizuje odbornosť v celom tíme ( 6 prípadov použitia generatívnej UI v kybernetickej bezpečnosti [+ príklady] ). Toto je obzvlášť cenné vzhľadom na nedostatok talentov v kybernetickej bezpečnosti – UI pomáha menším tímom robiť viac s menšími nákladmi. Skúsení analytici na druhej strane profitujú z toho, že UI zvláda náročnú prácu a odhaľuje nenápadné poznatky, ktoré potom môžu overiť a na základe nich konať. Celkovým výsledkom je bezpečnostný tím, ktorý je oveľa produktívnejší a schopnejší, pričom UI zosilňuje vplyv každého ľudského člena ( Ako možno generatívnu UI použiť v kybernetickej bezpečnosti ).

• Vylepšená podpora rozhodovania a reportovania: Prekladom technických údajov do prirodzeného jazyka generatívna umelá inteligencia zlepšuje komunikáciu a rozhodovanie. Vedúci pracovníci v oblasti bezpečnosti získavajú jasnejší prehľad o problémoch prostredníctvom súhrnov generovaných umelou inteligenciou a môžu robiť informované strategické rozhodnutia bez toho, aby museli analyzovať nespracované údaje. Podobne sa zlepšuje aj medzifunkčná komunikácia (s vedúcimi pracovníkmi, pracovníkmi pre dodržiavanie predpisov atď.), keď umelá inteligencia pripravuje ľahko zrozumiteľné správy o stave bezpečnosti a incidentoch ( Ako možno generatívnu umelú inteligenciu využiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). To nielen buduje dôveru a súlad v bezpečnostných záležitostiach na úrovni vedenia, ale tiež pomáha odôvodniť investície a zmeny jasným vyjadrením rizík a medzier objavených umelou inteligenciou.

Tieto výhody v kombinácii znamenajú, že organizácie využívajúce generatívnu umelú inteligenciu v kybernetickej bezpečnosti môžu dosiahnuť silnejšiu bezpečnostnú pozíciu s potenciálne nižšími prevádzkovými nákladmi. Môžu reagovať na hrozby, ktoré boli predtým ohromujúce, prekrývať medzery, ktoré zostali nemonitorované, a neustále sa zlepšovať prostredníctvom spätných väzieb riadených umelou inteligenciou. Generatívna umelá inteligencia v konečnom dôsledku ponúka šancu predbehnúť protivníkov tým, že rýchlosť , rozsah a sofistikovanosť moderných útokov vyrovná rovnako sofistikovanej obrane. Ako zistil jeden prieskum, viac ako polovica obchodných a kybernetických lídrov očakáva rýchlejšiu detekciu hrozieb a zvýšenú presnosť vďaka použitiu generatívnej umelej inteligencie ( [PDF] Globálny výhľad kybernetickej bezpečnosti 2025 | Svetové ekonomické fórum ) ( Generatívnej umelej inteligencie v kybernetickej bezpečnosti: Komplexný prehľad LLM ... ) – čo svedčí o optimizme okolo výhod týchto technológií.

Riziká a výzvy používania generatívnej umelej inteligencie v kybernetickej bezpečnosti

Hoci sú príležitosti značné, je nevyhnutné pristupovať ku generatívnej umelej inteligencii v kybernetickej bezpečnosti s otvorenými očami voči rizikám a výzvam, ktoré s tým súvisia. Slepá dôvera v umelú inteligenciu alebo jej zneužívanie môže viesť k novým zraniteľnostiam. Nižšie uvádzame hlavné obavy a úskalia spolu s kontextom každého z nich:

• Využitie kyberzločincami proti nepriateľovi: Tie isté generatívne schopnosti, ktoré pomáhajú obrancom, môžu posilniť útočníkov. Aktéri hrozby už používajú generatívnu umelú inteligenciu na vytváranie presvedčivejších phishingových e-mailov, vytváranie falošných person a deepfake videí pre sociálne inžinierstvo, vývoj polymorfného malvéru, ktorý sa neustále mení, aby sa vyhol odhaleniu, a dokonca automatizujú aspekty hackovania ( Čo je generatívna umelá inteligencia v kybernetickej bezpečnosti? - Palo Alto Networks ). Takmer polovica (46 %) lídrov v oblasti kybernetickej bezpečnosti sa obáva, že generatívna umelá inteligencia povedie k pokročilejším útokom proti nepriateľovi ( Generatívne zabezpečenie umelou inteligenciou: Trendy, hrozby a stratégie zmierňovania ). Tieto „preteky v zbrojení s umelou inteligenciou“ znamenajú, že keď obrancovia prijmú umelú inteligenciu, útočníci nebudú ďaleko pozadu (v skutočnosti môžu byť v niektorých oblastiach vpred, pretože používajú neregulované nástroje umelej inteligencie). Organizácie musia byť pripravené na hrozby vylepšené umelou inteligenciou, ktoré sú častejšie, sofistikovanejšie a ťažko sledovateľné.

• Halucinácie a nepresnosť umelej inteligencie: Generatívne modely umelej inteligencie môžu produkovať výstupy, ktoré sú vierohodné, ale nesprávne alebo zavádzajúce – jav známy ako halucinácie. V bezpečnostnom kontexte môže umelá inteligencia analyzovať incident a chybne dospieť k záveru, že príčinou bola určitá zraniteľnosť, alebo môže vygenerovať chybný sanačný skript, ktorý útok nezastaví. Tieto chyby môžu byť nebezpečné, ak sa berú doslova. Ako varuje spoločnosť NTT Data, „generatívna umelá inteligencia môže vierohodne produkovať nepravdivý obsah a tento jav sa nazýva halucinácie... v súčasnosti je ťažké ich úplne eliminovať“ ( Bezpečnostné riziká generatívnej umelej inteligencie a protiopatrení a jej vplyv na kybernetickú bezpečnosť | NTT DATA Group ). Prílišné spoliehanie sa na umelú inteligenciu bez overenia by mohlo viesť k nesprávnemu úsiliu alebo falošnému pocitu bezpečia. Napríklad umelá inteligencia môže falošne označiť kritický systém ako bezpečný, hoci nie je, alebo naopak vyvolať paniku „detekciou“ narušenia, ku ktorému nikdy nedošlo. Na zmiernenie tohto rizika je nevyhnutné dôkladné overovanie výstupov umelej inteligencie a zapojenie ľudí do kritických rozhodnutí.

• Falošne pozitívne a negatívne výsledky: V súvislosti s halucináciami, ak je model umelej inteligencie zle natrénovaný alebo nakonfigurovaný, môže nadmerne hlásiť neškodnú aktivitu ako škodlivú (falošne pozitívne výsledky) alebo, čo je horšie, prehliadnuť skutočné hrozby (falošne negatívne výsledky) ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti ). Nadmerné množstvo falošných poplachov môže bezpečnostné tímy zahltiť a viesť k únave z poplachov (čo zmarie samotné zvýšenie efektivity, ktoré umelá inteligencia sľubovala), zatiaľ čo zmeškané detekcie nechávajú organizáciu vystavenú riziku. Ladenie generatívnych modelov pre správnu rovnováhu je náročné. Každé prostredie je jedinečné a umelá inteligencia nemusí okamžite fungovať optimálne po vybalení z krabice. Neustále učenie je tiež dvojsečná zbraň – ak sa umelá inteligencia učí zo skreslenej spätnej väzby alebo z prostredia, ktoré sa mení, jej presnosť môže kolísať. Bezpečnostné tímy musia monitorovať výkon umelej inteligencie a upravovať prahové hodnoty alebo poskytovať modelom nápravnú spätnú väzbu. V kontextoch s vysokými stávkami (ako je detekcia narušení kritickej infraštruktúry) môže byť rozumné spúšťať návrhy umelej inteligencie súbežne s existujúcimi systémami počas určitého obdobia, aby sa zabezpečilo, že sa zosúladia a dopĺňajú, a nie že budú v konflikte.

• Súkromie a únik údajov: Generatívne systémy umelej inteligencie často vyžadujú na trénovanie a prevádzku veľké množstvo údajov. Ak sú tieto modely založené na cloude alebo nie sú správne izolované, existuje riziko úniku citlivých informácií. Používatelia môžu neúmyselne vložiť proprietárne údaje alebo osobné údaje do služby umelej inteligencie (predstavte si, že požiadate ChatGPT o zhrnutie dôvernej správy o incidente) a tieto údaje by sa mohli stať súčasťou znalostí modelu. Nedávna štúdia skutočne zistila, že 55 % vstupov do generatívnych nástrojov umelej inteligencie obsahovalo citlivé alebo osobne identifikovateľné informácie , čo vyvoláva vážne obavy z úniku údajov ( Bezpečnosť generatívnej umelej inteligencie: Trendy, hrozby a stratégie zmierňovania ). Okrem toho, ak bola umelá inteligencia trénovaná na interných údajoch a je dopytovaná určitými spôsobmi, môže poskytnúť niekomu inému. Organizácie musia zaviesť prísne zásady manipulácie s údajmi (napr. používanie lokálnych alebo súkromných inštancií umelej inteligencie pre citlivý materiál) a vzdelávať zamestnancov o tom, aby nevkladali tajné informácie do verejných nástrojov umelej inteligencie. Do hry vstupujú aj predpisy o ochrane osobných údajov (GDPR atď.) – používanie osobných údajov na trénovanie umelej inteligencie bez riadneho súhlasu alebo ochrany by mohlo byť v rozpore so zákonmi.

• Bezpečnosť a manipulácia s modelmi: Generatívne modely umelej inteligencie sa môžu stať samotnými cieľmi. Útočníci sa môžu pokúsiť o otrávenie modelu , poskytovaním škodlivých alebo zavádzajúcich údajov počas fázy trénovania alebo pretrénovania, aby sa umelá inteligencia naučila nesprávne vzorce ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti ). Napríklad útočník môže nenápadne otráviť údaje o hrozbách, aby umelá inteligencia nerozpoznala útočníkov vlastný malvér ako škodlivý. Ďalšou taktikou je promptná injekcia alebo manipulácia s výstupmi , kde útočník nájde spôsob, ako zadať AI vstupy, ktoré spôsobia, že sa správa nezamýšľaným spôsobom – možno ignoruje jej bezpečnostné opatrenia alebo odhalí informácie, ktoré by nemala (napríklad interné výzvy alebo údaje). Okrem toho existuje riziko obchádzania modelu : útočníci vytvárajú vstupy špeciálne navrhnuté tak, aby oklamali umelú inteligenciu. Vidíme to v príkladoch konfrontácie – mierne narušené údaje, ktoré človek vníma ako normálne, ale umelá inteligencia ich nesprávne klasifikuje. Zabezpečenie dodávateľského reťazca umelej inteligencie (integrita údajov, riadenie prístupu k modelu, testovanie robustnosti v konfrontácii) je novou, ale nevyhnutnou súčasťou kybernetickej bezpečnosti pri nasadzovaní týchto nástrojov ( Čo je generatívna umelá inteligencia v kybernetickej bezpečnosti? - Palo Alto Networks ).

• Prílišné spoliehanie sa a erózia zručností: Existuje menšie riziko, že sa organizácie môžu príliš spoliehať na umelú inteligenciu a nechať ľudské zručnosti atrofizovať. Ak juniorní analytici začnú slepo dôverovať výstupom umelej inteligencie, nemusia si vyvinúť kritické myslenie a intuíciu potrebnú pre situácie, keď umelá inteligencia nie je k dispozícii alebo sa mýli. Scenár, ktorému sa treba vyhnúť, je bezpečnostný tím, ktorý má skvelé nástroje, ale nevie, ako s nimi pracovať, ak tieto nástroje zlyhajú (podobne ako piloti, ktorí sa príliš spoliehajú na autopilota). Pravidelné školenia bez pomoci umelej inteligencie a pestovanie zmýšľania, že umelá inteligencia je asistent, nie neomylný veštca, sú dôležité pre udržanie bystrých ľudských analytikov. Ľudia musia zostať konečnými rozhodovacími orgánmi, najmä pri rozhodnutiach s vysokým dopadom.

• Etické a súladné výzvy: Používanie umelej inteligencie v kybernetickej bezpečnosti vyvoláva etické otázky a mohlo by viesť k problémom s dodržiavaním predpisov. Napríklad, ak systém umelej inteligencie nesprávne označí zamestnanca za zlomyseľného zasvätenca z dôvodu anomálie, mohlo by to nespravodlivo poškodiť reputáciu alebo kariéru tejto osoby. Rozhodnutia prijaté umelou inteligenciou môžu byť nepriehľadné (problém „čiernej skrinky“), čo sťažuje audítorom alebo regulačným orgánom vysvetlenie, prečo boli prijaté určité opatrenia. Keďže obsah generovaný umelou inteligenciou sa stáva čoraz rozšírenejším, zabezpečenie transparentnosti a udržiavanie zodpovednosti je kľúčové. Regulačné orgány začínajú umelú inteligenciu skúmať – napríklad zákon EÚ o umelej inteligencii uloží požiadavky na „vysoko rizikové“ systémy umelej inteligencie a umelá inteligencia v kybernetickej bezpečnosti by mohla spadať do tejto kategórie. Spoločnosti sa budú musieť v týchto predpisoch orientovať a prípadne dodržiavať štandardy, ako je rámec riadenia rizík pre umelú inteligenciu NIST, aby mohli zodpovedne používať generatívnu umelú inteligenciu ( Ako sa dá generatívna umelá inteligencia použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). Súlad sa vzťahuje aj na licencovanie: používanie modelov s otvoreným zdrojovým kódom alebo modelov tretích strán môže mať podmienky, ktoré obmedzujú určité použitia alebo vyžadujú vylepšenia zdieľania.

Stručne povedané, generatívna umelá inteligencia nie je zázračným liekom – ak sa neimplementuje starostlivo, môže priniesť nové slabiny, a to aj napriek tomu, že rieši iné. Štúdia Svetového ekonomického fóra z roku 2024 zdôraznila, že ~47 % organizácií uvádza pokroky v generatívnej umelej inteligencii zo strany útočníkov ako primárny problém, čo z nej robí „najznepokojujúcejší vplyv generatívnej umelej inteligencie“ v oblasti kybernetickej bezpečnosti ( [PDF] Globálny výhľad kybernetickej bezpečnosti 2025 | Svetové ekonomické fórum ) ( Generatívnej umelej inteligencie v kybernetickej bezpečnosti: Komplexný prehľad LLM ... ). Organizácie preto musia prijať vyvážený prístup: využiť výhody umelej inteligencie a zároveň dôsledne riadiť tieto riziká prostredníctvom riadenia, testovania a ľudského dohľadu. Ďalej budeme diskutovať o tom, ako túto rovnováhu prakticky dosiahnuť.

Výhľad do budúcnosti: Vyvíjajúca sa úloha generatívnej umelej inteligencie v kybernetickej bezpečnosti

S výhľadom do budúcnosti sa generatívna umelá inteligencia stáva neoddeliteľnou súčasťou stratégie kybernetickej bezpečnosti – a zároveň nástrojom, ktorý budú kybernetickí protivníci naďalej zneužívať. Dynamika hry mačky a myši sa zrýchli a umelá inteligencia bude na oboch stranách plota. Tu je niekoľko výhľadových poznatkov o tom, ako by generatívna umelá inteligencia mohla v nasledujúcich rokoch formovať kybernetickú bezpečnosť:

• Kybernetická obrana rozšírená o umelú inteligenciu sa stáva štandardom: Do roku 2025 a neskôr môžeme očakávať, že väčšina stredných až veľkých organizácií začlení nástroje založené na umelej inteligencii do svojich bezpečnostných operácií. Rovnako ako sú dnes antivírusy a firewally štandardom, aj kopiloti umelej inteligencie a systémy na detekciu anomálií sa môžu stať základnými súčasťami bezpečnostných architektúr. Tieto nástroje sa pravdepodobne stanú špecializovanejšími – napríklad samostatné modely umelej inteligencie vyladené pre cloudovú bezpečnosť, monitorovanie zariadení internetu vecí, zabezpečenie aplikačného kódu atď., pričom všetky budú fungovať spoločne. Ako sa uvádza v jednej predpovedi, „v roku 2025 bude generatívna umelá inteligencia neoddeliteľnou súčasťou kybernetickej bezpečnosti, čo organizáciám umožní proaktívne sa brániť pred sofistikovanými a vyvíjajúcimi sa hrozbami“ ( Ako sa dá generatívna umelá inteligencia použiť v kybernetickej bezpečnosti ). Umelá inteligencia zlepší detekciu hrozieb v reálnom čase, automatizuje mnohé reakčné akcie a pomôže bezpečnostným tímom spravovať oveľa väčšie objemy údajov, ako by mohli spravovať manuálne.

• Neustále učenie a adaptácia: Budúce generatívne systémy umelej inteligencie v kybernetickej oblasti sa zlepšia v učení sa za chodu z nových incidentov a spravodajských informácií o hrozbách a budú aktualizovať svoju vedomostnú základňu takmer v reálnom čase. To by mohlo viesť k skutočne adaptívnej obrane – predstavte si umelú inteligenciu, ktorá sa ráno dozvie o novej phishingovej kampani zasiahnutej inou spoločnosťou a popoludní už v reakcii upraví e-mailové filtre vašej spoločnosti. Cloudové bezpečnostné služby umelej inteligencie by mohli uľahčiť tento druh kolektívneho učenia, kde anonymizované poznatky z jednej organizácie prospievajú všetkým predplatiteľom (podobne ako zdieľanie informácií o hrozbách, ale automatizované). Bude si to však vyžadovať opatrné zaobchádzanie, aby sa predišlo zdieľaniu citlivých informácií a aby sa zabránilo útočníkom vkladať nesprávne údaje do zdieľaných modelov.

• Konvergencia talentov v oblasti umelej inteligencie a kybernetickej bezpečnosti: Zručnosti profesionálov v oblasti kybernetickej bezpečnosti sa budú vyvíjať a budú zahŕňať aj znalosti umelej inteligencie a dátovej vedy. Rovnako ako sa dnešní analytici učia dotazovacie jazyky a skriptovanie, aj analytici zajtrajška budú môcť pravidelne dolaďovať modely umelej inteligencie alebo písať „príručky“ pre umelú inteligenciu. Môžeme vidieť nové pozície, ako napríklad „školiteľ bezpečnosti umelej inteligencie“ alebo „inžinier kybernetickej bezpečnosti umelej inteligencie“ – ľudí, ktorí sa špecializujú na prispôsobovanie nástrojov umelej inteligencie potrebám organizácie, overovanie ich výkonnosti a zabezpečenie ich bezpečného fungovania. Na druhej strane, vývoj umelej inteligencie budú čoraz viac ovplyvňovať aspekty kybernetickej bezpečnosti. Systémy umelej inteligencie budú od základov budované s bezpečnostnými funkciami (bezpečná architektúra, detekcia neoprávnených zásahov, audítorské protokoly pre rozhodnutia umelej inteligencie atď.) a ich nasadenie v kontextoch kritických z hľadiska bezpečnosti bude usmerňované dôveryhodnú umelú inteligenciu

• Sofistikovanejšie útoky s využitím umelej inteligencie: Bohužiaľ, s umelou inteligenciou sa bude vyvíjať aj oblasť hrozieb. Očakávame častejšie používanie umelej inteligencie na odhaľovanie zraniteľností typu „zero-day“, na vytváranie vysoko cieleného spear phishingu (napr. umelá inteligencia scrapinguje sociálne médiá, aby vytvorila dokonale prispôsobenú návnadu) a na generovanie presvedčivých deepfake hlasov alebo videí na obchádzanie biometrickej autentifikácie alebo páchanie podvodov. Môžu sa objaviť automatizovaní hackerskí agenti, ktorí dokážu nezávisle vykonávať viacstupňové útoky (prieskum, zneužívanie, laterálny pohyb atď.) s minimálnym ľudským dohľadom. To bude tlačiť obrancov, aby sa tiež spoliehali na umelú inteligenciu – v podstate automatizácia vs. automatizácia . Niektoré útoky sa môžu vyskytnúť rýchlosťou stroja, napríklad boty umelej inteligencie skúšajú tisíc permutácií phishingových e-mailov, aby zistili, ktorá z nich prejde filtrami. Kybernetická obrana bude musieť fungovať podobnou rýchlosťou a flexibilitou, aby udržala krok ( Čo je generatívna umelá inteligencia v kybernetickej bezpečnosti? - Palo Alto Networks ).

• Regulácia a etická umelá inteligencia v bezpečnosti: Keďže sa umelá inteligencia stáva hlboko zakorenenou v kybernetických bezpečnostných funkciách, dôjde k väčšej kontrole a pravdepodobne aj k regulácii, aby sa zabezpečilo zodpovedné používanie týchto systémov umelej inteligencie. Môžeme očakávať rámce a štandardy špecifické pre umelú inteligenciu v bezpečnosti. Vlády by mohli stanoviť usmernenia pre transparentnosť – napr. vyžadovať, aby významné bezpečnostné rozhodnutia (ako napríklad ukončenie prístupu zamestnanca v prípade podozrenia z škodlivej činnosti) nemohla robiť umelá inteligencia samostatne bez kontroly človekom. Môžu existovať aj certifikácie pre bezpečnostné produkty umelej inteligencie, aby sa kupujúci uistili, že umelá inteligencia bola hodnotená z hľadiska zaujatosti, robustnosti a bezpečnosti. Okrem toho by sa mohla rozšíriť medzinárodná spolupráca v oblasti kybernetických hrozieb súvisiacich s umelou inteligenciou; napríklad dohody o nakladaní s dezinformáciami vytvorenými umelou inteligenciou alebo normy proti určitým kybernetickým zbraniam poháňaným umelou inteligenciou.

• Integrácia so širšími ekosystémami umelej inteligencie a IT: Generatívna umelá inteligencia v kybernetickej bezpečnosti sa pravdepodobne integruje s inými systémami umelej inteligencie a nástrojmi na správu IT. Napríklad umelá inteligencia, ktorá riadi optimalizáciu siete, by mohla spolupracovať s bezpečnostnou umelou inteligenciou, aby sa zabezpečilo, že zmeny neotvoria medzery. Obchodná analytika riadená umelou inteligenciou by mohla zdieľať údaje s bezpečnostnými umelými inteligenciami, aby korelovala anomálie (ako napríklad náhly pokles predaja s možným problémom s webovou stránkou v dôsledku útoku). V podstate umelá inteligencia nebude existovať izolovane – bude súčasťou väčšej inteligentnej štruktúry operácií organizácie. To otvára príležitosti pre holistické riadenie rizík, kde by umelá inteligencia mohla kombinovať prevádzkové údaje, údaje o hrozbách a dokonca aj údaje o fyzickej bezpečnosti, aby poskytla 360-stupňový pohľad na stav bezpečnosti organizácie.

Z dlhodobého hľadiska existuje nádej, že generatívna umelá inteligencia pomôže nakloniť rovnováhu v prospech obrancov. Zvládnutím rozsahu a komplexnosti moderných IT prostredí môže umelá inteligencia zvýšiť obranu kybernetického priestoru. Je to však cesta a pri zdokonaľovaní týchto technológií a učení sa im primerane dôverovať budú existovať určité ťažkosti. Organizácie, ktoré zostanú informované a investujú do zodpovedného zavádzania umelej inteligencie v oblasti bezpečnosti, budú pravdepodobne tie, ktoré budú najlepšie pripravené zvládnuť hrozby budúcnosti.

Ako sa uvádza v nedávnej správe spoločnosti Gartner o trendoch v kybernetickej bezpečnosti, „vznik generatívnych prípadov použitia (a rizík) umelej inteligencie vytvára tlak na transformáciu“ ( Trendy v kybernetickej bezpečnosti: Odolnosť prostredníctvom transformácie - Gartner ). Tí, ktorí sa prispôsobia, využijú umelú inteligenciu ako silného spojenca; tí, ktorí zaostávajú, sa môžu ocitnúť predbehnutí protivníkmi s umelou inteligenciou. Najbližších niekoľko rokov bude kľúčovým obdobím pri definovaní toho, ako umelá inteligencia pretvára kybernetické bojisko.

Praktické poznatky o prijatí generatívnej umelej inteligencie v kybernetickej bezpečnosti

Pre firmy, ktoré hodnotia, ako využiť generatívnu umelú inteligenciu vo svojej stratégii kybernetickej bezpečnosti, uvádzame niekoľko praktických poznatkov a odporúčaní, ktoré vám pomôžu zodpovedne a efektívne ju prijať:

1. Začnite so vzdelávaním a školením: Uistite sa, že váš bezpečnostný tím (a širší IT personál) rozumie tomu, čo generatívna umelá inteligencia dokáže a čo nemôže robiť. Poskytnite školenie o základoch bezpečnostných nástrojov riadených umelou inteligenciou a aktualizujte svoje programy na zvyšovanie povedomia o bezpečnosti pre všetkých zamestnancov tak, aby zahŕňali hrozby, ktoré umelá inteligencia umožňuje. Napríklad naučte zamestnancov, ako dokáže umelá inteligencia generovať veľmi presvedčivé phishingové podvody a deepfake hovory. Súčasne zaškoľte zamestnancov v bezpečnom a schválenom používaní nástrojov umelej inteligencie v ich práci. Dobre informovaní používatelia s menšou pravdepodobnosťou nesprávne zaobchádzajú s umelou inteligenciou alebo sa stanú obeťami útokov vylepšených umelou inteligenciou ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ).

2. Definujte jasné zásady používania umelej inteligencie: S generatívnou umelou inteligenciou zaobchádzajte ako s akoukoľvek inou výkonnou technológiou – s riadením. Vypracujte zásady, ktoré špecifikujú, kto môže používať nástroje umelej inteligencie, ktoré nástroje sú schválené a na aké účely. Zahrňte pokyny pre nakladanie s citlivými údajmi (napr. žiadne poskytovanie dôverných údajov externým službám umelej inteligencie), aby sa predišlo únikom. Napríklad môžete povoliť iba členom bezpečnostného tímu používať interného asistenta umelej inteligencie na reakciu na incidenty a marketing môže používať overenú umelú inteligenciu na obsah – všetci ostatní sú obmedzení. Mnohé organizácie sa teraz vo svojich IT zásadách výslovne zaoberajú generatívnou umelou inteligenciou a popredné normalizačné orgány podporujú zásady bezpečného používania, a nie úplné zákazy ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). Uistite sa, že tieto pravidlá a ich odôvodnenie oznámite všetkým zamestnancom.

3. Zmiernenie „tieňovej umelej inteligencie“ a monitorovanie jej používania: Podobne ako v prípade tieňového IT, aj „tieňová umelá inteligencia“ vzniká, keď zamestnanci začnú používať nástroje alebo služby umelej inteligencie bez vedomia IT oddelenia (napr. vývojár používa neoprávneného asistenta kódu s umelou inteligenciou). To môže priniesť skryté riziká. Implementujte opatrenia na detekciu a kontrolu neoprávneného používania umelej inteligencie . Monitorovanie siete môže signalizovať pripojenia k populárnym API umelej inteligencie a prieskumy alebo audity nástrojov môžu odhaliť, čo zamestnanci používajú. Ponúknite schválené alternatívy, aby zamestnanci s dobrými úmyslami neboli v pokušení ísť nekaloúmyselne (napríklad poskytnite oficiálny účet ChatGPT Enterprise, ak ho ľudia považujú za užitočný). Zverejnením používania umelej inteligencie môžu bezpečnostné tímy posúdiť a riadiť riziko. Kľúčové je aj monitorovanie – čo najviac zaznamenávajte aktivity a výstupy nástrojov umelej inteligencie, aby existovala audítorská stopa pre rozhodnutia, ktoré umelá inteligencia ovplyvnila ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ).

4. Využite AI v obrane – nezaostávajte: Uvedomte si, že útočníci budú AI používať, takže by ju mala používať aj vaša obrana. Identifikujte niekoľko oblastí s vysokým dopadom, kde by generatívna AI mohla okamžite pomôcť vašim bezpečnostným operáciám (možno triedenie výstrah alebo automatizovaná analýza protokolov) a spustite pilotné projekty. Rozšírte svoju obranu o rýchlosť a rozsah AI, aby ste čelili rýchlo sa rozvíjajúcim hrozbám ( Ako možno generatívnu AI použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). Aj jednoduché integrácie, ako napríklad použitie AI na zhrnutie hlásení o škodlivom softvéri alebo generovanie dotazov na lov hrozieb, môžu analytikom ušetriť hodiny. Začnite v malom, vyhodnoťte výsledky a iterujte. Úspechy budú argumentmi pre širšie prijatie AI. Cieľom je použiť AI ako multiplikátor sily – napríklad, ak phishingové útoky zahlcujú vašu linku podpory, nasaďte klasifikátor e-mailov s AI, aby ste proaktívne znížili tento objem.

5. Investujte do bezpečných a etických postupov umelej inteligencie: Pri implementácii generatívnej umelej inteligencie dodržiavajte bezpečné postupy vývoja a nasadzovania. Pre citlivé úlohy používajte súkromné ​​alebo samostatne hostované modely, aby ste si zachovali kontrolu nad údajmi. Ak používate služby umelej inteligencie tretích strán, prehodnoťte ich bezpečnostné a súkromné ​​opatrenia (šifrovanie, zásady uchovávania údajov atď.). Začleňte rámce riadenia rizík umelej inteligencie (ako napríklad rámec riadenia rizík umelej inteligencie NIST alebo usmernenia ISO/IEC), aby ste systematicky riešili veci, ako je skreslenie, vysvetliteľnosť a robustnosť, vo svojich nástrojoch umelej inteligencie ( Ako možno generatívnu umelú inteligenciu použiť v kybernetickej bezpečnosti? 10 príkladov z reálneho sveta ). V rámci údržby plánujte aj aktualizácie/záplaty modelov – modely umelej inteligencie môžu mať aj „zraniteľnosti“ (napr. môžu potrebovať preškolenie, ak sa začnú odchyľovať alebo ak sa objaví nový typ nepriateľského útoku na model). Začlenením bezpečnosti a etiky do používania umelej inteligencie budujete dôveru vo výsledky a zabezpečujete súlad s vznikajúcimi predpismi.

6. Udržujte ľudí v obraze: Využívajte umelú inteligenciu na podporu, nie na úplné nahradenie ľudského úsudku v kybernetickej bezpečnosti. Určte body rozhodovania, kde je potrebné ľudské overenie (napríklad umelá inteligencia môže vypracovať správu o incidente, ale analytik ju pred distribúciou skontroluje; alebo umelá inteligencia môže navrhnúť zablokovanie používateľského účtu, ale človek túto akciu schváli). Toto nielenže zabráni tomu, aby chyby umelej inteligencie zostali nekontrolované, ale tiež pomôže vášmu tímu učiť sa od umelej inteligencie a naopak. Podporujte spoločný pracovný postup: analytici by sa mali cítiť pohodlne pri spochybňovaní výstupov umelej inteligencie a vykonávaní kontrol zdravého rozumu. Postupom času môže tento dialóg zlepšiť umelú inteligenciu (prostredníctvom spätnej väzby) aj zručnosti analytikov. V podstate navrhnite svoje procesy tak, aby sa silné stránky umelej inteligencie a ľudské silné stránky navzájom dopĺňali – umelá inteligencia zvláda objem a rýchlosť, ľudia zvládajú nejednoznačnosť a konečné rozhodnutia.

7. Meranie, monitorovanie a úpravy: Nakoniec, zaobchádzajte so svojimi generatívnymi nástrojmi umelej inteligencie ako so živými súčasťami vášho bezpečnostného ekosystému. Neustále merajte ich výkon – znižujú časy reakcie na incidenty? Dokážu včas zachytiť hrozby? Aký je trend miery falošne pozitívnych výsledkov? Vyžiadajte si spätnú väzbu od tímu: sú odporúčania umelej inteligencie užitočné alebo vytvárajú šum? Použite tieto metriky na spresnenie modelov, aktualizáciu tréningových údajov alebo úpravu spôsobu integrácie umelej inteligencie. Kybernetické hrozby a obchodné potreby sa vyvíjajú a vaše modely umelej inteligencie by sa mali pravidelne aktualizovať alebo preškoľovať, aby zostali efektívne. Majte plán riadenia modelu vrátane toho, kto je zodpovedný za jeho údržbu a ako často sa kontroluje. Aktívnym riadením životného cyklu umelej inteligencie zabezpečíte, že zostane aktívom, nie záväzkom.

Záverom možno povedať, že generatívna umelá inteligencia môže výrazne zlepšiť možnosti kybernetickej bezpečnosti, ale úspešné prijatie si vyžaduje premyslené plánovanie a priebežný dohľad. Podniky, ktoré vzdelávajú svojich ľudí, stanovujú jasné pokyny a integrujú umelú inteligenciu vyváženým a bezpečným spôsobom, budú žať odmeny v podobe rýchlejšieho a inteligentnejšieho riadenia hrozieb. Tieto poznatky poskytujú plán: kombinovať ľudské znalosti s automatizáciou umelej inteligencie, pokryť základy riadenia a udržiavať agilitu, keďže sa technológia umelej inteligencie aj prostredie hrozieb nevyhnutne vyvíjajú.

Vďaka týmto praktickým krokom môžu organizácie s istotou odpovedať na otázku „Ako možno generatívnu umelú inteligenciu využiť v kybernetickej bezpečnosti?“ – nielen teoreticky, ale aj v každodennej praxi – a tým posilniť svoju obranu v našom čoraz viac digitálnom svete poháňanom umelou inteligenciou. ( Ako možno generatívnu umelú inteligenciu využiť v kybernetickej bezpečnosti )

Biele knihy, ktoré by ste si mohli prečítať po tomto článku:

🔗 Pracovné pozície, ktoré umelá inteligencia nedokáže nahradiť a ktoré pracovné pozície umelá inteligencia nahradí?
Preskúmajte globálny pohľad na to, ktoré pozície sú bezpečné pred automatizáciou a ktoré nie.

🔗 Dokáže umelá inteligencia predpovedať akciový trh?
Bližší pohľad na obmedzenia, objavy a mýty týkajúce sa schopnosti umelej inteligencie predpovedať pohyby na trhu.

🔗 Na čo sa dá spoľahnúť generatívna umelá inteligencia bez ľudského zásahu?
Pochopte, kde môže umelá inteligencia fungovať nezávisle a kde je ľudský dohľad stále nevyhnutný.