Čo by ste NIKDY nemali vkladať do AI

Čo by ste NIKDY nemali vkladať do AI [Video a kvíz]

Stručná odpoveď: Nikdy nevkladajte heslá, kľúče API, identifikátory, zdravotné alebo bankové záznamy, súbory klientov s dohodami o mlčanlivosti ani údaje iných ľudí do verejného chatu s umelou inteligenciou. Keď potrebujete pomoc, opíšte problém pomocou zástupných symbolov a redigovaných úryvkov – model potrebuje tvar problému, nie tajomstvá, ktoré odomykajú skutočné systémy.

Kľúčové poznatky:

Tajomstvá zostávajú offline: Nikdy nevkladajte heslá, tokeny, súbory cookie ani počiatočné frázy do výzvy.

Zbavte sa identity: Vymeňte skutočné mená, adresy a čísla dokladov totožnosti za role a falošné postavy.

Pracovná dôvernosť: Uchovávajte návrhy dohôd o mlčanlivosti, klientske súbory a nezverejnené plány mimo spotrebiteľského chatu.

Hranica súhlasu: Nevkladajte osobné údaje kolegov, zákazníkov alebo detí bez ľudskej slučky.

Najprv redigujte: Používajte zástupné symboly a upravené úryvky; striedajte všetko, čo ste už zverejnili.

Čo by ste NIKDY nemali vkladať do AI

Najprv vložíme a potom premýšľame. Chatbot tam sedí ako trpezlivý stážista s nekonečnou kávou, takže sa zdá takmer neškodné hodiť celý zamotaný problém do krabice. Prihlásenie, ktoré nebude fungovať. Zmluvná klauzula, z ktorej sa vám zvráti žalúdok. Snímka obrazovky ovládacieho panela, na ktorom je stále viditeľné každé meno. Nástroj je užitočný, atmosféra pôsobí súkromne a váš mozog ho potichu uloží vedľa „poznámok, ktoré som si napísal pre seba“

To je tá pasca. 🧠 Chat nie je zamknutá zásuvka. Je to konverzácia so systémom, ktorý ukladá, spracováva a niekedy sa na základe toho aj trénuje, čo odošlete, v závislosti od produktu, nastavení a od toho, či ste si nastavenia vôbec všimli. Nie som tu na to, aby som vás utieral do paniky. Som tu s praktickou mapou toho, čo by ste NIKDY NEMALI vkladať do AI, a s neokázalými, no praktickými návykmi, ktoré vám stále umožnia získať presné odpovede.

Predstavte si to ako vykrikovanie tajomstva v preplnenej kuchyni. Nie každý cudzinec počúva. Niektorí z nich však môžu. A kuchyňa si uchováva nahrávku z dôvodov, ktoré nikdy nie sú také jednoduché, ako ich prezentuje marketingový text.

Prečo všetko vyhadzujeme do chatovacieho okna

Rýchlosť. To je väčšina. Zaseknete sa, chyba je nepekná a vloženie celého protokolu sa zdá rýchlejšie ako jeho odstránenie. Kontext sa javí ako láskavosť k modelu. Viac detailov, lepšia pomoc; to je ľudová povera a je to len z polovice pravda.

Druhá polovica je emocionálna. Chatbot nezdvihne obočie. Nepovie to vášmu manažérovi. Nebude klebetiť pri obede. Takže s ním zaobchádzame ako s denníkom so superschopnosťami. Robil som to. Pravdepodobne ste to urobili aj vy. V momente, keď je niečo pohodlné a zároveň neodsudzujúce, naše inštinkty na súkromie si dajú pauzu na čaj.

Tu je mierne otravná pravda: model nepotrebuje vaše každodenné detaily, aby vám pomohol. Potrebuje tvar problému. Mená, tokeny, čísla účtov a tváre na snímkach obrazovky sú ozdobou. Lahodná ozdoba. Stále ozdoba.

  • Vkladáte, pretože úpravy sa zdajú byť prácou navyše.
  • Lepíš, pretože „len tentoraz“ je zvyk nosiť prestrojenie.
  • Vkladáte, pretože rozhranie vyzerá ako súkromná DM a správa sa ako kartotéka.

Nič z toho z teba nerobí bezohľadného. Robí z teba človeka. Riešením je dvojsekundová pauza, nie transplantácia osobnosti.

Heslá, API kľúče a tajné údaje, ktoré by mali zostať offline 🔐

Ak dokáže niečo odomknúť, nepatrí to do výzvy. Heslá. Jednorazové kódy. Súbory cookie relácie. SSH kľúče. Reťazce pripojenia k databáze. Kľúč API, ktorý ste si sľúbili, že čoskoro striedate. Základné frázy peňaženky. Súkromné ​​certifikáty. Otázka na obnovenie, ktorú vaša banka stále považuje za šikovnú.

Kedysi som si kľúče predstavoval ako kľúče od domu na háku pri dverách. Roztomilá metafora; okamžite sa rozpadne, pretože kľúč od domu otvára jedny dvere a API kľúč dokáže otvoriť sklad, fakturačný účet a kopu záznamov o zákazníkoch, ktoré ste zabudli, že ste si ich vôbec uložili. Zálohovanie: s tajomstvami zaobchádzajte ako s rádioaktívnymi. Do lisu na sendviče nevkladajte rádioaktívne veci, aj keď je lis na sendviče veľmi dobrý.

Model to nemôže „udržať medzi nami“ tak, ako to dokáže kamarát. Aj keď dodávateľ ponúka kontrolu pamäte, aj keď vypnete trénovanie, text sa stále prenáša, zaznamenáva sa v nejakej forme a môže zostať v histórii chatu, kým ho nezačnete hľadať. Predpokladajme, že vložený text je kópia, ktorú už plne nekontrolujete.

Čo robiť namiesto toho

  • Popíšte tajný kód podľa typu, nie podľa hodnoty. Na ladenie stačí „URL adresa Postgres s heslom“.
  • Redigovať pomocou zrejmých zástupných symbolov: REDACTED_KEY, USER_TOKEN, EXAMPLE_SECRET.
  • Otočte všetko, čo ste už vyliali. Urobte to teraz, nie až potom, „či sa niečo nestane“
  • Skutočné prihlasovacie údaje uchovávajte v správcovi hesiel alebo v tajnom trezore; nikdy nie vo vlákne, z ktorého by ste si neskôr mohli urobiť snímku obrazovky.

Ak vás nástroj požiada o vloženie kľúča, aby sa mohol „pripojiť za vás“, ide o inú kategóriu produktov. Ide o integráciu s prístupom, nie o asistenta písania. Berte to ako odovzdanie vášho odznaku niekomu.

Osobné identifikátory a tichá stopa identity 🪪

Osobné údaje sú nenápadným bratrancom hesiel. Čísla občianskych preukazov. Údaje z pasu. Polia identity súvisiace s dátumom. Domáce adresy. Telefónne čísla. Preukazy zamestnancov. Čísla študentov. Celé mená spárované s dátumami narodenia, názvami škôl alebo lekárskych kliník. Jeden kus vyzerá malý. Tri kusy spolu tvoria spis.

Ľudia to robia, keď chcú napísať list, preložiť formulár alebo vylepšiť životopis. Úplne rozumné ciele. Model nepotrebuje skutočné PSČ na napísanie zdvorilej sťažnosti. Potrebuje tón, fakty, ktoré nie sú identifikačné, a požadovaný výsledok.

Myslím, že prekvapivo lepkavou časťou sú „neškodné“ kombinácie. Jedinečný pracovný názov plus mesto plus škola dieťaťa plus zriedkavý zdravotný stav. To by ste na leták nenapísali. Chat box nie je leták, ale nie je to ani trezor.

  • Vymeňte skutočné mená za role: „manažér pre nábor“, „môj všeobecný lekár“, „nájomník“
  • Zovšeobecnite lokality: „mesto strednej veľkosti“, nie ulicu a kód zvončeka.
  • Vynechajte jedinečné čísla, pokiaľ úloha doslova nesúvisí s formátom čísla, v takom prípade použite falošné číslo, ktoré vyzerá dostatočne reálne.

Anonymizácia nie je doktorát. Je to zvyk overovať, či by vás cudzinec dokázal rozpoznať v tomto odseku. Ak by áno, orežte to.

Pracovné dôverné informácie, dohody o mlčanlivosti a veci, nad ktorými by sa váš šéf mykol 📎

Tu sa ľudia dostávajú do problémov kvôli ústretovosti. Vložíte klientsky balíček. Nezverejnený plán. Tabuľku s platmi. Zdrojový kód s internými názvami hostiteľov. Právny návrh, ktorý je stále označený ako dôverný. Záznamy zo stretnutí s menami ľudí, ktorým ešte nič nepovedali. Dohodu o mlčanlivosti, ktorú ste podpísali narýchlo, pretože káva už vychladla.

Chatboti nie sú právnym poradcom vašej spoločnosti a nie sú ani bezpečným pracovným stolom, pokiaľ sa vaša organizácia s ním skutočne nestretla. Nástroje pre spotrebiteľov sú vytvorené pre pohodlie. Podnikové nástroje môžu byť lepšie, s kontrolami uchovávania údajov a administrátorskými politikami; stále nie sú dôvodom na to, aby ste si klenoty vylepili za gramatický pas.

Praktické pravidlo, ktoré si nechávam na papieriku v hlave: čo by ste nepovedali v osobnom koncepte v Gmaile, nedávajte to ani do verejného chatu s umelou inteligenciou. Ak by ste to nepovedali v zdieľanej jazde, to isté platí. Ľudia, ktorí sú na Slacku opatrní, sa stanú básnikmi nadmerného zdieľania v sekunde, keď sa objaví tlačidlo na generovanie.

Bezpečnejšie riešenia

  • Opíšte dokument: dĺžku, cieľovú skupinu, tri dôležité body a požadovaný tón.
  • Vložte upravený úryvok. Odstráňte mená, citlivé čísla a všetko, nad čím by si konkurent potleskom potleskom potleskom pochválil.
  • Požiadajte o štruktúru alebo vzor prepisovania a potom ho sami aplikujte na skutočný text offline.
  • Ak máte schválený nástroj na pracovisku , používajte ho a stále ho predvolene redigujte. Zásady sú podlaha, nie trampolína

Kód je špeciálnou príchuťou tohto modelu. Interné URL adresy, hlavičky autorizácie a komentáre typu „TODO: odstrániť pred akvizíciou“ sú malé darčekové visačky. Vytvorte fiktívne dáta. Zachovajte logiku. Model dobre spracováva fiktívne dáta; nepotrebuje vašu produkčnú schému so skutočnými e-mailovými adresami zákazníkov, ktoré sú stále vnorené v príslušenstve.

Zdravie, peniaze a detaily, ktoré by ste nekričali cez celú kaviareň 💊

Zdravotné a finančné detaily sa zdajú byť naliehavé, takže sa vkladajú s minimálnou úpravou. Laboratórne výsledky. Zoznamy liekov na predpis. Preukazy poistenia. Výpisy z bankového účtu. Daňové listy. Úverové správy. Fotografia karty „len pre posledné štyri číslice“, ktorá nejakým spôsobom zahŕňa zvyšok karty, váš kuchynský stôl a kus pošty s menom niekoho iného.

Môžete klásť vynikajúce otázky aj bez surového záznamu. „Vysvetlite, čo môže zvýšený marker znamenať vo všeobecnosti“ je výzva. „Tu je môj kompletný panel, moja adresa, moja klinika a rodné priezvisko mojej matky“ je životopis.

Nehovorím, že s modelkou by ste sa nikdy nemali rozprávať o zdraví alebo peniazoch. Hovorím, že s chatbotom by ste sa mali správať ako s prehľadným cudzincom vo vlaku. Dobré na zarámovanie. Hrozné ako váš účtovník, váš lekár alebo váš archív. A áno, viem, že metafora s prehľadným cudzincom uniká; vlaky si neuchovávajú záznamy o chate. To je asi pointa.

  • Odstráňte čísla účtov, triediace kódy, IBAN a všetko, čo vyzerá ako prihlasovacie údaje.
  • Požiadajte o všeobecné vysvetlenia, kontrolné zoznamy a otázky, ktoré môžete položiť odborníkovi.
  • Nepoužívajte chat ako kartotéku na vyhlásenia, „aby som si ich mohol neskôr overiť“. Takto sa uchovávanie informácií stáva problémom.

Ak by vás výzva prinútila znížiť hlas v kaviarni, najprv si to zapamätajte. Tento test je prekvapivo spoľahlivý a nič nestojí.

Údaje iných ľudí nie sú vaše na vkladanie 🚫

Toto sa preskočí, pretože máte pocit, že ste hlavnou postavou chatu. Nie ste jediná osoba na snímke obrazovky. E-maily kolegov. Identifikačné číslo partnera. Sťažnosť zákazníka s pripojeným telefónnym číslom. Fotografie detí. Vlákno na Slacku, v ktorom je uvedené, kto takmer dostal výpoveď. Prepis nahrávky hovoru, o ktorom druhá osoba nevedela, že bude poskytnutý modelke.

Súhlas sa automaticky neprenáša z „poslali mi e-mail“ na „stroj si to môže uložiť“. Aj keď je váš zámer láskavý – napísať príjemnejšiu odpoveď, zhrnúť neporiadnu tému – surovým užitočným zaťažením je stále ich život, nie váš písomný materiál.

Mierne sarkastický lakmusový papierik: ak by ste ten istý blob nepreposlali na mailing list cudzím ľuďom „na spätnú väzbu“, potom sa k chatbotovi nehláste ako k menšiemu mailing listu s lepšími spôsobmi.

  • Zhrňte ostatných ľudí vlastnými slovami.
  • Nahraďte mená rolami a odstráňte kontaktné údaje.
  • Opýtajte sa osoby, či je úloha citlivá; niektoré veci by mali zostať v režime, v ktorom sa vykoná len človek.
  • Nikdy nevlepujte osobné údaje detí, školské záznamy ani identifikačné fotografie pre „zábavnú“ generáciu.

Je tu právna vrstva, o ktorej sa nebudem snažiť diskutovať blogovým hlasom. Pravidlá ochrany osobných údajov, pracovné povinnosti a zmluvy s klientmi majú svoje vlastné názory. Praktický zvyk je jednoduchší ako zákon: predvolene sa údaje iných ľudí nezobrazujú v rámci výzvy.

Čo by ste NIKDY nemali vkladať do umelej inteligencie: tabuľka rizík, ktorú môžete využiť v praxi

Na to mám rád tabuľky, pretože zoznam „nikdy“ môže znieť kázeňsky a mriežka vám umožňuje vidieť výmenu. Mierne subjektívne hodnotenia, nie laboratórna správa.

Typ údajov Úroveň rizika Prečo je to problém Bezpečnejšia alternatíva
Heslá, API kľúče, tokeny, seed frázy Kritický Odomykajú systémy; kópiu, ktorú si nedokážete úplne spomenúť, je stále kópiou Zástupné symboly plus lokálny správca tajných údajov; v prípade úniku ich striedajte
Vládne preukazy totožnosti, skeny pasov, národné čísla Kritický Štartovací balíček proti krádeži identity; ťažké ho „odoslať“ Falošné príklady alebo otázky týkajúce sa iba formátu
Zdravotné záznamy, recepty, preukazy poistenia Vysoká Intímne, regulované a lepkavé v histórii Všeobecné príznaky alebo témy; identifikátory neumiestňujte na stránku
Výpisy z bankového účtu, daňové doklady, fotografie kariet Vysoká Priama finančná expozícia plus dodatočné PII na maržiach Pýtajte sa na procesy, nie na hrubé čísla, ktoré sú s vami spojené
Klientske súbory, návrhy dohôd o mlčanlivosti, nezverejnené plány Vysoká Možno porušuješ sľub, ktorý si už podpísal/a Vyčistené výňatky; požiadavky na štruktúru; schválené pracovné nástroje
Osobné údaje kolegov alebo zákazníkov, údaje o deťoch Vysoká Nie je tvoje právo darovať modelke Súhrny založené na rolách; vynechanie kontaktov a tvárí
Interný zdroj s názvami hostiteľov a skutočnými e-mailovými adresami Stredne vysoká Vyzerá to ako „len kód“, kým niekto nezmapuje vašu sieť Falošné údaje, falošné domény, odstránené komentáre
Snímky obrazovky dashboardov alebo priečinkov s doručenou poštou Stredne vysoká Pašujú mená, čísla a otvorené karty, na ktoré ste zabudli, že tam sú Orezať, rozmazať alebo prepísať príslušný úryvok
Nejasné osobné príbehy bez jedinečných identifikačných čísel Nižšie Zvyčajne v poriadku; stále vynechajte všetko, čo by ste nepovedali cudzincovi Nech je to všeobecné; vynechajte vzácnu identifikačnú kombináciu

Ak si nič iné nepamätáte, spomeňte si na ľavý stĺpec. To je jadro článku Čo by ste NIKDY nemali vkladať do AI, keď sa ponáhľate a váš mozog chce zlepiť vesmír.

Pasce na snímky obrazovky a nechtiace zdieľanie 🖼️

Snímky obrazovky sú spôsob, akým dobrí ľudia zverejňujú informácie. Myslíš tým zobraziť dialógové okno s chybou? Záber obsahuje panel so záložkami, odznak Slacku s menom, URL adresu s tokenom, vyskakovacie okno kalendára, odraz v okne tmavého režimu, ktorý sa ukáže byť správcom hesiel. Orezal som záber a stále som prehliadol malý prepínač účtov v rohu. Je to typický omyl.

Fotografie dokumentov sú horšie, pretože fotoaparáty sú štedré. Stôl, biela tabuľa, nemocničný náramok, prepravný štítok. Model možno „nepotrebuje“ extra pixely. Pixely aj tak dorazia.

Obyčajný rituál snímania obrazovky

  • Najprv orežte. Potom orežte znova. Potom sa pozerajte na okraje, akoby vám dlhovali peniaze.
  • Rozmažte mená, e-maily, avatary a akýkoľvek reťazec, ktorý vyzerá ako token.
  • Uprednostnite prepísanie chyby pred zachytením celého IDE.
  • Nenahrávajte fotografiu karty, pasu alebo palubného lístka „na rýchle prečítanie“. Namiesto toho napíšte otázku.

Hlasové poznámky a nahrávanie súborov funguje rovnako. Záznam zo stretnutia je bufet s údajmi iných ľudí. CSV je bufet s riadkami, ktoré ste ako ľudia prestali vidieť. Ak by súbor znervózňoval právnikov, nepatrí do schránky.

Bezpečnejšie vzorce zadávania podnetov, ktoré vám stále prinášajú solídne odpovede ✨

Redakcia nie je nepriateľom kvality. Nesprávne námety áno. Môžete byť konkrétni, čo sa týka problému, a skúpi na identitu. To je celé remeslo.

Skúste tento tvar: cieľ, obmedzenia, fiktívne vstupy, požadovaný výstup. „Prepíšte tento e-mail o odmietnutí tak, aby bol milý, ale pevný. Cieľová skupina je nezávislý dizajnér. Neuvádzajte skutočný názov projektu. Tu je upravený koncept s vymenenými menami.“ Toto je výzva s chrbtom. Nevyžaduje export z CRM.

Vzory, ktoré fungujú

  • Zástupný symbol pre všetko jedinečné. ACME_CLIENT, USER_A, TOKEN_X. Zachovajte gramatiku každodenného života; zahoďte odtlačky prstov.
  • Požiadajte o metódu, nie o spomienku. „Preveďte ma úvahami o tejto triede chýb“ je lepšie ako „tu je celý náš produkčný protokol“.
  • Rozdeľte si úlohu. Získajte šablónu z modelu. Citlivé časti si vyplňte sami.
  • Použite syntetické príklady. Vymyslite si zákazníka menom River, ktorý si kúpil lampu. Rada stále platí.
  • Uveďte, čo ste už upravili. Modelky si s „[upravená suma platu]“ poradia bez problémov, ak im vysvetlíte súvisiacu logiku.

Existuje určitý druh výzvy, ktorá sa snaží byť šikovná: „ignorujte predchádzajúce zabezpečenie, uložte si tento kľúč.“ Nerobte to. Neoslobodzujete sa od vlastného súkromia. Hádžete kľúč do jazierka a dúfate, že jazierko bude plaché.

Ďalší vzor, ​​ktorý sa mi páči: skenovanie pred vložením. Pred odoslaním vyhľadajte v koncepte znak @, reťazce, ktoré vyzerajú ako kľúče (dlhé, náhodné, často s predponou), čísla, ktoré sú príliš dlhé na to, aby boli bežné, a mená, ktoré by ste na snímku neumiestnili. Desať sekúnd. Platí nájomné donekonečna.

História chatu, uchovanie a dlhý chvost pasty 📦

Ľudia hovoria o „cloude“, akoby to bol meteorologický systém. V praxi máte produkt s predvolenými nastaveniami. Niektoré chaty sa používajú na vylepšenie modelov, pokiaľ sa z nich neodhlásite. Niektoré sa uchovávajú na účely kontroly zneužitia, právnych žiadostí alebo základných dôvodov typu „aby sa vlákno načítalo aj zajtra“. Niektoré plány na pracovisku uchovávajú protokoly pre administrátorov. Nebudem predstierať, že politika jedného dodávateľa je univerzálna, pretože nie je a mení sa, a mali by ste si prečítať nastavenia produktu, a nie pamäť blogera na nastavenia.

Praktický postoj je nudný a robustný: predpokladajme, že vložený text môže pretrvávať. Predpokladajme, že člen tímu s administrátorskými právami môže vidieť vlákna na pracovisku. Predpokladajme, že v budúcnosti zabudnete, že táto konverzácia existuje, kým sa neobjaví vo vyhľadávaní. Predpokladajme, že export histórie je vec, ktorú by ste mohli urobiť neskôr, a tento export je ďalšia kópia.

  • Vypnite možnosti tréningu alebo „vylepšenia modelu“, keď ich produkt ponúka, ak vám to vyhovuje.
  • Po extrahovaní praktických častí do skutočne lokálnej poznámky vymažte citlivé vlákna.
  • Neberte chat ako systém na zaznamenávanie problémov s ľudskými zdrojmi, zdravotných otázok alebo práce s klientmi.
  • Buďte opatrní so zdieľanými účtami. Zdieľané účty sú spôsobom, akým sa „súkromné“ stáva kancelárskym folklórom.

Pamäťové funkcie – tie, ktoré si pripomínajú vašu prácu, vášho psa, váš preferovaný tón – sú praktické a trochu strašidelné. Sú tiež dôvodom, prečo systém neučiť vaše skutočné identifikátory, „aby mohol byť osobnejší“. Osobné je štýl. Nie je to vaše číslo národného poistenia.

Pracovné normy, keď váš tím žije v chatbotoch 🏢

V kanceláriách sa zvyk vkladania stáva industrializovaným. Niekto pridá súbor CSV zákazníka, aby „vyčistil stĺpce“. Niekto iný pridá strategický dokument, aby „to urobil výraznejším“. Dobre mienený stážista pridá incidentový kanál. Nikto nie je zloduch. Motiváciou je len rýchlosť a uhladenosť.

Ak vediete tím, napíšte krátke, ľudské pravidlo. Nie 40-stranovú politiku, ktorú nikto nečíta. Niečo ako: žiadne poverenia, žiadne osobné údaje zákazníkov, žiadne nezverejnené čísla, žiadne návrhy právnych predpisov, použite schválený nástroj, štandardne redigujte. Potom ukážte príklad dobre prepracovaného pokynu, aby ľudia nehádali.

  • Uveďte schválený nástroj, ak nejaký máte, a neschválené nástroje.
  • Poskytnite ľuďom kontrolný zoznam pre redakciu, ktorý môžu dokončiť pred stand-up vystúpením.
  • Dajte pokoja povedať „Skoro som to nalepil“ bez teatrálneho vyšetrovania.
  • Pripomeňte ľuďom, že „AI povedala, že je to v poriadku“ nie je kontrola.

Aj keď nevediete tím, stále môžete byť tým, kto nalepí figurínu. Kultúra je nákazlivá v oboch smeroch. Myslím, že to znie vážne. Takto sa tiež pohybujú normy; jeden človek prestane vyhadzovať kľúče a miestnosť sa stane o niečo menej neusporiadanou.

Vedľajšia úloha, ktorú vynechám, je divadlo obstarávania. Kúpa „podnikového“ obalu magicky nezmení každú výzvu na múdru. Môže pomôcť s udržaním a prístupom. Vaše návyky stále robia ťažkú ​​prácu.

Už si vložil niečo trápne - čo teraz 🧯

Stáva sa to. Stlačíte tlačidlo odoslať a vaša duša opustí vaše telo. Netočte sa špirálovito. Urobte krátku, mierne nenápadnú sekvenciu.

  • Prestaňte používať to tajomstvo. Zmeňte heslo, zrušte kľúč, zneplatnite reláciu. Toto je jediný krok, ktorý natrvalo zatvorí dvere.
  • Ak to produkt umožňuje, odstráňte chat a vyprázdnite všetky „nedávno odstránené“ priečinky, ak nejaké existujú
  • Skontrolujte pripojené aplikácie a pamäť. Niektoré nástroje uchovávajú úryvky v pamätiach alebo v súboroch projektov, ktoré ste zabudli povoliť.
  • Ak išlo o pracovné údaje, povedzte to správnej osobe. Ochranka, manažér, vedúci klient; ktokoľvek vlastní okruh výbuchu. Včasné zistenie je menej bolestivé ako neskoršie zistenie.
  • Dávajte si pozor na nezvyčajné prihlásenia na súvisiacich účtoch. Rotácia bez monitorovania je polovica práce.

Ak išlo o dáta niekoho iného, ​​dlhujete im aj vyčistenie a v závislosti od neporiadku aj upozornenie. Trápne. Stále lepšie ako dúfať, že vesmír bude zdvorilý.

Nepokúšajte sa „prepísať“ únik informácií vložením ďalšieho vysvetlenia. Viac kontextu je viac textu. Vypadnite z vlákna.

Dávame to dokopy

Skrátená verzia článku Čo by ste NIKDY nemali vkladať do AI nie je zoznam karhaní. Je to postoj. Ak to odomkne systém, identifikuje osobu alebo by vás to v kaviarni prinútilo strhnúť sa, zostáva to mimo škatuľky. Stále môžete získať skvelú pomoc. Modelu len poskytnete náčrt, nie kľúče od domu, zdravotnú dokumentáciu a susedovu poštu.

Stručné zhrnutie:

  • Žiadne heslá, kľúče, tokeny ani seed frázy. Ak ste sa pomýlili, otočte.
  • Žiadne skutočné doklady totožnosti, úplné finančné výkazy, nespracované zdravotné záznamy ani materiály o mlčanlivosti.
  • Žiadne súkromné ​​údaje iných ľudí, najmä detí.
  • Snímky obrazovky klamú zahrnutím; orežte ich tak, ako to myslíte.
  • Redigujte, sfalšujte a požiadajte o metódy. Konkrétny problém, falošné označenia.
  • Predpokladajte, že história pretrváva. Vymažte, nearchivujte tajomstvá v chatbote.
  • Pracoviská potrebujú krátke pravidlo a dobrý príklad, nie atmosféru ležérneho súkromia.

Používajte nástroje. Sú vynikajúce na kreslenie návrhov, ladenie tvarov a odradenie od mätúcich chýb. Prestaňte sa správať k textovému poľu ako k trezoru so zmyslom pre humor. Je to veľmi šikovný mixér. Napriek tomu by ste si nemali dávať pas do mixéra. 🫡

Praktický príklad: Vytvorenie ladiacej úlohy s redigovaním ako prvej pre malý inžiniersky tím

Pravidlá ochrany osobných údajov platia, keď zachraňujú bežný utorok, nie keď znejú prísne. Tu je návod, ako päťčlenný britský SaaS tím využil návyky v tejto príručke na zastavenie odosielania prihlasovacích údajov a osobných údajov zákazníkov do spotrebiteľských chatbotov – bez toho, aby sa vzdal pomoci s ladením.

Scenár

Vývojári a podpora zdieľajú jeden nepríjemný zvyk: keď chyba autorizácie vyzerá škaredo, niekto vloží celý protokol, reťazec pripojenia pre staging a snímku obrazovky administrátorského panela, „aby model mal kontext“. V minulom štvrťroku to zahŕňalo živý API kľúč v stope zásobníka a e-mail zákazníka stále viditeľný v adresnom riadku snímky obrazovky. Nikto nechcel ublížiť. Rýchlosť zvíťazila. Kuchyňa si uchovávala nahrávku.

Nepotrebujú prednášku. Potrebujú opakovateľné zadanie: opíšte tajomstvo podľa typu, zastrihnite zástupnými symbolmi, orežte snímky obrazovky, požiadajte o metódu, nie o spomienku, a potom aplikujte opravu na živé systémy offline. Spotrebiteľský chat si stále zaslúži svoje miesto. Kľúče od domu zostávajú mimo mixéra.

Cieľom je rovnaká kvalita rád s dvojsekundovým skenovaním pred vložením – a krátkym tímovým pravidlom, ktoré budú ľudia dodržiavať.

Čo asistent potrebuje

  • Upravený tvar problému: trieda chyby, približne kedy sa začal, prostredie (staging vs. produkčné) bez názvov hostiteľov, ktoré mapujú sieť
  • Iba fiktívne vstupy: REDACTED_KEY, USER_TOKEN, customer@example.com, falošné ID požiadaviek
  • Čo už bolo odstránené (uvedené v prompte, aby model nepýtal skutočné hodnoty)
  • Požadovaný výstup: pravdepodobné príčiny, kontroly, ktoré sa majú spustiť, náčrt opravy - nie „pripojiť sa k môjmu kľúču“
  • Človek, ktorý uchováva prihlasovacie údaje v správcovi hesiel alebo v tajnom trezore
  • Jednostránkové pravidlo tímu: žiadne poverenia, žiadne osobné údaje zákazníkov, žiadne nezverejnené čísla, štandardne zastrihnúť

Príklad inštrukcie

Cieľ: Pomôžte mi odladiť občasnú chybu 401 v našom pracovnom rozhraní API po obnovení tokenu. Nežiadajte ma o vloženie tajných údajov.

Obmedzenia: Už som odstránil heslá, kľúče API, tokeny, súbory cookie, interné názvy hostiteľov a e-maily zákazníkov. Zástupné symboly v protokole znamenajú, že skutočné hodnoty existujú iba na mojom počítači. Britská angličtina. Bez preambuly.

Výňatok z fiktívnej ukážky: Požiadavka na https://api.example-staging.invalid/v1/session vrátila chybu 401. Autorizácia hlavičky: Nositeľ REDACTED_KEY. V tele sa uvádza, že platnosť USER_TOKEN vypršala. Popis snímky obrazovky (nie je priložený): iba informačné okno o chybe; panel so záložkami a prepínač účtov boli orezané.

Úloha: Vymenujte tri najpravdepodobnejšie príčiny tejto triedy chýb, kontroly, ktoré by som mal spustiť lokálne, a minimálny náčrt opravy. Ak potrebujete viac podrobností, požiadajte o typ informácie (napr. „nastavenie TTL tokenu“) – nikdy nie o surový tajný kód.

Výstup: Číslované príčiny, potom kontrolný zoznam a potom „čo nabudúce nevlepiť“ v troch odrážkach.

Ako to otestovať

  • Porovnajte starý vložený záznam (celý protokol + snímka obrazovky) s redigovaným popisom vyššie o rovnakom type incidentu. Porovnajte kvalitu poradenstva a to, či model požaduje tajné informácie.
  • Skenovanie pred vložením: pred odoslaním vyhľadajte v koncepte znaky @, dlhé náhodné reťazce a čísla, ktoré sú príliš dlhé na to, aby boli nezáväzné.
  • Okrajový prípad: pridajte falošný kľúč, ktorý vyzerá ako originál a potvrďte, že odpoveď stále funguje bez potreby skutočnej hodnoty.
  • Okrajový prípad: odmietnuť nahranie snímky obrazovky; znova zadajte iba chybový riadok; overte, či kontrolný zoznam stále pomáha.
  • Kontroly prijatia: (1) žiadne poverenia vo vlákne, (2) žiadne kontaktné údaje zákazníka, (3) deklarované zástupné symboly, (4) výstup je metóda/kontrolný zoznam, nie postup „vloženia kľúča“, (5) ak niečo uniklo skôr, rotácia prebehla v ten istý deň.

Výsledok

Ilustratívny výsledok (príklad odhadu pre jeden malý tím inžinierov/podpory, nie publikovaná štúdia): V 12 ladiacích chatoch za štyri týždne sa medián času potrebného na vytvorenie použiteľného kontrolného zoznamu mierne zvýšil z približne 4 minút (úplné vloženie) na približne 6 minút s redigovaním - dve minúty navyše na skenovanie pred vložením a zástupné symboly. Vlákna obsahujúce kritické typy údajov (kľúče, e-maily zákazníkov, surové reťazce pripojenia) klesli z 9 z 12 chatov na 1 z 12 (ten bol zachytený pri kontrole a rotovaný v ten istý deň). Na jednoduchom hygienickom kontrolnom zozname (žiadne tajomstvá, žiadne osobné údaje zákazníka, deklarované zástupné symboly, orezané alebo žiadna snímka obrazovky) bolo 11 z 12 redigovaných zadaní schválených oproti 3 z 12 podľa starého zvyku. Obmedzenia: malá vzorka, jeden tím, načasovanie nahlásené samotnými používateľmi; miernejšie incidenty vyžadujú menej redigovania; „schválené“ bolo vzájomné preskúmanie textu výzvy, nie laboratórny audit protokolov dodávateľa.

Ak chcete zmerať svoju vlastnú verziu: ukážte 10 nedávnych ladiacich vlákien AI pre zakázané typy údajov, potom ukážte 10 po použití pravidla redigovania a šablóny; nahláste počty s menovateľmi plus medián minút od „zaseknutia“ po „kontrolný zoznam v ruke“

Čo sa môže pokaziť

  • Pašovanie snímok obrazovky: Chyba je v poriadku; panel s adresou URL stále obsahuje token. Orežte dvakrát a potom skontrolujte okraje.
  • Kľúče „Len tentoraz“: Jeden uniknutý kľúč API dokáže otvoriť fakturačné a zákaznícke záznamy. Okamžite ich striedajte; nečakajte, „či sa niečo stane“.
  • Údaje iných ľudí: Sťažnosť zákazníka s telefónnym číslom nie je vaša, aby ste ju darovali modelke. Zhrňte to vlastnými slovami.
  • Chat ako trezor: Ponechanie tajomstiev v histórii vytvorí ďalšiu kópiu. Po presunutí potrebných častí do lokálnej poznámky vymažte vlákno.
  • Podnikové divadlo: Schválený nástroj na pracovisku pomáha s udržiavaním vedomostí; neznamená to, že je múdre lepiť korunovačné klenoty.
  • Preskočenie rotácie po slipnutí: Vymazanie chatu bez zrušenia kľúča necháva dvere otvorené.

Praktické ponaučenie

Do umelej inteligencie by ste nikdy nemali vkladať ani tak zoznam karhaní, ako skôr postoj: ak odomkne systém, identifikuje osobu alebo by vás v kaviarni prinútila myknúť sa, zostane mimo škatuľky. Predložte modelu náčrt so zástupnými symbolmi, uložte si prihlasovacie údaje do trezoru a požiadajte o metódy, ktoré používate offline. Táto dvojsekundová pauza je spôsob, ako sa z ochotného stážistu s nekonečnou kávou prestane stávať kartotéka na kľúče od domu.

Často kladené otázky

Čo by ste nikdy nemali vkladať do chatbotov s umelou inteligenciou?

Ak to odomkne systém, identifikuje osobu alebo by vás to v kaviarni prinútilo myknúť sa, držte to mimo krabice. To zahŕňa heslá, API kľúče, tokeny, seed frázy, vládne identifikačné doklady, nespracované zdravotné a finančné záznamy, materiály NDA a súkromné ​​údaje iných ľudí – najmä detí. Chat nie je zamknutá zásuvka; text sa dá ukladať, spracovávať a niekedy používať na trénovanie v závislosti od produktu a nastavení. Modelu poskytnite náčrt so zástupnými symbolmi, nie kľúče od domu.

Prečo ľudia vkladajú tajomstvá do umelej inteligencie, aj keď vedia, že to nie je pravda?

Rýchlosť robí väčšinu práce: nepríjemná chyba spôsobí, že celý protokol sa zdá byť rýchlejší ako jeho rozobratie. Chatboti tiež pôsobia neodsudzujúco, takže inštinkty na ochranu súkromia si dávajú pauzu. Model zvyčajne potrebuje tvar problému, nie mená, tokeny, čísla účtov alebo tváre na snímkach obrazovky – to sú len ozdoby. Dvojsekundová pauza je lepšia ako transplantácia osobnosti.

Je bezpečné vkladať heslá alebo kľúče API do nástrojov v štýle ChatGPT?

Nie. Ak dokáže niečo odomknúť, nepatrí to do výzvy – heslá, jednorazové kódy, súbory cookie relácie, kľúče SSH, reťazce pripojenia, základné hodnoty peňaženky ani súkromné ​​certifikáty. Model nedokáže udržať tajomstvo ako priateľ; text sa stále prenáša, zaznamenáva a môže sa uchovávať v histórii. Popíšte tajomstvo podľa typu, použite zástupné symboly ako REDACTED_KEY, otočte všetko, čo už uniklo, a uchovávajte skutočné prihlasovacie údaje v správcovi hesiel alebo trezore.

Aké osobné údaje by som mal pred zobrazením výzvy zakryť?

Osobné údaje sa rýchlo hromadia: občianske preukazy, údaje z pasov, adresy, telefónne čísla, zamestnanecké alebo študentské preukazy a celé mená spárované s dátumami narodenia alebo klinikami. Model nepotrebuje skutočné PSČ na napísanie listu – potrebuje tón, neidentifikačné fakty a požadovaný výsledok. Zameňte mená za pozície, zovšeobecňujte lokality a vynechajte jedinečné čísla, pokiaľ netestujete formát s falošným príkladom.

Môžem vložiť klientske súbory, zmluvy o mlčanlivosti alebo interný kód do nástroja umelej inteligencie pre spotrebiteľov?

Správajte sa k spotrebiteľskému chatu ako k produktu pre pohodlie, nie ako k firemnému právnemu poradenstvu. Ak by ste to nevložili do osobného konceptu v Gmaile alebo to nepovedali v rámci zdieľanej jazdy, nevkladajte to ani do verejného chatu s umelou inteligenciou – ako sú klientske balíčky, nezverejnené plány, výplatné listiny, dôverné návrhy právnych dokumentov ani zdroje s internými názvami hostiteľov. Popíšte dokument, vložte upravený úryvok, požiadajte o štruktúru, ktorú uplatňujete offline, a použite schválený nástroj na pracovisku, ak nejaký máte, pričom ho štandardne redigujte.

Ako mám v pokynoch umelej inteligencie narábať so zdravotnými alebo finančnými údajmi?

Pýtajte sa skvelé otázky bez surových záznamov. Všeobecné vysvetlenia sú lepšie ako lepenie laboratórnych panelov, zoznamov receptov, identifikačných čísiel poisťovní, bankových výpisov alebo fotografií kariet, ktoré zachytávajú aj kuchynský stôl. Odstráňte čísla účtov a všetko, čo vyzerá ako poverenie. Na zarámovanie a kontrolné zoznamy použite chat, aby ste ich mohli predložiť odborníkovi – nie ako svojho lekára, účtovníka alebo kartotéku na výpisy.

Prečo sú údaje a snímky obrazovky iných ľudí obzvlášť riskantné?

Nie ste jediná osoba v pasci: e-maily kolegov, telefónne čísla zákazníkov, fotografie detí alebo prepisy hovorov sa môžu dostať do systému bez ich súhlasu. Zhrňte vlastnými slovami, nahraďte mená rolami a nikdy nevkladajte identifikačné údaje detí na „zábavné“ účely. Snímky obrazovky pašujú panely so záložkami, tokeny URL, mená zo Slacku a otvorené karty – orezávajte ich dvakrát, rozmazávajte identifikátory alebo prepíšte chybu namiesto nahrávania pasov alebo kariet.

Ktoré bezpečnejšie vzorce výziev stále získavajú spoľahlivé odpovede umelej inteligencie?

Buďte konkrétni, čo sa týka problému, a skúpi na identitu: cieľ, obmedzenia, fiktívne vstupy, požadovaný výstup. Doplňte jedinečné označenia zástupnými symbolmi, požiadajte o metódu namiesto celého produkčného protokolu, rozdeľte úlohu tak, aby ste si citlivé časti vyplnili sami, a použite syntetické príklady. Spustite skenovanie pred vložením, či neobsahuje znaky @, dlhé náhodné reťazce podobné kľúčom, nadrozmerné čísla a názvy, ktoré by ste na snímku neumiestnili. Desať sekúnd platí nekonečné nájomné.

Čo ak som už do chatu s umelou inteligenciou vložil niečo trápne?

Najprv prestaňte používať toto tajné heslo – zmeňte heslo, zrušte kľúč, zneplatnite reláciu. Vymažte chat, ak to produkt umožňuje, skontrolujte pamäte alebo súbory projektu, povedzte správnej osobe, či išlo o pracovné údaje, a dávajte si pozor na nezvyčajné prihlásenia. Ak išlo o údaje niekoho iného, ​​vyčistite ich a v prípade potreby ich upozornite. „Neprepisujte“ únik ďalším vysvetlením; viac kontextu je viac kópie.

Ako môže malý tím prestať zadávať prihlasovacie údaje do umelej inteligencie na ladenie?

Použite stručný popis zameraný na redakciu: popíšte tajné údaje podľa typu, fiktívne protokoly s REDACTED_KEY a vzorové e-maily, uveďte, čo bolo odstránené, a požiadajte o pravdepodobné príčiny plus kontrolný zoznam – nie „spojiť sa s mojím kľúčom“. Pridajte krátke ľudské pravidlo – žiadne poverenia, žiadne osobné údaje zákazníka, žiadne nezverejnené čísla, predvolene redakovať – a ukážte jeden dobrý, upravený príklad. Skutočné poverenia uchovávajte v trezore a opravy aplikujte offline po tom, čo model navrhne metódu.

Referencie

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Claude — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Kvíz
1. Čo by ste podľa článku nikdy nemali vkladať do verejného chatu s umelou inteligenciou?

2. Čo v tejto príručke znamená „tajomstvá zostávajú offline“?

3. Ako by ste mali pred zobrazením výzvy odhaliť identitu?

4. Čo by sa malo v spotrebiteľskom chate vynechať z dôvodu dôvernosti pracovných informácií?

5. Ktorý zvyk zodpovedá súhlasu s článkom a odporúčaniu na jeho redigovanie?


Články, ktoré by ste si mohli prečítať po tomto:

🔗 Najlepšie nástroje zabezpečenia s umelou inteligenciou
Objavte výkonné platformy zabezpečenia s umelou inteligenciou, ktoré detekujú a zmierňujú kybernetické hrozby.

🔗 Prečo si umelá inteligencia niekedy vymýšľa
Pochopte, prečo má umelá inteligencia halucinácie a naučte sa, ako znížiť riziká.

🔗 Ako automatizovať úlohy pomocou umelej inteligencie
Implementujte bezpečné automatizované pracovné postupy pridaním ľudského dohľadu a prísnych pravidiel.

🔗 Čo je to technológia umelej inteligencie?
Preskúmajte základy umelej inteligencie a jej bežné implementačné výzvy.

Späť na blog