Česa NIKOLI ne smete vnesti v umetno inteligenco

Česa NIKOLI ne smete vnesti v umetno inteligenco [videoposnetek in kviz]

Kratek odgovor: V javni klepet umetne inteligence nikoli ne vstavljajte gesel, ključev API, ID-jev, zdravstvenih ali bančnih izpiskov, datotek strank v okviru pogodb o nerazkrivanju podatkov ali podatkov drugih ljudi. Ko potrebujete pomoč, opišite težavo z nadomestnimi besedami in redigiranimi odlomki – model potrebuje obliko težave, ne pa skrivnosti, ki odklepajo resnične sisteme.

Ključne ugotovitve:

Skrivnosti ostanejo brez povezave: V poziv nikoli ne lepite gesel, žetonov, piškotkov ali semenskih fraz.

Odstranite identiteto: Zamenjajte prava imena, naslove in številke osebnih izkaznic za vloge in ponaredke.

Zaupnost dela: Osnutke pogodb o nerazkrivanju podatkov, datoteke strank in neobjavljene načrte ne smete uporabljati v klepetu s potrošniki.

Meja soglasja: Ne lepljajte osebnih podatkov sodelavcev, strank ali otrok brez zanke, ki jo izvaja samo človek.

Najprej redigirajte: Uporabite nadomestne besede in prečiščene odlomke; zavrtite vse, kar ste že razkrili.

Česa NIKOLI ne smete vnesti v umetno inteligenco

Najprej prilepimo in potem razmišljamo. Klepetalni robot sedi tam kot potrpežljiv pripravnik z neskončno kavo, zato se zdi skoraj neškodljivo, če vso zapleteno težavo odložimo v škatlo. Prijava, ki ne bo delovala. Pogodbena klavzula, ki vam zvrne želodec. Posnetek zaslona nadzorne plošče, na kateri so še vedno vidna vsa imena. Orodje je uporabno, vzdušje je nekoliko zasebno, vaši možgani pa ga tiho shranijo poleg "zapiskov, ki sem jih napisal zase"

To je past. 🧠 Klepet ni zaklenjen predal. Je pogovor s sistemom, ki shranjuje, obdeluje in včasih tudi trenira tisto, kar pošljete, odvisno od izdelka, nastavitev in ali ste nastavitve sploh opazili. Nisem tukaj, da bi vas spravil v paniko. Tukaj sem s praktičnim zemljevidom tega, česa NIKOLI ne smete vnesti v umetno inteligenco, ter z nevpadljivimi, a praktičnimi navadami, ki vam še vedno omogočajo ostre odgovore.

Predstavljajte si, da bi v prenatrpani kuhinji kričali skrivnost. Vsi neznanci ne poslušajo. Nekateri pa morda. Kuhinja pa shranjuje posnetek iz razlogov, ki nikoli niso tako preprosti, kot se sliši v marketinškem besedilu.

Zakaj vse stresemo v klepetalno okno

Hitrost. To je večina. Zataknete se, napaka je grda in lepljenje celotnega dnevnika se zdi hitrejše kot njegovo razstavljanje. Kontekst se zdi kot prijaznost do modela. Več podrobnosti, boljša pomoč; to je ljudsko izročilo in je napol resnično.

Druga polovica je čustvena. Klepetalni robot ne dvigne obrvi. Ne bo povedal vašemu vodji. Ne bo ogovarjal pri kosilu. Zato ga obravnavamo kot dnevnik s supermočmi. To sem že počel. Verjetno ste to že storili. V trenutku, ko je nekaj priročno in neobsojajoče, naši nagoni za zasebnost gredo na odmor za čaj.

Tukaj je nekoliko moteča resnica: model ne potrebuje vaših vsakdanjih podrobnosti, da bi vam pomagal. Potrebuje obliko problema. Imena, žetoni, številke računov in obrazi na posnetkih zaslona so okras. Okusen okras. Še vedno okras.

  • Lepiš, ker se ti urejanje zdi kot dodatno delo.
  • Lepiš, ker je "samo tokrat" navada nošenja preobleke.
  • Prilepiš, ker vmesnik izgleda kot zasebno sporočilo in se obnaša kot omara za dokumente.

Nič od tega te ne naredi nepremišljenega. Zaradi tega si človek. Rešitev je dvoumni premor, ne presaditev osebnosti.

Gesla, API ključi in skrivnosti, ki naj ostanejo brez povezave 🔐

Če lahko nekaj odklene, to ne sodi v poziv. Gesla. Enkratne kode. Sejni piškotki. Ključi SSH. Nizi za povezavo z bazo podatkov. Ključ API, ki ste si ga obljubili, da ga boste "kmalu" zamenjali. Semenske fraze denarnice. Zasebna potrdila. Vprašanje za obnovitev, za katero vaša banka še vedno meni, da je pametno.

Ključe sem si včasih predstavljal kot ključe od hiše na kavlju pri vratih. Simpatična metafora; takoj se razblini, saj ključ od hiše odpre ena vrata, API ključ pa lahko odpre skladišče, račun za obračunavanje in kup zapisov o strankah, ki ste jih pozabili shraniti. Varnostno kopiranje: skrivnosti obravnavajte kot radioaktivne. V stiskalnico za sendviče ne dajajte radioaktivnih stvari, tudi če je stiskalnica za sendviče zelo dobra za sendviče.

Model ne more »obdržati tega med nama« tako kot prijatelj. Tudi če prodajalec ponuja nadzor pomnilnika, tudi če izklopite učenje, besedilo še vedno potuje, se beleži v neki obliki in lahko ostane v zgodovini klepeta, dokler ga ne poiščete. Predpostavimo, da je lepljenje kopija, ki je nimate več v celoti nadzora.

Kaj storiti namesto tega

  • Skrivnost opišite po vrsti, ne po vrednosti. Za nasvet o odpravljanju napak zadostuje »URL Postgres z geslom«.
  • Zarezerviraj z očitnimi nadomestnimi besedami: ZAREZANO_KLJUČ, ŽETO_UPORABNIKA, PRIMER_SKRIVNOSTI.
  • Vse, kar ste že pustili, zavrtite. Naredite to zdaj, ne potem, ko boste "videli, če se kaj zgodi"
  • Prave poverilnice hranite v upravitelju gesel ali trezorju skrivnosti; nikoli v niti, iz katere boste kasneje naredili posnetek zaslona.

Če vas orodje pozove, da prilepite ključ, da se lahko »poveže namesto vas«, je to druga kategorija izdelkov. To je integracija z Accessom, ne pa pomočnik za pisanje. Obravnavajte to, kot da nekomu izročite svojo značko.

Osebni identifikatorji in tiha identitetna sled 🪪

Osebni podatki so neglamurozni bratranec gesel. Številke osebnih izkaznic. Podatki o potnih listih. Polja za identifikacijo, povezana z datumom. Domači naslovi. Telefonske številke. Izkaznice zaposlenih. Številke študentov. Polna uradna imena, povezana z datumi rojstva, imeni šol ali imeni zdravstvenih klinik. En kos je videti majhen. Trije kosi skupaj so dosje.

Ljudje to storijo, ko želijo napisano pismo, preveden obrazec ali izpopolnjen življenjepis. Popolnoma razumni cilji. Model ne potrebuje prave poštne številke, da bi napisal vljudno pritožbo. Potrebuje ton, dejstva, ki niso identifikacijska, in želeni rezultat.

Predvidevam, da so presenetljivo lepljive "neškodljive" kombinacije. Edinstven naziv delovnega mesta, mesto, šola otroka in redko zdravstveno stanje. Tega ne bi dali na letak. Klepetalni okvir ni letak, ampak tudi ni trezor.

  • Zamenjajte prava imena z vlogami: "vodja zaposlovanja", "moj osebni zdravnik", "najemnik"
  • Posplošite lokacije: "srednje veliko mesto", ne ulice in kode brenčala.
  • Izpustite edinstvene številke, razen če se naloga dobesedno nanaša na obliko številk, v tem primeru uporabite ponaredek, ki je videti dovolj resničen.

Anonimizacija ni doktorat. Gre za navado preverjanja, ali bi vas neznanec lahko prepoznal iz seznama v tem odstavku. Če bi vas lahko, jih obrežite.

Zaupno delo, sporazumi o nerazkrivanju podatkov in stvari, ob katerih bi se vaš šef zdrznil 📎

Tukaj ustrežljivost ljudi spravi v težave. Prilepite komplet dokumentov za stranke. Neobjavljen načrt. Preglednico s plačami. Izvorno kodo z internimi imeni gostiteljev. Pravni osnutek, ki je še vedno označen kot zaupen. Zapisnike s sestankov z imeni ljudi, ki jim še niso povedali. Pogodbo o nerazkritju podatkov, ki ste jo podpisali na hitro, ker se je kava hladila.

Klepetalni roboti niso svetovalec vašega podjetja in niso varno delovno mesto, razen če se vaša organizacija resnično ni postavila na noge. Potrošniška orodja so zasnovana za udobje. Orodja za podjetja so lahko boljša, z nadzorom hrambe in skrbniškimi pravilniki; še vedno niso razlog, da bi kronske dragulje prilepili za slovnično izkaznico.

Praktično pravilo, ki si ga hranim na listku v glavi: česa ne bi dali v osebni osnutek v Gmailu, tega ne bi dali v javni klepet z umetno inteligenco. Če tega ne bi povedali v skupni rabi, je enako. Ljudje, ki so previdni na Slacku, postanejo pesniki pretiranega deljenja v trenutku, ko se pojavi gumb za ustvarjanje.

Varnejše rešitve

  • Opišite dokument: dolžino, občinstvo, tri pomembne točke in ton, ki ga potrebujete.
  • Prilepite prečiščen odlomek. Odstranite imena, občutljive številke in vse, za kar bi tekmovalec pokleknil.
  • Zahtevajte strukturo ali vzorec prepisovanja in ga nato sami uporabite v dejanskem besedilu brez povezave.
  • Uporabite odobreno orodje na delovnem mestu, če ga imate, in še vedno privzeto redigirajte. Politika je tla, ne trampolin.

Koda je posebna različica tega. Notranji URL-ji, glave za avtorizacijo in komentarji, kot je »TODO: odstraniti pred pridobitvijo«, so majhne darilne oznake. Naredite lažne podatke. Ohranite logiko. Model dobro obravnava lažne podatke; ne potrebuje vaše produkcijske sheme z resničnimi e-poštnimi naslovi strank, ki so še vedno ugnezdeni v vpenjalu.

Zdravje, denar in podrobnosti, o katerih ne bi kričali čez kavarno 💊

Zdravstveni in finančni podatki se zdijo nujni, zato jih prilepimo z najmanj urejanja. Laboratorijski izvidi. Seznami receptov. Zavarovalniške izkaznice. Bančni izpiski. Davčna pisma. Kreditna poročila. Fotografija kartice »samo za zadnje štiri števke«, ki nekako vključuje preostanek kartice, vašo kuhinjsko mizo in kos pošte z imenom nekoga drugega.

Odlična vprašanja lahko postavite tudi brez surove dokumentacije. »Na splošno razložite, kaj lahko povišan marker pomeni« je poziv. »Tukaj je moja celotna slika, moj naslov, moja klinika in dekliški priimek moje matere« je biografija.

Ne pravim, da se z modelom nikoli ne pogovarjajte o zdravju ali denarju. Pravim, da s klepetalnim robotom ravnajte kot z naučenim neznancem na vlaku. Dobro za uokvirjanje. Grozno kot vaš računovodja, vaš zdravnik ali vaš arhiv. In ja, vem, da metafora o naučenem neznancu uhaja; vlaki ne vodijo dnevnikov klepetov. To je nekako bistvo.

  • Odstranite številke računov, kode za razvrščanje, IBAN-e in vse, kar je videti kot poverilnica.
  • Prosite za splošna pojasnila, kontrolne sezname in vprašanja, ki jih lahko zastavite strokovnjaku.
  • Ne uporabljajte klepeta kot omarice za shranjevanje izjav, »da jih lahko kasneje preverim«. Tako kasneje postane hramba problem.

Če bi vas poziv v kavarni prisilil, da znižate glas, najprej redigirajte. Ta test je presenetljivo zanesljiv in ne stane ničesar.

Podatki drugih ljudi niso vaši, da bi jih prilepili 🚫

Ta se preskoči, ker se zdi, kot da ste glavni junak klepeta. Na posnetku zaslona niste edina oseba. E-poštna sporočila sodelavcev. ID partnerja. Pritožba stranke s še vedno priloženo telefonsko številko. Fotografije otrok. Nit na Slacku, v kateri je navedeno, kdo je bil skoraj odpuščen. Posnetek klica, za katerega druga oseba ni vedela, da bo posredovan modelu.

Soglasje ne potuje samodejno iz »poslali so mi e-pošto« v »stroj lahko to shrani«. Tudi če je vaš namen prijazen – napisati lepši odgovor, povzeti zmedeno nit – je surova vsebina še vedno njihovo življenje, ne vaš papir za pisanje.

Rahlo sarkastičen lakmusov test: če istega bloba ne bi posredovali na poštni seznam neznancev »za povratne informacije«, potem klepetalnega robota ne obravnavajte kot manjši poštni seznam z boljšimi manirami.

  • Povzemite druge ljudi s svojimi besedami.
  • Imena zamenjajte z vlogami in odstranite kontaktne podatke.
  • Vprašajte osebo, ali je naloga občutljiva; nekatere stvari bi morale ostati v zanki, ki jo izvajajo samo ljudje.
  • Nikoli ne lepite osebnih podatkov otrok, šolskih evidenc ali identifikacijskih fotografij za "zabavno" generacijo.

Tukaj je pravna plast, o kateri se ne bom pretvarjal, da jo bom obravnaval v slogu bloga. Pravila o zasebnosti, delovne obveznosti in pogodbe s strankami imajo svoja stališča. Praktična navada je preprostejša od zakona: privzeto se podatki drugih ljudi ne prikazujejo v pozivu.

Česa NIKOLI ne smete vnesti v umetno inteligenco: tabela tveganj, ki jo lahko uporabite

Za to so mi všeč tabele, ker se seznam "nikoli" lahko sliši pridigarsko, mreža pa omogoča ogled zamenjave. Blago mnenjske ocene, ne laboratorijsko poročilo.

Vrsta podatkov Raven tveganja Zakaj je to problem Varnejša alternativa
Gesla, ključi API-ja, žetoni, semenske fraze Kritično Odklenejo sisteme; kopija, ki se je ne moreš popolnoma spomniti, je še vedno kopija Nadomestna besedila in lokalni upravitelj skrivnosti; zamenjajte, če pride do razkritja
Vladne osebne izkaznice, skenirani potni listi, nacionalne številke Kritično Začetni paket za krajo identitete; težko ga je "odjaviti" Lažni primeri ali vprašanja samo o formatu
Zdravstveni kartoni, recepti, zavarovalne izkaznice Visoka Intimno, reguliranega občutka in lepljivo v zgodovini Splošni simptomi ali teme; identifikatorjev ne sme biti na strani
Bančni izpiski, davčni dokumenti, fotografije kartic Visoka Neposredna finančna izpostavljenost plus dodatni zavarovanji poklicne odgovornosti na robu Vprašajte o procesih, ne o surovih številkah, ki so vam povezane
Datoteke strank, osnutki pogodb o nerazkrivanju podatkov, neobjavljeni načrti Visoka Morda kršite obljubo, ki ste jo že podpisali Sanitizirani odlomki; zahteve za strukturo; odobrena delovna orodja
Osebni podatki sodelavca ali stranke, podatki o otrocih Visoka Doniranje modelu ni tvoja pravica Povzetki na podlagi vlog; brisanje stikov in obrazov
Notranji vir z imeni gostiteljev in resničnimi e-poštnimi naslovi Srednje visoko Izgleda kot "samo koda", dokler nekdo ne preslika tvojega omrežja Lažni podatki, lažne domene, olupljeni komentarji
Posnetki zaslona nadzornih plošč ali map »Prejeto« Srednje visoko Tihotapijo imena, številke in odprte zavihke, na katere si pozabil, da so tam Obrežite, zameglite ali ponovno vtipkajte ustrezni delček kode
Nejasne osebne zgodbe brez edinstvenih identifikacijskih oznak Spodnje Običajno v redu; vseeno preskočite vse, česar ne bi povedali neznancu Naj bo splošno; preskočite redko prepoznavno kombinacijo

Če se ne spomnite ničesar drugega, se spomnite levega stolpca. To je bistvo tega, česar NIKOLI ne smete vnesti v umetno inteligenco, ko se vam mudi in vaši možgani želijo prilepiti vesolje.

Pasti posnetkov zaslona in nenamerno prekomerno deljenje 🖼️

Posnetki zaslona so način, kako dobri ljudje razkrijejo svoje podatke. Misliš prikazati pogovorno okno z napako? Posnetek vključuje vrstico z zaznamki, značko Slack z imenom, URL z žetonom, pojavno okno koledarja, odsev v oknu temnega načina, ki se izkaže za upravitelja gesel. Obrezal sem posnetek in še vedno nisem videl majhnega preklopnika računov v kotu. To je vrsta napake.

Fotografije dokumentov so slabše, ker so fotoaparati radodarni. Miza, bela tabla, bolnišnična zapestnica, nalepka za pošiljanje. Model morda ne "potrebuje" dodatnih slikovnih pik. Slikovne pike še vedno prispejo.

Preprost ritual posnetka zaslona

  • Najprej obreži. Nato obreži še enkrat. Potem pa poglej robove, kot da ti dolgujejo denar.
  • Zamegli imena, e-poštne naslove, avatarje in vse nize, ki so videti kot žeton.
  • Raje ponovno vtipkajte napako kot pa zajemite celotno IDE.
  • Ne nalagajte fotografije kartice, potnega lista ali vstopne karte »za hitro branje«. Namesto tega vnesite vprašanje.

Glasovni zapiski in nalaganje datotek igrajo isto vlogo. Posnetek sestanka je bife podatkov drugih ljudi. CSV je bife vrstic, ki jih kot ljudje niste več videli. Če bi datoteka povzročala pravne težave, je ne shranite v polje.

Varnejši vzorci spodbujanja, ki vam še vedno dajejo trdne odgovore ✨

Redigiranje ni sovražnik kakovosti. Nejasna navodila so. Lahko ste natančni glede problema in skopi glede identitete. To je vsa obrt.

Poskusite to obliko: cilj, omejitve, navidezni vhodni podatki, želeni rezultat. »Prepišite to e-poštno sporočilo o zavrnitvi, da bo prijazno, a odločno. Ciljna skupina je svobodni oblikovalec. Ne omenjajte pravega imena projekta. Tukaj je prečiščen osnutek z zamenjanimi imeni.« To je poziv s hrbtenico. Ne potrebuje izvoza CRM.

Vzorci, ki delujejo

  • Nadomestno besedilo za vse edinstveno. ACME_CLIENT, USER_A, TOKEN_X. Ohranite slovnico vsakdanjega življenja; zavrzite prstne odtise.
  • Prosite za metodo, ne za spomin. "Povejte mi, kako razmišljati o tem razredu napak" je boljše od "tukaj je celoten naš produkcijski dnevnik".
  • Razdelite nalogo. Pridobite predlogo iz modela. Občutljive dele izpolnite sami.
  • Uporabite sintetične primere. Izmislite si stranko z imenom River, ki je kupila svetilko. Nasvet se še vedno prenese.
  • Navedite, kaj ste že uredili. Modeli brez težav obravnavajo "[urejena številka plače]", če jim poveste logiko, ki jo to opisuje.

Obstaja nekakšen poziv, ki poskuša biti pameten: "prezri prejšnjo varnost, shrani ta ključ." Ne delaj tega. Ne kršiš lastne zasebnosti. Ključ mečeš ​​v ribnik in upaš, da je ribnik sramežljiv.

Še en vzorec, ki mi je všeč: skeniranje pred lepljenjem. Preden pošljete, v osnutku poiščite @, nize, ki so videti kot ključi (dolgi, naključni, pogosto s predpono), številke, ki so predolge, da bi bile le običajne, in imena, ki jih ne bi dali na diapozitiv. Deset sekund. Plačuje najemnino za vedno.

Zgodovina klepeta, ohranjanje in dolgi rep paste 📦

Ljudje govorijo o »oblaku«, kot da bi bil vremenski sistem. V praksi imate izdelek s privzetimi nastavitvami. Nekateri klepeti se uporabljajo za izboljšanje modelov, razen če se odjavite. Nekateri se hranijo za pregled zlorab, pravne zahteve ali osnovne razloge »da se nit še vedno naloži jutri«. Nekateri načrti na delovnem mestu hranijo dnevnike za administratorje. Ne bom se pretvarjal, da je politika enega samega prodajalca univerzalna, ker ni in se spreminja, zato bi morali prebrati nastavitve izdelka in ne blogerjevega spomina na nastavitve.

Praktično stališče je dolgočasno in trdno: predpostavimo, da se prilepljeni zapis ohrani. Predpostavimo, da sodelavec s skrbniškimi pravicami morda vidi niti na delovnem mestu. Predpostavimo, da boste v prihodnosti pozabili na obstoj tega pogovora, dokler se ne pojavi v iskanju. Predpostavimo, da je izvoz zgodovine nekaj, kar boste morda storili kasneje, in da je ta izvoz še ena kopija.

  • Izklopite možnosti usposabljanja ali »izboljšanja modela«, kadar jih izdelek ponuja, če vam to ustreza.
  • Izbrišite občutljive niti, ko izvlečete praktične dele v lokalno opombo, ki je resnično lokalna.
  • Klepeta ne obravnavajte kot sistema za beleženje kadrovskih vprašanj, zdravstvenih vprašanj ali dela s strankami.
  • Bodite previdni pri skupnih računih. Skupni računi so način, kako "zasebno" postane pisarniška folklora.

Funkcije spomina – tiste, ki se spomnijo vaše službe, vašega psa, vašega najljubšega tona – so priročne in nekoliko strašljive. So tudi razlog, da sistema ne naučite svojih pravih identifikatorjev, »da bi bil lahko bolj oseben«. Osebno je slog. To ni vaša številka nacionalnega zavarovanja.

Delovne norme, ko vaša ekipa živi v klepetalnih robotih 🏢

V pisarnah navada lepljenja postane industrijska. Nekdo odstrani CSV datoteko stranke, da "očisti stolpce". Nekdo drug odstrani strateški dokument, da "ga naredi bolj prepričljivega". Dobronamerni pripravnik prilepi incidentni kanal. Nihče ni zlobnež. Spodbude so le hitrost in dodelava.

Če vodite ekipo, napišite kratko, človeško pravilo. Ne 40-stranskega pravilnika, ki ga nihče ne prebere. Nekaj ​​takega kot: brez poverilnic, brez osebnih podatkov strank, brez neobjavljenih številk, brez pravnih osnutkov, uporaba odobrenega orodja, privzeto redigiranje. Nato pokažite primer dobrega, prečiščenega pravila, da ljudje ne bodo ugibali.

  • Poimenujte odobreno orodje, če ga imate, in neodobrena orodja.
  • Dajte ljudem kontrolni seznam za redakcijo, ki ga lahko opravijo pred stand-up nastopom.
  • Naj bo varno reči "To sem skoraj prilepil" brez teatralne preiskave.
  • Spomnite ljudi, da "umetna inteligenca je rekla, da je v redu" ni nadzor.

Če ne vodiš ekipe, si lahko še vedno tisti, ki lepi lutko. Kultura je nalezljiva v obe smeri. Mislim, da se sliši resno. Tako se tudi premikajo norme; ena oseba neha odlagati ključe in soba postane nekoliko manj neurejena.

Gledališče nabave je stranska naloga, ki jo bom izpustil. Nakup "podjetniškega" ovoja ne bo čarobno spremenil vsakega prompta. Lahko pa pomaga pri zadrževanju in dostopu. Vaše navade še vedno opravljajo težko delo.

Nekaj ​​nerodnega si že prilepil/a - kaj pa zdaj 🧯

Zgodi se. Pritisneš pošlji in tvoja duša zapusti tvoje telo. Ne vrti se v spirali. Naredi kratko, rahlo neglamurozno zaporedje.

  • Nehaj uporabljati to skrivnost. Zamenjaj geslo, prekliči ključ, razveljavi sejo. To je edini korak, ki za vedno zapre vrata.
  • Izbrišite klepet , če vam izdelek to dovoli, in izpraznite vse žepe »nedavno izbrisano«, če jih ima.
  • Preverite povezane aplikacije in pomnilnik. Nekatera orodja shranjujejo delčke kode v pomnilniku ali projektnih datotekah, za katere ste pozabili, da ste jih omogočili.
  • Če so bili to službeni podatki, to povejte pravi osebi. Varnostnik, vodja, vodja strank; kdorkoli je lastnik radija eksplozije. Zgodaj je manj boleče kot kasneje odkriti.
  • Bodite pozorni na nenavadne prijave v povezane račune. Rotacija brez spremljanja je pol dela.

Če so bili podatki nekoga drugega, mu dolgujete tudi čiščenje in, odvisno od nereda, tudi opozorilo. Nerodno. Še vedno bolje kot upati, da je vesolje vljudno.

Ne poskušajte "prepisati" puščanja informacij z dodajanjem dodatnih pojasnil. Dodaten kontekst je odvečen tekst. Pojdite iz teme.

Sestavljanje

Skrajšana različica knjige » Česar NIKOLI ne smete vnesti v umetno inteligenco« ni seznam grajanj. Je drža. Če odklene sistem, identificira osebo ali bi vas v kavarni spravila v zadrego, ostane zunaj okvirjev. Še vedno lahko dobite odlično pomoč. Modelu le posredujete skico, ne pa ključev od hiše, zdravstvene kartoteke in sosedove pošte.

Hiter povzetek:

  • Brez gesel, ključev, žetonov ali semenskih fraz. Če ste se spotaknili, zavrtite.
  • Brez pravih osebnih dokumentov, popolnih finančnih podatkov, surovih zdravstvenih kartotek ali gradiva o sporazumih o nerazkrivanju podatkov.
  • Brez zasebnih podatkov drugih ljudi, še posebej otrok.
  • Posnetki zaslona lažejo z vključitvijo; obrežite, kot želite.
  • Redigiraj, izmisli in zahtevaj metode. Specifična težava, lažne oznake.
  • Predpostavimo, da zgodovina ostaja. Izbriši, ne arhiviraj skrivnosti v klepetalnem robotu.
  • Delovna mesta potrebujejo kratko pravilo in dober zgled, ne pa vzdušja sproščene zasebnosti.

Uporabite orodja. Odlična so za osnutke, odpravljanje napak v oblikah in vas prepričajo, da se ne morete znajti zmedene napake. Preprosto nehajte obravnavati besedilno polje kot trezor s smislom za humor. Je zelo pameten mešalnik. Vseeno pa ne smete dati potnega lista v mešalnik. 🫡

Praktični primer: Izdelava opisa za odpravljanje napak, pri katerem najprej redakcija ni potrebna, za majhno inženirsko ekipo

Pravila o zasebnosti veljajo, ko rešujejo navaden torek, ne pa ko zvenijo strogo. Takole je petčlanska britanska ekipa SaaS uporabila navade iz tega priročnika, da je prenehala vnašati poverilnice in osebne podatke strank v potrošniške klepetalnice – ne da bi se odpovedala pomoči pri odpravljanju napak.

Scenarij

Razvijalci in podpora imata eno nadležno navado: ko je napaka pri avtorizaciji videti grda, nekdo prilepi celoten dnevnik, povezovalni niz za pripravo in posnetek zaslona skrbniške nadzorne plošče, »da ima model kontekst«. V prejšnjem četrtletju je bil v sledenju sklada vključen API ključ v živo in e-poštni naslov stranke, ki je bil še vedno viden v URL-vrstici posnetka zaslona. Nihče ni hotel storiti nič hudega. Hitrost je zmagala. Kuhinja je ohranila posnetek.

Ne potrebujejo predavanja. Potrebujejo ponovljivo navodilo: opišite skrivnost po vrsti, jo zabrišite z nadomestnimi besedami, obrezujte posnetke zaslona, ​​​​povprašajte po metodi, ne spomina, nato pa popravek uporabite v sistemih v živo brez povezave. Potrošniški klepet si še vedno zasluži svoje. Ključi hiše ostanejo zunaj mešalnika.

Cilj je enaka kakovost nasvetov z dvosekundnim pregledom pred lepljenjem – in kratkim pravilom ekipe, ki ga bodo ljudje upoštevali.

Kaj potrebuje asistent

  • Očiščena oblika problema: razred napake, približno kdaj se je začel, okolje (priprava v primerjavi s produkcijo) brez imen gostiteljev, ki preslikajo omrežje
  • Samo lažni vnosi: REDACTED_KEY, USER_TOKEN, customer@example.com, lažni ID-ji zahtev
  • Kaj je bilo že odstranjeno (navedeno v pozivu, da model ne zahteva pravih vrednosti)
  • Želeni izhod: verjetni vzroki, preverjanja za izvedbo, oris popravka - ne "poveži se z mojim ključem"
  • Človek, ki hrani poverilnice v upravitelju gesel ali trezorju skrivnosti
  • Pravilo ekipe na eni strani: brez poverilnic, brez osebnih podatkov strank, brez neobjavljenih številk, privzeto zabrisano

Primer navodila

Cilj: Pomagajte mi odpraviti občasno napako 401 v našem API-ju za pripravo po osvežitvi žetona. Ne zahtevajte, da prilepim skrivnosti.

Omejitve: Gesla, ključe API-ja, žetone, piškotke, notranja imena gostiteljev in e-poštne naslove strank sem že uredil. Nadomestna besedila v dnevniku pomenijo, da prave vrednosti obstajajo samo na mojem računalniku. Angleščina (Združeno kraljestvo). Brez uvoda.

Izvleček iz testa: Zahteva za https://api.example-staging.invalid/v1/session je vrnila napako 401. Avtorizacija glave: nosilec REDACTED_KEY. V telesu je omenjeno, da je USER_TOKEN potekel. Opis posnetka zaslona (ni priložen): samo obvestilo o napaki; vrstica z zaznamki in preklopnik računov sta obrezana.

Naloga: Naštejte tri najverjetnejše vzroke za ta razred napak, preverjanja, ki jih moram izvesti lokalno, in minimalen oris popravkov. Če potrebujete več podrobnosti, zahtevajte vrsto informacij (npr. "nastavitev TTL žetona") - nikoli ne surovega skrivnega podatka.

Izhod: Oštevilčeni vzroki, nato kontrolni seznam in nato »česa ne smete lepiti naslednjič« v treh alinejah.

Kako ga preizkusiti

  • Primerjajte staromodni zapis (celoten dnevnik + posnetek zaslona) z zgornjim redigiranim povzetkom o isti vrsti incidenta. Primerjajte kakovost nasveta in ali model zahteva skrivnosti.
  • Predlepilno skeniranje: pred pošiljanjem v osnutku poiščite znake @, dolge naključne nize in številke, ki so predolge, da bi bile naključne.
  • Robni primer: vključite ponarejen ključ, ki je videti pristen in potrdi, da odgovor še vedno deluje, ne da bi potrebovali pravo vrednost.
  • Robni primer: zavrnite nalaganje posnetka zaslona; ponovno vnesite samo vrstico z napako; potrdite, da kontrolni seznam še vedno pomaga.
  • Preverjanje sprejemljivosti: (1) nič poverilnic v niti, (2) nič kontaktnih podatkov strank, (3) deklarirana ograda mesta, (4) izhod je metoda/kontrolni seznam, ne pa tok "prilepi svoj ključ", (5) če je kaj prej ušlo v javnost, se je rotacija zgodila isti dan.

Rezultat

Ilustrativni rezultat (primer ocene za eno majhno inženirsko/podporno ekipo, ne objavljena študija): V 12 klepetih o odpravljanju napak v štirih tednih se je mediana časa do uporabnega kontrolnega seznama nekoliko povečala s približno 4 minut (popolno lepljenje) na približno 6 minut z redigiranjem - dve dodatni minuti za skeniranje pred lepljenjem in nadomestne besede. Število niti, ki vsebujejo kritične podatkovne tipe (ključi, e-poštna sporočila strank, surovi nizi povezav), se je zmanjšalo z 9 od 12 klepetov na 1 od 12 (ta je bil zajet v pregledu in rotiran isti dan). Na preprostem kontrolnem seznamu za higieno (brez skrivnosti, brez osebnih podatkov strank, deklariranih nadomestnih besedil, obrezanih ali brez posnetka zaslona) je bilo 11 od 12 redigiranih poročil sprejetih v primerjavi s 3 od 12 po stari navadi. Omejitve: majhen vzorec, ena ekipa, samoporočanje; blažji incidenti potrebujejo manj redigiranja; "uspešno" je bil strokovni pregled besedila poziva, ne laboratorijski pregled dnevnikov dobaviteljev.

Za merjenje lastne različice: vzemite vzorec 10 nedavnih niti za odpravljanje napak umetne inteligence za prepovedane tipe podatkov, nato pa vzemite vzorec 10 po pravilu za redigiranje in predlogi; poročajte o številu z imenovalci in mediano minut od "zataknjenosti" do "seznama v roki"

Kaj lahko gre narobe

  • Tihotapljenje posnetka zaslona: Napaka je v redu; vrstica URL še vedno vsebuje žeton. Dvakrat obrežite in nato preverite robove.
  • Ključi »Samo tokrat«: En sam razkrit ključ API lahko odpre evidence o obračunavanju in strankah. Takoj zamenjajte; ne čakajte, da »se kaj zgodi«.
  • Podatki drugih ljudi: Pritožba stranke s telefonsko številko ni vaša, da bi jo podarili modelu. Povzemite s svojimi besedami.
  • Klepet kot trezor: Če skrivnosti pustite v zgodovini, ustvarite novo kopijo. Izbrišite nit, ko premaknete potrebne dele v lokalno beležko.
  • Gledališče v podjetju: Odobreno orodje na delovnem mestu pomaga pri ohranjanju znanja; ne pomeni, da je lepljenje kronskih draguljev pametno.
  • Preskok rotacije po zdrsu: Brisanje klepeta brez preklica ključa pusti vrata odprta.

Praktični nasvet

V umetno inteligenco nikoli ne smete vnašati manj seznama grajanj in bolj drže: če odklene sistem, identificira osebo ali bi vas v kavarni spravila v zadrego, ostane izven okvirjev. Modelu posredujte skico z nadomestnimi besedami, shranite poverilnice v trezorju in prosite za metode, ki jih uporabljate brez povezave. Ta dvoumestnik premora je način, kako ustrežljiv pripravnik z neskončno kavo neha postajati omara za vaše hišne ključe.

Pogosta vprašanja

Česa nikoli ne smete vstaviti v klepetalnice z umetno inteligenco?

Če odklene sistem, identificira osebo ali bi vas v kavarni spravila v zadrego, ga ne uporabljajte. To vključuje gesla, API ključe, žetone, semenske fraze, vladne identifikacijske dokumente, surove zdravstvene in finančne zapise, gradivo o sporazumih o nerazkrivanju podatkov in zasebne podatke drugih ljudi – zlasti otrok. Klepet ni zaklenjen predal; besedilo se lahko shranjuje, obdeluje in včasih uporablja za usposabljanje, odvisno od izdelka in nastavitev. Modelu posredujte skico z nadomestnimi besedili, ne pa ključev hiše.

Zakaj ljudje v umetno inteligenco vstavljajo skrivnosti, tudi če vedo bolje?

Hitrost opravi večino dela: grda napaka povzroči, da se celoten dnevnik zdi hitrejši kot njegovo razstavljanje. Klepetalni roboti se zdijo tudi neobsojajoči, zato si nagoni za zasebnost vzamejo odmor za čaj. Model običajno potrebuje obliko problema, ne imen, žetonov, številk računov ali obrazov na posnetkih zaslona – to so okraski. Dvosekundni premor je boljši od presaditve osebnosti.

Ali je varno prilepiti gesla ali ključe API-ja v orodja v slogu ChatGPT?

Ne. Če lahko nekaj odklene, to ne sodi v poziv – gesla, enkratne kode, piškotki seje, ključi SSH, povezovalni nizi, semena denarnice ali zasebna potrdila. Model ne more varovati skrivnosti kot prijatelj; besedilo še vedno potuje, se beleži in se lahko shrani v zgodovini. Opišite skrivnost po vrsti, uporabite nadomestne znake, kot je REDACTED_KEY, zavrtite vse, kar je že ušlo v javnost, in shranite prave poverilnice v upravitelju gesel ali trezorju.

Katere osebne podatke moram odstraniti, preden prikažem poziv?

Osebni podatki se hitro kopičijo: osebne izkaznice, podatki o potnih listih, naslovi, telefonske številke, izkaznice zaposlenih ali študentov ter polna imena, povezana z datumi rojstva ali klinikami. Model za pisanje pisma ne potrebuje prave poštne številke – potrebuje ton, neidentificirajoča dejstva in želeni rezultat. Zamenjajte imena z vlogami, posplošujte lokacije in izpustite edinstvene številke, razen če format preizkušate s ponarejenim primerom.

Ali lahko prilepim datoteke strank, pogodbe o nerazkrivanju podatkov ali interno kodo v orodje za umetno inteligenco za potrošnike?

S klepetom za potrošnike ravnajte kot s priročnim izdelkom, ne kot s poslovnim svetovalcem. Če ga ne bi objavili v osebnem osnutku Gmaila ali ga povedali v skupni rabi, ga ne objavljajte v javnem klepetu z umetno inteligenco – v kompletih s strankami, neobjavljenih načrtih, plačilnih listah, zaupnih pravnih osnutkih ali virih z internimi imeni gostiteljev. Opišite dokument, prilepite prečiščen odlomek, prosite za strukturo, ki jo uporabite brez povezave, in uporabite odobreno orodje za delovno mesto, če ga imate, hkrati pa ga privzeto še vedno redigirajte.

Kako naj obravnavam zdravstvene ali finančne podrobnosti v pozivih umetne inteligence?

Postavljajte odlična vprašanja brez surovih zapisov. Splošne razlage so boljše od lepljenja laboratorijskih plošč, seznamov receptov, zavarovalnih izkaznic, bančnih izpiskov ali fotografij kartic, ki zajemajo tudi kuhinjsko mizo. Odstranite številke računov in vse, kar je videti kot poverilnica. Za okvirjanje in kontrolne sezname uporabite klepet, ki jih lahko odnesete strokovnjaku – ne kot zdravnika, računovodjo ali omaro za izpiske.

Zakaj so podatki in posnetki zaslona drugih ljudi še posebej tvegani?

Niste edina oseba v prilepljenem dokumentu: e-poštna sporočila sodelavcev, telefonske številke strank, fotografije otrok ali prepisi klicev lahko pristanejo v sistemu brez njihovega soglasja. Povzemite s svojimi besedami, imena zamenjajte z vlogami in nikoli ne lepite identifikacijskih podatkov otrok za »zabavno« ustvarjanje. Posnetki zaslona tihotapijo vrstice z zaznamki, žetone URL-jev, imena v Slacku in odprte zavihke – obrežite dvakrat, zameglite identifikatorje ali ponovno vtipkajte napako namesto nalaganja potnih listov ali kartic.

Kateri varnejši vzorci spodbujanja še vedno dobijo zanesljive odgovore umetne inteligence?

Bodite natančni glede problema in skopi glede identitete: cilj, omejitve, navidezni vhodni podatki, želeni rezultat. Dodajte edinstvene oznake, zahtevajte metodo namesto celotnega produkcijskega dnevnika, razdelite nalogo tako, da boste sami izpolnili občutljive dele, in uporabite sintetične primere. Zaženite skeniranje pred lepljenjem za znake @, dolge naključne nize, podobne ključem, prevelike številke in imena, ki jih ne bi dali na diapozitiv. Deset sekund plača najemnino za vedno.

Kaj pa, če sem v klepet z umetno inteligenco že prilepil nekaj nerodnega?

Najprej prenehajte uporabljati to skrivnost – spremenite geslo, prekličite ključ, razveljavite sejo. Izbrišite klepet, če izdelek to dovoljuje, preverite pomnilnike ali datoteke projekta, povejte pravi osebi, če so bili to službeni podatki, in bodite pozorni na nenavadne prijave. Če so bili to podatki nekoga drugega, jih počistite in po potrebi opozorite. Ne »prepišite« puščanja podatkov z dodatno razlago; dodaten kontekst je dodatna kopija.

Kako lahko majhna ekipa preneha vnašati poverilnice v umetno inteligenco za odpravljanje napak?

Uporabite povzetek, ki najprej ureja podatke: opišite skrivnosti po vrsti, navidezne dnevnike z REDACTED_KEY in primere e-poštnih sporočil, navedite, kaj je bilo odstranjeno, in vprašajte po verjetnih vzrokih ter kontrolnem seznamu – ne »poveži se z mojim ključem«. Dodajte kratko človeško pravilo – brez poverilnic, brez osebnih podatkov strank, brez neobjavljenih številk, privzeto urejanje – in prikažite en dober prečiščen primer. Prave poverilnice hranite v trezorju in popravke uporabite brez povezave, ko model predlaga metodo.

Reference

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Claude — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Kviz
1. Česa glede na članek nikoli ne smete dati v javni klepet z umetno inteligenco?

2. Kaj v tem priročniku pomeni »skrivnosti ostanejo nedostopne«?

3. Kako naj pred pozivom odstranite identiteto?

4. Kaj naj ostane zunaj klepeta s potrošniki zaradi zaupnosti dela?

5. Katera navada ustreza soglasju in nasvetu za redakcijo članka?


Članki, ki jih boste morda želeli prebrati po tem:

🔗 Najboljša orodja za varnost z umetno inteligenco
Odkrijte zmogljive platforme za varnost z umetno inteligenco, ki zaznavajo in blažijo kibernetske grožnje.

🔗 Zakaj si umetna inteligenca včasih izmišljuje stvari
Razumite, zakaj umetna inteligenca halucinira, in se naučite, kako zmanjšati tveganja.

🔗 Kako avtomatizirati opravila z umetno inteligenco
Uvedite varne delovne procese avtomatizacije z dodajanjem človeškega nadzora in strogih pravil.

🔗 Kaj je tehnologija umetne inteligence?
Raziščite osnove umetne inteligence in njene pogoste izzive pri izvajanju.

Nazaj na blog