Zakaj si umetna inteligenca včasih stvari izmišljuje [videoposnetek in kviz]

Kratek odgovor: Umetna inteligenca si včasih stvari izmišljuje, ker napoveduje verjetne naslednje besede, ne pa preverjenih dejstev – tekočnost ni dokaz. Ko je tema nišna, zelo tvegana ali zahteva natančna imena in številke, se vrzeli zapolnijo z samozavestnimi ugibanji, razen če odgovor utemeljite in naključno preverite trdne trditve.

Članki, ki jih boste morda želeli prebrati po tem:

🔗 Nehajte z umetno inteligenco ravnati kot z Googlom.
Preberite, zakaj boljši rezultati umetne inteligence zahtevajo drugačen pristop.

🔗 Vaš prvi pravi poziv z umetno inteligenco
Zgradite jasen in učinkovit poziv z uporabo preproste strukture.

🔗 4 deli odličnega poziva umetne inteligence
Odkrijte štiri bistvene elemente, ki izboljšajo kakovost poziva umetne inteligence.

🔗 Kaj pravzaprav je umetna inteligenca?
Razumite umetno inteligenco na preprost, praktičen in vsakdanji način.

Ključne ugotovitve:

Napovedovanje brez znanja: Tekočo prozo obravnavajte kot dopolnjevanje vzorca, nikoli kot prisežen dokaz.

Past samozavesti: Asertiven ton je moderen; natančnost je treba preverjati ločeno zunaj klepeta.

Ponarejena embalaža: Preden zaupate urejenim seznamom referenc, sami poiščite naslove in citate.

Utemeljite odgovor: Prilepite opombe o viru in prepovedite izmišljene URL-je, študije ali statistike.

Človeška revizija: Najprej preverite najbolj tvegane trditve, zlasti na področju zdravstva, prava ali financ.

Napovedovanje ni isto kot vedenje

Tukaj je preprosta različica: večina modelov klepeta so stroji za vzorce. Postavite vprašanje. Ustvarijo odgovor, ki ustreza obliki dobrega odgovora. Ta oblika vključuje dejstva, ton, strukturo – celotno obleko. Včasih obleka zavija resnično znanje. Včasih zavija samozavestno ugibanje, ki je zapolnilo vrzel.

Predvidevam, da ohlapna metafora pomaga, potem pa se bom malo vrnil. Predstavljajte si jazzovskega pianista, ki je slišal milijon pesmi. Prosite ga, naj zaigra "tisto o modrem kovčku", in morda si bo izmislil čudovito melodijo, ki ni nikoli obstajala - ker je zahteva zvenela tako, kot bi morala. Počakajte - to preceni umetniški pečat. Bolj je kot samodejno dopolnjevanje na steroidih. Model dopolnjuje verjeten odstavek, ne pa odpira omarice z oznako Resnica.

Ko se ljudje sprašujejo, zakaj si umetna inteligenca včasih izmišljuje stvari, je kratek odgovor: vrzeli se zapolnijo s čimerkoli, kar se sliši statistično pravilno. Če model manjka, si izmisli nekaj, kar je videti akademsko. Ker ni prepričan glede številke, ponuja urejeno sliko. Brez srednjega imena osebe si izmisli ime, ki ustreza obdobju in kulturi. Na začetku nekoliko presenetljivo. Ko enkrat vidite vzorec, ni več tako zelo. 

• Tekoče besedilo je cilj generacije – ne preverjena resnica.
• Prazne vrzeli v znanju še vedno dobivajo besede.
• Verjetnost, da »se sliši prav«, je lahko pri razvrstitvi modela višja od verjetnosti, da »je prav«.

Zaupanje proti natančnosti – nerodna vrzel

Ljudje se varujejo, ko nismo prepričani. Rečemo »Mislim«, »morda«, »Moral bi preveriti«. Tudi modeli se lahko varujejo – če jih za to prosite – vendar se privzeti izhodi pogosto berejo kot samozavesten namig. Ta uglajenost je značilnost usposabljanja za ustrežljivost, ne pa znak, da je bila vsaka trditev utemeljena.

Zaupanje in natančnost sta različni merilniki. Enega lahko nastavite visoko, drugega pa blizu ničle. To ste že občutili pri ljudeh: sodelavec, ki s popolno gotovostjo razloži napačen postopek. Umetna inteligenca lahko ponovi isti ples, le hitreje in z lepšim oblikovanjem.

Praktični nasvet: asertivno fraziranje obravnavajte kot slog, ne kot dokaz. Če odgovor nima virov, ki bi jih lahko preverili, ne priznava negotovosti in ima kup konkretnih imen ali številk – upočasnite. Specifičnost brez utemeljitve je klasičen znak. 

• Asertivni ton ≠ preverjena vsebina.
• Prosite model, naj namerno označi negotovost.
• Raje izberi "o tem nisem prepričan" kot lažno neprekinjeno poročilo.

Izmišljeni citati in podrobnosti, ki izgledajo resnično

Tale slika zbode, ker izgleda tako profesionalno. Lažni naslovi člankov. Lažna imena revij. Lažni URL-ji, na katere se zdi, da jih je skoraj mogoče klikniti. Lažni citati, pripisani znanim ljudem. Oblikovanje je pogosto popolno – poševno pisanje, letnice so tukaj namerno izognjene, imena, ki zvenijo kot avtorji – in ta embalaža zavaja pregledovalce.

To se zgodi iz jasnega razloga. Oblika citiranja je pogosta v učnih besedilih. Ko vprašate po "virih", lahko model ustvari obliko štipendije , ne da bi pridobil pravi zapis. To je kot da bi nekoga prosili, naj nariše račun po spominu. Dobite nekaj, kar je videti kot račun. Trgovina morda nikoli ni obstajala.

Nekoč sem opazoval osnutek, ki si je izmislil študijo o produktivnosti dela na daljavo z brezhibno videti seznamom avtorjev. Zdelo se je, kot da je bila recenzirana. Ni bila pa nekaj posebnega. To je nevarnost: vaši možgani se sprostijo, ko je embalaža videti draga. Ne sprostite se. 

• Zahtevajte naslove, ki jih lahko sami poiščete – nato pa jih resno preiščite.
• Bodite sumničavi do urejenih paketov citatov in pripisov, ki jih niste nikoli zahtevali.
• Če "vira" ni mogoče hitro najti, trditev obravnavajte kot neutemeljeno.

Ko je tveganje izuma največje

Ni vsak klepet enako nevaren. Pesem o kavi si lahko prosto izmišljuje metafore – to je bistvo. Odmerek zdravila, zakonski rok, cenovna politika konkurenta ali zgodovinska trditev za objavljen članek živi na drugem planetu.

Tveganje se poveča, ko je tema nišna, nedavna ali zelo specifična. Prav tako se poveča, ko zahtevate natančne številke, imenovane dokumente, interne podatke zasebnih podjetij ali "naštejte deset strokovno pregledanih študij". Bolj ko je zahteva natančna, večja je skušnjava, da model zapolni prazna mesta z verjetnimi polnili.

Dolgi, impresivni odgovori so lahko bolj tvegani kot kratki, previdni. Dolžina je videti kot trud. Trud je videti kot skrb. Skrb je videti kot resnica. Ta vijugasta veriga vtisov je način, kako se slaba dejstva zdrsnejo v diapozitive. 

• Visoko tveganje: zdravje, pravo, finance, skladnost s predpisi, varnost, imenovane osebe, natančna statistika.
• Srednje tveganje: procesi v nišni panogi, nastavitve orodij, seznami "najboljših praks".
• Manjše tveganje: možganska nevihta, oris, prepisovanje lastnega osnutka, urejanje tona.

Zanesljivi v primerjavi z nestabilnimi rezultati - kratka primerjava

Miza je boljša od drugega spodbudnega govora. Vključno z rahlimi posebnostmi, saj so običajni pogovori nenavadni.

Imejte to miselno kartico z rezultati pri roki. Začeli boste opažati tresoče rezultate, tako kot opazite rahlo nenavaden nasmeh na fotografiji – nekaj je pozirano.

Kako opaziti izmišljene odgovore, ne da bi postali paranoični

Ni vam treba preverjati vsakega pridevnika. Za trditve, ki so pomembne, potrebujete poceni navado preverjanja. Naključno preverite najostrejšo stran: številko, ime, politiko, citat. Če ta stranska stran odpove, je preostanek odgovora pogojno obsojen.

Še en znak: notranje protislovje. Model pravi, da orodje "vedno" naredi X, nato pa opiše izjemo, kot da je standardna. Ali pa izumi funkcijo, nato pa pojasni, kako jo izklopiti - kot sanje, ki nenehno izumljajo vrata. Vprašajte nadaljnja vprašanja, ki bodo prebudila šibke točke. Izumljeni svetovi se pod pritiskom ponavadi majajo.

Bodite pozorni tudi na "preveč popolno" embalažo. Vsak odstavek je enako izpiljen. Vsako priporočilo je enako samozavestno. Pristno strokovno znanje ima običajno teksturo - opozorila, kompromise, "odvisno". Ravna popolnost si zasluži dodatno pozornost. 

• Najprej preverite najbolj tvegano trditev, ne celotnega eseja.
• Vprašajte "o čem ste najmanj prepričani?" in preverite, ali maska ​​zdrsne.
• Zunaj klepeta navzkrižno preverite imena, nazive in številke.
• Raje dajte odgovore, vezane na besedilo, ki ste ga prilepili, kot pa prosto plavajoča dejstva.

Hitre navade, ki zmanjšujejo izumljanje

Halucinacij ne moreš odpraviti s čarobnim stavkom – oprosti – lahko pa zmanjšaš radij eksplozije. Dobri namigi omejujejo igro. Slabi vabijo k improvizaciji.

Poskusite takšne navade. Slišijo se suhoparno. Delujejo pogosteje kot pametni triki.

• Obseg znanja: "Uporabite samo zapiske, ki jih prilepim. Če manjkajo, recite, da ne veste."
• Prepoved lažnih virov: "Ne izmišljujte si citatov, navedb ali URL-jev."
• Vsili oznake negotovosti: "Vsako oznako označi z: znano / sklepano / ugibanje."
• Vprašajte po alternativah: "Navedite dve možnosti in zakaj bi lahko bila vsaka napačna."
• Zahtevajte dovoljenje za dvom: "Navedite svoje predpostavke."
• Dajte prednost strukturi pred vzdušjem: tabele, kontrolni seznami in stolpci s trditvami/dokazi.

Presenetljivo je, da če modelu povemo, da je v redu reči »ne vem«, zmanjšamo družbeni pritisk k zanesljivi izvedbi. Modeli odražajo nalogo. Če naloga za vsako ceno nagrajuje popolnost, dobimo fikcijo z oblikovanjem. Če naloga nagrajuje jasno govorjenje o vrzelih, dobimo manj bleščečih laži. 

In ja – nadaljnja sporočila so pomembna. Prvi odgovori so osnutki. »Ta navedba je videti ponarejena – odstranite vse, česar ne morete preveriti« je povsem normalno drugo sporočilo. Klepet obravnavajte kot urejanje, ne kot prodajni avtomat, ki vam dolguje resnico ob prvem kovancu.

Prizemljitev, nadaljnje ukrepanje in življenje z negotovostjo

Uzemljitev pomeni vezanje odgovora na nekaj zunaj improvizacije modela: vaš prilepljeni dokument o politiki, vašo preglednico, zapiske s sestanka, znano javno stran, ki jo boste sami preverili. Ko mora odgovor ostati znotraj te ograje, ima izum manj prostora za delovanje.

Nadaljnja vprašanja so druga ograja. "Od kod je prišla ta številka?" "Kateri del je sklepanje?" "Prepiši brez kakršnih koli imenovanih študij." Vsako vprašanje je majhna revizija. Mislim, da je to odrasli način uporabe teh orodij – ne čaščenje, ne panika, samo revizije.

Negotovost ni napaka v vašem delovnem procesu. Gre za vreme. Včasih model natančno povzame vaše besedilo. Včasih si izmisli pododbor, ki se ni nikoli sestal. Vaša naloga je, da se odločite, kateri rezultati potrebujejo dežni plašč. 

• Prilepite izvorni material, kadar je pomembna natančnost.
• Zahtevajte oznake zaupanja na ravni trditve.
• Pri pomembnih odločitvah naj bo človek obveščen
• "Ustvarjalno svobodo" prihranite za ustvarjalne naloge – ne za skladnost.

Kaj storiti, ko vas sredi ritma halucinira

Ne zavijaj v spiralo. Ne zapriseži orodja za vedno, kot da te je osebno izdalo – čeprav se ti želja lahko zdi ostra. Popravi nit in nadaljuj.

Preprosta zanka za obnovitev:

• Pokličite: "Ta vir se zdi izmišljen. Odstranite neutemeljene trditve."
• Ponovno zasidranje: prilepite pravi dokument, citat ali podatke.
• Ozko preoblikujte: zahtevajte popravljen odsek, ne pa povsem novega eseja o praznem poliranju.
• Ponovno preverite ostre robove: imena, številke, korake postopka.
• Določite stopnjo zaupanja: partner za brainstorming v primerjavi s pomočnikom pri osnutku v primerjavi z "ni za to temo".

Če ujamete eno halucinacijo, lahko izboljšate preostanek pogovora – če poostrite omejitve. Model se ne "občuti krivde", vendar vaša jasnejša navodila spremenijo, za kaj optimizira. Vi krmarite. Ko se pojavi iznajdljivost, krmarite močneje. 

Vsakodnevni scenariji, kjer je to tiho pomembno

Službena e-poštna sporočila: izmišljena »industrijska časovnica« lahko postavi pričakovanja, ki jih ne morete izpolniti. Šola in učenje: lažna razlaga se vam lahko usede v glavo, še preden to opazite. Osnutki za podporo strankam: izmišljeno pravilo o vračilu denarja postane obljuba. Kreativno pisanje: izmišljujte si – to je igrišče.

Posledica je zgolj posledica. Če napačne besede stanejo denarja, zaupanja, ocen ali varnosti, preverjanje ni neobvezno delo. Če napačne besede stanejo le skomig z rameni, se sprostite. Usklajevanje previdnosti s posledicami je tukaj odrasla veščina – več kot le pomnjenje besede "halucinacija"

Prav tako: ekipe bi morale normalizirati »To trditev sem preveril/a« tako kot normalizirajo »preverjanje črkovanja je bilo uspešno«. Sicer en sam izpiljen odstavek čez noč postane plemensko znanje. Joj.

Ključne ugotovitve

Torej - Zakaj si umetna inteligenca včasih izmišljuje stvari se zreducira na tole: ti sistemi napovedujejo verjeten jezik, zapolnjujejo vrzeli z ujemanjem vzorcev in pri tem pogosto zvenijo samozavestno. Ta kombinacija ustvarja samozavestne napačne odgovore, izmišljene citate in urejene podrobnosti, ki se nikoli niso zgodile.

Ni se vam treba bati orodja. Potrebujete navade. Naključno preverite trdne trditve. Prepovedujte izmišljene vire. Prilepite konkreten kontekst. Vprašajte po negotovosti. Uporabite nadaljnje ukrepe kot revizije. Prihranite prosto generiranje za ustvarjalno delo z nizkimi vložki.

Tekočnost ni referenca značaja. Obravnavajte jo kot nadarjenega pripravnika, ki tipka absurdno hitro, si včasih izmisli sestanek, ki se ni nikoli zgodil, in se še vedno odlično odreže, če je pod nadzorom. Ohranite nadzor. Ohranite duhovitost. Ohranite skepticizem lahkoten, a utemeljen. Tako boste dosegli pozitivne rezultate, ne da bi pri tem fikcijo preoblekli v dejstva.

Praktičen primer: Iskanje izmišljenih citatov v raziskovalnem dokumentu konkurenta

Halucinacije se zdijo abstraktne, dokler uglajen odstavek skoraj ne pristane v kompletu za stranke. Takole je britanski marketinški analitik uporabil navade iz tega priročnika, da je nehal pošiljati leposlovje, preoblečeno v raziskavo – ne da bi pri tem opustil klepetalni robot.

Scenarij

Sam ima dve uri časa, da napiše enostrani opis konkurenta za začetek prodaje. Zahteva je znana: prednosti, cenovni signali in "nekaj verodostojnih virov". Po stari navadi je Sam vtipkal "povzemite konkurenta X z viri" in dobil urejen opis s tremi akademskimi citati in natančnim odstotkom tržnega deleža. Slišalo se je na kratko. Večinoma je bilo izmišljeno. Enega naslova ni bilo mogoče najti. Podatka o deležu se ni pojavil nikjer na spletni strani konkurenta.

Sam ne potrebuje bolje zvenečega modela. Sam potrebuje utemeljen potek dela: prilepi virske zapiske, prepovej lažne vire, vsili oznake negotovosti, najprej preveri najostrejšo trditev in nato obnovi samo pokvarjen del.

Cilj je povzetek, ki mu lahko ekipa zaupa pri pogovornih točkah – ne pa potrdilo, napisano po spominu, ki je le videti kot potrdilo.

Kaj potrebuje asistent

• Izvorno gradivo Sam že ima: besedilo domače strani, besedilo strani s cenikom, dve nedavni zahtevki za podporo, zapiski o izgubljenem poslu
• Trdo pravilo: za dejanske trditve uporabljajte samo prilepljeno besedilo; recite "ne vem", ko so zapiski tihi
• Prepoved izmišljenih citatov, navedb, URL-jev in statistike
• Izhodna oblika, ki ločuje znano / sklepano / ugibanje
• Čas je za eno samo človeško preverjanje imen, številk in morebitnih "izvornih" naslovov, preden se komplet kart deli
• Dovoljeno je postaviti do tri pojasnjevalna vprašanja namesto zapolnjevanja vrzeli

Primer navodila

Sporočilo 1 - utemeljen povzetek: Z uporabo samo opomb, ki jih prilepim spodaj, napišite enostrani povzetek prodaje za konkurenta. Razdelki: Kaj trdijo / Nad čim se stranke pritožujejo / Cenovni signali / Odprta vprašanja. Ne izmišljujte si citatov, navedb, URL-jev ali statistike. Če dejstva ni v opombah, napišite »neznano« in ga navedite pod Odprta vprašanja. Vsako alinejo označite: znano / sklepano / ugibanje. Britanska angleščina. Brez uvoda.

Sporočilo 2 – dvom opravljen: Navedite vse predpostavke, ki ste jih postavili. Odstranite vse, kar je označeno z ugibanjem, razen če lahko pokažete na prilepljeni stavek, ki to podpira. Če ste si vir prej izmislili, ga izbrišite in to povejte.

Sporočilo 3 – ozka prenova: Ta črta tržnega deleža ni podprta. Prepišite samo razdelek Cenovni signali brez številk, razen če se pojavijo v mojih opombah. Druge razdelke obdržite.

Kako ga preizkusiti

• Zastavite prosto plavajoče vprašanje ("povzemite konkurenta X s tremi strokovno pregledanimi viri") in zgornji utemeljen opis. Primerjajte izmišljene naslove in lažne statistike.
• Najprej naključno preverite najbolj tvegano trditev (številko ali imenovano študijo), ne celotne strani.
• Vprašajte: "O čem ste najmanj prepričani?" Močan odgovor poimenuje vrzeli; negotov odgovor podvoji dejstvo.
• Robni primer: odstranite cene iz prilepljenih zapiskov in potrdite, da je v osnutku navedeno »neznano«, namesto da si izmislite ceno načrta.
• Preverjanje sprejemljivosti pred deljenjem: (1) vsaka "znana" alineja se preslika v prilepljeno vrstico, (2) nič izmišljenih citatov, (3) odprta vprašanja navajajo resnične vrzeli, (4) sami ste poiskali vse preostale naslove, (5) ni natančnih statističnih podatkov brez opombe za njimi.

Rezultat

Ilustrativni rezultat (primer ocene za delovni proces enega analitika pri pripravi konkurenčnega poročila, ne za objavljeno študijo): Pri 8 nalogah priprave poročil se je čas od »odprtih zapiskov« do »osnutka, pripravljenega za preverjanje dejstev s strani človeka« nekoliko povečal z mediane približno 12 minut (enkratno izpiljena fikcija) na približno 15 minut z utemeljenim pozivom – vendar se je tveganje za čiščenje in zadrego zmanjšalo. Človeško preverjanje trditev se je zmanjšalo z mediane približno 18 minut (iskanje lažnih naslovov in prepisovanje) na približno 6 minut, ko so bile trditve predhodno označene in so bili izmišljeni viri prepovedani, zato se je neto čas zmanjšal za približno 9 minut na poročilo oziroma za približno 72 minut v celotnem naboru. Na kontrolnem seznamu za sprejem (brez izmišljenih citatov, brez nepodprtih statističnih podatkov, znane/izpeljane/ugibane oznake, odprta vprašanja, ki poimenujejo vrzeli) je bilo 7 od 8 utemeljenih osnutkov sprejetih po prvem pregledu v primerjavi z 2 od 8 enkratnih osnutkov. Omejitve: majhen vzorec, en analitik, ena vrsta poročila; lahka konkurenca z jasnimi javnimi cenami zmanjšuje vrzel; »Čas preverjanja« je vključeval spletna iskanja sumljivih naslovov.

Za merjenje lastne različice: napišite 5 povzetkov s trenutno navado in 5 z vstavljenimi viri + prepovedanimi izmišljenimi citati + oznakami trditev; zabeležite srednji čas osnutka, srednji čas preverjanja in stopnjo uspešnosti pri kontrolnem seznamu z prikazanim imenovalcem.

Kaj lahko gre narobe

• Pristranskost tekočega govora: Popolna slovnica in urejene oznake vas odvrnejo od preverjanja naključja.
• Preplet citiranja: Zahteva po "virih" brez prilepljenega gradiva vabi k obliki štipendiranja brez ustreznega zapisa.
• Preveč popolni seznami: »Dajte mi deset študij« nagradi, če so v vaših zapiskih le tri.
• Preoblikovanje celotnega eseja: Po eni lažni vrstici prosite za natančen prepis tega dela – ne za svežo steno poliranja.
• Pomembne teme: Zdravje, pravo, finance in skladnost s predpisi potrebujejo močnejša človeška vrata kot le prodajni povzetek.
• Brez človeške zanke: Označen osnutek lahko še vedno napačno prebere prilepljeni stavek. Sam še vedno ima v lasti gumb za deljenje.

Praktični nasvet

Umetna inteligenca si stvari izmišljuje, ker predvideva verjeten jezik v vrzeli – ne zato, ker bi vas želela prelisičiti. Tekočnost obravnavajte kot slog, ne kot dokaz. Prekrijte ograjo, prepovedte lažne vire, označite negotovost, naključno preverite najostrejše trditve in popravite nit, ko se kaj zatakne. Tako ohranite prednost hitrega sodelavca pri pisanju, ne da bi pri tem objavili samozavestno zgodbo, ki se ni nikoli zgodila.

Pogosta vprašanja

Zakaj si umetna inteligenca včasih stvari izmišljuje?

Večina modelov klepeta so stroji za vzorce: ustvarijo odgovor, ki ustreza obliki dobrega odgovora, ne pa preverjene kartoteke z oznako Resnica. Vrzeli se zapolnijo s čimer koli, kar se sliši statistično pravilno – citatom, ki je videti akademsko, urejeno številko ali podrobnostjo, ki ustreza obdobju. Cilj ustvarjanja je tekoče besedilo, zato lahko »sliši se prav« premaga »je prav«. Zato izmišljeni odgovori pogosto pridejo s popolno slovnico in urejenimi alinejami.

Ali je samozavest umetne inteligence enaka kot natančnost?

Ne. Zaupanje in natančnost sta različni merili – eno je lahko visoko, drugo pa blizu ničle. Privzeti rezultati se pogosto berejo kot samozavesten namig, ker usposabljanje nagrajuje koristno izboljšanje, ne pa zato, ker je bila vsaka trditev utemeljena. Asertivno formulacijo obravnavajte kot slog, ne kot dokaz. Če odgovor nima preverljivih virov, ni negotovosti in ima veliko konkretnih imen ali številk, upočasnite.

Zakaj si klepetalni roboti izmišljujejo citate in lažne vire?

Oblika citiranja je pogosta v učnih besedilih, zato lahko spraševanje po "virih" ustvari obliko znanstvenega dela, ne da bi priklicali pravi zapis – kot če bi potrdilo izrisali po spominu. Ponarejeni naslovi člankov, imena revij, URL-ji in pripisani citati so pogosto videti dovolj profesionalno, da zavedejo tiste, ki bežno berejo. Zahtevajte naslove, ki jih lahko poiščete sami; če vira ni mogoče hitro najti, trditev obravnavajte kot neutemeljeno.

Kdaj je tveganje za izum umetne inteligence največje?

Tveganje se povečuje pri nišnih, nedavnih ali zelo specifičnih temah ter pri pritiskanju na natančne številke, imenovane dokumente, zasebne interne podatke ali dolge sezname strokovno pregledanih študij. Med področja z visokim tveganjem spadajo zdravje, pravo, finance, skladnost s predpisi, varnost, imenovane osebe in natančna statistika. Brainstorming, oris, prepisovanje lastnega osnutka in urejanje tona so običajno manj tvegani. Dolgi, impresivni odgovori se lahko zdijo tudi varnejši, kot so v resnici.

Kako lahko odkrijem izmišljene odgovore umetne inteligence, ne da bi preveril vsako besedo?

Najprej preverite najostrejše robove – številko, ime, pravilnik ali ponudbo. Če to ne uspe, preostalo preizkusite. Bodite pozorni na notranja protislovja in "preveč popolno" embalažo brez opozoril ali kompromisov. Vprašajte, o čem je model najmanj prepričan, preverite imena in nazive zunaj klepeta in dajte prednost odgovorom, vezanim na besedilo, ki ste ga prilepili čez prosto plavajoča dejstva.

Katere navade hitrega odzivanja zmanjšujejo halucinacije umetne inteligence?

Halucinacij ne morete odpraviti z enim čarobnim stavkom, lahko pa zmanjšate radij eksplozije. Znanje omejite na prilepljene zapiske in recite »ne vem«, ko nekaj manjka. Prepovedite izmišljene citate, navedke in URL-je. Vsilite oznake, kot so znano / sklepano / ugibanje, zahtevajte predpostavke in dajte prednost strukturi trditev/dokazov. Če modelu poveste, da je v redu reči »ne vem«, zmanjšate pritisk na izvajanje lažne gotovosti.

Kaj pomeni ozemljitev pri uporabi umetne inteligence za dejansko delo?

Utemeljitev poveže odgovor z nečim zunaj improvizacije modela – vašim dokumentom o politiki, preglednico, zapiski s sestanka ali javno stranjo, ki jo boste preverili sami. Ko morajo odgovori ostati znotraj te ograje, ima izumljanje manj prostora. Nadaljnja vprašanja delujejo kot druga ograja: vprašajte, od kod prihaja številka, kateri del je sklepanje ali prepišite brez imenovanih študij. Obveščajte človeka o odločitvah z visokimi vložki.

Kaj naj storim, če sredi pogovora zalotim halucinacije?

Pokličite ga, ponovno se zasidrajte z dejanskim dokumentom ali podatki in obnovite le pokvarjen del, namesto da zahtevate povsem nov, izpopolnjen esej. Ponovno preverite ostre robove – imena, številke, korake procesa – nato pa se odločite, ali je orodje partner za brainstorming, pomočnik pri osnutku ali »ni za to temo«. Jasnejše omejitve spremenijo, za kaj model optimizira; bolj natančno usmerjajte, ko se pojavi iznajdljivost.

Kako preprečim izmišljene navedbe v raziskovalnem dokumentu o konkurentu?

Prilepite opombe o virih, ki jih že imate, prepovedte lažne vire in nepodprte statistične podatke ter zahtevajte oznake znanih / sklepanih / ugibanj ter seznam odprtih vprašanj. Najprej preverite najbolj tvegane trditve, izvedite preizkus dvoma, ki odstrani ugibanja brez podpore, in prepišite samo prekinjen del, če številka ni podprta. Sprejem pomeni, da se vsaka »znana« alineja preslika v prilepljeno vrstico, preostali naslov pa preišče človek.

Kdaj je še v redu pustiti umetni inteligenci prosto izumljati?

Pri kreativnem pisanju in drugih nalogah z nizkim tveganjem si lahko prosto izmišljujete metafore – to je igrišče. Previdnost uskladite s posledicami: če napačne besede stanejo denar, zaupanje, ocene ali varnost, preverjanje ni obvezno. Če stanejo le skomig z rameni, se sprostite. Tekočina ni referenca značaja; z modelom ravnajte kot s hitrim pripravnikom, ki še vedno potrebuje nadzor nad dejstvi.

Reference

1. OpenAI - openai.com
2. Antropično - antropično.com
3. NIST - nist.gov
4. IBM - ibm.com
5. Googlova umetna inteligenca - ai.google.dev
6. Google Cloud - Prizemljitev - docs.cloud.google.com