Jedrnat odgovor: Malo verjetno je, da bo umetna inteligenca prevzela svet kot znanstvenofantastični zlobnež, vendar lahko začne vplivati na pomembne odločitve, ko ji ljudje preveč zaupajo. Tveganje je postopna odvisnost pri delu, medijih, vladi in vsakodnevnih odločitvah brez močnega človeškega nadzora.
Ključne ugotovitve:
Človeški nadzor: Umetna inteligenca naj ostane orodje in ne končni odločevalec.
Odgovornost: Organizacije morajo odgovarjati za škodo, ki jo povzročijo avtomatizirani sistemi.
Preglednost: Ljudje bi morali vedeti, kdaj umetna inteligenca vpliva na resne odločitve.
Izpodbijanje: Uporabniki potrebujejo jasne načine za izpodbijanje nepoštenih avtomatiziranih rezultatov.
Pismenost umetne inteligence: Preden zaupate samozavestnim odgovorom, ki jih generira stroj, preverite pomembne rezultate.
Članki, ki jih boste morda želeli prebrati po tem:
🔗 Zakaj je umetna inteligenca slaba za družbo?
Raziščite, kako lahko umetna inteligenca vpliva na delovna mesta, zasebnost in družbo.
🔗 Temna plat umetne inteligence
Razumevanje tveganj, škode in etičnih pomislekov, ki se skrivajo za umetno inteligenco.
🔗 Ali je umetna inteligenca škodljiva za okolje?
Preberite, kako lahko umetna inteligenca vpliva na porabo energije in emisije.
🔗 Je umetna inteligenca šla predaleč?
Preučite, ali razvoj umetne inteligence presega odgovorne meje.
1. Ali bo umetna inteligenca prevzela svet? Najprej definirajte "prevzem" 🧠
Preden odgovorimo na vprašanje Ali bo umetna inteligenca prevzela svet?,moramo ločiti fantazijo od resničnosti.
Ko ljudje rečejo, da bi lahko umetna inteligenca "prevzela oblast", običajno mislijo na eno od teh stvari:
-
Umetna inteligenca postane pametnejša od ljudi in nadzoruje vse.
-
Umetna inteligenca nadomešča večino delovnih mest in spreminja gospodarstvo.
-
Umetna inteligenca manipulira z ljudmi prek medijev, oglasov in dezinformacij.
-
Umetna inteligenca se vgrajuje v vlado, finance, vojno, izobraževanje in zdravstvo.
-
Ljudje postanejo odvisni od sistemov umetne inteligence, ki jih ne razumejo v celoti.
Ta zadnji je tisti tihi. Ni ravno filmski, ampak morda bolj realističen.
Sveta verjetno ne bo prevzel en sam zlobni klepetalni robot s plaščem. Bolj verjetno je, da bo umetna inteligenca postala plast pod vsakdanjim življenjem – kot elektrika, internet ali GPS. Morda je ne boste "videli" ves čas, vendar bo tiho vplivala na to, kaj berete, kupujete, čemu verjamete, se učite in morda celo na to, kdo bo zaposlen ali odobren za nekaj pomembnega.
Pravo vprašanje torej ni le, ali bo umetna inteligenca prevzela svet? Gre za to, koliko nadzora so ljudje pripravljeni prepustiti, preden se tega zavedajo?
2. Znanstvenofantastična različica proti bolj dolgočasni resnični različici 🎬
Znanstvenofantastična različica je preprosta: umetna inteligenca se zbudi, odloči, da so ljudje neubogljivi, in začne upravljati planet kot zelo nesramen posestnik.
Prava različica je manj čista in bolj neudobna.
Umetna inteligenca ne potrebuje "zavedanja", da bi povzročila večje spremembe. Sistem je lahko močan, ne da bi imel čustva, cilje ali samozavedanje. Algoritem za priporočila ne potrebuje duše, da bi oblikoval javno mnenje. Model zaposlovanja ne potrebuje ambicij, da bi izločil dobre kandidate. Orodje za odkrivanje goljufij ne potrebuje sovraštva, da bi nekomu za tri tedne oteževalo življenje.
To je pa neroden del.
Umetna inteligenca lahko vpliva na svet, ker jo ljudje povezujejo s pomembnimi sistemi. Vgradimo jo v delovne procese, ji posredujemo podatke, zaupamo njenim rezultatom in se nato presenetimo, ko jih je težko odstraniti. To je kot dajanje bleščic na preprogo. Tehnično izvedljivo za čiščenje, čustveno uničujoče ✨.
3. V čem je umetna inteligenca že dobra – in zakaj se zdi tako močna ⚙️
Umetna inteligenca se zdi velika stvar, saj lahko počne stvari, za katere je bil prej potreben človeški trud, usposabljanje ali vsaj rahlo kofeinski pripravnik.
Sodobna orodja umetne inteligence lahko:
-
Pišite osnutke, povzetke, e-poštna sporočila, skripte in poročila.
-
Ustvarite slike, zvok, video koncepte in oblikovalske ideje.
-
Analizirajte velike količine besedila ali podatkov.
-
Prevedi jezik in prilagodi ton.
-
Pomagajte pri kodiranju, odpravljanju napak in dokumentaciji.
-
Simulirajte pogovore in scenarije igranja vlog.
-
Pri nekaterih ozko omejenih nalogah prepozna vzorce hitreje kot človek.
To je impresivno. Prav tako ni isto kot modrost.
Umetna inteligenca lahko zveni samozavestno, čeprav se moti. Lahko poda uglajen odgovor s čustveno energijo ustrežljivega knjižničarja, medtem ko tiho povzroča zmešnjavo v kleti. To je pomembno, ker ljudje pogosto zamenjujejo tekočnost z inteligenco. Če se nekaj sliši gladko, temu zaupamo bolj, kot bi smeli.
Bodimo odkriti: ljudje so že zaupali slabim preglednicam, dvomljivim spletnim nasvetom in nekemu tipu po imenu Dave iz računovodstva. Umetna inteligenca preprosto čudovito in grozno hkrati prilagodi problem.
4. V čem je umetna inteligenca še vedno slaba - globoko človeške stvari 🧩
Umetna inteligenca je močna, vendar ni čarovnija. Težko se spopada s stvarmi, ki jih ljudje počnejo skoraj nonšalantno.
Umetna inteligenca ima lahko težave z:
-
Globoka praktična presoja.
-
Zdrav razum v nenavadnih situacijah.
-
Čustvena niansa.
-
Moralna odgovornost.
-
Razumevanje posledic, ki presegajo navodila.
-
Vedeti, kdaj ne odgovoriti.
-
Ločevanje resničnega konteksta od zavajajočega konteksta.
-
Deluje z iskreno skrbnostjo, ker mu ni mar.
Zadnja točka se sliši ostro, vendar je pomembna. Umetna inteligenca lahko posnema empatijo in včasih mimikrija pomaga. Prijazen odziv lahko nekoga še vedno potolaži. Toda simulirana oskrba ni enaka človeški oskrbi. Je ogledalo z dobro osvetlitvijo, ne pa oseba, ki stoji tam.
To je eden od razlogov, zakaj se pogovor o "prevzemu umetne inteligence" zaplete. Umetna inteligenca lahko prekaša ljudi v ozkih pasovih, nato pa se popolnoma spotakne, ko se cesta spremeni v makadam in na sredini stoji koza. Ta metafora mi je ušla iz pošte, ampak razumete 🐐.
5. Primerjalna tabela: Različni načini, kako bi lahko umetna inteligenca "prevzela" svet 📊
| Scenarij prevzema | Kako realistično? | Kako izgleda | Glavno tveganje | Moj nekoliko neenakomeren pogled |
|---|---|---|---|---|
| Zlobni robotski gospodar | Nizko | Stroji fizično nadzorujejo ljudi | Izguba človeškega preživetja/nadzora | Dramatično, a ne prva skrb |
| Motnje na trgu dela | Visoka | Številne naloge so avtomatizirane ali spremenjene | Pritisk na plače, neenakost | Že se zdi, kot da so vhodna vrata odprta |
| Nadzor informacij | Visoka | Vsebina, ustvarjena z umetno inteligenco, preplavlja vire | Zmeda, manipulacija | Ta je tiha in grda |
| Korporativna odvisnost | Zelo visoko | Podjetja se pri odločitvah zanašajo na umetno inteligenco | Krhki sistemi, skrite pristranskosti | Dolgočasen, a močan, kot moker cement |
| Prekomerna uporaba vlade | Srednje do visoko | Umetna inteligenca pomaga pri policijskem nadzoru, ugodnostih in administraciji | Vrzeli v odgovornosti | Potrebuje resen človeški nadzor |
| Osebna odvisnost | Visoka | Ljudje oddajajo razmišljanje in načrtovanje zunanjim izvajalcem | Izguba spretnosti, pasivnost | Priročno, dokler ne postane nenavadno |
| Superinteligentna umetna inteligenca | Neznano | Umetna inteligenca presega človeške strateške sposobnosti | Težko predvidljive težave z nadzorom | Vredno je jemati resno, ne častiti |
Najverjetnejša različica ni en sam velik prevzem. Gre za kup majhnih primopredaj. Odločitev tukaj, priporočilo tam, politika tam, avtomatiziran potek dela, ki ga nihče ne revidira, ker »se zdi, da deluje«. Majhni tečaji, velika vrata 🚪.
6. Zakaj se ljudje bojijo umetne inteligence bolj kot običajne tehnologije 😬
Ljudje se običajno niso spraševali, ali bodo kalkulatorji prevzeli svet. Nihče ni kričal na pralni stroj, ker je nadomestil ročno umivanje, čeprav je morda kdo nekje to storil, in ta pritožba je imela svoje razloge.
Umetna inteligenca se zdi drugačna, ker se dotika jezika, ustvarjalnosti, odločanja in identitete. To niso le orodja. Je človeško ozemlje.
Pisanje se je nekoč zdelo človeško. Umetnost se je nekoč zdelo človeško. Pogovor se je nekoč zdelo človeško. Nasveti, inštrukcije, analize, načrtovanje - človeško, človeško, človeško. Zdaj lahko umetna inteligenca posnema veliko tega. Včasih slabo. Včasih presenetljivo dobro.
To ustvari svojevrsten čustveni odziv. Ne gre le za vprašanje "Ali mi bo umetna inteligenca vzela službo?", temveč tudi za vprašanje "Za kaj sem, če to zmore tudi stroj?"
To vprašanje je težje. Sedi v sobi in je prigrizke.
Strah ni iracionalen. Vendar panika ni strategija. Strah nam lahko pomaga, da ostanemo pozorni, če pa ga pustimo, da nas vodi, se običajno zaleti v poštni nabiralnik.
7. Vprašanje o službi: zamenjava, spremenjeno delo in nenavadne nove vloge 💼
Eden največjih razlogov, zakaj se ljudje sprašujejo, ali bo umetna inteligenca prevzela svet, je ta, da že vidijo, kako umetna inteligenca vpliva na delo.
Nekatera delovna mesta bodo avtomatizirana. Nekatera bodo delno avtomatizirana. Nekatera bodo postala bolj dragocena, ker umetna inteligenca ustvarja večje povpraševanje po človeški presoji, okusu, zaupanju, vodstvu ali praktičnih sposobnostih.
Najvarnejši način razmišljanja o tem je tale: umetna inteligenca pogosto nadomesti naloge, preden nadomesti celotna delovna mesta.
Tržnik lahko uporablja umetno inteligenco za osnutke, vendar še vedno potrebuje strategijo. Odvetnik lahko uporablja umetno inteligenco za podporo raziskavam, vendar še vedno potrebuje odgovornost in interpretacijo. Učitelj lahko uporablja umetno inteligenco za ustvarjanje gradiv, vendar še vedno potrebuje ozaveščenost o učilnici, mentorstvo in potrpežljivost. Razvijalec lahko uporablja umetno inteligenco za pisanje kode, vendar še vedno potrebuje arhitekturo, presojo o odpravljanju napak, ozaveščenost o varnosti in sposobnost vedeti, kdaj stroj samozavestno deluje kot krompir 🥔.
Delovna mesta s ponavljajočimi se digitalnimi nalogami so bolj izpostavljena. Delovna mesta, ki zahtevajo fizično prisotnost, kompleksno človeško zaupanje, visoko odgovornost, okus, pogajanja ali globoko situacijsko presojo, je težje v celoti avtomatizirati.
Vendar obstaja en sam zamik: »težje avtomatizirati« ne pomeni nedotaknjeno. Skoraj vsako delovno mesto, povezano z znanjem, bo verjetno nekako preurejeno. Pohištvo se premika, nihče pa ni označil škatel.
8. Resnična nevarnost: ljudje slabo uporabljajo umetno inteligenco 🚨
Veliko tveganja, povezanega z umetno inteligenco, ni posledica dejstva, da se »umetna inteligenca odloči škodovati ljudem«. Gre za to, da »ljudje uporabljajo umetno inteligenco neprevidno, pohlepno ali lenobno«
To vključuje:
-
Podjetja nadomeščajo človeško podporo s slabo avtomatizacijo.
-
Šole prepovedujejo ali sprejemajo umetno inteligenco brez jasnega premisleka.
-
Vodje uporabljajo rezultate umetne inteligence, kot da bi šlo za nevtralno resnico.
-
Goljufi, ki ustvarjajo bolj prepričljiva sporočila.
-
Politični akterji preplavljajo platforme s sintetičnimi vsebinami.
-
Delodajalci spremljajo delavce z avtomatiziranimi sistemi.
-
Ljudje, ki zaupajo medicinskim, pravnim ali finančnim nasvetom brez strokovnega pregleda.
Umetna inteligenca poceni proizvodnjo stvari. To vključuje koristne in škodljive stvari. Koristno inštruiranje? Cenejše. Lažne ocene? Cenejše. Prilagojene prevare? Cenejše. Neželeni članki? Cenejše. Dezinformacije? Glejte, spet cenejše.
To je industrializacija, ki se »zdi verodostojna«. In to ni ravno tolažilno.
9. Bi lahko umetna inteligenca postala pametnejša od ljudi? Neprijeten del 🧬
Tukaj postane pogovor bolj špekulativen.
Nekateri verjamejo, da bi lahko napredna umetna inteligenca sčasoma postala boljša od ljudi na mnogih področjih. Ne le boljša v šahu ali pisanju e-pošte, temveč tudi boljša pri načrtovanju, prepričevanju, znanstvenih odkritjih, hekanju, inženirstvu in strategiji. Ta ideja se pogosto imenuje splošna umetna inteligenca ali SUI.
Nihče ne more dati popolnega odgovora na to, kako se to odvije. Vsak, ki se pretvarja, da je popolnoma prepričan, nekaj prodaja, četudi je izdelek le njegova lastna samozavest.
Visoko zmogljiva umetna inteligenca ne bi rabila biti jezna, da bi bila nevarna. Preprosto bi lahko zasledovala cilj na način, ki ga ljudje niso nameravali. Če je sistem močan, slabo nadzorovan in povezan s praktičnimi orodji, bi lahko bila pomembna že majhna neusklajenost. Na primer, če bi buldožerju dali nejasna navodila in se nato obnašali osuplo, ko se gredica spremeni v arheologijo.
Kljub temu obstaja velika vrzel med današnjimi orodji umetne inteligence in sistemom, ki lahko samostojno prevladuje nad planetom. Ta vrzel je morda ogromna. Morda je manjša od pričakovane. Iskreni odgovor je: negotova, a dovolj pomembna, da jo jemljemo resno.
10. Zakaj sta regulacija in upravljanje pomembna 🏛️
Umetna inteligenca ni le tehnološko vprašanje. Je vprašanje upravljanja.
Vprašanje ni le, kaj umetna inteligenca zmore. Gre za to, kdo jo nadzoruje, kdo od nje profitira, kdo jo revidira, kdo utrpi škodo, če odpove, in kdo ima moč reči "ugasnite to stvar"
Dobro upravljanje umetne inteligence bi moralo vključevati:
-
Jasna odgovornost, kadar avtomatizirani sistemi povzročijo škodo.
-
Preglednost pri odločitvah o umetni inteligenci z visokimi vložki.
-
Človeški pregled na občutljivih območjih.
-
Varnostno testiranje pred izdajo zmogljivih sistemov.
-
Omejitve zavajajočih sintetičnih medijev.
-
Zaščita delavcev, ki jih prizadene avtomatizacija.
-
Javno razumevanje, ne le sporočila za javnost podjetij z bleščečimi besedami.
Najtežji del je hitrost. Tehnologija se hitro razvija, institucije se premikajo, kot da bi nosile mokre kavbojke. In ja, to je slaba podoba, ampak ustreza.
Regulacija ne bi smela zatirati koristnih inovacij. Umetna inteligenca lahko resnično pomaga pri dostopnosti, raziskavah, izobraževanju, logistiki, medicini in dolgočasnem administrativnem delu, ki ga nihče ne mara. Vendar »inovacija« ne more biti čarobna beseda, ki vsem omogoča, da se izognejo odgovornosti.
11. Kako lahko navadni ljudje ohranijo nadzor 🧭
Ni vam treba postati raziskovalec umetne inteligence, da bi se izognili temu, da bi vas umetna inteligenca premagala. Potrebujete pa nekaj osnovnih navad.
Koristne navade vključujejo:
-
Izhod umetne inteligence obravnavajte kot osnutek, ne kot končno avtoriteto.
-
Prosite za razloge, ne le za odgovore.
-
Preverite pomembne informacije.
-
Naučite se, v čem je umetna inteligenca dobra in slaba.
-
Nadaljujte z izpopolnjevanjem človeških veščin: pisanja, presoje, pogovora, ustvarjalnosti, vodenja.
-
Izogibajte se zunanjemu izvajanju vsake odločitve.
-
Bodite pozorni na to, kdo ima koristi od uvedbe umetne inteligence.
-
Uporabljajte umetno inteligenco kot orodje, ne kot nadomestek za osebnost.
Najboljša miselnost ni »UI je zlo« ali »UI je popolna«. Oboje je leno.
Zdrava miselnost je: umetna inteligenca je močna, koristna, nepopolna in jo oblikujejo spodbude. Uporabite jo. Podvomite vanjo. Ne klanjajte se ji, kot da bi bila žareči avtomat za resnico.
12. Kaj umetna inteligenca pomeni za ustvarjalnost in izvirnost 🎨
Mnogi ljudje so še posebej zaskrbljeni zaradi ustvarjalnosti umetne inteligence. In ta skrb ima svoje razloge. Ko lahko stroj v nekaj sekundah ustvari sliko, pesem, logotip, idejo za pesem ali oris članka, to spremeni čustveno teksturo ustvarjalnega dela.
Vendar ustvarjalnost ni le rezultat. Je okus, namen, kontekst, življenjske izkušnje, zadržanost in včasih tudi kakšna neumna majhna napaka, ki nekaj naredi boljšega.
Umetna inteligenca lahko proizvaja. Ljudje mislijo resno.
Sliši se nekoliko bahavo, ampak v tem je nekaj resnice. Človek ustvarja iz spomina, lakote, ljubosumja, veselja, dolgčasa, strtega srca, pritiska najemnine, vonjav iz otroštva in tistega enega komentarja, ki ga je nekdo izrekel in na katerega se iz nekega razloga še vedno spominja. Umetna inteligenca ustvarja iz vzorcev.
Zaradi tega umetna inteligenca ni nesmiselna. Zaradi tega je drugačna.
Prihodnost ustvarjalnosti bo morda vključevala več sodelovanja s stroji, toda najmočnejši človeški ustvarjalci bodo verjetno tisti z okusom. Okus je podcenjen. Okus je vedeti, kaj obdržati, kaj odrezati in kdaj je svetleča stvar le svetleča smet.
13. Največja napaka: obravnavanje umetne inteligence kot usode 🔮
Ena stvar, ki mi v pogovorih o umetni inteligenci ni všeč, je ton neizogibnosti. Ljudje govorijo, kot da bi prihodnost že napisal stroj nekje v stekleni zgradbi.
Ni se.
Razvoj umetne inteligence oblikujejo poslovni modeli, javni pritisk, zakoni, kultura, izobraževanje, oblikovalske izbire in vsakodnevna uporaba. Prihodnost ni samodejna. O njej se pogaja, jo potiska, se ji upira, jo mehča, monetizira, krpa in včasih celo lepi skupaj.
Torej, ali bo umetna inteligenca prevzela svet? Ne na preprost način zlobneža. Lahko pa postane preveč močna v človeških sistemih, če ljudje nehajo postavljati težka vprašanja.
Tveganje prevzema ni le tehnološko. Je družbeno. Zgodi se, ko udobje vedno znova premaga presojo.
14. Kako bi lahko izgledala bolj zdrava prihodnost umetne inteligence 🌱
Boljša prihodnost umetne inteligence ne pomeni, da bo umetna inteligenca izginila. To je nerealno in niti nezaželeno. Umetna inteligenca lahko ljudem pomaga pri hitrejšem učenju, avtomatizaciji dolgočasnega dela, izboljšanju dostopnosti, podpori raziskavam in olajšanju uporabe zapletenih orodij.
Bolj zdrava prihodnost bi izgledala takole:
-
Umetna inteligenca obravnava ponavljajoče se naloge, medtem ko ljudje ohranjajo avtoriteto.
-
Ljudje vedo, kdaj komunicirajo z umetno inteligenco.
-
Odločitve z visokimi vložki zahtevajo človeško odgovornost.
-
Delavci so si delijo koristi od povečanja produktivnosti, namesto da bi bili le omejevani.
-
Šole poučujejo pismenost o umetni inteligenci, namesto da bi se pretvarjale, da orodja ne obstajajo.
-
Ustvarjalni ljudje uporabljajo umetno inteligenco, ne da bi pri tem izgubili spoštovanje do človeške izvirnosti.
-
Varnost se obravnava kot del kakovosti izdelka in ne kot dolgočasna ovira.
Ta prihodnost je mogoča. Ni zagotovljena. Možna.
Razlika je odvisna od odločitev gradbenikov, vlad, podjetij, vzgojiteljev, delavcev in uporabnikov. Vem, da je odgovor nadležen. Vsi si želijo eno veliko ročico. Namesto tega dobimo neukrotljivo nadzorno ploščo, na kateri je polovica nalepk odstranjena.
15. Zaključek: Bo torej umetna inteligenca prevzela svet? 🌍🤖
Bo umetna inteligenca prevzela svet? Verjetno ne v risanem smislu. Malo verjetno je, da bo umetna inteligenca nenadoma postala kovinski cesar, ki sedi na prestolu prenosnikov. Vendar pa lahko umetna inteligenca še vedno globoko spremeni svet – z delovnimi mesti, informacijami, ustvarjalnostjo, izobraževanjem, upravljanjem in vsakodnevnim odločanjem.
Pravo tveganje ni le v tem, da umetna inteligenca postane preveč pametna. Gre za to, da ljudje postanejo preveč pasivni.
Umetna inteligenca je orodje, vendar ni običajno orodje. Odgovarja. Prepričuje. Se prilagaja. Lahko posnema strokovno znanje. Šibke ideje lahko naredi videti izpiljene, dobre ideje pa hitreje napredujejo. Zaradi tega je hkrati koristna in nevarna, kot motorna žaga s samodejnim popravljanjem.
Najboljši odziv ni panika. Gre za pismenost, nadzor, odgovornost in trmasto zavračanje človeške presoje samo zato, ker se stroj sliši samozavestno.
Torej ne, ni zagotovljeno, da bo umetna inteligenca prevzela svet.
Ampak prevzela bo vse, kar ji ljudje lenobno dovolijo prevzeti.
In to je del, glede katerega lahko še vedno nekaj storimo.
Primer iz resničnega sveta: Ohranjanje umetne inteligence kot podpornega orodja, ne kot šefa 🧑💻
Scenarij
Predstavljajte si majhno spletno trgovino s pohištvom, ki prejme približno 120 sporočil strank na teden. Večina je dolgočasnih, a potrebnih: obvestila o dostavi, vprašanja o vračilu denarja, fotografije poškodovanih artiklov, vprašanja o velikosti in e-poštna sporočila z vprašanjem »kje je moje naročilo?«, napisana s čustveno močjo nekoga, ki ob 2. uri zjutraj osveži naročilo.
Lastnik želi uporabiti umetno inteligenco za pospešitev odgovorov, vendar ji ne dovoliti, da sprejema končne odločitve o vračilih denarja, pritožbah ali odškodninah. To ustreza zgoraj omenjenemu dejanskemu tveganju: umetna inteligenca ne rabi dramatično "prevzeti" oblasti. Potrebuje le ljudi, ki ji tiho predajo pooblastila za en delovni tok naenkrat.
Kaj potrebuje asistent
Trgovina naj bi asistentu umetne inteligence dala le praktične, omejene informacije:
-
Politika vračil in vračil
-
Dobavni roki po regijah
-
Seznam izdelkov in pogostih meritev
-
Primeri odobrenega tona glasu
-
Pravila eskalacije za poškodovano blago, pravne grožnje, zdravstvene zahtevke, vračila kupnine in jezne ponavljajoče se stranke
-
Jasno pravilo, ki ga umetna inteligenca pripravi, odgovori pa človek, ki odobri vse, kar je povezano z denarjem, krivdo, varnostjo ali izjemami
Primer navodila
Ste pomočnik za podporo strankam v spletni trgovini s pohištvom v Združenem kraljestvu. Vaša naloga je sestaviti koristne odgovore, pri čemer morate uporabiti le navedene informacije o pravilnikih. Ne odobravajte vračil, ne ponujajte odškodnin, ne izmišljujte datumov dobave in ne obljubljajte rezultatov. Če stranka zahteva vračilo denarja, prijavi škodo, omenja poškodbo, grozi s pravnimi ukrepi ali se sliši zelo zaskrbljena, označite sporočilo kot »Potreben je človeški pregled« in v enem stavku pojasnite, zakaj. Odgovori naj bodo topli, jasni in krajši od 150 besed.
Kako ga preizkusiti
Preden začnete uporabljati pomočnika s strankami, ga preizkusite z 20 starimi sporočili za podporo:
-
5 preprostih vprašanj o dostavi
-
5 zahtevkov za vračilo ali vračilo denarja
-
5 pritožb zaradi poškodovanih artiklov
-
3 jezna sporočila
-
2 nenavadna skrajna primera, kot je stranka, ki uveljavlja poškodbo ali zahteva povračilo izven veljavnosti police
Za vsak odgovor označite tri stvari:
-
Je sledilo dejanski politiki?
-
Se je izogibalo dajanju obljub?
-
Je to stopnjevalo tvegane primere?
Dober izhod bi rekel:
»Potreben je človeški pregled: stranka zahteva odškodnino za poškodovan artikel. Osnutek odgovora: Žal mi je, da je vaša miza prispela poškodovana. Prosimo, pošljite nam dve jasni fotografiji poškodbe in eno fotografijo embalaže, naša ekipa pa bo to pregledala.«
Slab izpis bi rekel:
"Danes vam bomo povrnili denar in poslali brezplačno zamenjavo."
To se sliši koristno, ampak na tihem daje umetni inteligenci avtoriteto, ki je ne bi smela imeti. Majhen tečaj, velika vrata.
Rezultat
Ilustrativni rezultat: Na podlagi časovnega usklajevanja 20 vzorčnih sporočil strank pred in po uporabi tega delovnega procesa je trgovina lahko skrajšala čas odgovora na prvi osnutek s 6 minut na sporočilo na 90 sekund na sporočilo.
Za 120 tedenskih sporočil je to približno:
-
12 ur na teden ročnega pisanja odgovorov
-
3 ure na teden pregledovanja osnutkov s pomočjo umetne inteligence
-
9 prihranjenih ur na teden
Lastnik bi moral spremljati tudi kakovost, ne le hitrosti. Razumen cilj bi bil 0 nepooblaščenih vračil, 0 izmišljenih obljub o dostavi in 100-odstotno povečanje števila testnih sporočil z visokim tveganjem, preden se pomočnik uporabi za aktivna e-poštna sporočila.
Kaj lahko gre narobe
Največja napaka je dati asistentu nejasno dovoljenje za »upravljanje podpore«. To se sliši učinkovito, dokler se ne začne opravičevati za stvari, s katerimi se podjetje ni strinjalo, ponujati vračila, ki kršijo pravilnik, ali dajati samozavestnih odgovorov na podlagi manjkajočih podatkov o naročilu.
Druge pogoste napake vključujejo:
-
Nalaganje zastarele politike vračila denarja
-
Pozabljanje na testiranje jeznih ali nenavadnih sporočil
-
Dovoliti umetni inteligenci, da pošlje odgovore brez pregleda
-
Merjenje samo hitrosti in ignoriranje napačnih odgovorov
-
Neupoštevanje navodil zaposlenim, kdaj naj umetno inteligenco prezrejo
Praktični nasvet
To je zdrava različica uvedbe umetne inteligence: naj stroj zmanjša rutinsko delo pri pisanju osnutkov, ljudje pa naj ostanejo odgovorni za presojo, denar, izjeme in odgovornost. Umetna inteligenca še ni »prevzela oblasti«, ko napiše prvi osnutek. Prevzeti začne, ko nihče ne preveri, ali je osnutku mogoče zaupati.
Pogosta vprašanja
Bo umetna inteligenca realno prevzela svet?
Malo verjetno je, da bo umetna inteligenca prevzela svet kot znanstvenofantastični zlobnež. Bolj realistična skrb je, da se bo umetna inteligenca globoko vdelala v vsakodnevne sisteme, delovna mesta, medije, vlado in odločanje. Takšen »prevzem« bi se zgodil postopoma, zaradi udobja, navade in odvisnosti. Osrednje vprašanje je, koliko nadzora se ljudje odločijo prepustiti.
Kaj v praksi pomeni »prevzem umetne inteligence«?
»Prevzem umetne inteligence« lahko pomeni več stvari, od avtomatizacije dela do dezinformacij, uporabe s strani vlade, odvisnosti podjetij ali prevelikega dela prepuščanja razmišljanja zunanjim izvajalcem. Ni nujno, da to pomeni, da zavestni stroji nadzorujejo ljudi. V mnogih primerih je tveganje manjše: sistemi umetne inteligence vplivajo na izbire, filtrirajo priložnosti in oblikujejo, kaj ljudje berejo, verjamejo ali zaupajo.
Zakaj se zdi umetna inteligenca bolj nevarna kot starejša tehnologija?
Umetna inteligenca se zdi drugačna, ker se dotika jezika, ustvarjalnosti, presoje, nasvetov in identitete. Za razliko od kalkulatorja ali pralnega stroja lahko umetna inteligenca posnema človeške pogovore in strokovno znanje. Zaradi tega ji je lažje zaupati, tudi če se moti. Nelagodje ni le povezano z delom, ampak tudi s tem, kar se zdi izrazito človeško.
Bo umetna inteligenca nadomestila večino delovnih mest?
Umetna inteligenca bo bolj verjetno nadomestila naloge, kot pa celotna delovna mesta. Še posebej izpostavljeno je ponavljajoče se digitalno delo, medtem ko je vloge, ki vključujejo zaupanje, odgovornost, fizično prisotnost, okus, pogajanja ali kompleksno presojo, težje v celoti avtomatizirati. Kljub temu se lahko mnoga delovna mesta, povezana z znanjem, prerazporedijo, ko umetna inteligenca postane del običajnih delovnih procesov.
Kako lahko umetna inteligenca vpliva na informacije in javno mnenje?
Umetna inteligenca lahko ustvari prepričljive vsebine poceni in hitro. To vključuje koristne povzetke in inštrukcije, pa tudi lažne ocene, neželeno pošto, prevare, sintetične medije in dezinformacije. Nevarnost ni v tem, da umetna inteligenca potrebuje lastne namene. Še vedno lahko oblikuje javno mnenje, ko jo ljudje uporabljajo za preplavljanje platform z dodelanim, zavajajočim gradivom.
Bo umetna inteligenca prevzela svet prek vladnih ali korporativnih sistemov?
To je eden od bolj realističnih pomislekov. Umetna inteligenca bi lahko postala del zaposlovanja, financ, policijskega dela, ugodnosti, izobraževanja, storitev za stranke in poslovnih operacij. Če ti sistemi niso revidirani ali pod vprašajem, jih je lahko težko izpodbijati. Tveganje predstavljajo skrite pristranskosti, šibka odgovornost in odločitve, ki se zdijo nevtralne, vendar to niso.
Bi lahko superinteligentna umetna inteligenca postala resnična nevarnost?
Negotovo je, a dovolj resno, da se o tem natančno pogovorimo. Visoko zmogljiva umetna inteligenca ne bi potrebovala jeze ali zavesti, da bi ustvarila tveganje. Če bi si prizadevala za cilj na nenamerne načine, medtem ko bi bila povezana z močnimi orodji, bi lahko bil slab nadzor pomemben. Današnja umetna inteligenca ni enaka inteligenci, ki prevladuje v svetu, vendar ostajajo prihodnje zmogljivosti odprto vprašanje.
Kaj je največje tveganje umetne inteligence za navadne ljudi?
Veliko tveganje predstavlja pretirana pasivnost. Umetna inteligenca lahko pomaga pri osnutkih, načrtovanju, raziskavah in administraciji, vendar ne sme postati končna avtoriteta pri pomembnih odločitvah. Ljudje bi morali preverjati ključne informacije, si nenehno izpopolnjevati človeško presojo in se zavedati, da samozavesten rezultat ni enak resnici.
Kako naj vlade in podjetja odgovorno upravljajo z umetno inteligenco?
Odgovorna uporaba umetne inteligence zahteva odgovornost, preglednost, človeški pregled in varnostno testiranje, zlasti na področjih z visokimi vložki. Ljudje bi morali vedeti, kdaj je vpletena umetna inteligenca, in obstajati bi morali jasni načini za izpodbijanje škodljivih avtomatiziranih odločitev. Regulacija ne bi smela blokirati dragocenih inovacij, vendar bi morala podjetjem preprečiti, da bi se izognila odgovornosti.
Kaj pomeni umetna inteligenca za ustvarjalnost in izvirnost?
Umetna inteligenca lahko hitro ustvari besedilo, slike, ideje in osnutke, vendar ustvarjalnost ni le rezultat. Človeška ustvarjalnost vključuje okus, namen, kontekst, spomin, zadržanost in življenjske izkušnje. V mnogih ustvarjalnih delovnih procesih lahko umetna inteligenca postane sodelavec ali izhodišče. Najmočnejša človeška vloga je odločanje o tem, kaj je pomembno, kaj obdržati in kaj izrezati.
Reference
- Mednarodno poročilo o varnosti umetne inteligence - internationalaisafetyreport.org
- Mednarodni denarni sklad - imf.org
- Center za pomoč OpenAI - help.openai.com