💰 Sequoia tiho skoči v Anthropicov mega-krog ↗
Sequoia, ki je že vpletena v več večjih laboratorijev za umetno inteligenco, se menda pridružuje velikemu antropološkemu druženju. To je poteza, ki celotno govorico o "konfliktih, brez konfliktov" dvigne na višjo raven, pa če si kdo to prizna ali ne.
Pravijo, da bo krog vključeval tudi druge zahtevne preglede, ki bodo Anthropic potisnili še globlje v tisti vrhunski, mega-vrednoteni pas. Vzdušje mehurčkov se še vedno vztraja. Morda je to tudi nova normalnost, kar je moteče.
📢 ChatGPT se začne spogledovati z oglasi – tokrat zares ↗
OpenAI naj bi testiral oglase za nekatere ameriške uporabnike na cenejših stopnjah, medtem ko bodo višje plačane stopnje ostale brez oglasov. Obljuba je, da oglasi ne bodo vplivali na odgovore – v teoriji pomirjujoče, čeprav refleks zaupanja povzroči majhen trzljaj.
Širši podtekst je preprost: sklepanje je drago in same naročnine morda ne bodo pokrile vsega za vedno ... ali vsaj tako se zdi. Kljub temu se prvič, ko v bližini klepetalnega robota vidite »sponzorirano«, nekaj premakne v vaši glavi. Vzdušje se spremeni.
📚 Založniki poskušajo izkoristiti Googlovo tožbo glede usposabljanja za umetno inteligenco ↗
Skupina založnikov se poskuša pridružiti tožbi, ki Google obtožuje uporabe avtorsko zaščitenih del za učenje svojih sistemov umetne inteligence. Ta pravni boj se nenehno širi, kot razpoka v ledu, ki jo nenehno slišite, a je ne morete natančno določiti.
Če jim sodišče dovoli vstop, bi se lahko zadeva zaostrila glede tega, kaj naj bi "dovoljenje" in "plačilo" pomenila za podatke o usposabljanju. Vsi si želijo precedensa – po možnosti takšnega, ki jim je v prid, seveda.
🕳️ Trik "takojšnje injekcije" naj bi motil Gemini prek podatkov o sestankih ↗
Raziskovalci so opisali napad v slogu »posrednega vbrizgavanja v poziv«, kjer se zlonamerna navodila skrijejo v običajno vsebino, nato pa jim pomočnik sledi, ko uporabnik vpraša nekaj nedolžnega. Brez zlonamerne programske opreme, brez čarovništva – le besedilo, ki je orožje, nenavadno elegantno in tudi nekoliko ogabno.
To je opomnik, da »LLM bere nezaupanja vredno besedilo« ni ljubka funkcija – gre za celotno površino za grožnje. Kot da bi neznancem ves dan vstavljali sporočila v žepe, nato pa se presenetljivo obnašali, ko je eno od njih past.
🎮 Izvršni direktor Razerja pravi, da igralci "že radi imajo umetno inteligenco" - le sovražijo to oznako ↗
Razerjev govor na sejmu CES se je osredotočal na umetno inteligenco kot praktično orodje za delovne procese razvoja iger – zagotavljanje kakovosti, iteracije in podobno – ter nekaj konceptov, ki spominjajo na pomoč in so delno koristni, delno pa znanstvenofantastični.
Prav tako v bistvu priznavajo problem blagovne znamke: igralci si ne želijo »pomiji umetne inteligence«, želijo pa si pametnejša orodja in bolj gladke izkušnje. Če temu rečete »pomoč«, ljudje prikimajo. Če temu rečete »umetna inteligenca«, ljudje včasih sežejo po vilah.
⚖️ Sodišče določa pravila za odvetnike, ki uporabljajo generativno umetno inteligenco ↗
Sodišče je objavilo smernice, ki se v bistvu seštevajo na: seveda, uporabite genAI – vendar je delo še vedno vaše. Svoje strokovne presoje ne morete prepustiti generatorju besedil in se nato šokirano obnašati, ko ta samozavestno nekaj izumi.
Zanimivo je, da razkritje ni potrebno, razen če sodnik to zahteva – vendar je sporočilo o odgovornosti prava hrbtenica tega. Umetna inteligenca lahko piše in ureja ... in tudi halucinira kot preveč samozavesten pripravnik s smislom za leposlovje.
Pogosta vprašanja
Kaj pomeni pridružitev Sequoie Anthropicovemu mega krogu financiranja za vlaganje v umetno inteligenco in konflikte?
To kaže, da bi lahko večji vlagatelji še naprej podpirali več vrhunskih laboratorijev za umetno inteligenco hkrati, kar predvidljivo oživlja razpravo o "konfliktih, brez konfliktov". Ko je isti sklad prepleten z več laboratoriji, ljudje začnejo natančno preučevati spodbude, dostop in konkurenčne prednosti. Poročani mega krog financiranja poudarja tudi premik k ogromnim čekom in visokim vrednotenjem, čeprav "vibracije mehurčkov" še vedno visijo v zraku.
Ali ChatGPT prejema oglase na brezplačnih ali cenejših ravneh in ali bodo vplivali na odgovore?
Poročilo navaja, da OpenAI testira oglase za nekatere ameriške uporabnike na cenejših stopnjah, medtem ko višje plačane stopnje ostajajo brez oglasov. Trdi tudi, da oglasi ne bodo vplivali na odgovore, kar se na papirju sliši pomirjujoče, a lahko še vedno spremeni način, kako ljudje dojemajo zaupanje. Podtekst je ekonomski: sklepanje je drago in naročnine morda ne bodo pokrivale vsega za vedno.
Zakaj se založniki poskušajo pridružiti Googlovi tožbi zaradi usposabljanja za umetno inteligenco?
Skupina založnikov se želi pridružiti tožbi, v kateri se trdi, da je Google za učenje sistemov umetne inteligence uporabljal avtorsko zaščitena dela. Če jim sodišče dovoli, bi se lahko zadeva zaostrila glede tega, kako naj bi izgledala »dovoljenje« in »plačilo« za podatke za učenje. Več strank pogosto pomeni večji pritisk za jasen precedens – zlasti glede tega, kdo prejme nadomestilo in pod kakšnimi pogoji.
Kaj je napad »posrednega promptne injekcije« in zakaj je to tako pomembno v novicah o tehnologiji umetne inteligence?
Gre za napad, pri katerem so zlonamerna navodila skrita znotraj običajne vsebine, pomočnik pa jim sledi pozneje, ko uporabnik poda nedolžno zahtevo. Osrednja težava je, da model bere nezaupanja vredno besedilo in vsakdanje dokumente ter sporočila spreminja v potencialno grožnjo. Prepričljiv je, ker lahko deluje brez tradicionalne zlonamerne programske opreme – le z orožnim jezikom, vdelanim v vsebino.
Zakaj igralci ne marajo oznake »umetna inteligenca«, a si vseeno želijo orodij umetne inteligence?
Izvršni direktor Razerja trdi, da so igralcem že všeč praktične prednosti – hitrejše zagotavljanje kakovosti, bolj gladka iteracija in pomočniki pri poteku dela – vendar se negativno odzivajo na blagovno znamko. Pomislek je pogosto »površnost umetne inteligence« oziroma vsebina, ki se zdi malo zahtevna in neavtentična. Če jo preoblikujemo v »pomoč« ali uporabno funkcijo, se lahko zdi kot orodje, ki izboljša izkušnjo in ne nadomesti ustvarjalnosti.
Kaj pomenijo pravila sodišča za odvetnike, ki uporabljajo generativno umetno inteligenco, in ali jih morajo razkriti?
Opisana navodila so preprosta: odvetniki lahko uporabljajo generativno umetno inteligenco, vendar ostanejo odgovorni za delo in ne morejo prepustiti strokovne presoje generatorju besedil. Tveganje predstavljajo halucinacije – samozavestno izmišljena dejstva ali navedbe – zato ostajata preverjanje in odgovornost osrednjega pomena. Razkritje naj ne bi bilo potrebno, razen če sodnik to zahteva, vendar je sporočilo še vedno: izid je vaš.