🛡️ Britanski regulatorji hitijo z oceno tveganj najnovejšega modela antropične umetne inteligence, poroča FT ↗
Britanski finančni nadzorni organi menda hitro napredujejo pri novem modelu Mythos podjetja Anthropic, potem ko so se pojavili pomisleki, da bi lahko razkril resne pomanjkljivosti v kritičnih sistemih. V pogovorih sodelujejo Bank of England, FCA, Ministrstvo za finance in Nacionalni center za kibernetsko varnost – kar je za predogled enega modela impresivna zasedba.
Skrbi dejstvo, da je Mythos nenavadno spreten pri iskanju ranljivosti programske opreme, čeprav Anthropic pravi, da je uvedba strogo omejena in namenjena obrambnemu varnostnemu delu. Pričakuje se, da bodo banke, zavarovalnice in borze obveščene, zato se to zdaj manj zdi kot laboratorijske govorice in bolj kot infrastrukturna politika.
🤖 Na konferenci HumanX so vsi govorili o Claudu ↗
Zdelo se je, da je Anthropic na HumanX-u določal ton – to je bila zgodba. Claude se je nenehno pojavljal kot vzorčni model, ki so ga ljudje najbolj iskali za poslovne in programske delovne procese.
Izstopal je relativni molk okoli ChatGPT. Članek nakazuje, da ima OpenAI še vedno obseg in denar, vendar se je razpoloženje na konferenci nagibalo k Claudu kot orodju z močnejšim podjetniškim pridihom trenutno – ali vsaj tako se zdi.
📄 Anthropicov Claude za Word je še en izziv za Microsoftov programski imperij ↗
Anthropic je izdal beta različico programa Claude for Word, s čimer je namesto da bi ostal omejen na orodje za razvijalce, še bolj potisnil v vsakdanjo pisarniško programsko opremo. Z njim lahko odgovori na vprašanja o dokumentu s klikljivimi citati odsekov, uredi izbrano besedilo brez uničenja oblikovanja in obravnava sledene spremembe.
Ciljna publika je precej jasna: ekipe, ki se ukvarjajo z dokumenti, zlasti pravne in finančne. Zaradi tega je to več kot le dodatek k funkciji – gre za neposreden sunek na Microsoftov domači teren in precej predrzna poteza.
🌐 Boti umetne inteligence rudarijo po spletu, Anthropic pa je na čelu ↗
Nov pogled na podatke Cloudflare kaže, da podjetja, ki se ukvarjajo z umetno inteligenco, iz spleta izvlečejo veliko več, kot jim vrnejo. Ključna statistika je razmerje med indeksiranjem in napotitvami – kako pogosto boti postrgajo strani v primerjavi s tem, kako pogosto pošiljajo uporabnike nazaj – in Anthropic se izkaže za še posebej slab.
Razmerje pri Anthropicu je 8800 proti 1, pri čemer je tudi razmerje pri OpenAI visoko, vendar precej nižje. Širša točka pade na nogo: stari spletni dogovor je bil, da nas najprej pregledajo in nam nato pošljejo promet. Mehanizmi za odgovore umetne inteligence obdržijo prvi del, drugega pa pustijo, da se razblini.
⚔️ Pogled na naraščajočo svetovno oboroževalno tekmo z umetno inteligenco, saj ZDA, Kitajska, Rusija in druge hitijo z gradnjo avtonomnega orožja in obrambnih sistemov, podprtih z umetno inteligenco ↗
Najnovejše poročanje o vojaški umetni inteligenci se manj osredotoča na bleščeče demonstracije in bolj na strateško pospeševanje. Velike sile hkrati spodbujajo avtonomne in obrambne sisteme s pomočjo umetne inteligence, zaradi česar se celotna zadeva zdi kot štafetna tekma, kjer so vsi prijeli za palico in pozabili na zavore.
To sproža običajna vprašanja – nadzor, eskalacija, odgovornost – vendar zdaj z večjo nujnostjo. Ko je umetna inteligenca globlje vgrajena v ciljanje, nadzor in odločanje na bojišču, se »eksperimentalno« začne slišati kot papirnata nalepka na nečem, kar se že premika.
🏭 Japonska SoftBank ustanovi enoto za razvoj domače umetne inteligence ↗
SoftBank se je združil s Sonyjem, Hondo in drugimi japonskimi podjetji, da bi ustanovil novo podjetje za umetno inteligenco, osredotočeno na »fizično umetno inteligenco« – modele, namenjene nadzoru strojev in robotov, ne le odgovarjanju v obliki besedilnih sporočil. To je drugačna pot od običajnega tekmovanja klepetalnih robotov in morda celo bolj zanimiva.
Ambicija je ogromna, saj naj bi bila prizadevanja usmerjena v zelo obsežen model temeljev in dolgo pot do industrijske uporabe. Delno gre za nacionalno-tehnološko strategijo, delno za poskuse na Luno, delno za mehansko anime s sestanki upravnega odbora.
Pogosta vprašanja
Zakaj britanski regulatorji pozorno spremljajo model Mythos podjetja Anthropic?
Poročila kažejo, da britanske oblasti Mythos vidijo kot potencialno tveganje, ker je morda nenavadno spreten pri odkrivanju ranljivosti programske opreme. V razpravah naj bi sodelovali Bank of England, FCA, Ministrstvo za finance in Nacionalni center za kibernetsko varnost. Ta kombinacija institucij kaže na zaskrbljenost glede morebitnih vplivov na kritične sisteme, zlasti na področju financ in infrastrukture.
Kaj loči model Anthropic Mythos od običajne izdaje umetne inteligence?
Skrb ni zgolj v tem, da gre za nov model, temveč v tem, da se zdi še posebej zmogljiv pri obrambnem varnostnem delu, povezanem z odkrivanjem programskih slabosti. Anthropic naj bi trdil, da je dostop strogo omejen, kar kaže na to, da se z uvedbo ravna previdno kot s široko uvedbo za potrošnike. V praksi se zaradi tega zdi bližje nadzorovani varnostni zmogljivosti kot standardni posodobitvi klepetalnega robota.
Zakaj je Claude na konferenci HumanX deležen toliko pozornosti?
Glede na članek se je Claude večkrat pojavil na panelih, v pogovorih s prodajalci in neformalnih razpravah kot močna možnost za poslovne in koderske delovne procese. Članek predstavlja Anthropic kot pomemben dejavnik pri poslovnih uporabnikih na tem dogodku. Prav tako nakazuje, da je bilo razpoloženje okoli HumanX na ChatGPT bolj umirjeno, čeprav ima OpenAI še vedno velik obseg in vire.
Kaj Claude for Word dejansko počne za ekipe, ki delajo z veliko dokumentov?
Beta različica, opisana tukaj, je zasnovana za delo znotraj dokumentov in ne zgolj za ustvarjanje samostojnega besedila. Lahko odgovori na vprašanja o dokumentu z navedbami razdelkov, uredi izbrane odlomke brez motenj oblikovanja in obravnava sledene spremembe. Zaradi tega je še posebej pomembna za pravne, finančne in druge ekipe, ki potrebujejo skrben pregled in ne grobega pisanja.
Kaj razmerje med indeksiranjem in napotitvami pove o botih umetne inteligence in spletu?
Članek predstavlja to razmerje kot način primerjave, koliko podjetij, ki uporabljajo umetno inteligenco, pregledujejo spletna mesta, v primerjavi s tem, kako pogosto pošiljajo uporabnike nazaj. V tem okviru zelo visoko razmerje kaže na ekstrakcijo z malo povratnega prometa. Anthropic je po tem merilu opisan kot še posebej slab, kar še bolj zaostruje širšo kritiko, da lahko iskalniki odgovorov umetne inteligence oslabijo starejšo spletno izmenjavo indeksiranja v zameno za napotitve.
Zakaj ljudje povezujejo napredek umetne inteligence tako z avtonomnim orožjem kot s fizično umetno inteligenco?
Članek opozarja na dva povezana trenda: vlade pospešujejo obrambne sisteme, podprte z umetno inteligenco, in podjetja, kot je SoftBank, ki podpirajo modele, namenjene nadzoru strojev in robotov. Skupaj kažeta, da umetna inteligenca presega klepet in iskanje v fizične sisteme, ki lahko zaznavajo, se odločajo in delujejo. To odpira večja vprašanja o nadzoru, odgovornosti, industrijski uporabi in kako hitro ti sistemi preidejo iz eksperimentalnega v operativni sistem.