OpenAI bo zaradi varnostnih pomislekov začasno ustavil delo na modelu umetne inteligence Astra ↗
OpenAI začasno ustavlja notranje delo na Astri, ki ne izpolnjuje strožjih varnostnih zahtev, potem ko so ocene pokazale, da so njene kibernetske sposobnosti morda presegle "kritični" prag. Agent bi lahko domnevno našel in izkoristil ranljivosti brez človeškega posredovanja ali izvedel napade z visoke ravni. Ja ... to je precej resna meja, ki jo je treba prestopiti.
Podjetje zaostruje izolirano testiranje, dostop do omrežja in orodij, zaščito z utežmi modelov, šifriranje in spremljanje. Astra ni bila vpletena v prejšnji incident Hugging Face podjetja OpenAI, vendar širši vzorec vse bolj avtonomnih agentov omejevanje povzroča veliko večjo skrb. (Vir: The Guardian)
Apple pravi, da se lahko uporabniki Macov na Kitajskem povežejo s storitvijo umetne inteligence Qwen podjetja Alibaba ↗
Uporabniki Maca na celinski Kitajski, ki izpolnjujejo pogoje, lahko zdaj povežejo Alibabin Qwen s Siri in Applovimi orodji za pisanje. To pomeni podrobnejše odgovore ter analizo dokumentov in slik ter ustvarjanje besedila in slik iz opisov.
Iskreno povedano, gre za zanimivo poroko – Apple dobi lokalno skladno pot do močnejših funkcij umetne inteligence na močno konkurenčnem trgu osebnih računalnikov, medtem ko Alibaba Qwen vgradi veliko globlje v ekosistem nekoga drugega. Apple pravi, da Alibaba ne more uporabiti gradiva, poslanega prek razširitve, za učenje svojih modelov. (Vir: Reuters)
Google DeepMind vstopa v novo dobo, saj soustanovitelj Demis Hassabis spreminja vlogo umetne inteligence ↗
Demis Hassabis se odpoveduje vsakodnevnemu vodenju DeepMind-a in postaja predsednik upravnega odbora, hkrati pa prevzema vlogo glavnega znanstvenika pri Alphabetu. Dolgoletni kolega Koray Kavukcuoglu prevzema operativni nadzor kot višji podpredsednik in ne kot izvršni direktor – subtilna sprememba naziva, ki veliko pove.
Preoblikovanje se dogaja vzporedno z odhodi drugih večjih raziskovalcev in vprašanji o tem, ali DeepMind postaja manj neodvisen in bolj tesno vključen v Googlov komercialni sistem umetne inteligence. Google zanika, da bi bila sprememba povezana s konkurenčno uspešnostjo Geminija. (Vir: The Guardian)
Naraščajoče število otrok v Združenem kraljestvu poroča o tem, da vidijo eksplicitne deepfakee sebe ↗
Število prijav otrok iz Združenega kraljestva o eksplicitnih lažnih ali manipuliranih slikah samih sebe se je močno povečalo. Report Remove je v samo šestih mesecih prejel 420 prijav, kar je že preseglo prejšnji letni skupni znesek 397 prijav. Orodja za "golo" vsebino, ki jih poganja umetna inteligenca, otežujejo postopek reševanja problema.
Fundacija Internet Watch pravi, da je bilo veliko prijavljenih manipuliranih slik dovolj resnih, da so prestopile prag spolne zlorabe otrok. Nekatere žrtve so bile tarča tudi spolnega izsiljevanja, pri čemer je bila slika, ustvarjena z umetno inteligenco, zelo oprijemljivo orožje. (Vir: The Guardian)
Raziskava ugotavlja, da funkcije umetne inteligence prehitevajo poslovno vrednost ↗
Podjetja za poslovno programsko opremo sicer uvajajo funkcije umetne inteligence, vendar jih stranke ne uporabljajo nujno. V anketi med več kot 260 vertikalnimi podjetji za programsko opremo jih je 51 % dejalo, da manj kot četrtina njihovih strank uporablja zmogljivosti umetne inteligence, ki so jih razvili. Po vsem tem pošiljanju je to nekoliko nerodno ...
Ozko grlo se manj zdi povezano z zmogljivostjo umetne inteligence in bolj z integracijo, varnostjo, zasebnostjo, spremembami delovnega toka in dokazovanjem konkretne poslovne vrednosti. Posebej nenavaden pojav je »tokenmaxxing« – veliko porabe umetne inteligence, ki je na nadzorni plošči videti impresivno brez jasnih dokazov, da daje boljše rezultate. (Vir: Forbes)
Umetna inteligenca spreminja delo hitreje, kot lahko podatki sledijo ↗
Argument o delovnih mestih, povezanih z umetno inteligenco, postaja vse bolj zapleten, ne pa čistejši. Študija, ki je zajela več kot 21.000 ameriških podjetij, je pokazala, da so podjetja, ki največ uvajajo umetno inteligenco, povečala skupno število zaposlenih za 10 %, število zaposlenih na začetni ravni pa za 12 %, medtem ko podjetja, ki manj intenzivno uvajajo umetno inteligenco, niso pokazala rasti števila zaposlenih.
Vendar pa so druge raziskave pokazale pritisk na zaposlovanje med mlajšimi delavci na delovnih mestih, izpostavljenih umetni inteligenci, ekonomisti pa opozarjajo, da lahko rastoča podjetja še vedno zaposlujejo, medtem ko umetna inteligenca spreminja poklice v širšem gospodarstvu. Torej umetna inteligenca ubija delovna mesta in jih ustvarja ... ali vsaj tako bi vas radi prepričali nasprotujoči si nabori podatkov. (Vir: Fortune)
Pogosta vprašanja
Katere so trenutno največje novice o umetni inteligenci?
Nedavne novice o umetni inteligenci kažejo na več prekrivajočih se tem: močnejše avtonomne zmogljivosti, strožji varnostni nadzor, globlje integracije platform, spremembe vodstva, tveganja za spletno varnost in negotova poslovna vrednost. OpenAI zaostruje zaščitne ukrepe okoli Astre, Apple povezuje Qwen z računalniki Mac na Kitajskem, DeepMind pa spreminja vodstvo. Hkrati se povečuje zaskrbljenost glede ponarejanja v podjetjih, sprejemanja v podjetjih in vpliva umetne inteligence na zaposlovanje.
Zakaj je OpenAI začasno ustavil delo na Astri?
OpenAI naj bi začasno ustavil notranje delo Astre, ki ni izpolnjevalo strožjih varnostnih zahtev, potem ko so ocene pokazale, da so kibernetske zmogljivosti modela morda dosegle kritično raven. Skrbi, da bi napredni agent lahko odkril in izkoristil ranljivosti z omejenim ali brez človeškega posredovanja. OpenAI se zato odzove s krepitvijo izoliranega testiranja, nadzora dostopa, šifriranja, spremljanja in zaščite okoli uteži modela.
Kako bo Alibaba Qwen sodelovala z Apple Maci na Kitajskem?
Upravičeni uporabniki Maca na celinski Kitajski lahko Alibabino storitev Qwen povežejo s Siri in Appleovimi orodji za pisanje. Integracija lahko podpira podrobnejše odgovore, analizo dokumentov in slik ter ustvarjanje besedila ali slik iz opisov. Za Apple ta ureditev zagotavlja lokalno skladno pot do močnejše funkcionalnosti umetne inteligence, medtem ko Alibaba pridobi globlji dostop do Applovega ekosistema. Apple pravi, da predloženega gradiva ni mogoče uporabiti za učenje Alibabinih modelov.
Kaj pomeni menjava vodstva DeepMind za Google AI?
Demis Hassabis se oddaljuje od vsakodnevnega vodenja DeepMind-a in postaja predsednik upravnega odbora ter prevzema vlogo glavnega znanstvenika pri Alphabetu. Koray Kavukcuoglu bo prevzel operativni nadzor kot višji podpredsednik. Sprememba je sprožila vprašanja o tem, ali se DeepMind tesneje integrira s širšimi komercialnimi operacijami Googla na področju umetne inteligence, čeprav Google zavrača namigovanja, da je prerazporeditev povezana s konkurenčno uspešnostjo Geminija.
Zakaj ponarejanje z umetno inteligenco postaja vse večja skrb za varnost otrok?
Orodja za manipulacijo slik, ki jih poganja umetna inteligenca, lahko olajšajo ustvarjanje realističnih eksplicitnih lažnih slik v velikem obsegu. Otroci v Združenem kraljestvu vse pogosteje prijavljajo manipulirane ali izmišljene slike sebe, nekateri primeri pa so bili dovolj resni, da so dosegli prag za gradivo o spolni zlorabi otrok. Te slike se lahko uporabijo tudi za spolno izsiljevanje, kar pomeni, da lahko izmišljena slika še vedno povzroči znatno škodo za ugled, čustveno in finančno škodo.
Ali podjetja in delavci že imajo koristi od umetne inteligence?
Najnovejše novice o umetni inteligenci kažejo, da je odgovor mešan. Številna podjetja za programsko opremo dodajajo funkcije umetne inteligence hitreje, kot jih stranke sprejemajo, pri čemer integracija, zasebnost, varnost in merljiva poslovna vrednost ostajajo glavne ovire. Podatki o zaposlenosti so podobno zapleteni: nekatera podjetja, ki močno sprejemajo umetno inteligenco, širijo zaposlovanje, medtem ko druge raziskave kažejo na pritisk na mlajše delavce na delovnih mestih, ki so izpostavljena umetni inteligenci. Celoten vpliv je močno odvisen od panoge, poteka dela in načina izvajanja umetne inteligence.