🔐 OpenAI odkriva varnostno težavo, povezano z orodjem tretje osebe, in pravi, da do uporabniških podatkov ni bilo dostopa ↗
OpenAI je sporočil, da je ogroženo orodje za razvijalce tretje osebe vplivalo na postopek, ki ga uporablja za potrjevanje legitimnosti svojih aplikacij za macOS. Podjetje je sporočilo, da ni našlo nobenih dokazov o dostopu do uporabniških podatkov, ogroženosti svojih sistemov ali IP-naslovov ali o spremembi programske opreme – kar je ključno. (Reuters)
Praktične posledice so še vedno precej resne. OpenAI je zamenjal potrdila in se odločil zaostriti stvari, da lažne, a prepričljive aplikacije ChatGPT ne bi postale večji problem, kot bi morale biti. Torej ni kršitev – ampak eden tistih trenutkov, ko morate "posodobiti svojo aplikacijo zdaj". (OpenAI)
🧯 Sam Altman se po napadu na svoj dom odzove na 'zažigalni' članek v New Yorkerju ↗
Sam Altman se je javno uprl ostro kritičnemu profilu Newyorčana po očitnem napadu na njegov dom, nekatere dele profila pa je označil za zavajajoče in osebne. Celotna zadeva se je zdela nenavadno surova za mesto generalnega direktorja - bolj obrambna kot elegantna, morda namerno. (TechCrunch)
Hkrati je policija aretirala osumljenca napada Molotov, povezanega z Altmanovim prebivališčem v San Franciscu, brez poročil o poškodbah. Zgodba se je tako v hipu preusmerila od medijske kritike do fizične varnosti – to je do zdaj postalo pravi del dogajanja v svetu umetne inteligence. (AP News)
🏗️ Nekdanji vodje OpenAI Stargate se nameravajo pridružiti Meta platformam ↗
Trije visoki predstavniki, povezani s prizadevanji OpenAI za infrastrukturo Stargate, naj bi se odpravljali v Meto. To ni le odliv talentov – gre za odliv talentov v računalniški vojni, ki se odvija drugače, ko se vsi borijo za podatkovne centre, čipe in energijo.
Zaposlitve kažejo, da Meta ne zapravlja veliko denarja le za modele, temveč poskuša absorbirati ljudi, ki znajo zgraditi industrijske vodovodne instalacije pod njimi. Morda na prvi pogled suhoparno, a prav tukaj se zdaj odvija velik del tekme. (Bloomberg)
🛡️ Predogled Clauda Mythosa ↗
Anthropic je dejal, da je njihov novi model Mythos dovolj močan na področju kibernetske varnosti, da ga ne bodo izdali širše, vsaj še ne. Namesto tega ga usmerjajo v strogo nadzorovane obrambne napore, saj podjetje verjame, da lahko model odkrije nevarne programske napake v obsegu, ki je, no, nekoliko zaskrbljujoč. (Red Anthropic)
Ta previdnost se že širi navzven. Poročila pravijo, da ameriški uradniki in večja podjetja obravnavajo porast zmogljivosti modela kot resnično vprašanje varnosti infrastrukture in ne le kot še eno bleščečo predstavitev. Tokrat cikel umetne inteligence nosi zaščitno čelado. (Axios)
☁️ CoreWeave sklenil pogodbo o AI cloudu z Anthropic, delnice rastejo ↗
CoreWeave je sporočil, da bo Anthropicu zagotovil zmogljivosti računalništva v oblaku v okviru večletne pogodbe, zmogljivosti pa naj bi bile na voljo pozneje letos. To je še en opomin, da so vzorna podjetja še vedno le tako hitra, kot je hitra infrastruktura pod njimi – glamurozna programska oprema, brutalno fizična ozka grla.
Za Anthropic sporazum krepi dostop do računalništva za linijo Claude. Za CoreWeave je to še en znak, da specializirani akterji na področju umetne inteligence v oblaku še naprej odvzemajo posle absolutno najvišjemu razredu graditeljev modelov, ki - nekoliko presenetljivo - ostaja trdno. (Reuters)
💸 Nvidia podpira SiFive, ki je dosegel vrednost 3,65 milijarde dolarjev za odprte čipe umetne inteligence ↗
SiFive je dosegel rundo naložb v višini 400 milijonov dolarjev pri vrednotenju v višini 3,65 milijarde dolarjev, kar je velik znak zaupanja v odprto zasnovo čipov za sisteme umetne inteligence. To še ni znak, da se je Nvidijin prestol majal, ne – vendar kaže, da si vlagatelji še vedno želijo alternativnih poti v strojno opremo umetne inteligence.
Širšega pomena je težko spregledati. Umetna inteligenca ni več le zgodba o modelu ali celo zgodba o čipu – postaja boj za to, katere plasti ostanejo odprte, katere ostanejo lastniške in kdo je plačan na vsaki postaji na tekočem traku. (TechCrunch)
Pogosta vprašanja
Kaj se je zgodilo z varnostno težavo aplikacije OpenAI za macOS?
OpenAI je sporočil, da je ogroženo orodje za razvijalce tretje osebe vplivalo na postopek podpisovanja, ki se uporablja za certificiranje njihovih aplikacij za macOS. Podjetje je tudi sporočilo, da ni našlo nobenih dokazov o dostopu do uporabniških podatkov, ogroženosti njihovih sistemov ali intelektualne lastnine ali o spremembi programske opreme. Osrednje vprašanje je bilo zaupanje in pristnost aplikacij, ne pa potrjena kršitev podatkov o strankah.
Ali naj po tem incidentu z OpenAI posodobim aplikacijo ChatGPT za macOS?
Da, posodabljanje aplikacije je praktična ugotovitev. OpenAI je zamenjal potrdila in zaostril postopek, tako da je manj verjetno, da bodo lažne, a prepričljive aplikacije ChatGPT povzročile zmedo ali tveganje. V takšnih primerih je najvarnejši korak uporaba najnovejše uradne različice in izogibanje prenosu namiznih aplikacij iz neuradnih virov ali zrcalnih spletnih mest.
Zakaj je težava z orodjem za razvijalce tretje osebe pomembna, če niso bili ukradeni nobeni podatki?
Ker zaupanje v programsko opremo temelji na več kot le dostopu do podatkov. Če je orodje, vključeno v certificiranje aplikacij, ogroženo, lahko to povzroči dvome o tem, ali lahko uporabniki zanesljivo prepoznajo legitimno programsko opremo. V mnogih produkcijskih okoljih je ta vrsta težav pomembna, ker vpliva na varnost distribucije, zaupanje v posodobitve in tveganje prepričljivih poskusov lažnega predstavljanja.
Zakaj je zaposlovanje nekdanjih vodjev OpenAI Stargate in drugih premikov infrastrukture umetne inteligence tako pomembno za Meto?
Te zaposlitve kažejo na konkurenco pod modelno plastjo, kjer so podatkovni centri, čipi, moč in zmogljivost uvajanja prav tako pomembni kot raziskovalni talenti. Infrastruktura umetne inteligence postaja strateška prednost, ne le podporna funkcija. Članek nakazuje, da Meta poskuša okrepiti industrijsko plat umetne inteligence, ne pa zgolj dodati več raziskovalcev modelov.
Kaj je Anthropicov model Mythos in zakaj bi podjetje omejilo njegovo izdajo?
Anthropic je Mythos opisal kot dovolj naprednega na področju kibernetske varnosti, da ga držijo pod strogim nadzorom, namesto da bi ga široko izdajali. Zdi se, da obstaja zaskrbljenost, da bi lahko močan sistem za iskanje programskih napak ponudil obrambno vrednost, hkrati pa povečal tveganje zlorabe. Pogost pristop v takšnih situacijah je omejen dostop, ozka uvedba in strožji nadzor.
Zakaj so posli z infrastrukturo umetne inteligence in financiranje odprtih čipov pomembni za širši trg umetne inteligence?
Kažejo, da tekmo umetne inteligence vse bolj oblikujejo dostop do računalništva in izbira strojne opreme, ne le funkcije klepetalnih robotov. Dogovor med CoreWeave in Anthropic poudarja, kako so vzorčna podjetja še vedno odvisna od zmogljivosti v oblaku, medtem ko financiranje SiFive kaže na zanimanje vlagateljev za alternative znotraj nabora čipov umetne inteligence. Skupaj te poteze kažejo, da infrastruktura umetne inteligence postaja ključno bojišče za rast in nadzor.