SpaceX je uradno zaključil prevzem podjetja Cursor ↗
Cursor je uradno del SpaceX-a. Startup za kodiranje umetne inteligence pravi, da mu posel omogoča dostop do tako imenovane največje flote grafičnih procesorjev na svetu – kar je prava računalniška omara.
Prevzem je sledil prejšnjemu sporazumu, ki je SpaceXu dal možnost nakupa Cursorja za 60 milijard dolarjev. Cursor zdaj sodeluje s SpaceXovimi rastočimi ambicijami na področju umetne inteligence in računalništva, vključno z infrastrukturo, ki se že oddaja v najem podjetjem, kot sta Anthropic in Google. (TechCrunch)
Anthropic deli več podrobnosti o tem, kako bodo delovali Claudovi novi vodni žigi ↗
Anthropic je pojasnil, kako bo Claudov nevidni vodni žig besedila deloval v praksi. Načrtuje uporabo Googlovega pristopa SynthID-Text, ki subtilno vpliva na izbiro besed, tako da ustvarjeno besedilo vsebuje zaznaven statistični vzorec, ne da bi vidno spremenilo izhod.
Anthropic načrtuje tudi API za zaznavanje vodnega žiga. Z rahlim urejanjem bo vodni žig morda ostal nedotaknjen, medtem ko ga bo popolno prepisovanje lahko odstranilo – torej da, gre za pametno rešitev, vendar ne za čarobno črnilo. Koda bi morala imeti veliko šibkejše signale vodnega žiga, ker imajo modeli manj svobode pri poljubnem besedilu. (TechCrunch)
Nvidia zmanjšuje garancijo za financiranje podatkovnega centra OpenAI v Ohiu, poroča WSJ ↗
Nvidia je po poročanjih znižala finančno garancijo, ki jo namerava zagotoviti za ogromen projekt podatkovnega centra OpenAI v Ohiu. Začetna garancija naj bi zdaj znašala manj kot 120 milijard dolarjev, namesto prej omenjenih 250 milijard dolarjev.
Do spremembe je prišlo zaradi pomislekov vlagateljev, da bi Nvidia prevzela preveliko finančno izpostavljenost. OpenAI se še vedno pogovarja o zavezujočem najemu, ki bi zajemal celotno 10-gigavatno lokacijo – infrastrukturna poraba v obsegu, ki je manj podobna računalništvu v oblaku in bolj gradnji majhne države. (Reuters)
Pojasnjeno: Pobuda OpenAI Daybreak in GPT-5.6.Cyber ↗
OpenAI je razširil svoj program kibernetske varnosti Daybreak z dvema nivojema dostopa: Daybreak Blue za obrambno varnostno delo z uporabo modelov na meji in Daybreak Red za intenzivnejše raziskave z uporabo GPT-5.6-Cyber.
Kibernetsko specializiran model naj bi dokončal 95 % naprednih zahtev za kibernetsko varnost, ne da bi jih zavrnil, v primerjavi s 57,3 % pri svojem predhodniku. OpenAI tudi pravi, da je model pomagal prepoznati dve prej neznani ranljivosti v Googlovem mehanizmu JavaScript V8. Zmogljiva zadeva ... in seveda zaradi te manjše stopnje zavrnitve je tesno delovanje peskovnika precej pomembno. (aimagazine.com)
Evalni pregled je odkril tisto, česar kvalitativni pregled ni mogel: modeli umetne inteligence so najbolj samozavestni, ko se motijo ↗
Poskus z umetno inteligenco v podjetjih je odkril neprijetno težavo z zanesljivostjo: rezultati, ki so se slišali dodelano in prepričljivo, so pogosto odpovedali pri testiranju glede na znana dejstva. V najtežjih primerih samozavest modela ni bila zanesljiv kazalnik pravilnosti.
Predlagana rešitev je dokaj neprivlačna, a pomembna – zgraditi sisteme za ocenjevanje z uporabo nadzorovanih testnih primerov, kjer je pravilen odgovor že znan, nato pa oceniti, ali model pravilno prepozna in razvrsti te odgovore. V bistvu prenehati ocenjevati umetno inteligenco na podlagi površinske zanesljivosti. (IT Intelligence)
Ženska trdi, da je njen očim uporabil Groka za pretvorbo otroške fotografije v eksplicitne podobe ↗
Ženska se je pridružila tožbi proti podjetju xAI, v kateri trdi, da je bil Grok uporabljen za pretvorbo njene otroške fotografije v tisoče spolno eksplicitnih slik. Primer se pridružuje tožbam treh najstnikov, ki podjetje obtožujejo, da ni uvedlo zadostne zaščite pred ustvarjanjem zlorabnih slik, ki vključujejo resnične ljudi in mladoletnike.
Obtožbe so postavile še en neprijeten poudarek na zaščitne ukrepe generativne podobe – saj očitno zmogljivost ni več bistvo. Preprečevanje uporabe modelov kot orožja proti resničnim ljudem postaja prav tako osrednjega pomena. (TechCrunch)
Pogosta vprašanja
Zakaj je SpaceX kupil Cursor?
Prevzem podjetja Cursor daje zagonskemu podjetju za kodiranje umetne inteligence dostop do velike infrastrukture SpaceX-ovih grafičnih procesorjev, hkrati pa jo umešča v širšo strategijo podjetja na področju umetne inteligence in računalništva. SpaceX si je pred tem zagotovil možnost nakupa Cursorja za 60 milijard dolarjev. Dogovor Cursor povezuje tudi z infrastrukturo, ki jo SpaceX že oddaja v najem podjetjem za umetno inteligenco, vključno z Anthropic in Googlom.
Kako bo delovalo Anthropicovo besedilno vodno žigosanje Claude?
Anthropic namerava uporabiti Googlov pristop SynthID-Text za ustvarjanje nevidnih statističnih vzorcev v besedilu, ki ga ustvari Claude. Sistem subtilno vpliva na izbiro besed, namesto da bi dodal vidni znak. Z rahlim urejanjem se lahko vodni žig ohrani, medtem ko ga lahko popolno prepisovanje odstrani. Anthropic namerava ponuditi tudi API, ki bo sposoben zaznati te signale vodnega žiga.
Zakaj je Nvidia znižala predlagano garancijo za podatkovni center OpenAI v Ohiu?
Nvidia naj bi znižala obravnavano finančno garancijo zaradi pomislekov glede prevelike izpostavljenosti financiranju. Predlagani varovalni mehanizem naj bi zdaj znašal manj kot 120 milijard dolarjev, namesto prej omenjenih 250 milijard dolarjev. OpenAI naj bi še vedno razpravljal o zavezujočem najemu, ki bi zajemal celotno lokacijo 10-gigavatnega podatkovnega centra v Ohiu.
Za kaj sta zasnovana OpenAI Daybreak in GPT-5.6-Cyber?
Program kibernetske varnosti Daybreak podjetja OpenAI ponuja različne ravni dostopa za varnostne raziskave. Daybreak Blue se osredotoča na obrambno varnostno delo z uporabo modelov na meji, medtem ko Daybreak Red podpira intenzivnejše raziskave z uporabo GPT-5.6-Cyber. Model, specializiran za kibernetsko varnost, je zasnovan za obravnavo naprednih zahtev za kibernetsko varnost, zaradi česar so kontrole, kot je peskovnik, še posebej pomembne, ko imajo modeli širše zmogljivosti.
Zakaj so evalvacijski pasovi pomembni za zanesljive sisteme umetne inteligence?
Vrednotenje izkorišča testiranje modelov umetne inteligence v kontroliranih primerih, kjer je pravilen odgovor že znan. To ekipam pomaga oceniti, ali model prepozna in razvrsti pravilen odgovor, namesto da ga presoja po tem, kako dodelan ali samozavesten se sliši njegov odgovor. Poslovni eksperiment, opisan v članku, je pokazal, da samo zaupanje ni zanesljiv kazalnik pravilnosti v težkih primerih.
Kaj tožba Groka nakazuje glede zaščitnih ukrepov za ustvarjanje slik z umetno inteligenco?
Tožba izpostavlja zaskrbljenost glede zlorabe sistemov generativnih slik za ustvarjanje žaljivih eksplicitnih slik, ki vključujejo resnične ljudi in mladoletnike. Ženska trdi, da je bil Grok uporabljen za preoblikovanje njene otroške fotografije v tisoče eksplicitnih slik. Primer poudarja vse večji pomen zaščitnih ukrepov, ki obravnavajo zlorabo, ne le izboljšav zmogljivosti modeliranja.