Naša odločitev o Cursorju po njegovem prevzemu s strani SpaceX-a ↗
OpenAI pravi, da bo po prevzemu platforme za kodiranje s strani SpaceXa prekinil pogodbo o dobavi modelov podjetju Cursor. Podjetje pravi, da ne more več biti prepričano, da bo SpaceX njihovo tehnologijo uporabljal v skladu s pogoji OpenAI.
OpenAI tudi pravi, da Cursorju ne bo zagotavljal prihodnjih modelov. To je precej pomembna razčlenitev – še posebej za razvijalce, ki so Cursor in modele OpenAI začeli obravnavati kot skoraj privzeti kodni sklad. (OpenAI)
Kitajski Tencent je izdal nov odprtokodni model umetne inteligence za kodiranje in raziskovalne naloge ↗
Tencent je izdal predogled Hy4, odprtokodnega modela, namenjenega programskemu inženirstvu, raziskavam in finančni analizi. Uporablja arhitekturo mešanice strokovnjakov s skupno 770 milijardami parametrov, pri čemer za vsako besedilno zahtevo aktivira približno 49 milijard.
Tencent namerava to funkcijo vključiti v izdelke, kot sta CodeBuddy in WorkBuddy. Podjetje priznava, da lahko predogledna različica preveč razmišlja o kompleksnih vprašanjih in se preveč navdušeno preverja ... na svoj način se zdi privlačna za ljudi. (Reuters)
Avtomatizirani raziskovalci lahko zanesljivo ublažijo napake pri poravnavi ↗
Anthropic je Claudeu pokazal avtonomno iskanje raziskav, predlaganje tehnik usposabljanja, izvajanje poskusov in izboljševanje modelov v 10 kategorijah neuspeha pri poravnavi – vključno s prevaro, jailbreaki in podlizovanjem.
Njegove najmočnejše metode so izboljšale vsak ciljni primerjalni test, ne da bi pri tem poslabšale zmogljivosti, ki jih je izmeril Anthropic, nekatere pa so se prenesle na modele, ki so bili do 4,7-krat večji. Claudov avtomatizirani raziskovalec je v okviru študije presegel tudi predloge izkušenih raziskovalcev varnosti ljudi.
Seveda obstaja en zamik. Anthropic je zaznal goljufivo vedenje v majhnem deležu avtomatiziranih raziskav in poudarja, da njegovi primerjalni testi pokrivajo le ozek del praktičnih pogojev poravnave. Torej ... samoizboljševalna raziskava umetne inteligence, pri kateri umetna inteligenca opazuje raziskovalca umetne inteligence. Povsem običajna stvar. (Anthropic)
Sodišče je odločilo, da je Trumpova administracija nezakonito uvrstila Anthropic na črni seznam ↗
Zvezni sodnik je razsodil, da je odločitev Pentagona, da Anthropic uvrsti na črni seznam kot tveganje za dobavno verigo, neustavna, dejanje pa označil za nezakonito povračilno dejanje ter označil kot samovoljno in muhasto.
Boj se je začel, ko je Anthropic zavrnil opustitev omejitev glede uporabe svoje umetne inteligence za množični nadzor Američanov ali smrtonosnega avtonomnega orožja brez človeškega nadzora. Razsodba je resna zmaga za Anthropic – in precej oster precedens v boju o tem, ali lahko vlade kaznujejo prodajalce umetne inteligence, ker si sami postavljajo varnostne meje. (The Verge)
Sklad strojne dobe ↗
Andreessen Horowitz je zbral 1,1 milijarde dolarjev za nov sklad za strojno dobo, osredotočen na fizično infrastrukturo umetne inteligence – čipe, pomnilnik, mreženje, shranjevanje, podatkovne centre, robotiko in celo domačo strojno opremo umetne inteligence.
Teza je v osnovi, da naslednje ozko grlo umetne inteligence ni še ena pametna funkcija klepetalnih robotov, temveč fizika. Napajanje, hlajenje, pasovna širina pomnilnika in omrežje se morajo brutalno hitro skalirati, a16z pa si želi sedež za to strojno mizo. (Andreessen Horowitz)
Google še bolj zakoplje rezultate iskanja v načinu umetne inteligence ↗
Google je začel samodejno razširjati preglede umetne inteligence za nekatera iskanja. Namesto kratkega povzetka, ki mu hitro sledijo tradicionalne povezave, lahko uporabniki dobijo celoten odgovor umetne inteligence, polje »Vprašajte karkoli« in šele nato znane spletne rezultate.
Google pravi, da se razširjena izkušnja pojavi, ko njihovi sistemi menijo, da bo še posebej koristna. Za založnike pa je neprijeten del očiten – navadne povezave se potiskajo še nižje po strani, medtem ko je Googlova umetna inteligenca vse težje dostopna. (The Verge)
Pogosta vprašanja
Zakaj OpenAI po prevzemu SpaceX-a prekinja svoj modelni dogovor s Cursorjem?
OpenAI pravi, da namerava ukiniti dostop do modelov za Cursor, ker ne more več biti prepričan, da bo SpaceX uporabljal njihovo tehnologijo v skladu s pogoji OpenAI. Podjetje tudi pravi, da Cursorju ne bo na voljo prihodnjih modelov OpenAI. Za razvijalce bi to lahko spremenilo potek dela kodiranja, ki je običajno povezoval Cursor z modeli OpenAI.
Kaj je Tencent Hy4 in čemu je namenjen?
Tencent Hy4 je odprtokodni model umetne inteligence, zgrajen za programsko inženirstvo, raziskave in finančno analizo. Predogledna različica uporablja arhitekturo mešanice strokovnjakov s skupno 770 milijardami parametrov, pri čemer aktivira približno 49 milijard za vsako besedilno zahtevo. Tencent načrtuje integracijo Hy4 v izdelke, vključno s CodeBuddy in WorkBuddy, čeprav pravi, da lahko predogledna različica včasih preveč premisli in preveri zapletena vprašanja.
Ali lahko raziskovalci umetne inteligence samodejno izboljšajo usklajenost modelov?
Raziskava podjetja Anthropic kaže, da lahko raziskovalci avtomatizirane umetne inteligence prepoznajo in preizkusijo tehnike za zmanjšanje več vrst napak pri poravnavi. Claude je bil uporabljen za iskanje obstoječih raziskav, predlaganje pristopov k usposabljanju, izvajanje poskusov in ocenjevanje izboljšav na področjih, kot so prevara, jailbreaki in podlizovanje. Anthropic je tudi ugotovil, da so se nekatere uspešne tehnike prenesle na večje modele, čeprav je študija zajela le omejen nabor praktičnih pogojev poravnave.
Zakaj je sodišče razsodilo, da je Anthropic nezakonito uvrščen na črno listo?
Zvezni sodnik je razsodil, da je Pentagonova uvrstitev Anthropica med tveganja za dobavno verigo protiustavna, samovoljna in muhasta. Spor je sledil Anthropicovi zavrnitvi odprave omejitev, ki vključujejo množični nadzor Američanov in smrtonosno avtonomno orožje brez človeškega nadzora. Razsodba bi lahko postala pomembna referenčna točka v prihodnjih sporih o tem, ali lahko vlade kaznujejo podjetja za umetno inteligenco zaradi ohranjanja lastnih varnostnih omejitev.
Zakaj a16z vlaga 1,1 milijarde dolarjev v infrastrukturo umetne inteligence?
Andreessen Horowitz je ustanovil svoj sklad Machine Age Fund v vrednosti 1,1 milijarde dolarjev za vlaganje v fizične sisteme, potrebne za razvoj umetne inteligence. Osredotoča se na čipe, pomnilnik, mreženje, shranjevanje, podatkovne centre, robotiko in domačo strojno opremo za umetno inteligenco. Sklad odraža širšo temo novic o umetni inteligenci: prihodnji napredek je lahko odvisen tako od moči, hlajenja, pasovne širine in računalniške infrastrukture kot od izboljšav programskih modelov.
Kako pregledi umetne inteligence v Googlu spreminjajo tradicionalne rezultate iskanja?
Google samodejno razširja preglede umetne inteligence za nekatera iskanja in pred tradicionalne spletne rezultate postavlja popolnejši odgovor, ki ga ustvari umetna inteligenca, in vmesnik »Vprašajte karkoli«. To pomeni, da se lahko navadne povezave prikažejo nižje na strani kot prej. Za založnike in ekipe za SEO, ki spremljajo novice o umetni inteligenci, sprememba sproža praktična vprašanja o vidnosti v iskanju, prometu s priporočili in o tem, kako uporabniki odkrivajo izvirne vire.