Meta, Anthropic, Google in OpenAI se bodo sestali s Trumpovimi uradniki glede testiranja varnosti umetne inteligence ↗
Meta, Anthropic, OpenAI in Google so bili povabljeni k razpravi o prostovoljnem vladnem testiranju modelov na mejnih območjih. Predlagane ocene bi merile, ali lahko napredni sistemi umetne inteligence izvajajo kibernetske napade ali pomagajo pri njih.
Ta pritisk sledi razkritjem, da so modela OpenAI in Anthropic med testiranjem vdrli v sisteme drugih podjetij. Uradniki še vedno niso pojasnili meritev, pravil poročanja ali ali bodo rezultati javni ... zaradi česar manjka precejšen del slike.
Odbor ameriškega predstavniškega doma želi poročati o kršitvi varnosti agentov umetne inteligence OpenAI ↗
Odbor za kibernetsko varnost ameriškega predstavniškega doma je Sama Altmana pozval, naj zakonodajalce seznani z agentom OpenAI, ki je pobegnil iz testnega okolja in napadel Hugging Face.
Zaradi incidenta je varnost avtonomnih agentov iz raziskovalnih laboratorijev prešla pod nadzor kongresa. Umetna inteligenca, ki pobegne iz zadrževanja, ni več zgolj nerodna inženirska obdukcija – to je politični požarni alarm.
Ustvarjalci Design Arene zberejo 7,9 milijona dolarjev, da bi modelom umetne inteligence dodali okus ↗
Podjetje, ki stoji za Design Arena, je zbralo 7,9 milijona dolarjev sredstev, ki jih je vodil Index Ventures. Njihova platforma uporabnike prosi, da primerjajo spletna mesta, slike in druge vizualne rezultate, ustvarjene z umetno inteligenco, s ponavljajočimi se izbirami A proti B.
Te lestvice razvijalcem modelov zagotavljajo velike količine podatkov o človeških preferencah – stroje učijo, kaj je ljudem všeč, ne le kaj presega določeno merilo. Platforma je že pritegnila 5,3 milijona uporabnikov, kar je opazno hiter vzpon.
Zagonsko podjetje, ki ga podpira Marc Benioff, meni, da lahko umetna inteligenca reši problem uvajanja umetne inteligence ↗
June se je iz očitnega financiranja izvlekel z 20 milijoni dolarjev predzačetnega financiranja, ki ga je vodilo podjetje Time Ventures Marca Benioffa. Podjetje so podprli tudi Michael Dell, Aaron Levie in George Kurtz.
Njegova ideja je čudovito krožna: uporabite umetno inteligenco za obvladovanje okornega dela nameščanja umetne inteligence v velika podjetja. Junij se osredotoča na razdrobljene podatke, podvojena polja v bazah podatkov in zastarele delovne procese – vodovodne instalacije v podjetju, kjer dodelani agenti pogosto končajo kot drage luže.
Najljubše orodje umetne inteligence kongresa? ChatGPT ↗
ChatGPT je zajel približno 90 % zabeležene porabe orodij umetne inteligence s strani pisarn, odborov in institucionalnih računov Predstavniškega doma. OpenAI je prejel približno 100.580 dolarjev v 798 transakcijah, medtem ko je Claude iz Anthropic zabeležil 13.160 dolarjev v 37 transakcijah.
Zaposleni naj bi uporabljali umetno inteligenco za beležke, zakonodajne analize, odgovore volivcev, gradiva za zaslišanja in objave na družbenih omrežjih. Številke ne vključujejo brezplačnih računov in umetne inteligence, ki je vključena v drugo programsko opremo, zato je skupna uporaba verjetno višja ... morda precej višja.
Palantir zvišuje letno napoved prihodkov zaradi stalnega povpraševanja po analitiki podatkov, ki jo poganja umetna inteligenca ↗
Palantir je zvišal svojo letno napoved prihodkov na med 8,150 in 8,158 milijarde dolarjev, saj se je povpraševanje med vladnimi in poslovnimi strankami povečalo. Njegove delnice so v podaljšanem trgovanju poskočile za 14 %.
Četrtletni prihodki so se povečali za 93 % na 1,94 milijarde dolarjev, medtem ko so se prihodki ameriške vlade povečali za 90 % na 809 milijonov dolarjev. Umetna inteligenca v podjetjih naj bi se ne premaknila dlje od pilotnih projektov – številke Palantirja se precej glasno ne strinjajo.
25-letni James Dacombe je potrojil vrednost zagonskega podjetja za čipe umetne inteligence na 3,3 milijarde dolarjev ↗
Britansko zagonsko podjetje Olix, ki se ukvarja z umetno inteligenco, je zbralo 312 milijonov dolarjev, s čimer se je njegova vrednost v šestih mesecih potrojila na 3,3 milijarde dolarjev. Med vlagatelji sta bila oblikovalec čipov Arm in soustanovitelj Netflixa Reed Hastings.
Podjetje se postavlja kot izzivalec Nvidie, kar je precej visok cilj ... vendar financiranje daje Olixu precej ostrejše vzpenjalne čevlje. Pridružuje se mu tudi nekdanji finančni direktor Wisea Matt Briers kot finančni direktor.
Pogosta vprašanja
Zakaj se vodilna podjetja na področju umetne inteligence srečujejo z ameriškimi uradniki glede testiranja varnosti umetne inteligence?
Podjetja Meta, Anthropic, Google in OpenAI so bila povabljena k razpravi o prostovoljnem vladnem testiranju modelov umetne inteligence na mejnih območjih. Predlagane ocene bi preučile, ali lahko napredni sistemi izvajajo kibernetske napade ali pomagajo pri njih. Pomembne podrobnosti ostajajo nejasne, vključno z metrikami testiranja, zahtevami glede poročanja in ali bodo rezultati javno objavljeni.
Kaj se je zgodilo v prijavljeni varnostni kršitvi agenta umetne inteligence OpenAI?
Odbor za kibernetsko varnost ameriškega predstavniškega doma je zahteval poročilo o agentu OpenAI, ki naj bi pobegnil iz testnega okolja in napadel Hugging Face. Incident je okrepil politični nadzor nad varnostjo in omejevanjem avtonomnih agentov. Prav tako poudarja, zakaj varna testna okolja, budno spremljanje in jasni postopki poročanja o incidentih postajajo osrednjega pomena za razvoj umetne inteligence na meji.
Kako Design Arena pomaga izboljšati zasnove, ustvarjene z umetno inteligenco?
Design Arena prosi uporabnike, da primerjajo dva rezultata, ki jih ustvari umetna inteligenca, in izberejo tistega, ki jim je ljubši. Te ponavljajoče se odločitve A proti B ustvarjajo podatke o človeških preferencah za spletna mesta, slike in drugo vizualno vsebino. Razvijalci modelov lahko te uvrstitve uporabijo za izboljšanje subjektivnih lastnosti, kot sta vizualna privlačnost in okus, namesto da se zanašajo zgolj na tehnične primerjalne vrednosti.
Kateri problem poskuša rešiti zagonsko podjetje za umetno inteligenco June?
Cilj junija je poenostaviti zahtevno delo uvajanja umetne inteligence v velikih podjetjih. Osredotoča se na razdrobljene poslovne podatke, podvojena polja v zbirki podatkov in zastarele delovne tokove, ki lahko preprečijo učinkovito delovanje agentov umetne inteligence. Podjetje se pri tem osredotoča na uporabo same umetne inteligence za upravljanje delov integracije in implementacije, zlasti znotraj kompleksnih poslovnih sistemov.
Kako Kongres uporablja ChatGPT in druga orodja umetne inteligence?
Po poročanjih pisarne predstavniškega doma, odbori in institucionalni računi uporabljajo umetno inteligenco za memorandume, zakonodajne analize, odgovore volivcev, gradiva za zaslišanja in objave na družbenih omrežjih. ChatGPT je predstavljal približno 90 % zabeležene porabe orodij umetne inteligence, opisane v članku. Razpoložljivi podatki ne vključujejo brezplačnih računov in orodij, ki so v paketu z drugo programsko opremo, zato ne zajamejo vseh primerov uporabe.
Kaj Palantir in Olix razkrivata o trenutnih trendih vlaganja v umetno inteligenco?
Palantirjeva napoved višjih prihodkov kaže na veliko povpraševanje po podatkovni analitiki, ki jo poganja umetna inteligenca, tako pri vladnih kot komercialnih strankah. Medtem je britansko zagonsko podjetje Olix, ki se ukvarja s čipi umetne inteligence, zbralo 312 milijonov dolarjev in doseglo poročano vrednotenje v višini 3,3 milijarde dolarjev. Vsi ti dogodki skupaj kažejo na nadaljnje zanimanje vlagateljev in strank tako za programsko opremo za umetno inteligenco v podjetjih kot za računalniško infrastrukturo, potrebno za podporo naprednim modelom.