Viri pravijo, da Trumpovi svetovalci podjetjem za umetno inteligenco sporočajo, da ne bodo testirali varnosti modelov z odprto težo ↗
Trumpova administracija je vodilnim podjetjem za umetno inteligenco sporočila, da ne bo varnostno testirala modelov z odprtim utežem, so povedali ljudje, seznanjeni z razpravami. To precej pomemben del ocene tveganja pušča zunaj vladnega okvira.
V praksi bodo razvijalci in uporabniki morda morali prevzeti večjo odgovornost za ocenjevanje modelov pred izdajo ali uvedbo. Morda je to prijazno do inovacij ... vendar je čas negotov, saj odprti modeli hitro postajajo vse bolj zmogljivi. (Reuters)
Modeli umetne inteligence z odprto težo dohitevajo mejo. Varnostna vrzel ostaja. ↗
Z.aijev GLM-5.2 naj bi le nekaj mesecev zaostajal za vodilnimi zaprtimi modeli na področju kibernetskih in bioloških zmogljivosti. Testi SaferAI so pokazali, da ni zavrnil nobene od ofenzivnih kibernetskih ali bioloških nalog z dvojno rabo, ki so mu bile predstavljene.
Zaprti modeli se lahko zanašajo na učenje zavrnitve, klasifikatorje in kontrolnike API-ja. Prenosljive uteži so nekaj drugega – ko so enkrat izdane, je mogoče zaščitne ukrepe spremeniti ali odstraniti, zaradi česar se varnostna vrzel zdi izrazito kanjonsko oblikovana. (TechCrunch)
Samsung Electronics predstavlja naslednjo generacijo tehnologije umetne inteligence za shranjevanje podatkov ↗
Samsung je predstavil prototip BV-NAND z več kot 400 plastmi in novo zasnovo vezave rezin. Podjetje pravi, da ponuja približno 58 % večjo gostoto pomnilnika kot prejšnja generacija, poleg tega pa še hitrejše branje, pisanje in vhodno-izhodne zmogljivosti.
Samsung je opisal tudi vertikalno zložen pomnilnik zHBM, nameščen nad pospeševalniki umetne inteligence. Trdi, da bi arhitektura lahko ponudila več kot desetkrat večjo gostoto kot običajni HBM5, potrojila energetsko učinkovitost in bistveno nižjo toplotno upornost – milo rečeno, precejšnje obljube. (Reuters)
Tekma za podatkovne centre z umetno inteligenco ustvarja breme najemnin za velika tehnološka podjetja v višini 1 bilijona dolarjev ↗
Microsoft, Meta, Oracle, Amazon in Alphabet so se zavezali k približno 1,09 bilijona dolarjev za najemne pogodbe, ki se še niso začele, večinoma za podatkovne centre umetne inteligence. Te obveznosti so skoraj štirikrat večje od njihovih priznanih obveznosti iz najemnih pogodb.
Zmogljivost bi lahko spodbudila naslednji razcvet računalništva v oblaku. Ali pa, manj veselo, bi podjetja morala plačati za ogromne objekte, če povpraševanje po umetni inteligenci ne bo zadovoljivo – plašč za bilijon dolarjev, kupljen še preden je kdo preveril vreme. (Reuters)
Anthropic podpisal 10 milijard dolarjev vreden posel z zagonskim podjetjem za umetno inteligenco v oblaku Volta ↗
Anthropic se je po poročanjih dogovoril za nakup računalniških zmogljivosti v vrednosti 10 milijard dolarjev od zagonskega podjetja za umetno inteligenco v oblaku Volta v šestih letih. Dogovor bi podprl norveški podatkovni center s 133 megavati zmogljivosti.
Pričakuje se, da bo podjetje za rudarjenje kriptovalut Bitdeer pomagalo pri razvoju objekta, ki bo uporabljal Nvidijine sisteme Vera Rubin. Anthropic zbira računalniška partnerstva kot magnete za hladilnik – le da ti magneti stanejo milijarde. (TechCrunch)
Svetovna banka pravi, da umetna inteligenca ponuja "rešilno bilko" za gospodarstva v vzponu ↗
Svetovna banka pravi, da bi lahko umetna inteligenca omogočila državam v razvoju, da stoletje napredka stisnejo v desetletje, če le izboljšajo elektriko, povezljivost in digitalne spretnosti. Manjša, lokalno prilagojena orodja bi lahko podpirala zdravstvo, izobraževanje, kmetijstvo in javne storitve, ne da bi pri tem potrebovala ogromne nacionalne modele.
V poročilu je ocenjeno, da je 4,5 % delovnih mest v državah z nizkimi in srednjimi dohodki izpostavljenih generativni umetni inteligenci, v primerjavi s 14,2 % v bogatejših gospodarstvih. Kljub temu obljuba prihaja z ostrimi opozorili o neenakosti, dezinformacijah in politični represiji – rešilni bilki, ki je vpletena v več vozlov. (Reuters)
Pogosta vprašanja
Zakaj ameriška vlada ne testira varnosti modelov umetne inteligence z odprto težo?
Glede na članek je Trumpova administracija vodilnim podjetjem za umetno inteligenco sporočila, da modeli z odprto težo ne bodo vključeni v njen vladni okvir za testiranje varnosti. To nalaga večjo odgovornost razvijalcem, distributerjem in uporabnikom modelov, ki bodo morda morali pred izdajo ali uporabo teh sistemov neodvisno oceniti kibernetska in biološka tveganja, tveganja zlorabe in uvajanja.
Zakaj je odprte modele umetne inteligence težje zavarovati kot zaprte modele?
Modele umetne inteligence z odprto težo je mogoče prenesti, spremeniti in upravljati zunaj izvorne infrastrukture razvijalca. Posledično se lahko zaščitni ukrepi, kot so učenje zavrnitve, klasifikatorji in nadzor dostopa, oslabijo ali odstranijo. Zaprti modeli se običajno dobavljajo prek nadzorovanih API-jev, kar ponudnikom daje večji manever za spremljanje uporabe, omejevanje dostopa in posodabljanje zaščit po uvedbi.
Kako naj organizacije pred uvedbo ocenijo modele umetne inteligence z odprto težo?
Pogost pristop je testiranje modela v realnih scenarijih zlorabe, vključno z žaljivimi kibernetskimi nalogami, biološkimi zahtevami z dvojno rabo in poskusi obhoda zaščitnih ukrepov. Organizacije bi morale preučiti tudi, kako bo model gostovan, kdo ga bo lahko spreminjal in kateri sistemi za spremljanje so na voljo. Uvedbe z višjim tveganjem običajno zahtevajo strožji nadzor dostopa in stalen človeški nadzor.
Kaj naj bi izboljšala nova Samsungova tehnologija umetne inteligence za pomnilnik?
Samsungov prototip BV-NAND uporablja več kot 400 plasti in zasnovo z lepljenjem rezin, namenjeno povečanju gostote pomnilnika, hkrati pa izboljšanju zmogljivosti branja, pisanja in vhodno-izhodnih procesov. Podjetje je opisalo tudi vertikalno zložen pomnilnik zHBM, nameščen nad pospeševalniki umetne inteligence. Te zasnove so namenjene obravnavanju potreb po zmogljivosti, energiji in toploti, ki jih ustvarjajo vse bolj intenzivne delovne obremenitve umetne inteligence.
Zakaj se najemi podatkovnih centrov za umetno inteligenco velikih tehnoloških podjetij štejejo za finančno tveganje?
Microsoft, Meta, Oracle, Amazon in Alphabet so po poročanjih zavezali približno 1,09 bilijona dolarjev za najemne pogodbe, ki se še niso začele, večina teh sredstev pa je povezana s podatkovnimi centri umetne inteligence. Dodana zmogljivost bi lahko podprla hitro rast povpraševanja po storitvah v oblaku in umetni inteligenci. Vendar pa lahko podjetja še vedno dolgujejo znatna plačila, če se povpraševanje razvija počasneje od pričakovanega ali če infrastruktura ostane premalo izkoriščena.
Kako bi lahko umetna inteligenca koristila gospodarstvom v vzponu?
Svetovna banka trdi, da bi lahko umetna inteligenca pomagala državam v razvoju okrepiti zdravstvo, izobraževanje, kmetijstvo in javne storitve, zlasti z manjšimi orodji, prilagojenimi lokalnim potrebam. Te koristi so odvisne od zanesljive električne energije, dostopa do interneta in digitalnih znanj. Vlade morajo obvladovati tudi tveganja, kot so neenakost, dezinformacije in politična represija, saj se uporaba vse bolj širi.