🏛️ Kako so se velike tehnološke družbe uvrstile v Trumpov izvršni ukaz o umetni inteligenci ↗
Trump je odstopil od načrtovanega izvršnega ukaza o umetni inteligenci, ki bi spodbudil varnostne preglede za nove modele. Razlog v bistvu: ne upočasniti Amerike v tekmi s Kitajsko.
Pomembno je, da je bil ukaz menda že dokaj blag – prostovoljen, ne pa nekakšno močno regulativno kladivo. Kljub temu so tehnološki voditelji močno pritiskali proti njemu in dobili so, kar so želeli. (The Guardian)
🛡️ Claude Mythos z umetno inteligenco odkrije 10.000 zelo resnih ranljivosti v široko uporabljeni programski opremi ↗
Anthropic je sporočil, da je njihov projekt Glasswing s pomočjo programa Claude Mythos Preview odkril več kot 10.000 ranljivosti z visoko ali kritično resnostjo. To je impresivno, a hkrati daje občutek, kot da bi požarni alarm nosil plašč.
Podjetje pravi, da je bilo 1726 ugotovitev potrjenih kot resnično pozitivnih, od tega 97 popravljenih in 88 izdanih opozoril. Težji del zdaj ni več iskanje hroščev – temveč njihovo odpravljanje, preden napadalci dobijo iste igračke. (The Hacker News)
🛰️ Bela hiša odobrila 9 milijard dolarjev za vohunske agencije, da bi dohitele umetno inteligenco ↗
Bela hiša je odobrila tajno zahtevo v vrednosti 9 milijard dolarjev za nakup naprednih čipov za ameriške obveščevalne agencije, namenjenih uporabi modelov umetne inteligence na mejnih lokacijah za tajna dela.
Kongres mora še odobriti večja sredstva, vendar se 800 milijonov dolarjev reprogramira za hitrejši dostop do računalnikov. Podtekst je težko spregledati: celo vohunske agencije so zdaj obtičale v čakalni vrsti za čipe umetne inteligence, kar je absurdno in predvidljivo. (Inquirer.com)
🪞 "Vsega ne moreš nadzorovati": porast števila plastičnih kirurgov, ki jih prosijo za ustvarjanje "obraza z umetno inteligenco" ↗
Plastični kirurgi pravijo, da si vse več pacientov kot cilj operacije izbere selfije, obdelane z umetno inteligenco – ostrejše ličnice, popolno simetrijo, kožo brez por in celoten nenavaden nakupovalni seznam.
Kirurgi opozarjajo, da lahko umetna inteligenca prerazporedi slikovne pike, ne pa anatomije. Eden od njih je pregledal postopke, ki jih priporoča umetna inteligenca in bi lahko stali več kot 100.000 funtov, pa še vedno ne bi dosegli sanjskega obraza. Tale mračen majhen zrcalni labirint. (The Guardian)
💰 Anthropic naj bi že naslednji teden zaključil krog financiranja v vrednosti več kot 30 milijard dolarjev ↗
Anthropic naj bi bil blizu kroga financiranja nad 30 milijardami dolarjev, pri čemer je vrednotenje več kot 900 milijard dolarjev. Da, ta številka se vrti okoli norosti.
Krog razpisov spodbuja veliko povpraševanje po Claudu na področju kodiranja, poslovnih delovnih procesov in kibernetske varnosti. Podjetje si prizadeva tudi za zaklepanje več računalniških zmogljivosti, saj je v umetni inteligenci denar danes večinoma gorivo za nošenje obleke. (Business Standard)
🖼️ Slike ChatGPT nosijo nevidne označevalce umetne inteligence, ki jih lahko zazna vsak: Kaj morajo vedeti uporabniki, ki ne morejo razkriti umetne inteligence generacije ↗
Izhodne slike OpenAI zdaj nosijo dva signala izvora: metapodatke C2PA in vodni žig SynthID storitve Google DeepMind. Eden ponuja bogatejši kontekst datoteke, drugi pa je namenjen shranjevanju posnetkov zaslona in stiskanju.
V predogledu je na voljo tudi orodje za javno preverjanje. Ni pa povsem zanesljivo, ne – raziskovalci so dokazali napade z vodnim žigom – vendar pa zaradi tega izjavo »sploh nisem uporabljal umetne inteligence« naredi veliko bolj tvegano majhno laž. (Tech Times)
Pogosta vprašanja
Zakaj se je Trump umaknil od načrtovanega izvršnega ukaza o umetni inteligenci?
V članku piše, da naj bi bil načrtovani izvršni ukaz o umetni inteligenci omilil pritisk velikih tehnoloških voditeljev. Ukaz je bil že opisan kot relativno blag in prostovoljen, s poudarkom na varnostnih pregledih novih modelov umetne inteligence. Osrednji argument proti njemu je bil, da bi dodatni postopki pregledovanja lahko upočasnili ZDA v njihovi tekmi s Kitajsko na področju umetne inteligence.
Kaj je Claude Mythos iz Anthropica našel v programski opremi?
Anthropic je sporočil, da je njihov projekt Project Glasswing s pomočjo programa Claude Mythos Preview odkril več kot 10.000 ranljivosti z visoko ali kritično resnostjo v široko uporabljeni programski opremi. Članek navaja, da je bilo 1726 ugotovitev potrjenih kot resnično pozitivnih, izdanih pa je bilo tudi nekaj popravkov in opozoril. Širše vprašanje je, ali lahko zagovorniki odpravijo te slabosti, preden napadalci izkoristijo podobna orodja umetne inteligence.
Zakaj ameriške obveščevalne agencije zahtevajo več čipov umetne inteligence?
V članku piše, da je Bela hiša odobrila tajno zahtevo za 9 milijard dolarjev, da bi ameriškim obveščevalnim agencijam pomagala pri nakupu naprednih čipov za modele umetne inteligence na meji. Cilj je podpreti tajno delo umetne inteligence, ki zahteva velike količine računalništva. Prav tako ugotavlja, da mora Kongres še odobriti širše financiranje, medtem ko se nekaj denarja prerazporeja za hitrejši dostop.
Kaj pomeni »obraz z umetno inteligenco« v kozmetični kirurgiji?
»Obraz z umetno inteligenco« se nanaša na paciente, ki plastičnim kirurgom prinašajo selfije, urejene z umetno inteligenco, kot primere, kako želijo izgledati. Te slike lahko prikazujejo ostrejše poteze, popolno simetrijo ali kožo, ki ni realistična. Kirurgi, navedeni v članku, opozarjajo, da lahko umetna inteligenca z lahkoto spreminja slikovne pike, vendar ima resnična anatomija omejitve, ki jih kirurgija ne more vedno premagati.
Kako nevidni označevalci na slikah ChatGPT vplivajo na uporabnike?
V članku je navedeno, da izhodni podatki slik ChatGPT zdaj vključujejo signale izvora, kot so metapodatki C2PA in vodni žig SynthID. Ti označevalci lahko pomagajo prepoznati slike, ki jih ustvari umetna inteligenca, tudi v primerih, ko nekdo morda ne želi razkriti uporabe umetne inteligence. Članek tudi ugotavlja, da vodni žig ni zanesljiv, vendar olajša zaznavanje nerazkrite uporabe slik z umetno inteligenco.