🇬🇧 Drzna stava na umetno inteligenco, da bo Združeno kraljestvo ostalo v ospredju znanstvenih in raziskovalnih prebojev, od zdravstva do boljših javnih storitev ↗
Glavni javni financer raziskav v Združenem kraljestvu (UKRI) je objavil svojo prvo namensko strategijo za umetno inteligenco, v kateri se v bistvu zavzema za več umetne inteligence v raziskavah, več znanj in spretnosti na področju umetne inteligence, več infrastrukture za umetno inteligenco – vse to skupaj.
Gre za resen denar, namenjen umetni inteligenci, ter za specifične naložbe, kot sta nadgradnja superračunalnika DAWN v Cambridgeu in podpora delu »umetna inteligenca za znanost« (odkrivanje zdravil je bilo poimenovano, kar ni presenetljivo). Bere se kot »narediti osnove, a tudi zagotoviti rezultate« ... kar je lahko razpoloženje ali pa težka naloga ali oboje.
🛡️ OpenAI in Microsoft se pridružujeta mednarodni koaliciji Združenega kraljestva za zaščito razvoja umetne inteligence ↗
OpenAI in Microsoft sta obljubila nova sredstva za projekt usklajevanja britanskega inštituta za varnost umetne inteligence – sklad za neodvisne raziskave usklajevanja se je povečal, in to uokvirjata kot krepitev zaupanja, ne le kot napad na piflarje.
Bistvo je struktura: mednarodna koalicija, več financerjev in kup nepovratnih sredstev, ki se dodeljujejo številnim državam. Gre za »usklajevanje kot ekosistem«, ne pa za »usklajevanje kot skrivno omako enega laboratorija« ... četudi laboratoriji še vedno hranijo večino omake.
🧠 Spodbujanje neodvisnih raziskav o usklajenosti umetne inteligence ↗
OpenAI je projektu usklajevanja AISI v Združenem kraljestvu namenil 7,5 milijona dolarjev – denar je bil posebej namenjen neodvisnim ekipam, ki opravljajo varnostna/usklajevalna dela zunaj mejnih laboratorijev.
Predstavitev je precej preprosta: laboratoriji na meji lahko izvajajo usklajevanje, ki temelji na dostopu do modelov, vendar področje potrebuje tudi idiosinkratične, raznolike in nekorelirane ideje zunanjih sodelavcev (njihove besede so lepše, ampak razumete). Pod vsem tem se skriva tudi jasen pogled na "iterativno uvajanje" - pošiljaj, uči se, utrjuj ... ponavljaj ... ali vsaj tako se zdi.
💳 Ministrstvo za finance objavlja dva nova vira za vodenje uporabe umetne inteligence v finančnem sektorju ↗
Ameriško ministrstvo za finance je opustilo dve praktični orodji za finance: skupni leksikon umetne inteligence (da se nihče ne bi več prepiral o pomenu besed) in okvir za upravljanje tveganj z umetno inteligenco v finančnih storitvah, ki prilagaja pristop NIST-a realnosti bančništva.
Okvir je upravljanje, ki temelji na tveganju, z dovolj podrobnostmi, da ga lahko uporabljajo skupine za skladnost, regulatorji in prodajalci, ne da bi si vsi vzporedno izmišljevali lastne definicije. Gre za vrsto prozaičnega dokumenta, ki tiho oblikuje, kaj se odobri ... kar je močno na način, ki spominja na omaro za dokumente.
🪖 Tehnični direktor Pentagona pravi, da ni demokratično, da Anthropic omejuje vojaško uporabo Claudeove umetne inteligence ↗
Vodja tehnološkega oddelka Pentagona je javno zavrnil odločitev Anthropica o omejevanju vojaške uporabe Clauda in označil za "nedemokratično", da eno samo podjetje postavlja dodatna pravila, ki presegajo zakonodajo in predpise.
To se dogaja poleg širšega prerivanja, kjer ima več podjetij, ki se ukvarjajo z obrambnimi modeli, pogodbe za prilagajanje umetne inteligence za vojaške namene – in točka trenja je točno takšna, kot bi pričakovali: politike uporabe podjetij v primerjavi z vladno apetito za operativno uporabo. Vse skupaj se zdi kot rokovanje, ki se sredi fotografije spremeni v pretepanje.
Pogosta vprašanja
Kaj je strategija UKRI AI in zakaj je pomembna?
Prva strategija UKRI, namenjena umetni inteligenci, zagovarja nadaljnjo udeležbo umetne inteligence v raziskovalnem procesu – v znanjih, infrastrukturi in praktični uporabi. Namen je »narediti osnove, a tudi predstaviti rezultate«, kar kaže na pritisk, da se naložbe v raziskave pretvorijo v javno korist. Prav tako kaže na celoten pristop: ne le modeli financiranja, temveč tudi računalništvo, ljudje in poti uvajanja, ki zagotavljajo trajnost napredka.
Kaj dejansko omogoča nadgradnja superračunalnika DAWN v Cambridgeu?
Nadgradnja superračunalnika DAWN v Cambridgeu je postavljena kot infrastrukturna poteza, ki podpira ambicioznejše delo na področju umetne inteligence v raziskavah v Združenem kraljestvu. V praksi to običajno pomeni večjo zmogljivost za usposabljanje, evalvacijo in obsežne poskuse, ki jih manjše ustanove težko učinkovito izvajajo. V mnogih cevovodih močnejše skupno računalništvo lajša ozka grla na univerzah in pospeši zanko od prototipov do objavljenih in preizkušljivih rezultatov.
Kaj pomeni »umetna inteligenca za znanost« v kontekstu strategije umetne inteligence v Združenem kraljestvu?
»Umetna inteligenca za znanost« je predstavljena kot uporaba metod umetne inteligence za pospešitev odkrivanja, pri čemer je odkrivanje zdravil izrecno poimenovano. V praksi to pogosto vključuje uporabo umetne inteligence za ustvarjanje hipotez, iskanje velikih oblikovalskih prostorov ali določanje prioritet eksperimentov. Poudarek nakazuje na željo po rezultatih, ki jasno presegajo akademske kroge – nove metode, krajši cikli in aplikacije, ki so povezane z zdravstvom in javnimi storitvami.
Kaj je projekt usklajevanja britanskega inštituta za varnost umetne inteligence in kdo ga financira?
Projekt usklajevanja britanskega inštituta za varnost umetne inteligence (AI Security Institute) je opisan kot mednarodna koalicijska struktura, ki podpira neodvisne raziskave usklajevanja, pri čemer prispeva več financerjev. OpenAI in Microsoft sta izpostavljena kot dodatna finančna sredstva, ki so zasnovana kot gradnja zaupanja in podpora ekosistemu. Model je »usklajevanje kot ekosistem«, pri čemer nepovratna sredstva tečejo k ekipam po državah, namesto da bi se delo koncentriralo znotraj mejnih laboratorijev.
Zakaj je OpenAI vložil 7,5 milijona dolarjev v neodvisne raziskave o usklajenosti umetne inteligence?
Navedena logika OpenAI je, da lahko mejni laboratoriji opravljajo varnostno delo, ki je odvisno od dostopa do globokih modelov, medtem ko lahko neodvisne ekipe prispevajo raznolike, nepovezane ideje, ki jih laboratoriji morda spregledajo. Poudarek je na razširitvi področja onkraj »skrivne sestavine enega laboratorija«. Članek namiguje tudi na pogled na »iterativno uvajanje« – uvajanje, učenje iz povratnih informacij o uvajanju, utrjevanje sistemov in nato ponovitev.
Kako sredstva ameriškega finančnega ministrstva za umetno inteligenco vplivajo na upravljanje umetne inteligence v finančnem sektorju?
Ameriško ministrstvo za finance je izdalo skupni leksikon umetne inteligence in okvir za upravljanje tveganj na področju umetne inteligence v finančnih storitvah, prilagojen razmišljanju v slogu NIST-a. Namen je zmanjšati razpršenost definicij in zagotoviti skupinam za skladnost, regulatorjem in prodajalcem skupni priročnik. V mnogih organizacijah takšni dokumenti oblikujejo, kaj se v praksi odobri, saj standardizirajo pričakovanja glede kontrol, dokumentacije in odločanja na podlagi tveganja.