Koliko vode porabi umetna inteligenca?

Stavim, da ste že slišali vse od "umetna inteligenca spije steklenico vode na vsakih nekaj vprašanj" do "v bistvu gre za nekaj kapljic". Resnica je bolj niansirana. Vodni odtis umetne inteligence se zelo razlikuje glede na to, kje se izvaja, kako dolg je vaš poziv in kako podatkovni center hladi svoje strežnike. Torej, da, glavna številka obstaja, vendar se skriva v goščavi opozoril.

Spodaj bom razložil jasne, na odločitve pripravljene številke, razložil, zakaj se ocene razlikujejo, in pokazal, kako lahko gradbeniki in vsakodnevni uporabniki zmanjšajo porabo vode, ne da bi se spremenili v menihe trajnostnega razvoja.

Članki, ki jih boste morda želeli prebrati po tem:

🔗 Kaj je nabor podatkov umetne inteligence
Pojasnjuje, kako nabori podatkov omogočajo strojno učenje in razvoj modelov.

🔗 Kako umetna inteligenca napoveduje trende
Prikazuje, kako umetna inteligenca analizira vzorce za napovedovanje sprememb in prihodnjih rezultatov.

🔗 Kako meriti učinkovitost umetne inteligence
Razčleni bistvene metrike za oceno natančnosti, hitrosti in zanesljivosti.

🔗 Kako se pogovarjati z umetno inteligenco
Vodi učinkovite strategije spodbujanja za izboljšanje jasnosti, rezultatov in doslednosti.

Koliko vode porabi umetna inteligenca? Hitre številke, ki jih lahko dejansko uporabite 📏

• Tipičen razpon na poziv danes: od podmililitrov za srednji besedilni poziv na enem prevladujočem sistemu do več deset mililitrov za daljši odziv, ki zahteva več računskih zmogljivosti, na drugem. Googlovo produkcijsko računovodstvo na primer poroča o srednjem besedilnem pozivu ~0,26 ml (z vključenimi celotnimi stroški strežbe) [1]. Mistralova ocena življenjskega cikla ocenjuje odgovor pomočnika s 400 žetoni na ~45 ml (mejno sklepanje) [2]. Kontekst in model sta zelo pomembna.

• Usposabljanje modela na mejnem nivoju: lahko seže v milijone litrov , večinoma zaradi hlajenja in vode, vgrajene v proizvodnjo električne energije. Pogosto citirana akademska analiza je ocenila ~5,4 milijona litrov za učenje modela razreda GPT, vključno s ~700.000 litri, porabljenimi na kraju samem za hlajenje – in zagovarjala pametno načrtovanje za zmanjšanje intenzivnosti vode [3].

• Podatkovni centri na splošno: velika območja pri večjih operaterjih v povprečju porabijo več sto tisoč galon na dan , pri čemer so na nekaterih kampusih konice višje, odvisno od podnebja in zasnove [5].

Bodimo iskreni: te številke se na prvi pogled zdijo nedosledne. In res so. In za to obstajajo dobri razlogi.

Metrike porabe vode z umetno inteligenco ✅

Dober odgovor na vprašanje Koliko vode porabi umetna inteligenca? bi moral označiti nekaj polj:

1. Jasnost meja
   Ali vključuje samo hladilno vodo na kraju samem ali tudi vodo zunaj kraja, elektrarne za proizvodnjo električne energije? Najboljša praksa razlikuje med odvzemom vode in porabo vode ter obsega 1-2-3, podobno kot pri obračunavanju ogljika [3].

2. Občutljivost lokacije
   Poraba vode na kWh se razlikuje glede na regijo in mešanico omrežij, zato ima lahko isti poziv različne vplive na vodo, odvisno od tega, kje se dobavlja – ključni razlog, zakaj literatura priporoča časovno in prostorsko upoštevanje načrtovanja [3].

3. Realističnost delovne obremenitve
   Ali številka odraža mediano produkcijsko obremenitev , vključno z nedejavnostjo in režijskimi stroški podatkovnega centra, ali samo pospeševalnik pri največjih obremenitvah? Google pri sklepanju poudarja upoštevanje celotnega sistema (nedejavnost, procesorji/DRAM in režijski stroški podatkovnega centra), ne le matematike TPU [1].

4. Hladilna tehnologija
   Izhlapevalno hlajenje, hlajenje s tekočino v zaprti zanki, zračno hlajenje in novi neposrednega hlajenja v čip dramatično spreminjajo intenzivnost porabe vode. Microsoft uvaja zasnove, namenjene odpravi uporabe hladilne vode za določena mesta naslednje generacije [4].

5. Čas dneva in letni čas
   Vročina, vlažnost in stanje omrežja spreminjajo učinkovitost rabe vode v resničnem življenju; ena vplivna študija predlaga, da se večja dela načrtujejo takrat in tam, kjer je intenzivnost vode manjša [3].

Odvzem vode v primerjavi s porabo vode, pojasnjeno 💡

• Odvzem = voda, odvzeta iz rek, jezer ali vodonosnikov (nekatera se vrne).

• Poraba = voda, ki se ne vrača, ker izhlapi ali je vključena v procese/izdelke.

Hladilni stolpi porabljajo vodo z izhlapevanjem. Proizvodnja električne energije lahko porabi velike količine (včasih porabi del vode), odvisno od naprave in načina hlajenja. Verodostojne oznake UI-številke vode, ki jih poroča [3].

Kam gre voda v umetni inteligenci: tri vedra 🪣

1. Področje 1 – hlajenje na lokaciji
   Vidni del: voda, ki je izhlapela v samem podatkovnem centru. Izbire zasnove, kot so izhlapevanje v primerjavi z zrakom ali zaprta zanka s tekočino, določajo osnovo [5].

2. Področje 2 – proizvodnja električne energije
   Vsaka kWh lahko nosi skrito vodno oznako; mešanica in lokacija določata signal litrov na kWh, ki ga podeduje vaša delovna obremenitev [3].

3. Področje 3 – dobavna veriga
   Proizvodnja čipov se pri izdelavi zanaša na ultra čisto vodo. Tega ne boste videli v metriki »na promptno vprašanje«, razen če meja izrecno vključuje utelešene vplive (npr. popolna LCA) [2][3].

Ponudniki v številkah, z niansami 🧮

• Pozivi Google Gemini
  Metoda strežbe s polnim skladom (vključno z mirovanjem in režijskimi stroški objekta). Mediana besedilna zahteva ~0,26 ml vode ob ~0,24 Wh energije; številke odražajo proizvodni promet in celovite meje [1].

• Življenjski cikel Mistral Large 2
  Redka neodvisna analiza življenjskega cikla (z ADEME/Carbone 4) razkriva ~281.000 m³ za učenje + zgodnjo uporabo in mejno vrednost sklepanja ~45 mL za s 400 žetoni [2].

• Microsoftova ambicija hlajenja z ničelno porabo vode
  Podatkovni centri naslednje generacije so zasnovani tako, da za hlajenje ne porabijo nič vode , pri čemer se opirajo na pristope neposrednega hlajenja na čip; administrativna uporaba še vedno zahteva nekaj vode [4].

• Splošna raven podatkovnih centrov
  Veliki operaterji javno poročajo o povprečni porabi več sto tisoč galon na dan na posameznih lokacijah; podnebje in zasnova teh številk dvigujejo ali znižujejo [5].

• Prejšnja akademska osnova
  V prelomni analizi »žejne umetne inteligence« so bili ocenjeni milijoni litrov za učenje modelov razreda GPT in da bi 10–50 srednje velikih odgovorov lahko približno ustrezalo 500 ml steklenici – kar je močno odvisno od tega, kdaj/kje se izvajajo [3].

Zakaj se ocene tako zelo razlikujejo 🤷

• Različne meje
  Nekatere številke upoštevajo samo hlajenje na kraju samem ; druge vključujejo elektriko in vodo ; LCA lahko vključujejo proizvodnjo čipsa, jabolk, pomaranč in sadne solate [2][3].

• Različne delovne obremenitve
  Kratek besedilni poziv ni dolg multimodalni/kodni zagon; paketno združevanje, sočasnost in cilji zakasnitve spreminjajo izkoriščenost [1][2].

• Različna podnebja in omrežja
  Hlajenje z izhlapevanjem v vročem, sušnem območju ≠ hlajenje z zrakom/tekočino v hladnem in vlažnem območju. Intenzivnost vode v omrežju se zelo razlikuje [3].

• Metodologije prodajalcev
  Google je objavil metodo serviranja za celoten sistem; Mistral je objavil formalno LCA. Drugi ponujajo točkovne ocene z redkimi metodami. Odmevna "petnajstini čajne žličke" na poziv je pritegnila pozornost medijev - vendar brez podrobnosti o mejah ni primerljiva [1][3].

• Gibljiva tarča
  Hlajenje se hitro razvija. Microsoft na nekaterih lokacijah pilotno uvaja hlajenje brez vode ; uvedba teh sistemov bo zmanjšala porabo vode na lokaciji, tudi če električna energija iz zgornjega toka še vedno nosi signal za vodo [4].

Kaj lahko storite danes, da zmanjšate vodni odtis umetne inteligence 🌱

1. Pravilno dimenzionirajte model
   Manjši, nalogam prilagojeni modeli se pogosto ujemajo z natančnostjo, hkrati pa porabijo manj računalništva. Mistralova ocena poudarja močne korelacije med velikostjo in odtisom – in objavlja mejne inferenčne številke, da lahko razmišljate o kompromisih [2].

2. Izberite regije, ki varčujejo z vodo.
   Prednost dajte regijam s hladnejšim podnebjem, učinkovitim hlajenjem in omrežji z nižjo intenzivnostjo vode na kWh; delo »žejne umetne inteligence« kaže, da časovno in prostorsko zavestno načrtovanje [3].

3. Časovno preusmerite delovne obremenitve.
   Usposabljanje/sklepanje z veliko količino energije načrtujte za ure, ki učinkovito uporabljajo vodo (hladnejše noči, ugodni pogoji v omrežju) [3].

4. Vprašajte svojega dobavitelja za pregledne metrike,
   kot so povpraševanje po vodi na zahtevo , opredelitve meja in ali številke vključujejo neizkoriščeno zmogljivost in režijske stroške objekta. Politične skupine si prizadevajo za obvezno razkritje, da bi omogočile primerjave med jabolki [3].

5. Hladilna tehnologija je pomembna
   Če uporabljate strojno opremo, ocenite hlajenje z zaprto zanko/neposredno na čip ; če uporabljate oblak, dajte prednost regijam/ponudnikom, ki vlagajo v zasnove z vodno lučjo [4][5].

6. Uporaba sive vode in možnosti ponovne uporabe
   Številni kampusi lahko nadomestijo nepitne vire ali reciklirajo znotraj zank; veliki upravljavci opisujejo uravnoteženje virov vode in možnosti hlajenja, da bi zmanjšali neto vpliv [5].

Hiter primer za ponazoritev (ni univerzalno pravilo): selitev nočnega usposabljanja iz vročega, suhega območja sredi poletja v hladnejše, bolj vlažno območje spomladi – in izvajanje v času izven konic, v hladnejših urah – lahko spremeni tako porabo vode na lokaciji zunaj lokacije (omrežja). To je tisto, kar lahko odklene praktično, nizkodramatično razporejanje zmag [3].

Primerjalna tabela: hitri izbori za znižanje porabe vode zaradi umetne inteligence 🧰

(»Cena« je po zasnovi mehka – uvedbe se razlikujejo.)

Poglobljen pogled: bobnanje politik postaja vse glasnejše 🥁

Inženirski organi pozivajo k obveznemu razkritju podatkov o energiji in vodi v podatkovnih centrih, da bi kupci in skupnosti lahko ocenili stroške in koristi. Priporočila vključujejo opredelitve obsega, poročanje na ravni lokacije in smernice za izbiro lokacije – saj se brez primerljivih meritev, ki upoštevajo lokacijo, prepiramo v temi [3].

Poglobljen pregled: podatkovni centri ne porabljajo podatkov na enak način 🚰

Vztrajno obstaja mit, da »zračno hlajenje ne porablja vode«. Ne povsem. Sistemi, ki uporabljajo veliko zraka, pogosto zahtevajo več električne energije , ki v mnogih regijah odvaja skrito vodo iz omrežja; nasprotno, vodno hlajenje lahko zmanjša energijo in emisije na račun vode na lokaciji. Veliki operaterji te kompromise izrecno uravnotežijo od lokacije do lokacije [1][5].

Poglobljen vpogled: hiter pregled trditev o virusu v resnici 🧪

Morda ste že videli drzne izjave, da en sam poziv pomeni »steklenico vode« ali, na drugi strani, »le nekaj kapljic«. Boljša drža: ponižnost z matematiko . Današnji verodostojni knjižni podstavki so ~0,26 ml za srednji produkcijski poziv s polnimi režijskimi stroški [1] in ~45 ml za odgovor pomočnika s 400 žetoni (obrobno sklepanje) [2]. Pogosto uporabljena »petnajstini čajne žličke« nima javne meje/metode; obravnavajte jo kot vremensko napoved brez mesta [1][3].

Mini-pogosto zastavljena vprašanja: Koliko vode porabi umetna inteligenca? spet, v preprostem jeziku 🗣️

• Torej, kaj naj rečem na sestanku?
  »Na vprašanje se giblje od kapljic do nekaj požirkov , odvisno od modela, dolžine in kraja poteka. Trening poteka v bazenih , ne v lužah.« Nato navedite enega ali dva zgornja primera.

• Je umetna inteligenca edinstveno slaba?
  Je edinstveno koncentrirana : visokozmogljivi čipi, združeni skupaj, ustvarjajo velike hladilne obremenitve. Vendar pa so podatkovni centri tudi tisti, kjer se najučinkovitejša tehnologija običajno najprej pojavi [1][4].

• Kaj če bi preprosto vse preusmerili na zračno hlajenje?
  Morda bi zmanjšali na lokaciji , vendar bi povečali porabo zunaj lokacije z elektriko. Sofisticirani upravljavci tehtajo oboje [1][5].

• Kaj pa prihodnja tehnologija?
  Zasnove, ki se izogibajo hlajenju vode v velikem obsegu, bi bile prelomnica za Scope 1. Nekateri operaterji se usmerjajo v to smer; elektrika na gorvodnem toku še vedno prenaša vodni signal, dokler se omrežja ne spremenijo [4].

Zaključne opombe - Predolgo, nisem prebral/a 🌊

• Na poziv: pomislite na manj kot mililiter do več deset mililitrov , odvisno od modela, dolžine poziva in kje se izvaja. Mediana poziva ~0,26 mL na enem glavnem skladu; ~45 mL za odgovor s 400 žetoni na drugem [1][2].

• Usposabljanje: milijoni litrov za modele na meji, zaradi česar so načrtovanje, lokacija in hladilna tehnologija ključnega pomena [3].

• Kaj storiti: modeli prave velikosti, izbrati območja z dobrim razmerjem med vodo, težka dela prestaviti na hladnejše ure, dati prednost prodajalcem, ki dokazujejo zasnove z vodno razsvetljavo, in zahtevati pregledne meje [1][3][4][5].

Za konec nekoliko pomanjkljiva metafora: umetna inteligenca je žejen orkester – melodija je računska, bobni pa se hladijo in z vodo polnijo. Uglasite bend in občinstvo bo še vedno slišalo glasbo, ne da bi se sprožili škropilniki. 🎻💦

Reference

1. Blog Google Cloud – Koliko energije porabi Googlova umetna inteligenca? Izračunali smo (metodologija + ~0,26 ml mediane zahteve, polni režijski stroški). Povezava
   (Tehnični članek PDF: Merjenje vpliva na okolje pri zagotavljanju umetne inteligence v Googlovem obsegu .) Povezava

2. Mistral AI – Naš prispevek k globalnemu okoljskemu standardu za AI (LCA z ADEME/Carbone 4; ~281.000 m³ usposabljanja + zgodnja uporaba; ~45 mL na s 400 žetoni , mejno sklepanje). Povezava

3. Li in drugi - Kako narediti umetno inteligenco manj »žejno«: odkrivanje in obravnavanje skrivnega vodnega odtisa modelov umetne inteligence (usposabljanje milijonov litrov , časovno in prostorsko zavestno razporejanje, odvzem v primerjavi s porabo). Povezava

4. Microsoft - Podatkovni centri naslednje generacije ne porabijo nič vode za hlajenje (zasnove z neposrednim hlajenjem na čipu, ki so namenjene hlajenju brez vode na določenih lokacijah). Povezava

5. Google podatkovni centri – trajnostno delovanje (kompromisi pri hlajenju za vsako lokacijo posebej; poročanje in ponovna uporaba, vključno z reciklirano/sivo vodo; tipična dnevna poraba na ravni lokacije). Povezava

Poiščite najnovejšo umetno inteligenco v uradni trgovini z umetno inteligenco

O nas