Koľko vody spotrebuje umelá inteligencia?

Stavím sa, že ste už počuli všetko od „UI vypije fľašu vody každých pár otázok“ až po „je to v podstate pár kvapiek“. Pravda je však zložitejšia. Vodná stopa UI sa značne líši v závislosti od toho, kde beží, ako dlho trvá vaša výzva a ako dátové centrum chladí svoje servery. Takže áno, toto hlavné číslo existuje, ale skrýva sa v húštine výhrad.

Nižšie rozoberám jasné a rozhodovacie čísla, vysvetľujem, prečo sa odhady nezhodujú, a ukazujem, ako môžu stavitelia a bežní užívatelia znížiť spotrebu vody bez toho, aby sa stali mníchmi udržateľnosti.

Články, ktoré by ste si mohli prečítať po tomto:

🔗 Čo je to súbor údajov o umelej inteligencii
Vysvetľuje, ako súbory údajov umožňujú trénovanie strojového učenia a vývoj modelov.

🔗 Ako umelá inteligencia predpovedá trendy
Ukazuje, ako umelá inteligencia analyzuje vzory na predpovedanie zmien a budúcich výsledkov.

🔗 Ako merať výkonnosť umelej inteligencie
Rozoberá základné metriky na posúdenie presnosti, rýchlosti a spoľahlivosti.

🔗 Ako hovoriť s umelou inteligenciou
Vedie efektívne stratégie podnecovania na zlepšenie jasnosti, výsledkov a konzistentnosti.

Koľko vody spotrebuje umelá inteligencia? Rýchle čísla, ktoré môžete skutočne použiť 📏

• Typický rozsah na výzvu dnes: od submililitrov pre mediánovú textovú výzvu na jednom bežnom systéme až po desiatky mililitrov pre dlhšiu odpoveď s vyšším výpočtovým výkonom na inom. Napríklad produkčné účtovníctvo spoločnosti Google uvádza mediánovú textovú výzvu ~0,26 ml (vrátane plnej réžie poskytovania) [1]. Hodnotenie životného cyklu spoločnosti Mistral odhaduje odpoveď asistenta so 400 tokenmi na ~45 ml (marginálna inferencia) [2]. Kontext a model sú veľmi dôležité.

• Trénovanie modelu na hraniciach možností: môže dosiahnuť milióny litrov , najmä z chladenia a vody použitej pri výrobe elektriny. Často citovaná akademická analýza odhadla ~5,4 milióna litrov na trénovanie modelu triedy GPT, vrátane ~700 000 litrov spotrebovaných na mieste na chladenie – a argumentovala za inteligentné plánovanie na zníženie náročnosti vody [3].

• Dátové centrá vo všeobecnosti: veľké lokality u hlavných prevádzkovateľov v priemere stovky tisíc galónov denne

Buďme úprimní: tieto čísla sa na prvý pohľad zdajú byť nekonzistentné. A sú. A existujú na to dobré dôvody.

Metriky spotreby vody pomocou umelej inteligencie ✅

Dobrá odpoveď na otázku Koľko vody spotrebuje umelá inteligencia? by mala zaškrtnúť niekoľko políčok:

1. Jasnosť hraníc
   Zahŕňa to iba chladiacu vodu na mieste alebo aj mimo miesta používanú elektrárňami na výrobu elektriny? Najlepšie postupy rozlišujú medzi odberom vody a spotrebou vody a rozsahmi 1-2-3, podobne ako pri uhlíkovom účtovníctve [3].

2. Citlivosť lokality Spotreba
   vody na kWh sa líši v závislosti od regiónu a zloženia siete, takže tá istá požiadavka môže mať rôzny vplyv na vodu v závislosti od toho, kde sa dodáva – čo je kľúčový dôvod, prečo literatúra odporúča plánovanie podľa času a miesta [3].

3. Realizmus pracovnej záťaže
   Odráža číslo mediánové produkčné požiadavky vrátane nečinnej kapacity a réžie dátového centra, alebo iba akcelerátor v špičke? Google zdôrazňuje pri inferencii účtovanie celého systému (nečinnosť, CPU/DRAM a réžia dátového centra), nielen matematiku TPU [1].

4. Technológia chladenia
   Odparovacie chladenie, kvapalinové chladenie s uzavretou slučkou, chladenie vzduchom a vznikajúce priameho chladenia čipom dramaticky menia intenzitu spotreby vody. Spoločnosť Microsoft zavádza návrhy zamerané na elimináciu používania chladiacej vody pre určité lokality novej generácie [4].

5. Denná doba a ročné obdobie
   Teplo, vlhkosť a podmienky siete ovplyvňujú efektívnosť využívania vody v reálnom živote; jedna vplyvná štúdia naznačuje plánovanie hlavných prác na čas a miesto, kde je náročnosť na vodu nižšia [3].

Odber vody verzus spotreba vody, vysvetlenie 💡

• Odber = voda odobratá z riek, jazier alebo zvodnených vrstiev (niektorá vrátená).

• Spotreba = voda, ktorá sa nevracia späť, pretože sa odparuje alebo je zapracovaná do procesov/produktov.

Chladiace veže spotrebúvajú vodu predovšetkým odparovaním. Výroba elektriny môže odoberať veľké objemy (niekedy spotrebuje aj časť vody) v závislosti od zariadenia a spôsobu chladenia. Dôveryhodné označenie AI - číslo vody, ktoré uvádza [3].

Kam ide voda v umelej inteligencii: do troch vedier 🪣

1. Rozsah 1 – chladenie na mieste
   Viditeľná časť: voda odparovaná v samotnom dátovom centre. Konštrukčné možnosti, ako je odparovanie verzus vzduch alebo uzavretý kvapalinový okruh, stanovujú základnú líniu [5].

2. Rozsah 2 – výroba elektriny
   Každá kWh môže niesť skrytý vodný štítok; zmes a umiestnenie určujú signál litrov na kWh, ktorý zdedí vaše pracovné zaťaženie [3].

3. Rozsah 3 – dodávateľský reťazec
   Výroba čipov sa pri výrobe spolieha na ultračistú vodu. V metrike „na výzvu“ ju neuvidíte, pokiaľ hranica explicitne nezahŕňa stelesnené vplyvy (napr. úplné LCA) [2][3].

Poskytovatelia v číslach, s nuansami 🧮

• Výzvy Google Gemini.
  Systém poskytovania Full-stack (vrátane nečinnosti a réžie zariadenia). Medián textovej výzvy je ~0,26 ml vody a ~0,24 Wh energie; čísla odrážajú prevádzkovú prevádzku a komplexné hranice [1].

• Životný cyklus Mistral Large 2
  Vzácna nezávislá analýza životného cyklu (LCA) (s ADEME/Carbone 4) odhaľuje ~281 000 m³ pre tréning + skoré použitie a inferenčnú marginu ~45 mL pre so 400 tokenmi [2].

• Ambícia spoločnosti Microsoft v oblasti chladenia s nulovou spotrebou vody
  Dátové centrá novej generácie sú navrhnuté tak, aby na chladenie nepotrebovali žiadnu vodu , pričom sa opierajú o prístupy priameho chladenia čipom; administratívne využitie stále vyžaduje určité množstvo vody [4].

• Všeobecný rozsah dátových centier
  Veľkí prevádzkovatelia verejne uvádzajú v priemere stovky tisíc galónov denne na jednotlivých miestach; klíma a dizajn zvyšujú alebo znižujú tieto čísla [5].

• Skoršia akademická základňa
  V prelomovej analýze „smädnej umelej inteligencie“ sa odhadlo, že na trénovanie modelov triedy GPT budú potrebné milióny litrov 10 – 50 stredne veľkých odpovedí by sa mohlo zhruba rovnať 500 ml fľaši – čo vo veľkej miere závisí od toho, kedy/kde sa spúšťajú [3].

Prečo sa odhady tak veľmi nezhodujú 🤷

• Rôzne hranice
  Niektoré čísla počítajú iba chladenie na mieste ; iné pridávajú elektrinu a vodu ; LCA môžu zahŕňať výrobu čipov , jablká, pomaranče a ovocný šalát [2][3].

• Rôzne pracovné zaťaženia
  Krátka textová výzva nie je dlhý multimodálny/kódový beh; dávkovanie, súbežnosť a ciele latencie menia využitie [1][2].

• Rôzne podnebie a siete
  Odparovacie chladenie v horúcej, suchej oblasti ≠ chladenie vzduchom/kvapalinou v chladnej a vlhkej oblasti. Intenzita vody v sieti sa značne líši [3].

• Metodiky dodávateľov
  Spoločnosť Google publikovala celosystémovú metódu poskytovania služieb; spoločnosť Mistral publikovala formálnu analýzu životného cyklu (LCA). Iní ponúkajú bodové odhady s riedkymi metódami. Známe „jednej pätnástine čajovej lyžičky“ na výzvu sa dostalo na titulné stránky novín – ale bez detailných hraníc to nie je porovnateľné [1][3].

• Pohyblivý cieľ
  Chladenie sa rýchlo vyvíja. Spoločnosť Microsoft pilotne zavádza bezvodé chladenie na určitých miestach; jeho zavedenie zníži spotrebu vody na mieste, aj keď elektrická energia z predstihu stále prenáša signál vody [4].

Čo môžete urobiť dnes pre zníženie vodnej stopy umelej inteligencie 🌱

1. Správne dimenzovanie modelu
   Menšie modely vyladené na danú úlohu často dosahujú zhodnú presnosť, ale spotrebúvajú menej výpočtového výkonu. Mistralovo hodnotenie zdôrazňuje silné korelácie medzi veľkosťou a zastavanou plochou – a zverejňuje marginálne inferenčné čísla, aby ste mohli uvažovať o kompromisoch [2].

2. Vyberte si regióny s rozumným hospodárením s vodou
   Uprednostňujte regióny s chladnejším podnebím, efektívnym chladením a sieťami s nižšou náročnosťou vody na kWh; práca s „smädnou umelou inteligenciou“ ukazuje, že s ohľadom na čas a miesto pomáha [3].

3. Časovo posunúť pracovné zaťaženie.
   Naplánovať školenia/intenzívne dávkové inferencie pre hodiny efektívne využívajúce vodu (chladnejšie noci, priaznivé podmienky v sieti) [3].

4. Požiadajte svojho dodávateľa o transparentné metriky
   Dopyt po vode na výzvu , definície hraníc a či čísla zahŕňajú nevyužitú kapacitu a réžiu zariadenia. Politické skupiny presadzujú povinné zverejňovanie, aby bolo možné porovnávať výsledky [3].

5. Technológia chladenia je dôležitá
   Ak prevádzkujete hardvér, zvážte chladenie s uzavretou slučkou/priamym pripojením na čip ; ak používate cloud, uprednostnite regióny/poskytovateľov investujúcich do dizajnov s vodným osvetlením [4][5].

6. Využívanie sivej vody a možnosti opätovného použitia
   Mnohé kampusy môžu nahradiť nepitné zdroje alebo recyklovať v rámci cyklov; veľkí prevádzkovatelia opisujú vyvažovanie zdrojov vody a možností chladenia s cieľom minimalizovať čistý vplyv [5].

Rýchly príklad, aby sme to zrealizovali (nie je to univerzálne pravidlo): presunutie nočného tréningového projektu z horúcej a suchej oblasti uprostred leta do chladnejšej a vlhšej oblasti na jar – a jeho prevádzka mimo špičky a v chladnejších hodinách – môže zmeniť spotrebu vody na mieste mimo miesta (v sieti). To je ten druh praktického plánovania s nízkym rozvrhom, ktorý dokáže uvoľniť úspory [3].

Porovnávacia tabuľka: rýchle tipy na zníženie spotreby vody umelou inteligenciou 🧰

(„Cena“ je zámerne nízka – nasadenia sa líšia.)

Hĺbkový pohľad: bubnovanie politiky je čoraz hlasnejšie 🥁

Inžinierske orgány požadujú povinné zverejňovanie informácií o energii a vode v dátových centrách, aby kupujúci a komunity mohli posúdiť náklady a prínosy. Odporúčania zahŕňajú definície rozsahu, podávanie správ na úrovni lokality a usmernenia pre umiestnenie – pretože bez porovnateľných metrík zohľadňujúcich lokalitu sa hádame v tme [3].

Hĺbkový pohľad: nie všetky dátové centrá využívajú dáta rovnako 🚰

Existuje pretrvávajúci mýtus, že „chladenie vzduchom nepoužíva vodu“. Nie celkom. Systémy s vysokým podielom vzduchu často vyžadujú viac elektriny , ktorá v mnohých regiónoch odoberá skrytú vodu zo siete; naopak, vodné chladenie môže znížiť spotrebu energie a emisií na úkor vody na mieste. Veľkí prevádzkovatelia tieto kompromisy explicitne vyvažujú na jednotlivých miestach [1][5].

Hlboký pohľad: rýchla kontrola reality virálnych tvrdení 🧪

Možno ste videli odvážne tvrdenia, že jedna výzva sa rovná „fľaši s vodou“ alebo na druhej strane „len pár kvapiek“. Lepšie držanie tela: pokora s matematikou . Dnešné dôveryhodné zarážky sú ~0,26 ml pre mediánovú produkčnú výzvu s plnou réžiou servírovania [1] a ~45 ml pre odpoveď asistenta so 400 tokenmi (marginálna inferencia) [2]. Často zdieľané „jednej pätnástine čajovej lyžičky“ nemá verejnú hranicu/metódu; berte to ako predpoveď počasia bez mesta [1][3].

Mini-FAQ: Koľko vody spotrebuje umelá inteligencia? opäť, jednoduchou angličtinou 🗣️

• Čo by som teda mal povedať na stretnutí?
  „Podľa pokynov sa to pohybuje od kvapiek až po niekoľko dúškov , v závislosti od modelu, dĺžky a miesta, kde sa to robí. Tréning prebieha v kalužiach , nie v mlákach.“ Potom uveďte jeden alebo dva príklady vyššie.

• Je umelá inteligencia jedinečne zlá?
  Je jedinečne koncentrovaná : vysokovýkonné čipy usporiadané pohromade vytvárajú veľké chladiace zaťaženie. Dátové centrá sú však zároveň miestom, kde sa najefektívnejšie technológie zvyčajne dostávajú ako prvé [1][4].

• Čo keby sme všetko jednoducho presunuli na chladenie vzduchom?
  Možno by sme znížili na mieste , ale zvýšili mimo miesta prostredníctvom elektriny. Sofistikovaní operátori zvažujú obe [1][5].

• A čo technológie budúcnosti?
  Návrhy, ktoré sa vyhýbajú chladeniu vody vo veľkom meradle, by boli pre Scope 1 prelomové. Niektorí prevádzkovatelia sa týmto smerom uberajú; elektrina dodávaná do siete stále prenáša vodný signál, kým sa nezmenia podmienky v sieti [4].

Záverečné poznámky - Príliš dlhé, nečítal som to 🌊

• Na jednu výzvu: predstavte si objemy od submililitrov do desiatok mililitrov , v závislosti od modelu, dĺžky výzvy a miesta jej spustenia. Medián výzvy ~0,26 ml na jednom hlavnom zásobníku; ~45 ml pre odpoveď so 400 tokenmi na inom [1][2].

• Školenie: milióny litrov pre hraničné modely, čo robí plánovanie, umiestňovanie a chladiace technológie kritickými [3].

• Čo robiť: modely správnej veľkosti, vybrať si oblasti s nízkym obsahom vody, presunúť ťažké práce na chladnejšie hodiny, uprednostniť dodávateľov, ktorí preukazujú dizajn s nízkym obsahom vody a požadovať transparentné hranice [1][3][4][5].

Mierne chybná metafora na záver: UI je smädný orchester – melódia je síce výpočtová, ale bicie chladnú a rozptyľujú vodu. Nalaďte kapelu a publikum stále počuje hudbu bez toho, aby sa spúšťali postrekovače. 🎻💦

Referencie

1. Blog Google Cloud – Koľko energie spotrebuje umelá inteligencia od spoločnosti Google? Vypočítali sme si to (metodika + ~0,26 ml , plná réžia poskytovania). Odkaz
   (Technický dokument PDF: Meranie vplyvu poskytovania umelej inteligencie na životné prostredie v rozsahu spoločnosti Google .) Odkaz

2. Mistral AI – Náš príspevok ku globálnemu environmentálnemu štandardu pre AI (LCA s ADEME/Carbone 4; ~281 000 m³ školenia + skoré použitie; ~45 ml na so 400 tokenmi , marginálna inferencia). Odkaz

3. Li a kol. - Ako znížiť „smäd“ umelej inteligencie: Odhalenie a riešenie tajnej vodnej stopy modelov umelej inteligencie (trénovanie miliónov litrov , podľa času a miesta , odber vs. spotreba). Odkaz

4. Microsoft – Dátové centrá novej generácie nespotrebúvajú žiadnu vodu na chladenie (dizajny s priamym chladením čipu zamerané na bezvodé chladenie na určitých miestach). Odkaz

5. Dátové centrá Google – Udržateľná prevádzka (kompromisy v oblasti chladenia pre jednotlivé lokality; reportovanie a opätovné použitie vrátane regenerovanej/sivej vody; typické denné využitie na úrovni lokality v rádoch veľkostí). Odkaz

Nájdite najnovšiu umelú inteligenciu v oficiálnom obchode s asistentmi umelej inteligencie

O nás