Navzdory obavám o dopady modelů AI na životní prostředí je překvapivě těžké najít přesné a spolehlivé údaje o CO2 Emise a využití vody pro mnoho velkých modelů velkých jazyků. Francouzský model-výrobce Mistral se snaží tento týden napravit, Uvolnění podrobností Z toho, co nazývá prvním environmentálním auditem „k kvantifikaci dopadů našich LLM“.
Výsledky, které jsou obecně v souladu s odhady z předchozí vědecké práce, naznačují, že poškození environmentálního dotazu je relativně malé ve srovnání s mnoha dalšími běžnými internetovými úkoly. Ale s miliardami umělé inteligence vyvolává každý rok zdanění GPU, i ty malé individuální dopady mohou vést k významným dopadům na životní prostředí v souhrnu.
Opravdu ničí AI planetu?
Pro vytvoření analýzy životního cyklu svého „velkého 2“ modelu po necelých 18 měsících existence se Mistral spojil s poradenstvím o udržitelnosti Karbone 4 a Francouzská agentura pro ekologický přechod. Po francouzské vládě Skromné pokyny Pro měření celkového dopadu na životní prostředí Mistral říká, že jeho recenzovaná studie se zaměřila na tři kategorie: skleníkový plyn (tj. CO2) emise, spotřeba vody a spotřeba materiálů (tj. „Vyčerpání neobnovitelných zdrojů“, většinou prostřednictvím opotřebení GPU AI serveru). Audit Mistral zjistil, že drtivá většina CO2 Emise a spotřeba vody (85,5 procenta a 91 procent, v tomto pořadí) se vyskytly během modelového tréninku a závěru, spíše než ze zdrojů, jako je konstrukce datových center a energie používaná zařízením koncového uživatele.
Prostřednictvím svého auditu Mistral zjistil, že marginální dopad „inferenčního času“ na životní prostředí jedné průměrné výzvy (generování 400 tokenů v hodnotě nebo hodnotě stránky) byl relativně minimální: jen 1,14 gramů CO CO2 emitované a 45 mililitry vody. Během prvních 18 měsíců provozu však kombinace modelového tréninku a běhu milionů (ne -li miliard) těchto výzev vedla k významnému agregovanému dopadu: 20,4 ktonů CO2 Emise (srovnatelné s 4 500 průměrnými osobními vozidly pro vnitřní spalovací stroj působící po dobu jednoho roku, Podle Agentury pro ochranu životního prostředí) a odpařování 281 000 kubických metrů vody (dost na vyplnění asi 112 olympijských bazénů).
Porovnání počtu dopadů na životní prostředí Mistral s čísly jiných běžných internetových úkolů pomáhá přinést dopad na životní prostředí AI v kontextu. Mistral zdůrazňuje například, že přírůstkový CO2 Emise z jedné z jejích průměrných dotazů LLM jsou ekvivalentní emisím sledováním 10 sekund streamovací show v USA (nebo 55 sekund stejné show ve Francii, kde je energetická mřížka výrazně čistší). Je to také ekvivalent sezení na volání zoomu pro kdekoli od čtyř do 27 sekund, podle Čísla z Nadace Mozilla. A trávit 10 minut psaním e -mailu, který je plně čten jedním z jeho 100 příjemců, emituje tolik CO2 jako 22,8 mistrální výzvy, Podle čísel z uhlíkové gramotnosti.
