绿色 IT :如何减轻 AI 对环境的影响
点击查看原文>
AI 对绿色 IT 提出了重大挑战:每次查询都会消耗大量的能源,GPU 芯片的使用寿命仅为 2-3 年,而且用户看不到相关成本。Ludi Akue 在 QCon London 大会上表示,欧盟 AI 法案等监管框架在执行力度上仍然存在不足。她在演讲 What I Wish I Knew When I Started with Green IT 中提出了一些解决方案(如模型压缩、量化和新型架构),并将可持续性作为设计约束条件。
Akue 提到,绿色 IT 专注于减少 IT 对环境的影响,涉及重新思考 IT 系统的构建、部署和供电方式。这涵盖了从节能硬件、优化代码到数据中心设计及软件架构决策的各个方面,目标是最大限度地减少资源使用。
AI 正在带来前所未有的环境挑战,却缺乏相应的治理机制。Akue 解释道,即使是在推理阶段(即用户向系统发出提示时),生成式 AI 也需要持续消耗大量的算力。这直接转化为能源消耗:
每次有人使用聊天机器人、生成文本或图像,或触发任何生成式 AI 功能时,都会消耗大量的能源。随着 AI 功能的普及,持续推理正在成为一个巨大的能源消耗黑洞。
Akue 认为,由于 AI 的使用,硬件更新换代正在加速。GPU 芯片通常只能使用 2-3 年。
Akue 提到,AI 并不是免费的,但用户看不到成本。完全缺乏透明度;用户看不到每次查询背后的环境成本,因此也就没有任何天然的约束。
Akue 解释道,最令人担忧的是团队在部署 AI 功能时不会质疑它们是否真正必要:
我们默认需要扩展,而不是按照设计来扩展。即使是欧洲的首个监管框架,如 欧盟 AI 法案,在应对这些可持续性影响方面也存在不足,因为它只考虑了能源消耗,而且没有明确的执行机制。
根据文献,要减少人工智能对环境的影响,必须从模型压缩、量化、新型架构和改进混合策略这些方面入手。Akue 举了一些例子:检索增强生成(RAG)、小语言模型(SLM),以及将离线推理与在线推理相结合。但她表示,仅靠技术是不够的。
Akue 认为,我们一直在为一个稳定的世界设计数字系统,而这个世界已经不复存在。今天,气候危机正在重塑我们对规模、成本和弹性的假设。是时候重新思考我们的假设了。
Akue 总结道,可持续性不仅仅是重新定义技术的机会,而且是我们现在必须内置的约束条件,就像延迟或可扩展性一样。
InfoQ 就 AI 对环境的影响采访了 Ludi Akue。
InfoQ:你在减少 AI 对环境的影响方面做了哪些工作?
Ludi Akue:在 Bpifrance,我们正在努力让 AI 的环境成本更加透明和可管理。通过我们的绿色 IT 工作组,我们一直在探索 Ecologits、LiteLLM 和 Langfuse 等工具,帮助团队更有效地监控、做预算以及引导 AI 的使用。
我们还专注于推动组织文化转变。通过我的 PromptSage GPT 项目,我正在提升团队
的 AI 素养,希望让他们认识到,深思熟虑的提示不仅是为了更好的结果,而且也是一种可持续性实践。更聪明地使用 AI 可以减少不必要的计算。这就是为什么我鼓励产品团队对使用行为所带来的影响负起责任,并将环境遥测嵌入到产品中。
InfoQ:推动成功的绿色 IT 转型需要什么?
Akue:我们已经有许多技术解决方案了。我们缺乏的常常是视角的转变。从提出不同的问题开始。不仅是问"我们能构建它吗?",还要问"我们应该构建它吗?"不仅是问"有多快?",还要问"代价是什么?"这些问题为更可持续的决策铺平了道路。
要使这一转变成为现实,我们需要三个关键品质:跨出舒适区进行探索的好奇心,承认真实影响而非将成本外化的诚实态度,以及向供应商、合作伙伴和我们自己提出令人不安的问题的勇气。我们必须学会"忘记",然后才能学习。
InfoQ:自从你在 QCon 发表演讲以来,情况有什么变化吗?
Akue:在 2025 年 QCon London 大会上,我认为 AI 对环境的影响减少将主要来自模型创建方面的改进(压缩、量化和新型架构),而推理阶段干预(AI 素养、适当的模型选择、推理预算、计算约束,以及整合 FinOps 和 GreenOps 的 AI 治理)则是必要但次要的工作。事实证明,这一评估不够全面。
新出现的证据表明,对于大规模部署的消费类 AI 服务,累计推理能源消耗可能在部署后几个月内超过一次性训练的成本。压缩和量化带来的技术效率提升已经实现,通常可带来 2-4 倍的推理效率提升。现有数据表明,这些改进与推理量的指数级增长同时发生,而非绝对消耗量的减少。有公开记录的采用推理治理机制的情况仍然很少。
这种模式与反弹效应的预测一致:效率提升使扩大部署和扩展应用场景成为可能,而不是减少总体消耗。关键洞见:仅部署技术优化成果而没有配套的推理阶段治理机制(预算、决策框架、适当的模型选择),环境影响不仅不会减轻,反而可能会因为更广泛地采用而增加。
声明:本文为 InfoQ 翻译,未经许可禁止转载。
本文来源:InfoQ