图片来源:FOTOGRIN / Shutterstock

重要的想法

可持续发展

人工智能的永利皇宫463cc官方网站中心能源成本很高 - 但有解决方案

作者

人工智能需求的激增对环境产生了重大影响,尤其是在永利皇宫463cc官方网站中心的使用方面。这国际能源署估计全球永利皇宫463cc官方网站中心的电力需求可能会在 2022 年至 2026 年间翻一番,部分原因是人工智能的采用。

“随着我们从文本转向视频再到图像,这些人工智能模型变得越来越大,它们的能源影响也越来越大,”说维杰·加德帕利,麻省理工学院林肯实验室的高级科学家和首席研究员,他领导着超级计算中心的研究举措。 “这将成为相当大的能源消耗量,并且对世界各地的排放造成越来越大的影响。”

我们需要的是促进永利皇宫463cc官方网站中心可持续性的策略。加德帕利在会上表示,组织可以通过几种基本做法来应对不断增长的能源需求和成本麻省理工学院可持续发展会议10 月,从重新思考 永利皇宫463cc官方网站 模型训练到投资更高效的硬件。

Gadepally 表示,麻省理工学院林肯实验室超级计算中心为降低自身数据中心能耗所做的努力表明,组织可以将可持续发展实践与节约成本结合起来,同时解决财务和可持续发展问题。

人工智能对能源的影响

永利皇宫463cc官方网站 模型(尤其是像 GPT-4 这样的生成式 永利皇宫463cc官方网站 模型)正在呈指数级增长,这意味着更多的数据中心能源被用于训练它们和处理数据。

考虑“令牌”,生成式 永利皇宫463cc官方网站 模型用来处理输入和生成输出的文本单元。Gadepally 说,处理 100 万个代币(相当于一美元的计算时间)所排放的碳量与汽油动力汽车行驶 5 到 20 英里产生的碳量类似。用生成式 永利皇宫463cc官方网站 创建图像使用的是相当于智能手机充满电的能量.

2 1 %

如果考虑到向客户提供人工智能的成本,到 2030 年,永利皇宫463cc官方网站中心可能占全球能源总需求的 21%。

永利皇宫463cc官方网站中心已经占全球能源需求总量的 1% 到 2%,与专家对航空业的估计类似,Gadepally 说。鉴于人工智能需求不断增长,这一数字有望飙升,如果考虑到向消费者提供人工智能的相关成本,到 2030 年可能会达到 21%。

冷却所需的水是永利皇宫463cc官方网站中心可持续性计算中的另一个因素。加德帕利说,随着越来越多的永利皇宫463cc官方网站中心设备被挤进更狭窄的物理空间,对积极冷却技术的需求增加,其中许多技术来自已经压力很大的分水岭区域。

减排手册

Gadepally 表示,采取一些简单的措施可以显着减少 永利皇宫463cc官方网站 数据中心的排放 — 可能将全球数据中心的电力需求减少 10% 到 20%。好消息是,企业做对环境有益的事情的愿望可以与其财务目标保持一致。 “减少能源排放不需要巨额[资本支出]投资,”加德帕利说。 “您可以采用其中一些技术并削减运营费用。”

超级计算中心采用了多种策略来减少自己的永利皇宫463cc官方网站中心占地面积并减少能源排放。加德帕利的建议,基于他的研究,包括以下内容:

限制可用电量。正如组织可以选择用更高效的 LED 灯泡取代传统灯泡一样,他们也可以对永利皇宫463cc官方网站中心设备做出更节能的选择。加德帕利说,显而易见的方法是尽可能选择更高效的硬件。他的团队还尝试了“功率上限”,即限制超级计算机基础所包含的处理器和图形处理单元的供电量。 “我们不是让它们达到 100%,而是根据我们使用的处理器将使用限制在 150 或 250 瓦(约占总功率的 60% 到 80%),”他说。 “我们已将其应用于训练和推理工作负载,它不仅降低了工作负载的整体功耗和能耗;还降低了工作温度。”

重新思考模型训练。另一种方法是采用更便宜、鲁棒性较差的 永利皇宫463cc官方网站 模型进行训练。例如,Gadepally 的团队决定放弃训练数千个模型以完成药物发现应用的常规程序,因为大多数训练数据最终将永远不会被使用。相反,该团队构建了一个训练速度估计工具,可以跟踪训练模型的损失曲线,使他们能够在计算完成 20% 后预测最终状态的准确性。 “这使我们能够快速削减约 80% 的计算量,并且不会影响最终模型,”Gadepally 说。

相关文章

利用机器学习应对气候变化
企业扩大减排规模的 3 种方式
提交审核的公司最初发现排放量上升

让软件具有人工智能和碳感知能力。软件可以设计为自动调整全天碳排放和碳影响的变化。通过采用智能节能策略作为调度系统的一部分,对时间不敏感的人工智能工作负载可以自动转移到不同时间或不同地理区域运行,以应对能源使用高峰期并实现最佳节能。

例如,麻省理工学院与东北大学合作开发了一款名为的软件工具三叶草这使得碳强度成为一个参数,以便它可以识别峰值能量周期并自动做出适当的调整,包括使用较低质量的模型或选择性能较低的计算马力。 “通过这项实验,我们将不同类型运营的碳强度降低了约 80% 至 90%,”Gadepally 说。

Gadepally 表示,虽然麻省理工学院林肯实验室超级计算中心继续使用这些节能的 永利皇宫463cc官方网站 举措,但还有更多工作要做,包括与更广泛的社区合作收集数据、建立基准,并重新思考当前将更大的 永利皇宫463cc官方网站 模型和数据打造得更好的心态。 “我们需要更多地思考如何才能得到相同的答案,同时添加一些智能,使人工智能处理更加节能,”他说。

了解更多信息 萨拉·布朗 高级新闻编辑和作家