当前位置:首页>科技 >内容

这种新芯片有望实现环境友好的人工智能

2023-08-17 09:43:00科技自然的汉堡

生成式人工智能 (AI)正在损害环境,但 IBM 研究人员表示他们可能有解决方案。IBM 创造了一款模拟人脑功能的节能人工智能芯片。专家表示

生成式人工智能 (AI)正在损害环境,但 IBM 研究人员表示他们可能有解决方案。

这种新芯片有望实现环境友好的人工智能

IBM 创造了一款模拟人脑功能的节能人工智能芯片。专家表示,迫切需要 找到让人工智能更加环保的方法。

YouAi首席执行官德米特里·夏皮罗 (Dmitry Shapiro)在电子邮件采访中告诉 Lifewire: “训练模型需要大量电力,因为像 ChatGPT 这样的模型是在数万个 GPU 集群上进行训练,一次不间断运行数月。” “每次需要重新训练模型时,都需要更多的电力。此外,一旦模型训练完毕,当人们用它来进行预测时,就需要运行模型‘推理’。这也消耗能量。”

吸能人工智能

IBM表示,这款尖端芯片有潜力显着提高人工智能的效率,同时降低计算机和智能手机的功耗。

IBM 科学家在论文中写道:“这款完全集成的芯片具有 64 个 AIMC 内核,这些内核通过片上通信网络互连。” “它还实现了数字激活功能以及涉及各个卷积层和长短期记忆单元的附加处理。”

如果该芯片按承诺工作,将有助于减少人工智能造成的能源浪费。马萨诸塞大学的研究人员发现,AI 训练过程会产生约 626,000 磅的二氧化碳排放量,相当于纽约和旧金山之间近 300 个往返航班对环境的影响。这个数量几乎是普通汽车生命周期排放量的五倍。

在的训练和执行过程中冷却数据中心的用水量也很大。最近的一项研究显示,每次包含 20-50 个提示和响应的“对话”,ChatGPT 消耗的水量相当于一瓶 500 毫升的水。

“人工智能是彻头彻尾的计算密集型,”前计算机科学教授、现任科技公司Tanium的工程师Crispin Cowan在电子邮件采访中表示。“它的工作方式是进行大量矩阵计算,需要计算数百万个小系数。GPU 卡在这方面非常出色,当您看到 GPU 卡时,您首先注意到的是安装了巨大的冷却风扇“在主芯片之上。这些设备运行起来又辛苦又热,并且消耗大量电力。”

降低计算成本直接减少计算的碳足迹。

寻求节约能源

公司正在竞相寻找减少人工智能能源消耗的方法。夏皮罗说,制造商正在使用专为人工智能任务而设计的独特、节能的计算机部件。他们还使用“修剪”等技术来改进底层方法,这就像修剪一棵树以消除不必要的分支;这意味着去掉中不需要的部分。

“有时,他们不是从头开始构建新的人工智能,而是使用预先存在的模型,只调整最后的部分,从而节省大量能源,”他补充道。“他们还很聪明地选择在哪里运行这些模型,选择由风能或太阳能供电的地方。”

在训练这些时,人工智能公司会尽力谨慎对待他们使用的数据,确保只处理最有用的信息。

“这就像为了考试而学习,专注于最重要的主题并跳过不相关的主题,”他补充道。“为了进一步减轻影响,人们正在推动共享现成的模型,因此并不是每个人都必须从头开始‘训练’自己的模型,这是能源密集型的。”

声明本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们

Top