奇闻吧
首页 > 社会百态 > 为什么说液体冷却是未来AI发展的一个关键点?真相令人震惊

为什么说液体冷却是未来AI发展的一个关键点?真相令人震惊

时间:2022-04-01 18:01:31 作者:奇闻818 来源:奇闻吧 手机阅读

澎湃新闻网新闻记者 邵文

在过去的两年中,规模性人工智能技术或人工神经网络的限定要素最先是硬件配置工作能力,次之是繁杂软件框架的扩展性。最后一个限定与测算部件的没有太大的关系,而与制冷CpU、网络加速器和储存设备相关。而伴随着对测算要求的稳步增长,及其对减少电力工程成本费,减少碳排放的必须,很有可能代表着我们要对测算系统软件制冷方法再次思索。

《The Next platform》在近日的一篇新闻报道中强调,液态制冷是将来人工智能技术未来发展的下一个关键环节。其觉得,往往沒有更普遍地探讨这一点,是由于大数据中心早已拥有充裕的制冷工作能力,通常配置制冷机组和规范的冷安全通道、热通道实施意见。针对必须一个或2个CpU的一般公司应用软件,这也是可以进行的。

殊不知,AI练习系统软件并不是2个CpU,反而是最少有两个高档CpU和附加的四到八个 GpU。功能损耗从一般公司级服务器的500瓦到700瓦,到单独AI练习连接点的2500瓦到4500瓦中间。

想像一下那样的功能损耗下发生的发热量,随后想像一个中央空调设备尝试强冷空气制冷它。针对这类每声卡机架的估算和发热量相对密度,有一点很清晰,那便是没有办法吹出充分的气体来充足制冷地球上一些最价格昂贵、性能卓越的网络服务器机器设备。这会造成测算原素受限制,或在极端化情形下造成关掉。

与此同时,气体是一个糟心的热电导体,例如在寒冷的冬季,大家会感觉外露在户外的合金块比气体更严寒,这是由于金属材料是较好的热电导体,它比气体从你手上带去的卡路里要多。与此同时,对比水而言,气体也没法容下很多的热。

这时就需要考虑到另一个要素:网络服务器声卡机架相对密度。

新冠疫情期内,因为公司居家办公、院校远程教育及“身心健康码”等很多运用,数据信息需要量暴涨。据《Wealth Management》的报导,大数据中心的计算机房要求处在历史时间最大水准,利润最大化相对密度的市场需求已经促进新的网络服务器自主创新,但制冷只有借助在声卡机架(可以停留大量系统软件的地区)空出间隙来让气体维持紧跟。在这种状况下,蒸发冷却不能达到目标,与此同时会致使每一个声卡机架的测算量少,服务器机房室内空间消耗大量。

针对在双CpU网络服务器上具备单核心工作的一般公司系统软件,问题很有可能并不会迅速复杂。可是针对聚集的AI练习群集,必须很多的力量来引进强冷空气,在后面捕获发热量,并将其修复到有效的溫度。这类耗费远远地超过了为系统软件自身供电站需的耗费。

那麼液态制冷怎样呢?想到 HpC(High performance Computing,大数据处理)和AI欧洲地区、中东地区和非洲主管Noam Rosen表述道,“如果你应用温开水、室内温度水来排热来制冷部件时,你不用制冷任何东西,不用资金投入电力能源来减少水的温度。如果你得到开展规模性AI练习的国家实验室和大数据中心的连接点数时,这将变的十分关键。”

Rosen在《NLp中深度学习的能量和政策考虑因素》(Energy and policy Considerations for Deep Learning in NLp)中,根据对多种普遍大中型AI实体模型的练习开展生命期评定,强调定量分析关键点以较为一般公司声卡机架级开关电源要求与AI练习需要的开关电源要求。她们查验了自然语言理解(NLp)的实体模型练习全过程,发觉NLp练习全过程可以排出数百吨碳,等同于一辆普通的车辆全部使用寿命周期时间消耗量的近五倍。

“重新开始练习新实体模型或将模型运用于新数据时,因为调节目前实体模型需要的时长和计算水平,该全过程会排出大量的碳。因而,科学研究工作人员提议领域和公司齐心合力,应用更高效率、运作所需电力能源越来越少的硬件配置。”Rosen表示。

Rosen实际较为了温开水制冷与蒸发冷却,“今日,可以在一个声卡机架上安裝一百多个Nvidia A100 GpU,但唯一的办法是用温开水制冷。同样的相对密度在风冷式架中是不太可能的,由于全部空内存插槽都能够让蒸发冷却部件,即使如此,它也有可能没法处理那么多GpU造成的发热量。”

依据服务器的配置,温开水制冷可以带去85%到95%的发热量。Rosen表述道,因为水的容许通道溫度达45°C,在很多情形下,不用能耗的工业冷水机,这代表着更高的节省、更低的成本费用和更少的碳排放。

自来水来制冷并不新鮮,它在大中型服务器业务流程中的应用早已历经几十年。但伴随着大中型服务器在大数据中心中的运用渐渐地降低,水冷散热也跟着淘汰。但现阶段,因为气体早已不能制冷高功率机器设备,水换句话说是液态制冷再度被提到,并被视作将来制冷大数据中心的重要。

责编:李跃群

审校:张亮亮

相关文章

社会百态

热门文章

今日最新

友情链接: 美女图片 两性健康网 奇闻818手机版 说说大全 奇闻网 168图片网 z6新闻网 奇闻818 天下奇闻