话你知/涉复杂计算 电力需求庞大

话你知/涉复杂计算 电力需求庞大

  图:AI数据中心的用电需求预算到2030年会增加1.65倍。

  若以功能来区分,传统数据中心主要支援一般运算和储存任务,而人工智能(AI)数据中心则要负责大规模和复杂的AI计算工作,故AI数据中心主要采用领先的AI计算架构,提供AI应用所需要的算力服务、数据服务和算法服务。

  由于在功能上的分别,传统与AI数据中心的硬件要求亦有不同。传统数据中心主要以CPU(中央处理器)为核心,擅长处理串行运算和一般性任务。而AI数据中心则使用了大量的GPU(图形处理器)、TPU(张量处理器)等AI专用加速器。而GPU/TPU对于电源、散热、网络等基础设施的要求亦更高。

  在电力供应方面,普通的数据中心每个机柜的功率在10至15KW,AI数据中心则因应GPU的功率要求,基本都是40KW起跳,所以如果按普通的数据中心规划,电力基本无法承受。

  处理数量大 传输速度要求高

  其次是在网络方面,一般数据中心节点的网络基本是10GB,AI数据中心则需要更快的传输速度(分布式计算、共享数据传输),通讯网络节点基本是40至100GB。

  事实上,AI数据中心可以说是以目标为本的建设,可为整个AI生命周期提供所需的基建,包括复杂的训练模型,以至现实世界应用程式的部署。


© 版权声明
THE END
欢迎随手分享,喜欢就支持一下吧
点赞15 分享
评论 抢沙发

    暂无评论内容