广告

AI如何影响服务器机架功率

2020-05-28 09:28:47 Marc Cram, Server Technology 阅读:
我们正在迈入历史的新纪元,人工智能将给我们的生活带来翻天覆地的变化,但我们得先为人工智能提供电力。选择可扩展的可靠电源对顺利实现AI功能至关重要。

人工智能逐渐变得比云技术更普及。我们说人工智能无所不在,并不仅仅因为数据中心有AI应用,或者MIT Python程序员可进行AI编程,而是它已经进入我们的日常生活,比如在超市里巡游的导购机器人,安装在机场里采用卷积神经网络(CNN)的安防摄像头,放在壁炉罩上的亚马逊Alexa语音助理,甚至我们牛仔裤兜的苹果手机Siri虚拟助理(它可以向我们推荐10英里内的寿司店)。2Paednc

AI编程能够从经验中或通过训练进行学习,并能将学到的知识自主运用到未来的场景中,因而以极快的速度进入我们的生活中。换句话说,它可以像人一样完成工作,同时还会自动适应不断变化的环境。无论使用AI的是超市里目光呆滞的机器人,还是领着我们去酒吧的澳大利亚性感女声,其功能都是通过CPU或GPU系统(比如英传达的DGX)来实现的。2Paednc

AI应用的种类非常多,不能简单地说哪种硬件就是最好的。正如英特尔的Naveen Rao所说:“因为AI应用并非只有一种,客户发现没有所谓‘最好’的硬件平台能够适用于所有AI应用”。无论为AI应用选择哪种硬件,有一点是明确的:每一台处理设备都需要供电。2Paednc

昂贵的数据

对IT经理来说,在计算服务器所需的电力时必须考虑AI的影响。一个普通服务器机架的平均功耗为7kW,而运行AI应用程序的机架功耗可能超过30kW。因为运行AI应用程序时处理器利用率更高,比如在GPU类服务器上运行AI应用会使每个芯片的功耗翻番,因此必须提高功率以保证系统正常运行。2Paednc

当然,如果设备功率不够,可以尝试迁移数据,但这可能比处理数据耗电多得多,因为数据迁移过程中一直都要耗电。简单地说就是数据传输的成本很高。2Paednc

例如,尽管有许多云提供商(AWS、Azure、Google等)可供选择,但复杂的数据传输还隐含成本,许多公司都会遇到这一问题。因此一个可行的方案不是迁移数据,而是在靠近数据源的位置进行处理,边缘计算应运而生。2Paednc

小网络解决大问题

边缘计算有望成为另一种备受期待的5G数据技术的基础。5G网络要达到1ms时延的指标,需要许多分布式处理区域(也称为边缘网络)的支持。边缘服务器的位置应靠近产生4K甚至8K格式高清视频的个体,以及智慧城市中监控行人和交通动态的摄像头等应用,这些场景下都不需要将数据发送到云端。2Paednc

此外,无人驾驶汽车也需要边缘网络的支持。这些新型数据应用的关键是接近实时的AI信息处理。2Paednc

目前,所有的AI应用程序都运行在基于硅的计算硬件上——可以是智能手机内的定制芯片、边缘计算服务器内的FPGA、或是可通过公共云访问的专有AI系统(如英传达的DGX)。2Paednc

这些硬件都需要供电,不管是直流电(如电池)还是交流电(来自电网)。物理系统之间也需要通过铜线或光纤连接起来以进行数据通信。2Paednc

掉电是AI面临的最大威胁

AI似乎对人类具有前所未有的价值。然而,一旦掉电它就会崩溃,并停止工作,就像超人对氪石的反应一样。要使AI避开掉电问题,减少系统崩溃的风险,最好的办法就是确保持续可靠的供电。2Paednc

对那些需要接近实时处理的AI应用来说,具有Per Outlet Power Sensing(检测每个插座电力)功能的交换式PDU(配电单元)可以让边缘数据中心提供最大化的运行时间。在这种环境下,像交通信号控制和消防站等城市紧急响应系统所需要的AI服务器就必须选择可靠的PDU,以确保救护车、消防车和执法部门的数字通信系统畅通。2Paednc

2Paednc

图1:Server Technology公司的交换式PDU。2Paednc

对于这些关键任务,智慧城市需要智能电力设备来确保5G服务的畅通。利用可以远程监控和管理的数据中心PDU,可监控机柜的温度和环境条件。2Paednc

对于数据中心和主机托管设施,人们将用AI处理能力更强的GPU系统取代基于CPU的服务器,在需要更大的C13和C19插座组合时,可扩展的机架式PDU就派上用场了,它支持30千瓦机架。2Paednc

信息革命源于技术进步

详细信息有助于进行决策,而最开始只需要口头收集信息。直到1846年Royal Earl House发明了电报打印系统,信息的收集才开始需要手摇柄来提供电力。从那时起,电力和信息处理就不可分割了。2Paednc

目前世界上处理能力最强的超级计算机是橡树岭国家实验室的Summit,它使用了近3万个强大的图形处理器来运行深度学习算法,达到每秒10亿次的运算速度,以帮助我们解决气候变化问题。我们正在迈入历史的新纪元,人工智能将给我们的生活带来翻天覆地的变化,但我们得先为人工智能提供电力。选择可扩展的可靠电源对顺利实现AI功能至关重要。2Paednc

(原文刊登于ASPENCORE旗下Electronic Products网站,参考链接:AI’s impact on rack power。)2Paednc

本文为《电子技术设计》2020年06月刊杂志文章,版权所有,禁止转载。免费杂志订阅申请点击这里2Paednc

  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 商务部暂停天然砂对台湾地区出口,台积电难受了 据EDN电子技术设计了解,商务部网站8月3日早晨8点发布最新消息,表示将从即日起暂停天然砂对台湾地区出口。不少网友认为暂停天然砂对台湾地区的出口,此举将严重影响台湾的建筑业,实则影响不仅仅如此。台湾地区天然砂进口量的90%以上来自大陆,而台湾芯片占台湾2021年出口额的34.8%。网友称商务部暂停天然砂对台湾地区出口是捏到了台湾半导体制造业的七寸。
  • 波兰网友拆德国产电源插排,内部竟是中国制造?! 本文将会介绍LogiLink LPS262U电源插排(接线板)——包含三个USB端口和两个Schuko插座——的内部结构及其简短测试。
  • 华盛顿大学首创用人体热能为可穿戴电子设备供电 从健康和健身追踪器到虚拟现实设备,可穿戴电子产品已成为我们日常生活的一部分,但找到持续为这些设备供电的方法是一项挑战。华盛顿大学的研究人员开发了一种创新的解决方案:首创的柔性、可穿戴热电设备,可将体热转化为电能。
  • 深圳允许完全自动驾驶车辆上路,主驾无需坐人 据EDN电子技术设计引援央视财经报道,从8月1日开始,《深圳经济特区智能网联汽车管理条例》正式实施,智能网联汽车列入国家汽车产品目录或者深圳市智能网联汽车产品目录,这也让深圳成为了国内首个允许L3级别自动驾驶车辆合法上路的城市。
  • 理想ONE高速起火烧成光架,其1.2T三缸增程器曾被指隐藏 近期,网络平台上发布了一段理想ONE在行驶过程中,车辆出现起火的视频内容。现场拍摄的灭火后图片显示,该轿车过火后仅剩骨架,车辆前部增程器位置受损严重,车辆尾门已经在过火后从车身主体脱落。此前,曾有国内汽车媒体对一台行驶了10万公里的理想ONE的东安1.2T三缸增程发动机进行拆解,被指隐藏暗病。
  • 仿真器智能,工程师更聪明! 不要过度依赖SPICE仿真器的自动设定,因为过度相信自动化有时可能引发错误。请记得:仿真器智能,工程师更聪明!
  • 上海微系统所使用石墨烯纳米带研制出世界上最小尺寸的 非易失性相变随机存取存储器(PCRAM)被认为是大数据时代新兴海量存储的有希望的候选者之一。然而,相对较高的编程能量阻碍了 PCRAM 中功耗的进一步降低。利用石墨烯的窄边接触可以有效降低每个电池中相变材料的活性体积,从而实现低功耗运行。
  • 可解决工业自动化和IIoT挑战的MCU 工业自动化和工业物联网(IIoT)设计人员的性能要求不断变化。就MCU而言,他们希望获得更快的处理速度、更多的内存、更好的连接性和更多的安全功能。
  • 我国建成开通5G基站数达185.4万个 工信部近日透露,截至2022年6月底,中国5G基站数达到185.4万个,其中二季度新增基站近30万个,已建成全球规模最大、技术领先的网络基础设施,实现“县县通5G、村村通宽带”。。
  • 苹果发布2022财年第三财季业绩,营收829.59亿美元 Apple 今日公布了 2022 年第三财季的财务业绩。报告显示,苹果公司第三财季公布收入为 829.59亿美元,去年同期为 814 亿美元,同比增长2%;季度净利润为 194 .4亿美元,去年同期为217 亿美元,同比下降10.6%;其中,iPhone带来的营收406.7亿美元,同比增长3%。
  • 工程师开发出可以看到身体内部的贴纸 麻省理工学院的工程师设计了一种贴片,可以产生身体的超声图像。这种邮票大小的设备贴在皮肤上,可以提供 48 小时内脏器官的连续超声成像。
  • 【领优秀论文集】Cadence 用户大会已开放注册
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了