广告

英伟达、英特尔、ARM 将他们的AI未来押在FP8上

2022-09-19 16:02:19 综合报道 阅读:
据EDN电子技术设计报道,近日Arm、英特尔和NVIDIA携手发布了一份新的白皮书,描述了 8 位浮点规范和相应变体的概念,称为 FP8,具有变体 E5M2 和 E4M3,以提供可用于人工智能 (AI) 推理和训练的标准。期能通过8位元浮点运算的格式来改善运算性能,并将其作为AI通用的交换格式,提升深度学习训练推理速度;而该白皮书也已提交给电机电子工程师协会(Institute of Electrical and Electronics Engineers, IEEE)。

据EDN电子技术设计报道,近日Arm、英特尔和NVIDIA携手发布了一份新的白皮书,描述了 8 位浮点规范和相应变体的概念,称为 FP8,具有变体 E5M2 和 E4M3,以提供可用于人工智能 (AI) 推理和训练的标准。期能通过8位元浮点运算的格式来改善运算性能,并将其作为AI通用的交换格式,提升深度学习训练推理速度;而该白皮书也已提交给电机电子工程师协会(Institute of Electrical and Electronics Engineers, IEEE)。GjRednc

英伟达、ARM 和英特尔将目光投向 FP8“8 位浮点”,为他们未来的 AI 努力

从理论上讲,这三个科技巨头之间的这种新的跨行业规范将允许人工智能模型在硬件平台上工作和运行,将加速人工智能软件的开发。GjRednc

人工智能创新在软件和硬件方面已经愈加重要,在过去几年中,对 AI 计算的要求也持续增加,在解决计算差距方面,降低深度学习中对数值精度的要求,从而提高内存和计算效率,是目前AI 领域研究的重点之一。GjRednc

GjRednc

图片来源:“深度学习的 FP8 格式”,来自 NVIDIA、Arm 和英特尔。GjRednc

英特尔打算在其涵盖处理器、显卡和众多 AI 加速器的路线图中支持 AI 格式的规范。该公司正在开发一种加速器,即 Habana Gaudi 深度学习加速器。降低精度方法的承诺允许在专注于提高计算效率的深度学习神经网络中挖掘固有的抗噪声特性。GjRednc

GjRednc

图片来源:“深度学习的 FP8 格式”,来自 NVIDIA、Arm 和英特尔。GjRednc

新的 FP8 规范将减少与当前 IEEE 754 浮点格式的偏差,在软件和硬件之间保持舒适的水平,利用当前的 AI 实现,加速采用并提高开发人员的生产力。GjRednc

GjRednc

GjRednc

NVIDIA认为,拥有一种公用的交换格式,将能推动软件与硬件平台的互动,进而加快AI运算发展。也因此,NVIDIA、Intel和Arm携手合作,共同撰写FP8 Formats for Deep Learning白皮书,通过描述8位元浮点运算规格,提供一个共同的交换格式加速AI训练、推理。GjRednc

NVIDIA进一步解释,FP8规范有两个变体,分别是E5M2和E4M3,可最大限度减少与现有的IEEE 754浮点格式的偏差,能为AI训练、推理发展带来更大的自由度,得以在硬件与软件间取得良好平衡,以改善开发者的生产效率。GjRednc

根据实验结果,在广泛的训练架构中,像是Transformer,FP8训练的准确性都类似16位元结果,但却有更好的性能。譬如NVIDIA Hopper便利用新的FP8格式,在BERT高精度模型上实现了4.5倍的加速。GjRednc

NVIDIA强调,与Intel、Arm合作撰写FP8 Formats for Deep Learning白皮书,是希望通过开放、免费授权的方式,提供一个通用、可维持准确性的交换格式,以加速AI发展,并让AI模型在所有硬件平台上都能有一致、高效的表现。GjRednc

责编:Demi
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 用水泥和炭黑制造储能超级电容器 一项新的研究表明,人类最普遍的两种历史材料,水泥和炭黑(类似于非常细的木炭),可能会成为新型低成本储能系统的基础。该技术可以在可再生能源供应出现波动的情况下使能源网络保持稳定,从而促进太阳能、风能和潮汐能等可再生能源的使用。
  • 一种用于电路板回收的新基材:遇水能溶 英国的Jiva Materials公司开发了一种新型的PCB基材Soluboard,这种基材是由天然纤维包裹在一种无卤的聚合物中制成的,与行业内经常使用的FR-4基材不同,这种材料只要在90摄氏度左右的热水中浸泡30分钟,就可以分层溶解···
  • 美国公司声称发现室温超导材料,被授予了高于室温的第二 位于美国佛罗伦萨州的Taj Quantum的公司在社交媒体宣布,被授予了高于室温的第二类超导体专利。据称,这种独特的 II 型超导体(专利号:17249094)可在较宽的温度范围内工作,包括远高于室温的温度,从约 -100° F (-73° C) 到约 302° F (150° C) - 这是一种特性这在超导体世界中并不常见。
  • 俄罗斯“贝加尔湖”基准测试对比英特尔和华为芯片,惨败 俄罗斯服务器处理器 Baikal-S 的开发人员将其性能与美国和中国的同类芯片进行了比较。涉及六个流行指标。
  • 麻省理工发现新型量子磁铁释放电子潜力 研究人员发现了如何控制异常霍尔效应和贝里曲率来制造用于计算机、机器人和传感器的柔性量子磁体。
  • 电池能用三十年?美国Ener Venue称推出革命性电池技术 三元锂离子电池的理论寿命约为800次循环,磷酸铁锂约为2000次,而钛酸锂据说可以达到1万次循环,也就是说常规普通人使用的锂离子电池每天完全充放电三次,最多也就能用上几年的时间。虽然相较于铅酸电池200-300次的循环寿命来说,这已经是很大幅度的提升了,但现在有一家公司宣称他们的电池可以充放电30000次,每天充放电三次,能用30年。
  • 测试中比友商温度低14度,一加天工散热系统怎么做到的? 7月27日,一加在2023年ChinaJoy上发布了全球首创的散热技术,即航天级三维立体散热系统“天工散热系统”,这是一加的又一次新的尝试,让我们一起来了解一下。
  • 万物电气化:探索绿色未来之路 在本文中,我们将重点介绍美国年度脱碳展望(ADP)2022报告中的一些重要发现。本报告着眼于实现净零经济的各种情景。我们在本文中重点关注的方法称为“中心情景”,它遵循到2050年实现净零排放的时间表。
  • 韩国造世界首个室温超导体,闹剧还是新的未来? 7月22日,韩国的一个科研团队在预印本网站arXiv平台上上传了两篇论文,声称发现了世界上首个常压室温超导体,这种材料是一种改性铅磷灰石名为LK-99,超导临界温度在127摄氏度,即400K以上,而且在常压下就具备超导性。
  • 下一个医疗前沿:网联可穿戴设备 医疗和消费级可穿戴设备将继续增强连接性和电池寿命,以实现对血压、体温和身体水分等多种生物标志物的实时和非侵入性监测。
  • 瑞能半导体全球首座模块工厂在上海湾区高新区正式投入 瑞能微恩半导体暨瑞能金山模块厂开业典礼在上海湾区高新区隆重举行,标志着瑞能全球首座模块工厂正式投入运营,将主要生产应用于消费、通讯、新能源以及汽车相关的各类型功率模块产品,串联客户和生态圈,积极推动行业高质量发展。
  • TI无线MCU创新方案,助力用户加速拥抱物联网 7月21日,由AspenCore主办的“2023全球MCU生态发展大会”在深圳罗湖君悦酒店隆重举行,特邀请到MCU领域的领军企业之一德州仪器(TI)参加了“无线MCU分论坛”,论坛上,TI无线产品工程师魏天华分享了主题为“创新型无线解决方案,助力不断发展的互联世界”的演讲,为现场观众带来了TI最新的无线MCU系列,以及对于这一市场的深刻思考。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了