广告

英伟达详解“NeMo”模型:130亿参数性能比700亿参数性能更强

2023-11-21 14:42:58 Demi 阅读:
NVIDIA认为,芯片开发的未来掌握在生成式人工智能手中,并推出了名为“ChipNeMo”的用于芯片设计的领域适应性 LLMs,旨在帮助工程师设计半导体,带来新的优势。

据EDN电子技术设计报道,NVIDIA日前发布了一篇研究论文,描述了生成式人工智能如何帮助最复杂的工程工作之一:半导体设计。DKyednc

NVIDIA认为,芯片开发的未来掌握在生成式人工智能手中,并推出了名为“ChipNeMo”的用于芯片设计的领域适应性 LLMs,旨在帮助工程师设计半导体,带来新的优势。DKyednc

DKyednc

NVIDIA 在一篇博客文章中透露,通过他们的 ChipNeMo 模型,该公司计划在芯片设计的各个阶段实现其功能,这不仅会显着提高生产力,而且会帮助他们节省人力和设备成本。设计芯片所花费的时间。NVIDIA 还披露了其 LLM 的初始用例,展示了回答有关 GPU 架构问题的实例:原型聊天机器人帮助工程师在早期测试中快速找到技术文档。DKyednc

DKyednc

正在开发的代码生成器(如上所示)已经使用芯片设计人员使用的两种专用语言创建了大约 10-20 行软件的片段。它将与现有工具集成,让工程师在进行中的设计中拥有得心应手的助手。DKyednc

谈到创建过程,NVIDIA 透露,开发人员制定了一个基础模型,然后将其与 NeMO LLM 相结合,用于构建、定制和部署生成式 AI 模型。结果是,该公司能够构建一个支持多达 430 亿个参数的模型,考虑到芯片设计实际上是多么“复杂”,这对于这一特定领域至关重要。该模型使用文本和软件中超过一万亿个标记、单词和符号进行训练。DKyednc

DKyednc

据介绍,在芯片设计任务中,参数少至130亿个的定制 ChipNeMo 模型的性能甚至可以媲美或超过拥有700亿个参数的大型通用 LLM(如 LLaMA2)。在某些使用案例中,ChipNeMo 模型的性能要好得多。DKyednc

参考链接:DKyednc

ChipNeMo: Domain-Adapted LLMs for Chip DesignDKyednc

Silicon Volley: Designers Tap Generative AI for a Chip AssistDKyednc

Demi Xia编译DKyednc

责编:Demi
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 英特尔Lunar Lake CPU样品曝光:8核8线程,L2缓存大于L3 网上曝光了一份Lunar Lake的运行截图,来自Windows 11任务管理器,可以看到8个核心、8个线程、14MB二级缓存、12MB三级缓存、1.8-2.8GHz频率。
  • 工厂智能化三要素:电源管理IC、处理器和传感器 能源效率是工业4.0的一项主要指令,为的是提高生产力和降低成本,同时减少对环境的影响。智能工厂有赖于一系列元器件——包括电源管理IC(PMIC)、处理器和传感器——来处理监控、收集和分析数据的任务,以确定优化生产流程和降低能耗的最佳方法。
  • 射频模块缩小也能提高热性能,“薄型化已成趋势” 封装创新一直是元件冷却的关键,尤其是对于 MOSFET 和 IGBT 等功率开关器件。尽管射频功率放大器模块的内部工作原理与功率器件的开/关非常不同,但将这些器件做得更小更轻的要求同样适用于射频功率放大器模块。由于大规模多输入多输出5G MIMO系统的多通道要求,这种 "做得更小,但做得更多 "的需求尤其强烈。
  • 半导体技术在能源转型中的关键作用 在本文中,我们将对业内知名专家围绕“半导体技术在能源转型中的作用”这一主题展开的圆桌讨论进行总结。
  • 拆解一个中国制造的廉价超声波清洗机,真的值得买吗? 作者的一位朋友在阿里速卖通(AliExpress)上购买了一个廉价的超声波清洁器,他将这个产品交给我,请我帮他分析一下这个产品值多少钱。昨天作者收到了这个产品,仅仅经过5分钟的使用体验,他觉得这个产品“一文不值”!
  • 数据传输速度远超5G,基于光子学的无线链路实现每秒1太 随着 5G 在全球范围内的普及,研究人员正在努力开发 6G 所需的技术,这项研究的结果是迈向 300GHz 频段无线通信的重要一步。研究人员预计,通过多路复用技术(可以使用多个通道)和更灵敏的接收器,数据速率可以提高到每秒 1 太比特……
  • 智能设备的环境光传感器也能暴漏隐私!! 环境光传感器是一种微型设备,部署在我们日常生活中几乎所有便携式设备和屏幕中,因此,作者强调了影响一类综合设备的隐私威胁,但迄今为止一直被忽视
  • 世界上最高效的量子点太阳能电池有多强? 韩国蔚山科学技术院(UNIST)的研究团队开发了一种新型配体交换技术,能够合成基于有机阳离子的PQD,在具有卓越稳定性的同时,还可以抑制太阳能电池光敏层的内部缺陷···
  • 革命性Wi-Fi HaLow技术,连接距离3km的Wi-Fi你见过吗? 近日,无线科技公司Morse Micro使用Wi-Fi HaLow技术的设备,成功创造了一个长达3公里的无线连接,并借助该Wi-Fi连接实现了稳定的视频通话,视频通话的连接速度在500米处为11Mbps,即使在3公里处的也依旧还保持在1Mbps···
  • 用液态金属“胶水”连接元器件,车压都不会坏 弗吉尼亚理工大学的研究团队研发了一种新型的液态金属复合材料,具有高导电性和强粘合性,能够在低温下进行加工,让柔性和刚性材料之间形成稳健的机械和电气连接···
  • 电热储能:替代电池储能的最佳选择? 从技术、经济和环境角度来看,电热储能(ETES)的价值与电池储能系统(BESS)相比如何?它是否是电池储能最好的替代方案?
  • 再见!诺基亚品牌智能手机 据EDN电子技术设计报道,HMD首席执行官Jean Francois Baril宣布推出自有品牌HMD手机,与此同时,诺基亚品牌智能手机将被HMD放弃。据悉,HMD会在2月份举行的MWC上正式发布全球首款HMD手机。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了