广告

维持ChatGPT运行将需要超过3万块Nvidia显卡

2023-03-02 16:35:56 综合报道 阅读:
据TrendForce的最新预测,人工智能(AI)将成为Nvidia的最大收入来源之一。该研究公司估计,OpenAI的ChatGPT最终将需要超过3万块Nvidia显卡的算力以维持运行。

据TrendForce的最新预测,人工智能(AI)将成为Nvidia的最大收入来源之一。该研究公司估计,OpenAI的ChatGPT最终将需要超过3万块Nvidia显卡的算力以维持运行。jXxednc

值得一提的是,ChatGPT不会触及最好的游戏显卡,而是利用Nvidia的计算加速器,如A100等。jXxednc

使用A100(安培)加速器作为参考,TrendForce测算出ChatGPT需要大约2万个单元来处理训练数据。然而,随着OpenAI继续在商业上部署ChatGPT和该公司的生成性预训练转化器(GPT)模型,这一数字将大幅增加,可能会超过3万个单元。A100的价格在10,000到15,000美元之间,取决于配置和外形尺寸。jXxednc

因此,至少,Nvidia的收入将达到3亿美元。这个数字可能略低,因为Nvidia可能会根据所需卡的数量给OpenAI一个折扣。jXxednc

Nvidia还将A100作为DGX A100系统的一部分出售,该系统有八个加速器,售价高达199,000美元。jXxednc

鉴于OpenAI的运营规模,该公司可能会单独购买A100,并将其堆叠成集群。另一方面,DGX A100对那些想涉足人工智能的小型企业来说是一个有吸引力的选择。jXxednc

虽然A100在人工智能方面非常出色,但Nvidia已经开始出货H100(Hopper),这是A100的直接替代品。从纸面上看,H100的性能比其前辈高三倍。jXxednc

此外,根据Nvidia的说法,H100的扩展性甚至比A100更好,在人工智能训练中提供高达9倍的吞吐量。不过,H100的价格明显更高,因为列表显示,Hopper加速器的价格超过32,000美元。jXxednc

Nvidia的最新收益报告显示,该公司的数据中心业务,包括AI加速器,与去年相比提高了11%,在本季度收获了超过36亿美元的销售额。jXxednc

微软正在将ChatGPT整合到Bing和Edge中,当微软、谷歌等大公司集体涌入人工智能战场时,这些数字可能很快就会暴涨。jXxednc

考虑到用户群的规模(基本上每个人都在运行Windows),微软可能不得不在未来几个月和几年内花费数十亿美元来扩大规模。jXxednc

责编:Demi
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 具有双频控制的E类谐振升压DC/DC转换器 Power Electronics News分析了一个以E类双频信号驱动运行的DC/DC升压转换器。
  • 国产SSD主控芯片发布,让存算一体与可信计算兼得 忆芯科技高端企业级芯片及方案发布会在合肥举行。“集成电路是整个可信根的根。没有集成电路是不行的,尽管软件定义,但是一定要软硬结合,以硬件为根。”沈昌祥院士认为。
  • A17 Bionic最新基准测试曝光,多核性能比早期结果慢11%? 据称网上出现了A17 Bionic的新性能数据,显示它在多核工作负载中比之前曝光的数据慢了11%,所谓的Geekbench 6分数是由Revengus发现的,他在韩国网站DCInside上偶然发现了新的A17 Bionic数字。通过下面给出的图片,苹果的第一个3纳米SoC在单核和多核结果中获得了3,019分和7,860分,值得一提的是,此前曝光的基准测试数据单核和多核分数分别为3,986和8,841。
  • 一种高性能半导体材料可以帮助减少热量排放 研究团队创造了一种氧化物陶瓷材料,解决了长期困扰热电发电机的效率问题。这些设备可以从热能中发电,包括发电厂的热能排放,这导致了全球变暖。
  • 三星也玩“P”月亮,“空间变焦”技术被指造假 很多网友一定已经看过三星 Galaxy S23 Ultra 的视频广告了,一位女士拍摄了一张月球的详细照片——陨石坑等等,她对面的邻居握着望远镜问道:“Can you send me that?”。而这段视频,也被一位网友指认为三星“空间变焦”(Space Zoom)登月照片造假的证据。
  • AC/DC电源尺寸在继续缩小 无论AC/DC电源是开放式还是封闭式,甚至是台式适配器,用于医疗应用和工业应用的最新电源设备都有一些共同点:它们提供了更小的解决方案尺寸并实现了更高的功率密度,同时提供更高的效率。
  • 从“吸血鬼设备”中节省家庭用电 家用电器浪费了大约20%的电力。这些能源吸血鬼有可能通过减少不断增长的需求来节省资金和能源。
  • 激光显示的四大核心器件国产化进程:自研芯片技术亟待提 激光显示的四大核心器件国产化程度从高到低依次为抗光幕布、激光光源、镜头、光成像芯片。技术突破下,预计未来3-5年内激光产业链国产化程度从45-55%提高至75%-80%,实现从技术领先到产业领先的跨越。
  • 中国科学家刷新纪录,达成百兆比特率的实时量子密钥分发 近日,中国科学技术大学潘建伟、徐飞虎等与上海微系统所、济南量子技术研究院、哈尔滨工业大学等单位的科研人员合作,通过发展高保真度集成光子学量子态调控、高计数率超导单光子探测等关键技术,首次在国际上实现百兆比特率的实时量子密钥分发,实验结果将此前的成码率纪录提升一个数量级。
  • PUF技术进展:可省去ID注册阶段的新PUF IP问世 物理不可克隆功能(physically unclonable function, PUF)技术运用了简单、经济高效且灵活、无需存储密钥的方式,建立信任根(Root of Trust)。然而,当PUF应用于替芯片产生特定密钥,还要确保不同芯片间ID的低重复率仍具有挑战性... 
  • 磁子电子学新突破,可用于芯片和雷达的光诱导磁子态 日前,据上海科技大学官网消息,上海科技大学物质科学与技术学院陆卫教授课题组在光子-磁子相互作用及强耦合调控方向取得重要进展。研究团队首次在铁磁绝缘体单晶中发现了一种全新的磁共振,命名为光诱导磁子态(pump-induced magnon mode, PIM)。
  • 原子钟在数据中心的作用:原子从对数据造成不利影响到带 利用原子钟授时现已成为数据中心不可或缺的组成部分。目前,通过全球定位系统(GPS)和其他全球导航卫星系统(GNSS)网络传输的原子钟时间已使全球各地的服务器实现了同步,并且部署在各个数据中心的原子钟可在传输时间不可用时保持同步。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了