现在，特斯拉不仅是个汽车公司、AI公司，还是个芯片公司。在AI训练芯片界，用于训练AI模型的芯片供应商，除了英特尔、英伟达和Graphcore，现在还有特斯拉。
近日特斯拉亮相的D1 芯片宣称拥有500亿个晶体管，超过了AMD拥有395.4亿个晶体管的Epyc Rome，落后于NVIDIA的GA100 Ampere SoC的540亿个晶体管的记录。
D1 芯片总共有645mm²，每mm²上集成7750万个晶体管的有效晶体管密度，仅次于移动芯片苹果M1，功率密度高于Nvidia A100 GPU。
D1使用 7nm工艺，推测是由三星或台积电代工，考虑到三星也制造了特斯拉的HW3芯片，所以前者代工D1的可能性更大一些。
25个D1芯片组成一个Training Tile（训练片，EDN没有看到官方翻译，根据Tile的原意”瓦片”和它的外观暂且译为”训练片”吧）；然后12个训练片可以组成一个服务器机柜，共108 PFlops；几个机柜再组成Dojo超级计算机。
图：每个服务器机柜超过 100,000 个功能单元、400,000 个定制内核和132GB SRAM。
Dojo的江湖地位
特斯拉曾经采用NVIDIA GPU构建的超级计算机上过Top10榜单，性能仅略低于中国的太湖之光：
从排名上看起来Dojo并不是计算能力最强的超级计算机，这是Dojo的设计目的只是针对一项非常具体的任务，即：基于大量360度视频训练神经网络。所有代码都是专门为在此硬件上理想工作而编写的。
相比之下，其他超级计算机的构建都考虑到了灵活性，以便能够适应大量不同的任务。当然，如果真的要在视频训练上一决高下，即使是最强大的 Fugaku (富岳)，也很可能是比Dojo慢的。
何况巨大的Fugaku是由256 个机柜组成，Dojo仅由10个机柜组成，因此在尺寸方面Dojo也是最小的超级计算机。
如果特斯拉在Dojo中增加54个机柜，Dojo就能超过Fugaku。
Dojo没有 RAM，没有共享缓存
智能手机和特斯拉的HW3都是有SoC之外的RAM 芯片的。即使是最快的最厉害的硬盘驱动器也做不到和RAM一样的随机存取，无法取代RAM。
理论上，最新的PCIe 4技术只能达到0.5~3GB/s，比消费类计算机标准DDR4 RAM的20~25GB/s差太多，更别提高达50GB/s的下一代 DDR5 RAM。
智能手机和消费电脑通常使用 4-32GB的RAM，专业工作站的RAM甚至可以达到512GB。
那么，如果特斯拉的训练芯片没用RAM，那用的是啥？
它内部是有一个更快的随机内存层，称为缓存。当 SoC/CPU 调用DRAM时，响应时间约为 60纳秒；而L3缓存或片上 SRAM 的响应时间可低至10纳秒。
英特尔目前最大的L3缓存是57MB，IBM的记录是120MB，AMD最强大的处理器有256MB的L3缓存，而特斯拉在 2019 年宣布的 HW3 芯片有 64 MB 的 SRAM。
特斯拉的训练节点带有1.25MB的SRAM，354个节点组成的计算阵列，也就是这个SoC算下来就是424.8 MB的缓存，这超过了所有其他处理器。——这有可能都不是L3缓存，而是更快的 L2了。
Dojo处理器之间通信采用定制协议
通常SoC是通过引脚把信号发送到主板上再进行传输，但特斯拉并没有把SoC从晶圆上割下来，而是把留在一片晶圆上的所有SoC连接起来。
新 PCI-e Gen 4 连接的最新 SSD 的理论限制为 64 GB/s，特斯拉的每个连接器能达到900 GB/s的速度，推测是他们定制了自己的连接方式。
Dojo采用液体冷却训练片
每个 D1 芯片的功耗仅400 W，25个芯片组成的MCM训练片的功耗为15千瓦。训练片是液体冷却的，据说用了10公斤液体，但特斯拉没说是水冷。 
在Tesla的训练片中，有SoC的一侧与常规处理器一样是暴露着的，可以直接冷却。另一侧被稳压器盖住了，如上图所示。
那么稳压器直接盖在处理器有啥好处？
常见的处理器的电源都是装在处理器旁边的主板上，电流需要通过主板、插座、引脚和SoC；而Dojo训练片的电源可以直接传输到SoC，减少了散发的热量。
最后，看起来特斯拉现在已经掌握着摩尔定律的衣钵，马斯克表示，“We should have Dojo operational next year”。明年值得期待。
- 结果赔了夫人又折兵，成了全民公敌
- 只能佩服，因为兔子都在忙大数据卖菜呢~~
-
微信扫一扫
一键转发 -
最前沿的电子设计资讯
请关注“电子技术设计微信公众号”
- 西门子推出HEEDS AI Simulation Predictor和Simcenter 西门子的HEEDS AI Simulation Predictor解决方案能够帮助企业发挥数字孪生优势，通过内置准确性意识的人工智能技术，实现产品优化；基于历史仿真研究中积累的知识和经验，更快地交付创新的高性能设计；Simcenter Reduced Order Modeling解决方案利用高精度仿真或测试数据，训练并验证AI/ML模型，使其能够在几分之一秒内做出预测
- Achronix推出基于FPGA的加速自动语音识别解决方案 提供超低延迟和极低错误率（WER）的实时流式语音转文本解决方案，可同时运行超过1000个并发语音流
- 模拟人工智能能否通过混合数字计算东山再起？ 本文将探讨的是模拟计算这一用例的进展程度，或者其他潜在的应用以及在复兴模拟计算上的努力···
- 安谋科技：汽车芯算力，车载融合计算IP平台助力新智驾未来 在“2023中国临港国际半导体大会”同期举办的“汽车半导体峰会”上，安谋科技汽车业务线业务发展与方案总监曾霖发表了“汽车芯算力，车载融合计算IP平台助力新智驾未来”的主题演讲。
- 长电科技：高性能先进封装助力临港打造完整的半导体生态 在“2023中国临港国际半导体大会”上，长电汽车电子事业部副总裁、总经理兼长电汽车电子上海有限公司总经理郑刚发表了“高性能先进封装助力临港打造完整的半导体生态圈”主题演讲
- 美光率先为业界伙伴提供基于32Gb单裸片DRAM的高速率、 美光基于1β先进制程的DRAM速率高达8,000MT/s，为生成式AI等内存密集型应用提供更出色的解决方案
- 理想自研芯片，总体人员规模在160人以上 据EDN电子技术设计报道，理想在加大芯片自研方面投入，同时研发用于智能驾驶场景的 AI推理芯片，和用于驱动电机控制器的 SiC 功率芯片。
- 英伟达详解“NeMo”模型：130亿参数性能比700亿参数性能 NVIDIA认为，芯片开发的未来掌握在生成式人工智能手中，并推出了名为“ChipNeMo”的用于芯片设计的领域适应性 LLMs，旨在帮助工程师设计半导体，带来新的优势。
- “爱芯元速”——爱芯元智正式推出车载品牌 爱芯元智正式面向智能驾驶领域推出车载品牌——爱芯元速，以彰显公司在该领域的技术实力与商业成果，进一步夯实战略布局，践行“普惠AI造就美好生活”的企业使命。
- Supermicro扩大全球制造版图，机柜级制造产能提升至全球 欧美和亚洲多国家及地区机架级制造产能提升，加快新AI和HPC技术的交付，功率密度可达每台机架100千瓦
- 大联大品佳集团推出基于联发科技产品的双屏异显数字显 大联大控股宣布，其旗下品佳推出基于联发科技（MediaTek）Genio 700开发板的双屏异显数字显示方案。
- 阿里发布自研夸克大模型：整体能力超GPT 3.5，部分场景优 阿里巴巴智能信息事业群今日正式发布全栈自研、千亿级参数夸克大模型，根据评测显示，夸克大模型整体能力已经超过GPT-3.5，在写作、考试等部分场景中优于GPT-4。
- 新品亮相、三城巡回！ “2023年度小华半导体产品&技术交流会”圆满 11月28日，“2023年度小华半导体产品&技术交流会”最后一站在上海圆满收官。此次交流会以“铸就芯程，智造未来
- 天龙PerL Pro真无线耳机拆解 近期，天龙再次推出了DENON PerL和DENON PerL Pro两款采用全新设计的TWS降噪耳机新品，其中“Pro”定位于旗舰，拥
- 拆解报告：lifeme魅蓝140W 2C1A氮化镓充电器 充电头网拿到了魅蓝一款140W多口氮化镓充电器，这款充电器采用圆润白色机身，配有折叠插脚，小巧便携。下面就带来
- 拆解报告：绿联4K HDMI视频采集卡 绿联这款HDMI视频采集卡采用铝合金外壳，具有良好的散热性能，并且坚固耐用。采集卡具有两个HDMI接口，支持4K30Hz
- 拆解报告：贝尔金100W USB-C编织数据线 贝尔金这款USB-C数据线长度约为2米，采用双色编织外皮，支持100W快充，非常适合为笔记本电脑，手机和大功率移动电源
- 年底刺刀见红，11月第4周热点车企销量盘点 上周11月20日-11月26日，国产乘用车总销量43.8万辆，其中燃油车26.2万台，国产新能源乘用车销量 17.6万辆，新能源渗
- 冰火两重天，11月第4周热点车型大PK 年底最大的特征，不好卖的车型，都得降价。实在绷不住了，这并不是瑞雪照丰年，这代表下一场寒冬还在前面等着我们！
- IEEE新晋Fellow名单公布，射频微波领域有哪些大牛入选呢？ 总共有53名新晋Fellow的研究方向和无线通信以及射频微波有关，占到2024新晋Fellow总人数的16%···
- HUAWEI DATS 3.0动态自适应扭矩控制系统 HUAWEI DATS 3.0动态自适应扭矩控制系统的引入，不仅提升了车辆的操控性、舒适性和安全性，也展示了智能控制技
- 拆解报告：LISEN 240W USB-C快充编织数据线 下面就带来李森科技这款240W数据线的拆解，看看内部的用料和做工···
- 拆解报告：邦克仕10000mAh 15W磁吸支架背夹电池 Benks邦克仕推出了一款10000mAh的磁吸支架背夹电池，可作为磁吸无线移动电源使用，还可以作为手机支架使用，在充
- 进来教你无人机蜂群作战以及反无人机蜂群作战 《流浪地球2》中出现的无人机蜂群作战的技术，现在现实中其实是有迹可循的吗？
- 武汉芯源半导体首款车规级MCU，CW32A030C8T7通过AEC-Q100测试考核 近日，武汉芯源半导体正式发布首款基于Cortex®-M0+内核的CW32A030C8T7车规级MCU，这是武汉芯源半导体首款通
- 西门子推出HEEDS AI Simulation Predictor和Simcenter Reduced O 西门子的HEEDS AI Simulation Predictor解决方案能够帮助企业发挥数字孪生优势，通过内置准确性意识的人工智
- Achronix推出基于FPGA的加速自动语音识别解决方案 提供超低延迟和极低错误率（WER）的实时流式语音转文本解决方案，可同时运行超过1000个并发语音流
- Diodes公司的低功耗1.8V、2.5Gbps、双数据通道ReDriver支持MIPI Diodes推出一款低功耗、高性能且符合MIPI D-PHY 1.2协议的信号ReDriver。
- 2023中国航空应急救援年会 2023年12月15至16日 河北廊坊
- AM62x开发板5折，米尔助力TI研讨会 11月22日，在德州仪器北京嵌入式技术创新发展研讨会上，米尔电子展出AM335x、AM437x、AM62x相关的产品方案和应
- 工业一体全国产方案，米尔T113核心板79起 随着信息技术的快速发展，行业需求不断升级，工程师使用了大量串口屏后，发现串口屏功能上限很低、制约太多、非常
- 限量7折！米尔STM32MP135开发板 米尔电子作为ST官方合作伙伴，先后开发了STM32MP151、STM32MP157、STM32MP135系列核心板和开发板，受到广大客户
- Arm扩展Cortex-M产品组合，将人工智能引入超小型端点设备 全新Arm Cortex-M52是采用了Arm Helium技术中面积最小且面积能效与成本效益极为优异的处理器，可为更低成本的
- IAR为恩智浦S32M2提供全面支持，提升电机控制能力 IAR Embedded Workbench for Arm已全面支持恩智浦最新的S32系列，可加速软件定义汽车的车身和舒适性应用的开
- 美光率先为业界伙伴提供基于32Gb单裸片DRAM的高速率、低延迟128G 美光基于1β先进制程的DRAM速率高达8,000MT/s，为生成式AI等内存密集型应用提供更出色的解决方案
- 瑞萨面向高端工业传感器系统推出具备高速、高精度模拟前端的32位 全新RX23E-B相比现有版本数据速率快8倍，并包含125 kSPS ΔΣ A/D转换器
