广告

高通将Meta的生成式人工智能应用到其芯片上

2023-07-19 16:59:41 综合报道 阅读:
高通正在开发最新的骁龙芯片,高通和Facebook母公司Meta周二宣布,从2024年开始让采用高通处理器的智能手机和电脑上运行Meta基于Llama 2的生成式 AI。

高通正在开发最新的骁龙芯片,高通和Facebook母公司Meta周二宣布,从2024年开始让采用高通处理器的智能手机和电脑上运行Meta基于Llama 2的生成式 AI。h48ednc

与单独使用基于云的人工智能实施和服务相比,设备上人工智能实施有助于增加用户隐私、解决安全偏好、增强应用程序可靠性并实现个性化,从而显着降低开发人员的成本。h48ednc

该芯片设计将允许 Llama 2 大语言模型直接在设备上运行,而不依赖于单独使用云服务。在智能手机、PC、VR/AR 耳机和车辆等设备上运行 Llama 2 等生成式 AI 模型的能力使开发人员能够节省云成本,并为用户提供私密、更可靠和个性化的体验。h48ednc

高通将使Meta的开源Llama 2模型在高通设备上可用,它认为这将使智能虚拟助理等应用成为可能。Meta的Llama 2可以做许多与ChatGPT相同的事情,但它可以打包在一个更小的程序中,使得它可以在手机上运行。h48ednc

高通的芯片包括一个“张量处理器单元”,即TPU,非常适合人工智能模型所需的各种计算。不过,移动设备上可用的处理能力与配备尖端GPU的数据中心相比就相形见绌了。h48ednc

Meta的Llama受到市场关注,主要是因为Meta公布了它的参数,这是一组帮助管理特定人工智能模型如何工作的数据。h48ednc

Meta于2023年2月免费开放其Llama 2开源大语言模型,可供研究和商业使用。共有三个版本,参数数量分别为70亿、130亿和700亿。这将允许研究人员和最终的商业企业在自己的计算机上使用人工智能模型,而无需请求许可或支付费用。目前市场中的主流大型语言模型,如OpenAI的GPT-4,或谷歌的Bard,都是闭源大型语言模型,它们的参数数据是严格保密的。h48ednc

高通过去曾与Meta密切合作,尤其是在虚拟现实设备Quest的芯片方面。高通还展示了一些在其芯片上缓慢运行的人工智能模型,如开源图像生成器Stable Diffusion。h48ednc

高级副总裁兼技术总经理 Durga Malladi 表示:“我们赞赏 Meta 实现开放和负责任的 AI 的方法,并致力于通过在设备上引入生成式 AI 来推动创新并减少任何规模的开发者的进入壁垒。”规划和边缘解决方案业务,Qualcomm Technologies, Inc.“为了有效地将生成式人工智能扩展到主流,人工智能需要在云和边缘设备上运行,例如智能手机、笔记本电脑、车辆和物联网设备。”h48ednc

开发人员今天就可以开始使用 Qualcomm AI Stack 优化设备端 AI 的应用程序,这是一套专用工具,可以在 Snapdragon 上更高效地处理 AI,从而使设备端 AI 即使在小型、薄型和轻型设备中也成为可能。h48ednc

责编:Demi
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
  • 美国公司声称发现室温超导材料,被授予了高于室温的第二 位于美国佛罗伦萨州的Taj Quantum的公司在社交媒体宣布,被授予了高于室温的第二类超导体专利。据称,这种独特的 II 型超导体(专利号:17249094)可在较宽的温度范围内工作,包括远高于室温的温度,从约 -100° F (-73° C) 到约 302° F (150° C) - 这是一种特性这在超导体世界中并不常见。
  • 俄罗斯“贝加尔湖”基准测试对比英特尔和华为芯片,惨败 俄罗斯服务器处理器 Baikal-S 的开发人员将其性能与美国和中国的同类芯片进行了比较。涉及六个流行指标。
  • 麻省理工发现新型量子磁铁释放电子潜力 研究人员发现了如何控制异常霍尔效应和贝里曲率来制造用于计算机、机器人和传感器的柔性量子磁体。
  • 万物电气化:探索绿色未来之路 在本文中,我们将重点介绍美国年度脱碳展望(ADP)2022报告中的一些重要发现。本报告着眼于实现净零经济的各种情景。我们在本文中重点关注的方法称为“中心情景”,它遵循到2050年实现净零排放的时间表。
  • 下一个医疗前沿:网联可穿戴设备 医疗和消费级可穿戴设备将继续增强连接性和电池寿命,以实现对血压、体温和身体水分等多种生物标志物的实时和非侵入性监测。
  • 中国成功发射首款柔性太阳翼卫星,折叠主体厚度不到5cm 7月23日,我国在太原卫星发射中心使用长征二号丁运载火箭,成功将银河航天灵犀03星发射升空,卫星顺利进入预定轨道,该卫星主要用于卫星通信技术验证,也是中国首款使用柔性太阳翼的卫星。
  • 降低侵入式风险,清华开发出“入耳式”脑机接口 近日,清华大学研究团队宣布开发出一种名为SpiralE BCI的脑机接口,该器件采用“入耳式”设计,使用者只需要将器件插入耳道,即可读取相应脑电波信息,侵入性远远低于其他的侵入式脑机接口设备。
  • 新型横向太阳能电池,竟然可以无限叠加有机半导体薄膜 对于人类来说,太阳能是一种非常重要的可再生能源,而太阳能电池是将太阳能转化为电能的主要方法,因此开发廉价、可靠和高效的太阳能电池对于从化石燃料向清洁能源的过渡至关重要。
  • ST亮相MWC上海:升级版智能座舱,首款USB-IF认证芯片,带你 ST携智能出行、电源&能源、物联网&互联等领域的产品和智能解决方案亮相MWC上海展,并带来多款升级展品,让观众通过充分了解ST的创新技术和解决方案,领略科技之美,探索产业新动态。
  • 全球MCU加速内卷,如何“卷”出更具活力的大生态?——202 国产MCU头部企业已在各自擅长的领域扎稳脚跟,高达三位数的国产MCU公司在20%的市场中为了生存而奋斗,而早已完成产业整合的国际MCU大厂却在80%的市场中胜似闲庭信步。未来三年内预计MCU整体需求将减缓,行业内竞争将趋于激烈。在2023年全球MCU生态发展大会上,国际和本土知名MCU厂商的技术和应用专家,为来自消费电子、家电、工业控制、通信网络、新能源汽车和物联网领域的OEM厂商和方案集成商代表带来MCU领域的最新技术趋势和应用解决方案。
  • ETC收费领域实现国产化,终端到服务器端均可使用龙芯处 “国产自主车道控制器”由四川智能交通系统管理有限责任公司组织研制,基于龙芯2K1000LA处理器,目前已在四川省高速公路联网收费系统多个收费站试点应用,它的成功研制标志着我国高速公路数字化建设在国产化方面取得了新突破。
  • 超级电容器的能量容量取得里程碑式进展 超级电容器具有很高的潜力,因为它们的充电速度比电池快得多,只需几秒到几分之一秒。然而,目前的超级电容器只能存储少量的能量,这限制了其潜在的应用范围。科学家表示,如果超级电容器能够被设计为存储更多能量,那么它们的物理重量将比电池更轻,充电速度也更快,这将产生重大的商业影响。
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了