广告

美国成立首个AI安全研究联盟

2024-02-19 汽车电子设计 阅读:
AISIC联盟目前包括来自私营和公共部门的200多家组织。这些组织在2023年11月2日至2024年1月15日期间提交了《联邦公报》中所述的意向书。NIST将继续让更多组织加入联盟,以保持开放和透明的研究合作。

 JVNednc

2024年2月,美国商务部长吉娜·雷蒙多宣布成立美国人工智能安全研究联盟(AISIC),联盟将隶属于美国人工智能安全研究所(USAISI),并得到200多家领先的人工智能利益相关者的支持,旨在支持安全、可靠且值得信赖的人工智能的开发和部署。JVNednc

AISIC联盟包括来自不同领域的成员,涵盖人工智能创造者和用户、学者、政府和行业研究人员,以及民间社会组织。其中包括美国最大的公司和最具创新性的初创公司,以及民间社会和学术团队。这个跨领域的联盟旨在建立对人工智能如何发展的基础理解,以及如何更好地管理其能力、局限性和影响。JVNednc

JVNednc

01
目标与优先行动

该联盟将为拜登总统的行政命令中概述的优先行动做出贡献,其中包括制定红队指导方针、能力评估、风险管理、安全保障以及对合成内容加水印等方面的工作。AISIC联盟还将支持美国国家标准与技术研究院(NIST)的人工智能安全研究所,致力于为人工智能安全领域的新测量科学奠定基础。JVNednc

AISIC联盟的工作将聚焦于以下几个方面:JVNednc

 知识和数据共享:建立人工智能利益相关者的知识和数据共享空间,促进信息流通。JVNednc

 协作与跨学科研究:通过执行研究计划,促进协作和跨学科研究与开发,提高对人工智能对社会和经济的影响的理解。JVNednc

 制定指南和标准 制定基于科学和经验支持的人工智能衡量和政策指南和标准,为全球人工智能安全奠定基础。JVNednc

 促进技术和数据合作:推动联盟成员之间技术和数据的合作开发和转让。JVNednc

 简化联邦机构投入机制:确定简化联邦机构对人工智能安全直接职权范围内的投入的机制。JVNednc

 评估和评估:实施对测试系统和原型的评估和评估,为未来的人工智能测量工作提供信息。JVNednc

JVNednc

02
工作领域

AISIC联盟目前包括来自私营和公共部门的200多家组织。这些组织在2023年11月2日至2024年1月15日期间提交了《联邦公报》中所述的意向书。NIST将继续让更多组织加入联盟,以保持开放和透明的研究合作。JVNednc

联盟成员的捐款将支持多个领域,包括:JVNednc

 制定行业标准的发展指南、工具、方法、协议和最佳实践。JVNednc

 制定人工智能能力的指南和基准,特别关注可能造成伤害的能力。JVNednc

 制定生成式人工智能的安全开发实践,包括对两用基础模型的特殊考虑。JVNednc

 制定红队和隐私保护机器学习的指导、方法、技能和实践。JVNednc

 制定人工智能劳动力技能指南和标准,包括风险识别和管理、测试、评估、验证和验证等领域。JVNednc

小结

AISIC联盟的目标是通过可信赖和负责任的人工智能测量科学,促进人工智能的安全、可靠和值得信赖的发展。JVNednc

责编:Ricardo
文章来源及版权属于汽车电子设计,EDN电子技术设计仅作转载分享,对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。如有疑问,请联系Demi.xia@aspencore.com
汽车电子设计
博主和汽车电子的行业的工程师们一起交流、探讨、思考的小结,以作为技术交流和沟通的桥梁。
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了