来源：至顶网

一群著名科技公司的高管将加入人工智能安全保障委员会（Artificial Intelligence Safety and Security Board），该委员会的任务是就人工智能在关键基础设施中的应用向联邦政府提供建议。

《华尔街日报》今天报道了这一举措。据该报报道，该委员会不仅包括科技行业的代表，还包括学者、民权领袖和几家关键基础设施公司的首席执行官。人工智能安全保障委员会总共将有近二十多名成员。

微软首席执行官Satya Nadella、英伟达首席执行官黄仁勋和OpenAI的San Altman均将参与其中。来自AMD、亚马逊网络服务公司、Anthropic PBC、思科、谷歌和IBM的同行也参与其中

美国国土安全部部长Alejandro Mayorkas将领导该小组。据《华尔街日报》报道，人工智能安全保障委员会将就如何在关键基础设施中安全应用人工智能向国土安全部提供建议。小组成员将从5月开始每三个月召开一次会议。

除了向联邦政府提供建议外，该委员会还将为关键基础设施组织提出人工智能建议。这项工作将重点关注电网运营商、制造商和运输服务提供商等公司。据报道，该委员会的建议将集中在两个主要议题上：在关键基础设施中应用人工智能的方法和该技术带来的潜在风险。

多家网络安全公司已经观察到利用生成式人工智能的黑客攻击活动。在一些活动中，黑客利用大型语言模型生成网络钓鱼电子邮件。在另一些案例中，人工智能被用来支持恶意软件的开发。

人工智能安全保障委员会是依据拜登总统去年签署的人工智能行政命令成立的。该行政令还呼吁联邦政府采取其他一些措施来应对该技术的风险。商务部将制定人工智能生成内容识别指南，而国家标准与技术研究院正在制定人工智能安全标准。

该行政令还对私营公司提出了新要求。特别是要求开发先进人工智能的科技公司现在必须与政府共享有关新模型安全性的数据。这些数据包括所谓的红队测试结果，即通过模拟恶意提示对神经网络安全性的评估。

人工智能生态系统中最大的几家公司已将算法安全作为其研究工作的重点。例如，OpenAI在12 月透露，它正在开发一种自动化方法，以应对高级神经网络带来的风险。该方法使用第二个能力较弱的神经网络来监督高级人工智能模型的输出。