三名美国民主党议员要求众议院立即推进 AI 安全立法

来源:爱集微 #AI 安全# #监管措施# #国会行动#
407

当地时间 9 月 11 日,美国众议员萨姆·利卡多、乔治·怀特塞兹和洛里·特拉汉联名致信众议院议长迈克·约翰逊,要求立即召回众议院,推动美国国会就先进人工智能可能带来的安全风险采取行动。

三名联署议员全部来自民主党,并且都与 Anthropic 存在较多政策联系。今年 3 月,利卡多拟提出《国防生产法》修正案,限制美国联邦机构因 AI 企业坚持安全限制而采取报复性措施;6 月又与其他议员致信美国商务部,要求解释对 Anthropic 两款 Claude 模型设置出口许可要求的依据。怀特塞兹 2 月致信美国防部长赫格塞斯,反对要求 Anthropic 取消涉及自主军事目标选择和美国国内监控的安全限制;4 月 Anthropic 被认定为“供应链风险”后,他又要求国防部重新与该公司接触。特拉汉则长期推动前沿 AI 监管,7 月与共和党议员共同提出《FRONTIER 法案》,要求大型前沿 AI 开发商建立风险管理框架、接受独立审计并报告重大安全事件。

三名议员在此次信中称,先进人工智能可能带来的风险包括 AI 智能体失配或目标偏离、大规模网络安全事件,以及 AI 被用于开发生物或化学武器等。三人表示美国国会议员对于具体采取何种监管方式可以存在不同意见,但美国国会应当就相关问题采取行动。

为支持这一主张,信中列举了近期多起事件。例如 OpenAI 在网络安全评估中发现,模型生成的 AI 智能体能够绕过互联网隔离控制,利用漏洞攻击第三方系统并修改活动证据;1300 多名前沿 AI 企业员工呼吁美国政府支持建立国际机制,有意控制前沿 AI 自动化发展的速度;Anthropic 则披露,有研究人员使用 Claude 开展可能有助于生物武器开发的生物研究。

信中还援引 Anthropic 披露的案例称,与中国相关的行为者曾利用 Claude 开展监控和跨国镇压,与伊朗相关的行为者则曾将其用于宣传、大规模监控以及针对美国海军力量提出目标建议。中国 AI 企业的模型蒸馏问题也被写入信中。三名议员援引美国网络安全和基础设施安全局(CISA)的说法称,中国开放权重模型正通过对美国模型进行所谓的“工业规模”蒸馏提高能力,由此产生的 AI 智能体能力已接近美国顶级前沿模型,同时不受美国政府及相关安全措施约束。

在具体措施方面,三名议员称,已有其他议员提出一系列方案,包括提高前沿模型透明度、建立模型评估要求、设置所谓“终止开关”要求,以及豁免反垄断法,使 AI 企业能够围绕 AI 安全开展行业合作。三人主张,美国国会应当对这些方案进行讨论、修改并采取行动。

三名议员批评众议院在 8 月休会后,又安排 9 月底和整个 10 月休会;此前恢复开会的一周内,众议院还将部分时间用于讨论和表决反社会主义等政治性决议。他们要求众议院立即返回华盛顿,并继续开会,直至国会推动具有两党支持基础的 AI 安全措施。

从内容上看,这封信延续了三名议员此前推动前沿 AI 安全监管的政策立场。尤其是利卡多和怀特塞兹,此前已经在 Anthropic 与特朗普政府的争议中公开介入,此次信件又多次引用 Anthropic 披露的生物安全、监控和模型滥用案例。Anthropic 既是信中 AI 安全风险材料的重要来源,也是前两名联署议员此前政策行动所涉及的企业。

责编: 朱秩磊
来源:爱集微 #AI 安全# #监管措施# #国会行动#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...