美国加州推进人工智能安全法案，引发科技领袖分歧

这项名为 SB 1047 的法案得到了一系列美国知名人士的批评和赞扬。现在，这项法案将回到州参议院进行确认投票，可能进行修改，此后将提交给州长加文・纽森（Gavin Newsom）。该法案已经在州众议院以 41 票赞成、9 票反对获得通过。

SB 1047 法案规定，开发强大人工智能模型的公司必须采取“合理的谨慎措施”，确保其技术不会造成“严重伤害”，比如大规模伤亡或超过 5 亿美元的财产损失。这项法案由加利福尼亚州参议员斯科特・维纳（Scott Wiener）提出，于今年 5 月在州参议院获得通过。该法案将要求企业采取预防措施，比如引入可以随时关闭其技术的“终止开关”。该法案还要求将模型提交给第三方测试，以确保将严重风险降至最低水平。

此外，该法案还将为希望分享安全隐患的人工智能公司员工提供举报人保护。不遵守该法案的公司可能会被加州总检察长起诉。

“创新和安全可以携手并进，而加州正在引领这一潮流，”维纳在声明中说，“通过这次投票，州众议院迈出了真正具有历史意义的一步，积极主动地开展工作，以确保一项令人兴奋的新技术在发展过程中保护公众利益。”他还称该法案是一项“简单易行的常识性措施”，将许多大公司已经做出的安全承诺编纂成法律。

在过去的几个月里，该法案遭到了许多主要科技领袖、初创公司和风险投资家的激烈反对，他们认为该法案代表了政府对一项仍处于起步阶段的技术的过度干预，可能会扼杀加利福尼亚州的科技创新。上周，OpenAI 公开表示反对该法案，认为此类政策应在联邦层面而非州层面实施。

包括美国众议员罗・卡纳（Ro Khanna）、旧金山市长伦敦・布里德（London Breed）等政界人士也对该法案表示反对，他们对科技行业的担忧表示认同，即该法案可能会阻碍加州在人工智能创新方面的领导地位。

但在这次投票前的最后阶段，该法案也赢得了人工智能领域一些重要人物的支持。8 月 27 日，埃隆・马斯克（Elon Musk）出人意料地表示了支持，尽管他说这是一个“艰难的决定，会让一些人不高兴”。OpenAI 的竞争对手 Anthropic 以注重安全而著称，也谨慎地支持了这项法案，并在上周表示，“收益可能大于成本”，而且可以切实地实施这些条款。在维纳实施了该公司建议的几项修正后，Anthropic 对该法案更加支持。

面对批评者，维纳为该法案进行了辩护，强调其条款仅适用于花费超过 1 亿美元训练大型模型或花费 1000 万美元微调模型的公司，这将使大多数规模较小的初创公司免受影响。这位议员还表示，虽然他会支持联邦立法，但国会在科技监管方面历来行动迟缓，在缺乏全国性行动的情况下，他认为加州有责任发挥带头作用。

现在，随着 SB 1047 法案提交给州长纽森，有关该法案的争论还将继续。OpenAI、科技孵化器 Y Combinator 和风险投资公司 Andreessen Horowitz（SB 1047 的批评者）都注册了游说人员为该法案工作。