旧金山(路透社)-加利福尼亚州立法者周三通过了一项激烈竞争的人工智能安全法案，之后还需要一个程序投票，然后它的命运就掌握在州长加文·纽森手中，他将在9月30日之前决定是否签署或否决它。

　　开发生成式人工智能的科技公司对这项名为SB 1047的立法基本上不感兴趣，称它可能会把人工智能公司赶出政府，阻碍创新。生成式人工智能可以用完全形成的文本、图像或音频对提示做出反应，并在最少干预的情况下执行重复性任务。

　　包括众议员南希·佩洛西(Nancy Pelosi)在内的一些美国国会民主党人也表示反对。支持者包括特斯拉首席执行官埃隆·马斯克，他还经营着一家名为xAI的人工智能公司，并表示他支持该法案。

　　这项措施要求对许多最先进的人工智能模型进行安全测试，这些模型的开发成本超过1亿美元，或者需要一定的计算能力。在该州运行的人工智能软件的开发人员还需要概述在人工智能模型出错时关闭它们的方法，这实际上是一个“死亡开关”。

　　该法案还赋予州检察长起诉开发商不合规的权力，特别是在持续威胁的情况下，比如人工智能接管了电网等政府系统。

　　此外，该法案还要求开发人员聘请第三方审计员来评估他们的安全措施，并为公开反对人工智能滥用的举报人提供额外的保护。

　　该法案的起草者、民主党州参议员斯科特·维纳(Scott Wiener)代表旧金山，这里是OpenAI和许多开发这款强大软件的初创公司的所在地。他曾表示，在人工智能的进步变得难以驾驭或无法控制之前，有必要立法来保护公众。

　　风险投资公司安德森·霍洛维茨(Andreessen Horowitz)的普通合伙人马丁·卡萨多(Martin Casado)在投票前表示，他希望纽森能否决该法案。“这是我所见过的最广泛的两党反对，”他说。

　　Alphabet旗下的谷歌、微软支持的OpenAI和meta平台都在给维纳的信中表达了他们的担忧。亚马逊支持的Anthropic表示，该法案的好处可能大于成本，尽管它补充说，仍有一些方面似乎令人担忧或模棱两可。

　　(Anna Tong旧金山报道;马修·刘易斯编辑)

　　×