旧金山(路透社)-加州立法者将于本周就一项法案进行投票，该法案将广泛规范人工智能在加州的开发和部署方式，尽管许多科技巨头表示普遍反对。
以下是这项名为SB 1047的法案的背景，以及它遭到硅谷技术专家和一些议员反对的原因:
该法案是做什么的?
该提案由州参议员、民主党人斯科特·维纳(Scott Wiener)提出，将要求对许多最先进的人工智能模型进行安全测试，这些模型的开发成本超过1亿美元，或者需要一定的计算能力。在该州运行的人工智能软件的开发人员还需要概述在人工智能模型出错时关闭它们的方法，这实际上是一个“死亡开关”。
该法案还将赋予州检察长起诉开发商不合规的权力，特别是在持续威胁的情况下，比如人工智能接管了电网等政府系统。
此外，该法案还要求开发商聘请第三方审计员来评估他们的安全措施，并为公开反对人工智能滥用的举报人提供额外的保护。
议员们说了什么?
sb1047法案已经在州参议院以32票对1票通过。上周，它通过了州议会拨款委员会，建立了全体大会的投票。如果该法案在8月31日立法会议结束前获得通过，它将在9月30日前交由州长加文·纽森(Gavin Newsom)签署或否决。
代表旧金山的维纳表示，在人工智能的进步变得难以驾驭或无法控制之前，有必要立法来保护公众。旧金山是OpenAI和许多开发这种强大软件的初创公司的所在地。
然而，一群加州国会民主党人反对该法案，其中包括旧金山的南希·佩洛西;罗·卡纳(Ro Khanna)的国会选区涵盖了硅谷的大部分地区;还有来自圣何塞的佐伊·洛夫格伦。
佩洛西本周称SB 1047法案信息不灵通，并表示弊大于利。在上周的一封公开信中，民主党人表示，该法案可能会将开发人员赶出该州，并威胁到所谓的开源人工智能模型，这些模型依赖于任何人都可以免费使用或修改的代码。
科技领袖们怎么说?
开发人工智能的科技公司呼吁加强对人工智能部署的保护。人工智能可以对带有完整文本、图像或音频的提示做出反应，并在最少干预的情况下执行重复性任务。他们提到了该软件有朝一日可能逃避人为干预、引发网络攻击等风险。但他们也在很大程度上对sb1047议案犹豫不决。
维纳修改了该法案，以安抚科技公司，部分依赖于人工智能初创公司Anthropic的意见，该公司得到了亚马逊和Alphabet的支持。在其他改革中，他取消了政府人工智能监督委员会的设立。
维纳还取消了对伪证罪的刑事处罚，不过仍有可能提起民事诉讼。
Alphabet旗下的谷歌和meta在给维纳的信中表达了担忧。梅塔表示，该法案可能会使该州对人工智能的开发和部署不利。Facebook母公司的首席科学家扬·勒昆(Yann LeCun)在7月X日的一篇文章中称，该法案可能对研究工作有害。
OpenAI的ChatGPT自2022年底广泛发布以来，被认为加速了对人工智能的狂热。OpenAI表示，人工智能应该由联邦政府监管，SB 1047法案创造了一个不确定的法律环境。
特别令人担忧的是，该法案有可能适用于开源人工智能模型。许多技术专家认为，开源模型对于更快地创建风险较低的人工智能应用程序很重要，但meta和其他人担心，如果该法案获得通过，他们可能要负责监管开源模型。Wiener说他支持开源模型，最近对该法案的一项修订提高了开源模型在其条款下的覆盖标准。
该法案在科技行业也有支持者。被誉为“人工智能教父”的杰弗里·辛顿、前OpenAI员工丹尼尔·科科塔伊洛和研究员约书亚·本吉奥都表示支持该法案。
(格雷格·本辛格报道;编辑:Sayantani Ghosh和Stephen Coates)
×
