今天小编分享的互联网经验:加州AI法案“分裂”硅谷:马斯克带头支持,反对者担忧“抑制创新”,欢迎阅读。
本周,备受争议的美国加州的 AI 法案将迎来最后的表决和签署阶段。一旦实施,主流 AI 大模型或将受到更加严格的监管。
这项法案全称为《前沿人工智能模型安全创新法案》(编号 SB-1047),旨在为训练成本超过 1 亿美元或者达到一定算力的 AI 大模型建立明确安全标准,要求开发者进行部署前的安全测试、模拟黑客攻击、安装网络安全保障,以及为举报人提供保护等。法案将允许加州执法者对造成 " 严重损害 " 的大模型开发者追究法律责任,比如造成多人伤亡或者 5 亿美元以上的损失。
该法案自今年 2 月提出以来持续引发多方争议。一众 AI 研究人员、创业者或科技巨头们认为,法案许多条款并不合理并将扼制创新。支持者则认为,AI 应该受到约束,需要有一套法律标准来监管。
法案也得到了马斯克的支持,拥有 xAI 公司的他在社交平台上表示,加州 AI 法案应该获得通过。此前曾表达过反对声音的 OpenAI 态度有所转变,表示支持法案的某些条款。反对该法案的知名学者、斯坦福大学计算机科学教授李飞飞则表示,法案并不能解决其想要解决的问题,还将限制创新。
报道称,该法案此前已在州参议院获得通过,预计将在本周末前在州众议院进行投票表决。由于多次修订,该法案将返回议会进行最终投票。如果获得通过,将送交加州州长 Gavin Newsom 签署。
加州 AI 法案引发硅谷分歧
加州州参议员、该法案的共同起草人 Scott Wiener 指责一些反对者通过 " 散布恐慌 " 来阻止该州立法的通过。
Wiener 表示:" 一些反对者发表了很多戏剧性言论和错误言论。大型实验室一再明确承诺对其(AI)大型模型进行安全评估,而这正是该法案要求的内容。法案的目的就是将自愿承诺转变为强制性要求。"
Wiener 在本周三与该法案的支持者举行了在线新闻发布会,支持者包括被誉为 AI" 教父 " 之一的 Yoshua Bengio、AI 安全中心主任 Dan Hendrycks 以及 AI 初创公司 Ava 的 CEO Thibault Duchemin 等。
8 月 27 日,马斯克在社交媒体上发文表达对加州 AI 法案的支持。他说道,"这是一个艰难的决定,会让一些人不满,但综合考虑,我认为加州应该通过 SB 1047 AI 安全法案。在过去 20 多年里,我一直是 AI 监管的倡导者,就像我们监管任何对公众有潜在风险的产品 / 技术一样。"
尽管 OpenAI 此前曾明确反对加州 AI 法案,但此次该公司首席战略官 Jason Kwon 在写给 Wiener 的信中表示,支持法案的某些条款。不过,Kwon 仍然认为 AI 监管应由美国联邦政府决定,而不是用各州法律来拼凑。
日前,OpenAI 曾公开表示反对这一法案,该公司首席战略官贾森 · 权在称,法案威胁到 " 加州作为人工智能全球领导者的独特地位 "。
OpenAI 的竞争对手 Anthropic 对该法案提出一系列修改意见后,表示对法案 " 谨慎认可 "。公司 CEO 称,该法案目前 " 利大于弊 "。
与此同时,该法案也遭到李飞飞等科学家以及头部 AI 企业的强烈抨击。斯坦福大学计算机科学教授李飞飞表示,SB 1047 法案并不能解决其想要解决的问题,而且会严重损害人工智能学术界、开源社区等,因为开发者将承担过量的责任,这将限制他们创新。
谷歌、Meta 和 Andreessen Horowitz 等大型科技公司也认为该法案威胁了创新和研究。一些人担心这会使加州处于不利地位,甚至可能失去位于硅谷的 AI 公司。