今天小編分享的互聯網經驗:加州AI法案“分裂”硅谷:馬斯克帶頭支持,反對者擔憂“抑制創新”,歡迎閲讀。
本周,備受争議的美國加州的 AI 法案将迎來最後的表決和籤署階段。一旦實施,主流 AI 大模型或将受到更加嚴格的監管。
這項法案全稱為《前沿人工智能模型安全創新法案》(編号 SB-1047),旨在為訓練成本超過 1 億美元或者達到一定算力的 AI 大模型建立明确安全标準,要求開發者進行部署前的安全測試、模拟黑客攻擊、安裝網絡安全保障,以及為舉報人提供保護等。法案将允許加州執法者對造成 " 嚴重損害 " 的大模型開發者追究法律責任,比如造成多人傷亡或者 5 億美元以上的損失。
該法案自今年 2 月提出以來持續引發多方争議。一眾 AI 研究人員、創業者或科技巨頭們認為,法案許多條款并不合理并将扼制創新。支持者則認為,AI 應該受到約束,需要有一套法律标準來監管。
法案也得到了馬斯克的支持,擁有 xAI 公司的他在社交平台上表示,加州 AI 法案應該獲得通過。此前曾表達過反對聲音的 OpenAI 态度有所轉變,表示支持法案的某些條款。反對該法案的知名學者、斯坦福大學計算機科學教授李飛飛則表示,法案并不能解決其想要解決的問題,還将限制創新。
報道稱,該法案此前已在州參議院獲得通過,預計将在本周末前在州眾議院進行投票表決。由于多次修訂,該法案将返回議會進行最終投票。如果獲得通過,将送交加州州長 Gavin Newsom 籤署。
加州 AI 法案引發硅谷分歧
加州州參議員、該法案的共同起草人 Scott Wiener 指責一些反對者通過 " 散布恐慌 " 來阻止該州立法的通過。
Wiener 表示:" 一些反對者發表了很多戲劇性言論和錯誤言論。大型實驗室一再明确承諾對其(AI)大型模型進行安全評估,而這正是該法案要求的内容。法案的目的就是将自願承諾轉變為強制性要求。"
Wiener 在本周三與該法案的支持者舉行了在線新聞發布會,支持者包括被譽為 AI" 教父 " 之一的 Yoshua Bengio、AI 安全中心主任 Dan Hendrycks 以及 AI 初創公司 Ava 的 CEO Thibault Duchemin 等。
8 月 27 日,馬斯克在社交媒體上發文表達對加州 AI 法案的支持。他説道,"這是一個艱難的決定,會讓一些人不滿,但綜合考慮,我認為加州應該通過 SB 1047 AI 安全法案。在過去 20 多年裏,我一直是 AI 監管的倡導者,就像我們監管任何對公眾有潛在風險的產品 / 技術一樣。"
盡管 OpenAI 此前曾明确反對加州 AI 法案,但此次該公司首席戰略官 Jason Kwon 在寫給 Wiener 的信中表示,支持法案的某些條款。不過,Kwon 仍然認為 AI 監管應由美國聯邦政府決定,而不是用各州法律來拼湊。
日前,OpenAI 曾公開表示反對這一法案,該公司首席戰略官賈森 · 權在稱,法案威脅到 " 加州作為人工智能全球領導者的獨特地位 "。
OpenAI 的競争對手 Anthropic 對該法案提出一系列修改意見後,表示對法案 " 謹慎認可 "。公司 CEO 稱,該法案目前 " 利大于弊 "。
與此同時,該法案也遭到李飛飛等科學家以及頭部 AI 企業的強烈抨擊。斯坦福大學計算機科學教授李飛飛表示,SB 1047 法案并不能解決其想要解決的問題,而且會嚴重損害人工智能學術界、開源社區等,因為開發者将承擔過量的責任,這将限制他們創新。
谷歌、Meta 和 Andreessen Horowitz 等大型科技公司也認為該法案威脅了創新和研究。一些人擔心這會使加州處于不利地位,甚至可能失去位于硅谷的 AI 公司。