今天小編分享的科技經驗：立法未至“自控”先行：AI巨頭将承諾產品安全，OpenAI支持發牌批準AI系統開發，歡迎閲讀。
雖然美國還沒有出台具體的立法，但在拜登政府的壓力下，一些人工智能（AI）領網域的巨頭和後起之秀 OpenAI 已經主動提出 " 自控 "。
美東時間 7 月 20 日周四，媒體援引知情者消息稱，應白宮要求，包括微軟、谷歌母公司 Alphabet、OpenAI 在内的一些公司将在本周五公開承諾，保障他們安全運用 AI 技術，将負責地開發和部署 AI。
白宮的檔案草案顯示，上述公司的承諾将持續有效，直到美國國會通過立法解決 AI 相關問題為止。這些承諾側重于生成式 AI 和功能最強大的現有 AI 模型，甚至未來可能出現的模型。草案中，白宮提出八個承諾要點：
允許獨立的專家扮演假想敵，嘗試讓 AI 模型產生不良行為，開展所謂的紅藍對抗 red-teaming，提升防護能力。 與政府和其他公司共享信任和安全信息。 在音頻和視頻内容使用水印，幫助識别 AI 生成的内容。 對網絡安全措施投資。 鼓勵第三方發現安全漏洞。 報告不當使用和偏見等社會性的風險。 優先研究 AI 的社會風險。 使用最先進的 AI 系統、所謂前沿模型，解決最嚴重的社會問題。
媒體稱，在本周五之前，具體的承諾内容可能還會有變動。但承諾内容料将和今年 5 月一些頂尖 AI 公司參加會議時做出的承諾一致。
同在周四，另有報道稱，一份内部備忘錄顯示，OpenAI 支持實行牌照制，即若要開發先進的 AI 系統，開發者需要先得到政府頒發的牌照。OpenAI 還暗示，願意對用于訓練 DALL-E 等 AI 圖片影像器的數據更加開放，稱致力于今年底之前結合一種基于起源的方式。
不過，OpenAI 的全球事務副總裁 Makanju 最近表示，OpenAI 支持的發牌制度僅限于比 GPT-4 更強大的 AI 模型，因為 OpenAI 希望确保小型初創公司不會承受太大的監管壓力。
評論稱，自願承諾這件事本身已經顯示，在引導 AI 模型避免濫用方面，拜登政府存在局限性。美國國會短期内無法通過議案立法，而 AI 領網域的監管又刻不容緩。
華爾街見聞曾提到，5 月白宮召集 Alphabet、微軟、OpenAI 的 CEO 開會，讨論 AI 安全問題。拜登當時在邀請函中重申，希望這些企業在發布產品前必須确保產品安全。他還説，人們擔心，快速發展的 AI 技術可能侵犯隐私并懷有偏見，散布謠言和虛假信息。
上月拜登再次重申 AI 產品發布前要确保安全，稱需解決 AI 帶來的國家安全和經濟風險。白宮的幕僚長 Jeff Zients 當月表示，一些 AI 領網域的頭部企業在做出努力，配合拜登政府，将很快公布一系列有關隐私和安全的承諾。他還説，監管的流程可能相對緩慢，但我們不可能等一兩年，等不起。
