今天小编分享的科技经验：立法未至“自控”先行：AI巨头将承诺产品安全，OpenAI支持发牌批准AI系统开发，欢迎阅读。
虽然美国还没有出台具体的立法，但在拜登政府的压力下，一些人工智能（AI）领網域的巨头和后起之秀 OpenAI 已经主动提出 " 自控 "。
美东时间 7 月 20 日周四，媒体援引知情者消息称，应白宫要求，包括微软、谷歌母公司 Alphabet、OpenAI 在内的一些公司将在本周五公开承诺，保障他们安全运用 AI 技术，将负责地开发和部署 AI。
白宫的檔案草案显示，上述公司的承诺将持续有效，直到美国国会通过立法解决 AI 相关问题为止。这些承诺侧重于生成式 AI 和功能最强大的现有 AI 模型，甚至未来可能出现的模型。草案中，白宫提出八个承诺要点：
允许独立的专家扮演假想敌，尝试让 AI 模型产生不良行为，开展所谓的红蓝对抗 red-teaming，提升防护能力。 与政府和其他公司共享信任和安全信息。 在音频和视频内容使用水印，帮助识别 AI 生成的内容。 对网络安全措施投资。 鼓励第三方发现安全漏洞。 报告不当使用和偏见等社会性的风险。 优先研究 AI 的社会风险。 使用最先进的 AI 系统、所谓前沿模型，解决最严重的社会问题。
媒体称，在本周五之前，具体的承诺内容可能还会有变动。但承诺内容料将和今年 5 月一些顶尖 AI 公司参加会议时做出的承诺一致。
同在周四，另有报道称，一份内部备忘录显示，OpenAI 支持实行牌照制，即若要开发先进的 AI 系统，开发者需要先得到政府颁发的牌照。OpenAI 还暗示，愿意对用于训练 DALL-E 等 AI 图片影像器的数据更加开放，称致力于今年底之前结合一种基于起源的方式。
不过，OpenAI 的全球事务副总裁 Makanju 最近表示，OpenAI 支持的发牌制度仅限于比 GPT-4 更强大的 AI 模型，因为 OpenAI 希望确保小型初创公司不会承受太大的监管压力。
评论称，自愿承诺这件事本身已经显示，在引导 AI 模型避免滥用方面，拜登政府存在局限性。美国国会短期内无法通过议案立法，而 AI 领網域的监管又刻不容缓。
华尔街见闻曾提到，5 月白宫召集 Alphabet、微软、OpenAI 的 CEO 开会，讨论 AI 安全问题。拜登当时在邀请函中重申，希望这些企业在发布产品前必须确保产品安全。他还说，人们担心，快速发展的 AI 技术可能侵犯隐私并怀有偏见，散布谣言和虚假信息。
上月拜登再次重申 AI 产品发布前要确保安全，称需解决 AI 带来的国家安全和经济风险。白宫的幕僚长 Jeff Zients 当月表示，一些 AI 领網域的头部企业在做出努力，配合拜登政府，将很快公布一系列有关隐私和安全的承诺。他还说，监管的流程可能相对缓慢，但我们不可能等一两年，等不起。
