今天小編分享的科技經驗:招聘信息顯示OpenAI已組建新團隊:研究兒童安全,制定審查流程,歡迎閲讀。
IT 之家 2 月 11 日消息,OpenAI 在社會活動家和家長的監督之下組建了一個新團隊 —— 研究防止其 AI 工具被兒童誤用或濫用的手段。
OpenAI 官網更新了一則招聘信息,該公司當前正需要一名新的兒童安全執行專家。這項崗位負責在 AI 生成的内容中應用 OpenAI 政策,并制定與 " 敏感内容 "(或與兒童有關)相關的審查流程。
據外媒 TechCrunch 報道,這則招聘信息披露了 OpenAI 旗下兒童安全團隊的存在,該團隊與 OpenAI 内部的平台政策、法律和調查小組及外部合作夥伴合作,并管理與未成年用户有關的 " 流程、事件及審查 "。
在美國,具有 " 一定規模 " 的科技公司都會投入不少資源以遵守《美國兒童在線隐私保護規則》等法律,這些法律規定了當地兒童可以或不可以訪問的網絡内容,以及科技公司可以收集他們的哪些方面數據。
此外,OpenAI 目前的使用條款對用户年齡有着這樣的規定:13 至 18 歲的兒童使用前必須征得父母同意,禁止 13 歲以下兒童使用。
據 IT 之家此前報道,歐盟委員會曾在本月初宣布,根據更新現有立法以跟上技術發展步伐的計劃,人工智能生成的影像和其他形式描繪兒童性虐待(CSA)的深度偽造行為在歐盟可能會被定為刑事犯罪。歐盟還提議将直播兒童性虐待行為定為新的刑事犯罪。