今天小編分享的科技經驗:剛上線三天,OpenAI GPT 商店的“AI 女友”就已泛濫,歡迎閱讀。
IT 之家 1 月 14 日消息,OpenAI 三天前悄然上線了 "GPT 商店 ",這是一個讓用戶分享、發現和售賣自定義聊天機器人的平台。
這個被譽為 "AI 界 App Store" 的平台,原本旨在讓開發者上架從代碼導師到書籍推薦等各種實用聊天機器人,供付費用戶(ChatGPT Plus、Team 和 Enterprise)使用。然而,現實遠沒有 OpenAI 宣傳得那麼美好。據 Quartz 報道,GPT 商店剛剛上線便被 "AI 虛拟女友 " 機器人淹沒。搜索關鍵詞 "girlfriend",琳琅滿目的 " 虛拟甜心 "、" 你的女友 Scarlett" 等機器人便映入眼簾,IT 之家注意到,有些機器人的首頁還引導用戶向機器人提出 " 告訴我你最黑暗的秘密 " 等問題。
雖然這些機器人的存在并不令人意外,畢竟 AI 伴侶的概念早在 ChatGPT 誕生之前就已存在,但這還是暴露了 OpenAI 在全新商店内容審核方面的困境。更值得注意的是,這些機器人似乎已經觸犯了 OpenAI 的使用條款,該條款明确禁止上架 " 用于培養浪漫關系或進行受監管活動 " 的 GPT 程式。
AI 伴侶應用在過去幾年裡變得非常流行,引發了關于人工智能時代 " 孤獨 " 流行的讨論。更令人不安的是,一個可以滿足所有需求的非人類伴侶可能會帶來一系列的社會問題。
短短兩天時間内,大量違反政策的 GPT 程式充斥平台,凸顯了整個 AI 行業在内容審核方面的難題。此外,OpenAI 在設定安全防護方面也一直存在争議。