今天小编分享的科技经验:机器人女友挤满GPT商店!严禁定制情人的OpenAI傻眼了,欢迎阅读。
财联社 1 月 15 日讯(编辑 马兰)GPT 商店是 OpenAI 探索大语言模型应用场景的一个重要媒介,自本月 10 号上线以来,商店里已经上架了超一万个应用。
然而,让 OpenAI 颇为矛盾的是,越来越多的 " 机器人女友 " 和 " 机器人男友 " 涌入该平台,而这违反了 OpenAI 商店的规则,其禁止培养模拟伴侣或其他受监管活动的 GPT。但另一方面,OpenAI 很难严格监管应用的内容,且聊天机器人本身就带有 " 伴侣 " 属性。
据 Quartz 的一份报告,在 GPT 商店中搜索 " 女朋友 " 字眼,至少有八个机器人女友会跳出来,且这些机器人目前都颇受欢迎。
在该商店的聊天机器人趋势榜单上,前五名分别为电影助手、ChatGPT、男朋友 Chris、女朋友 Scarlett 和聊天 GPT4- 女朋友版。
扩散的担忧
不难发现,男朋友 Chris 和女朋友 Scarlett 在应用的简介中十分直白地将自己定位于模拟恋人,Scarlett 甚至打出 " 用一切可能取悦你 " 的宣传。这让聊天机器人充满了刺激但危险的味道,尤其是在 OpenAI 明令禁止的情况下。
毫无疑问,这类机器人将为人类带来更多对话的渠道,帮助纾解压力与负面情绪。但另一方面,其也可能导致人类对机器的畸形依赖或是出现机器唆使人类进行某些奇怪行为的情形。
去年,微软基于 ChatGPT 的 Bing 就在和一名记者的聊天中宣布爱上了他,并要求他离开自己的妻子。
美国圣路易斯华盛顿大学数据科学教授 Liberty Vittert 表示,能够在情感和生理方面满足人类的 AI 机器人将在不到十年内成为现实,但她担忧这可能会导致离婚率上升。
另一方面,机器人恋人的出现同样也给 OpenAI 带来了新的考验。其此前指出,自动化系统、人工审查和用户反馈共同构成了对 GPT 商店产品的审核,但机器人恋人的出现甚至泛滥显然证实了这一机制中存在着不受控制的漏洞。
而 GPT 商店的继续开放或许将加剧监管的困境,如何正确治理自己的 AI 生态,将成为 GPT 持续需要解答的问题。
(财联社 马兰)