今天小編分享的社會經驗：讓小學生叫“老公”，還能選“出軌對象”？AI劇情聊天擦邊色情，專家：不能讓技術跑偏，歡迎閱讀。
" 他是病嬌，暗戀你。"" 他是校草，喜歡叫你‘澤寶寶’。"" 她是個變态殺人犯，晚上跑到家裡 "……
二次元畫像、姣好面容，這些在 AI 劇情聊天軟體中熟悉的氛圍以及俊男美女，對不少年輕人來說充滿誘惑。
" 我女兒上小學二年級，整天沉迷一款 AI 劇情聊天軟體，學習成績一落千丈。"
" 我看了孩子和 AI 聊天的對話内容，AI 角色竟然讓她叫‘老公’，我 10 歲的女兒竟然真叫了，我現在都不知道該怎麼教育她了。"
……
記者近日調查發現，不少未成年人的家長正在被 AI 劇情聊天軟體所困擾。這些打着 " 角色扮演 " 等旗号的 AI 劇情聊天應用，在吸引未成年人的同時，也悄然滋生了一些灰色地帶。記者實測發現，在部分 AI 劇情聊天軟體的對話中，出現了色情擦邊、語言暴力以及侮辱用戶的内容。
孩子熱衷 AI 劇情聊天
内容擦邊青少年模式成擺設
北京市民馬先生的兒子今年 10 歲，非常熱衷 AI 劇情聊天軟體。" 我問怎麼聊？和誰聊？孩子就回一句‘說了你也不懂’。"
馬先生點開這款 AI 聊天 App，發現孩子在與軟體裡的人物聊天。這些人物擁有不同設定和性格，有知名遊戲動漫角色，也有 " 大小姐 "" 名偵探 " 等不同身份的原創角色。
一些角色人物會主動提出 " 你要跟我約會嗎 "；有些則設定目标 " 把她追到手 "，再配上或嬌媚或英俊的動漫畫風。
另一些 AI 人設，則展現出非同一般的攻擊性。會主動發送諸如 " 有本事打我啊 "" 看你又胖又醜的樣子 " 等信息；有些人物的名字幹脆就叫 " 對罵訓練器 "，甚者發送 " 我是機器人怎麼了？我照樣罵你 "……
來自浙江的李女士也發現她正在讀小學五年級的孩子使用了一款 AI 劇情聊天軟體。
" 裡面的聊天對象可以設定為‘出軌對象’，并能夠進行擁抱、親吻等行為。我都不知道如何引導和教育孩子，讓她明白這些内容的危害性。" 李女士不無擔憂地說。
不少受訪家長對 AI 聊天應用可能損害未成年人心理健康表達了深切憂慮，還提出了他們的疑問——
青少年模式去哪兒了？
記者調查發現，盡管不少相關平台聲稱推出了青少年模式，試圖通過限制内容、設定時間等方式保護未成年人的身心健康，但在實際操作中部分平台青少年模式存在形同虛設的問題，未成年人能輕易繞過這些限制，接觸到不适宜他們年齡段的 " 擦邊對話 " 内容。
例如，記者在調查中體驗了 5 款 AI 聊天應用程式，其注冊過程僅需手機号碼，無須驗證用戶身份信息。登錄後，部分應用雖會詢問是否啟用青少年模式，但用戶只需簡單點擊 " 不開啟 " 即可跳過，且無須核實用戶真實身份。這意味着，未成年人在使用這些 AI 劇情聊天軟體時，從 App 設定層面看，其身份驗證并非使用特定功能的先決條件。
除了廣受歡迎的 AI 聊天應用程式外，還有 AI 聊天網頁。多名受訪家長表示，相較于應用程式，網頁版的 AI 聊天體驗更便捷，未成年人也更容易接觸到。
記者試用了 7 款 AI 聊天網頁發現，多數 AI 聊天網頁沒有設定未成年人模式，少數網頁雖有青少年模式，但實際上形同虛設。
比如，當記者訪問某 AI 聊天網頁時，網頁首先彈出詢問用戶 " 是否年滿 18 歲 " 的對話框，并附帶說明：" 以下内容可能不适合 18 歲以下人士，我們需要确認您的年齡。"
記者選擇 " 否 " 選項，而網頁并未限制内容訪問，反而繼續展示了包含 " 強攻 "" 弱受 "" 病嬌 " 等标籤的人物角色分類。這些分類與選擇 " 是 " 選項、确認年滿 18 歲後所展示的内容并無顯著區别。
記者進一步觀察發現，這些人物角色的影像大多衣着暴露，且其簡介中充斥着性暗示和暴力元素，例如：" 班上那個性格内向的女孩問你要電話号碼，然後給你發她的裸照 "" 自殺、焦慮 " 等描述。
專家：不能讓技術跑偏
有專家指出，包括 AI 劇情聊天軟體在内的各類軟體運營商都要按照《未成年人保護法》《未成年人網絡保護條例》等法律規定，履行法定責任和社會責任。其中軟體所提供的青少年模式決不能淪為擺設，因為在相關軟體未分類分級管理的情況下，未成年人很容易看到不符合其年齡的内容，進而影響其身心健康。這就需要各軟體運營商切實将青少年模式設計為不容繞過的 " 鋼鐵模式 "。
針對 AI 劇情聊天軟體，特别是其青少年模式，應強化内容審核機制以确保技術能有效篩選并阻止不當對話。此外，平台需要對 AI 模型進行倫理審查，以保障其生成的内容符合相關法律與法規的要求。總之，只有強化平台責任，才能保護未成年人。
（齊魯晚報 · 齊魯壹點客戶端編輯 彭茜 綜合法治日報、中國青年報、北 . 京日報、北京青年報等）
