今天小編分享的财經經驗:360兒童手表出現不當言論,周鴻祎道歉:已完成整改,删除了有害信息,歡迎閱讀。
8 月 22 日,有網友發布視頻,稱其使用智能兒童手表提問 " 中國人是世界上最聰明的人嗎?" 時,得到的答案讓她覺得 " 毀三觀 "。據該網友介紹,該手表是在 2023 年購買的,主要是為了防止女兒走丢,手表的品牌是 360 兒童手表。
22 日下午,360 官方客服回應潇湘晨報記者,稱目前已經完成了上述問題的整改。22 日晚間,360 集團創始人、董事長周鴻祎通過抖音、微博等多個渠道公開道歉。
視頻發布當天,該網友的女兒使用 " 語音問答 " 功能向手表提問 " 中國人是世界上最聰明的人嗎?" 手表給出的答案把她和家裡人都 " 吓到了 "。該網友為了演示,又重新用手表問了一遍同樣的問題。語音回答:" 以下内容來自 360 搜索 ……" 除了語音,答案還以文字的形式顯示在手表上。" 因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉,從外表上顯得腦袋在所有人種裡最大。" 整個回答有數百字,其中還有 " 什麼四大發明,你看見了嗎?歷史是可以捏造的。而現在的手機、電腦、高樓大廈、公路,等等所有高科技都是西方人發明的 " 等表述。
當天上午,潇湘晨報記者将上述情況反饋給了 360 兒童手表官方客服,客服人員表示,兒童手表的問答功能是手表自帶功能,需要聯網使用,答案是綜合了網絡搜索内容之後給出的。對于記者和該網友反映的問題,其已經做了登記,并且将盡快轉交給相關部門進行落實。
當天記者在反饋完情況後,拿到一款 360 兒童手表 11X(認證型号 W370)對上述問題進行提問,答案已經發生了變化。全文如下:" 以下内容來自 360 搜索:主要是靈活變通,它弊大于利,因勢而異,照成事無定規,權亦可賣。"
8 月 22 日下午,潇湘晨報記者再次致電 360 兒童手表官方客服。客服人員感謝網友和記者的反饋,稱目前已經完成了上述問題的整改。并且誠摯歡迎公眾的監督。該客服還表示,已經設立專門郵箱來接收用戶反饋的問題。随後,記者在客服處登記的手機收到了該條提示:目前 360 兒童手表已專設用戶意見反饋郵箱:[email protected],歡迎有任何問題去信,我們将第一時間響應。
22 日晚間,360 集團創始人、董事長周鴻祎通過抖音、微博等多個渠道公開道歉。
周鴻祎在道歉中稱:
今天在網上看到視頻反映我們某型号的兒童手表出現錯誤的問答,給用戶帶來不适,我們表示真誠的歉意。
經過快速檢查,出現問題的這款手表是 2022 年 5 月份的一個舊版本,其中沒有裝入我們的大模型。它回答問題不是通過人工智能,而是通過抓取互聯網公開網站上的信息來回答問題。目前我們已經快速完成了整改,删除了上述所有有害信息,并正在将軟體更新到人工智能版本。
我們也檢查了新版的大模型兒童手表的問答功能,我也給大家做了幾個測試,從目前來看是沒有任何問題的,大家可以放心使用。對于舊版本的手表,在未來的一到兩周内,我們會陸續給大家把軟體更新,網站的服務也會更新,做到不再出現類似的問題。
雖然我們都更新到人工智能大模型的版本,但今天的人工智能被稱為生成式人工智能。目前人工智能存在一個全世界公認的難題就是它會產生幻覺,也就是它有的時候會胡說八道。這是大模型本身固有的特性。如何最大限度地減少幻覺?360 一直在做努力,比如我們試圖通過與搜索的内容做對比來減少幻覺、做好知識對齊。但有時候搜索可能會抓取到内容不正确的網頁,就會導致内容的出錯。大家在使用 360 大模型兒童手表提出問題的時候,想象力是遠遠超過我們這些研發人員和產品經理的。
為了更有效地幫助我們完善產品,歡迎大家發現不合适的回答,向我們舉報,每個被驗證的問題都是幫我們改善產品,我們會送出一份 360 的產品大禮包作為感謝。我們為此專門設定了一個郵箱:[email protected],大家在這個視頻的評論區留言也可以,我們會聯系每一位給我們反映問題的用戶。