今天小編分享的财經經驗:兒童手表出現争議回答 360教育硬體暴露内容安全漏洞,歡迎閲讀。
教育硬體再次因内容審查引發争議和關注。8 月 22 日,360 兒童手表因争議問答登上熱搜。在一條 " 中國人是世界上最聰明的人嗎 " 的智能提問下,360 兒童手表的回答中包括 " 所有高科技都是西方人發明的 "" 歷史是可以捏造的 " 等内容。對此,360 集團創始人周鴻祎在當晚發布説明并致歉,表示手表已經完成整改,并删除了上述所有有害信息。近年來,随着各類教育智能硬體的興起,硬體内搭載的内容安全成為家長的關注焦點。在業内人士看來,作為一家以安全為核心的公司,360 集團在教育硬體的内容安全上還需下更多的功夫。
根據網傳視頻,一位家長向 360 兒童手表提問 " 中國人是世界上最聰明的人嗎 ",在回答這一問題時,360 兒童手表的答案中出現了 " 其實中國人聰明的人是有,但笨的我承認是世界上最笨的 "" 歷史是可以捏造的 "" 現在的手機、電腦、高樓大廈、公路等等所有高科技都是西方人發明的 " 等言論。在視頻中家長表示,聽到這樣的答復,她決定把這塊手表換掉,據該名家長介紹,這塊 360 兒童手表購買于 360 公司在某電商平台的自營旗艦店,屬于官方購買渠道。
對于智能問答中出現的 " 争議 " 答案,360 智慧生活客服人員向北京商報記者表示,此問題為動态抓取第三方網絡來源問答作為答案導致。目前,公司已第一時間完成對上述問題的整改。從社交平台的網友反饋來看,事件發生當晚,該争議問答确已得到修復。
家電行業分析師梁振鵬告訴北京商報記者,此次事件反映出 360 集團對電話手表的内容監管存在的問題。不管内容是否屬于第三方平台,360 集團都是第一責任人。
随即,8 月 22 日晚間,周鴻祎對此次事件公開致歉。周鴻祎表示,出現問題的手表是 2022 年 5 月份的一個舊版本,其中沒有裝入公司的大模型。手表回答問題不是通過人工智能,而是通過抓取互聯網公開網站上的信息來回答。
在回應中,周鴻祎表示,目前手表已經完成整改,删除了上述所有有害信息,并正在将軟體更新到人工智能版本。對于新版大模型兒童手表的問答功能,周鴻祎表示也已做了測試,從目前來看沒有任何問題。舊版本的手表,360 将在未來的一到兩周内進行軟體和網站服務的更新,做到不再出現類似問題。
"360 兒童 " 官網顯示,360 集團在兒童手表領網域已有超過 10 年的發展歷史。其旗下的兒童手表一代發布于 2013 年 10 月,最新的 360 兒童手表 A9(AI 紅衣版)則發布于今年 7 月,最新款產品以大模型、真 AI 為賣點。
在梁振鵬看來,作為一家以 " 安全 " 為核心的公司,不管是什麼樣的硬體產品,如果 360 集團連内容審查都不過關,将很難讓他人信服。對于此次出現的問題,360 集團需通過多種方式對電話手表進行版本更新、功能更新,屏蔽可能出現的不良内容。同時,若問題與第三方軟體供應商有關,360 集團還需與廠家進行溝通,将有害的内容進行更改和下架。
北京商報記者 趙博宇