今天小编分享的财经经验:儿童手表出现争议回答 360教育硬體暴露内容安全漏洞,欢迎阅读。
教育硬體再次因内容审查引发争议和关注。8 月 22 日,360 儿童手表因争议问答登上热搜。在一条 " 中国人是世界上最聪明的人吗 " 的智能提问下,360 儿童手表的回答中包括 " 所有高科技都是西方人发明的 "" 历史是可以捏造的 " 等内容。对此,360 集团创始人周鸿祎在当晚发布说明并致歉,表示手表已经完成整改,并删除了上述所有有害信息。近年来,随着各类教育智能硬體的兴起,硬體内搭载的内容安全成为家长的关注焦点。在业内人士看来,作为一家以安全为核心的公司,360 集团在教育硬體的内容安全上还需下更多的功夫。
根据网传视频,一位家长向 360 儿童手表提问 " 中国人是世界上最聪明的人吗 ",在回答这一问题时,360 儿童手表的答案中出现了 " 其实中国人聪明的人是有,但笨的我承认是世界上最笨的 "" 历史是可以捏造的 "" 现在的手机、电腦、高楼大厦、公路等等所有高科技都是西方人发明的 " 等言论。在视频中家长表示,听到这样的答复,她决定把这块手表换掉,据该名家长介绍,这块 360 儿童手表购买于 360 公司在某电商平台的自营旗舰店,属于官方购买渠道。
对于智能问答中出现的 " 争议 " 答案,360 智慧生活客服人员向北京商报记者表示,此问题为动态抓取第三方网络来源问答作为答案导致。目前,公司已第一时间完成对上述问题的整改。从社交平台的网友反馈来看,事件发生当晚,该争议问答确已得到修复。
家电行业分析师梁振鹏告诉北京商报记者,此次事件反映出 360 集团对电话手表的内容监管存在的问题。不管内容是否属于第三方平台,360 集团都是第一责任人。
随即,8 月 22 日晚间,周鸿祎对此次事件公开致歉。周鸿祎表示,出现问题的手表是 2022 年 5 月份的一个旧版本,其中没有装入公司的大模型。手表回答问题不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答。
在回应中,周鸿祎表示,目前手表已经完成整改,删除了上述所有有害信息,并正在将軟體更新到人工智能版本。对于新版大模型儿童手表的问答功能,周鸿祎表示也已做了测试,从目前来看没有任何问题。旧版本的手表,360 将在未来的一到两周内进行軟體和网站服务的更新,做到不再出现类似问题。
"360 儿童 " 官网显示,360 集团在儿童手表领網域已有超过 10 年的发展历史。其旗下的儿童手表一代发布于 2013 年 10 月,最新的 360 儿童手表 A9(AI 红衣版)则发布于今年 7 月,最新款产品以大模型、真 AI 为卖点。
在梁振鹏看来,作为一家以 " 安全 " 为核心的公司,不管是什么样的硬體产品,如果 360 集团连内容审查都不过关,将很难让他人信服。对于此次出现的问题,360 集团需通过多种方式对电话手表进行版本更新、功能更新,屏蔽可能出现的不良内容。同时,若问题与第三方軟體供应商有关,360 集团还需与厂家进行沟通,将有害的内容进行更改和下架。
北京商报记者 赵博宇