今天小编分享的教育经验:英伟达推出一款用AI学习手语的工具,可免费使用,欢迎阅读。
2 月 20 日,英伟达宣布推出 AI 手语学习工具 Signs。
有数据显示,在美国,美国手语(American Sign Languge)是第三大普遍使用的语言,但利用美国手语数据开发的 AI 工具的数量却远远少于其他常用语言的工具数量。这也是 Signs 平台诞生的原因。
Signs 平台在网页端运行,由英伟达与美国聋儿协会(American Society for Deaf Children)和创意机构 Hello Monday 共同开发,供用户免费使用。
" 大多数聋儿父母的听力都是正常的。为聋儿的家庭成员提供像 Signs 这样的便捷工具,让他们尽早开始学习手语,可以帮助他们与 6 至 8 个月大的儿童建立有效的沟通渠道。" 美国聋儿协会执行董事 Cheri Dowling 说。" 而且,由于知道专业的美国手语教师已经验证了平台上的所有词汇,用户大可对自己所学内容的质量放心。" 据了解,目前平台上有 100 个手语词汇。
官方演示视频中,手语学习者可以模仿 3D 虚拟形象展示的手势动作教程进行学习,学习者的动作会显示在螢幕右半部分,平台会用 AI 工具实时接收学习者手势的反馈,比如识别学习者手掌所在的位置。
Signs 使用演示
为了更好地指引初学者,学习者的视频框中会显示手指的位置、手势动作轨迹,以及手应该放的位置。比如在学习 Hello 的手语时,用户跟着数字人的提示,先展开手掌,向手掌方向弯曲大拇指,把自己的手放在蓝色手掌的位置,学习者跟着蓝色手掌的轨迹向远离身体的方向小幅度轻挥手掌。当两个手掌匹配上时,会出现匹配成功的音效。数字人通常会要求学习者练习两至三遍。
虽然 Signs 目前主要关注每个手势的动作和手指位置,但手语学习还需要结合面部表情和头部动作来传达含义。Signs 团队正在探索如何在之后的版本中追踪、整合这些非手势信号。
团队还在研究如何在 Signs 中呈现其他细微差别,如地区差异和俚语,以丰富手语学习数据库,此外还与罗彻斯特理工学院无障碍和包容性研究中心的研究人员合作,评估和进一步改善 Signs 平台的用户体验。
选择 Record Signs 可进入数据收集页面
英伟达开发 Signs 的目的不仅仅是教手语,还包括收集更多的手语数据。任何水平的手语学习者都可以通过用手势表达特定词语来扩充数据集。Record Signs 页面会显示平台需要收集数据的相关词汇,用户可录制自己的手语视频并上传。
英伟达的目标是将数据集扩大到 40 万个视频片段和 1000 个手语单词,并由流利的手语用户和翻译人员进行验证,以确保每个手语的准确性,从而生成高质量的视觉词典和教学工具。
英伟达团队计划利用该数据集进一步开发 AI 应用程式,以打破聋人和听障人士之间的沟通障碍。
这些数据资源将于今年晚些时候向公众开放,用于构建易于访问的技术,包括 AI agents、数字人类应用程式和视频会议工具,还能用于增强 Signs 平台和其他手语学习平台。