今天小编分享的科技经验:谷歌AI迈入新纪元:大模型Gemini“虽迟但到”,语言理解得分率达到90%,欢迎阅读。
大模型,千呼万唤始出来。
当地时间 12 月 6 日,正式杀入人工智能大模型领網域, CEO 桑达尔・皮查伊(Sundar Pichai)在一篇博客中宣布了大模型 Gemini 1.0 正式上线。
" 现在,我们正与 Gemini 一起迈入下一段旅程。Gemini 是我们迄今为止最强大、最通用的模型,它在许多领先的基准测试中都展现出了最先进的性能。" 皮查伊在博客中写道。
据介绍,谷歌 Gemini 从一开始就被创建为多模态模型。这意味着它可以归纳并流畅地理解、操作以及组合不同类型的信息,包括文本、代码、音频、影像和视频。
Gemini 也是迄今为止规模最大、能力最强以及最灵活的人工智能模型,从数据中心到移动设备,它能在所有设备上高效地运行。
为了实现在所有设备上运行,针对三种不同的尺寸对第一代模型 Gemini 1.0 进行了优化,并发布了三个版本,分别是 Ultra、Pro 和 Nano:
○ Gemini Ultra — 规模最大且功能最强大的模型,适用于高度复杂的任务。
○ Gemini Pro — 适用于各种任务的最佳模型。
○ Gemini Nano — 端侧设备上最高效的模型。
从今天开始,Gemini 也将陆续登陆产品,比如其聊天机器人 Bard 将使用 Gemini Pro 的微调版本来进行更高级的推理、规划、理解等任务。这是 Bard 自推出以来最大的更新。它将在 170 多个国家和地区提供服务,但目前仅支持英语,未来有望支持新的语言和地区。
表示,Gemini 是其人工智能发展过程中的一座重要里程碑,也标志着迈进新纪元的开始,其将继续快速创新,并以负责任的方式不断提升模型能力。
自 OpenAI 于 2022 年底发布 ChatGPT 以来,人工智能领網域就开启了 " 大模型之战 ",科技巨头和初创公司纷纷下场,都希望在新一轮热潮中抢占先机。这场激烈的竞争持续至今,大模型和产品的性能是最受人关注的重中之重。" 师出名门 " 的 Gemini 当然也不会落下。
在性能比拼中,将 Gemini 的主要目标设定成了 GPT-4(和 GPT-4V),对于那些 GPT-4 不支持的任务,则选择了目前水平最先进的模型(SOTA model)。
据介绍,从自然影像、音频和视频理解到数学推理,在被大模型研究和开发中广泛使用的 32 项学术基准中,Gemini Ultra (最大尺寸版本)的性能有 30 项都超过了目前最先进的水平。
图 | 文本任务,展示 Gemini Ultra 的性能(来源:谷歌)
图 | 多模态任务,展示 Gemini Ultra 的性能(来源:谷歌)
在大规模多任务语言理解 (MMLU,Massive Multitask Language Understanding)测试中,Gemini Ultra 的得分率高达 90.0%,是第一个超过人类专家的模型。MMLU 综合使用了数学、物理、历史、法律、医学和伦理等 57 个科目,可用于测试模型对于人类世界的知识储备和解决问题的能力。
在新的大规模多学科多模态理解( MMMU,Massive Multi-discipline Multimodal Understanding )基准测试中,Gemini Ultra 也取得了 59.4% 的优异成绩,该基准测试由横跨不同领網域、需要仔细推理的多模态任务组成。(MMMU 基准测试介绍及网站:https://mmmu-benchmark.github.io/)
在影像基准测试中,Gemini Ultra 在不使用对象字元识别系统来提取影像中的文本进行下一步处理的情况下,表现优于现有最好的模型。
领先的性能得益于 Gemini 的原生多模态属性。表示,Gemini 1.0 具有复杂的多模态推理能力,可帮助理解复杂的书面和视觉信息。这使得它具有独特的技能,可以在海量的数据中发掘难以辨别的知识内容。
" 它还拥有通过阅读、过滤以及理解信息,从数十万份檔案中提取见解的卓越能力,将有助于在从科学到金融等多个领網域以数字化速度实现新的突破。" 在博客中写道。
此外,Gemini 还具备高级编程能力,可以理解、解释和生成世界上最流行的编程语言(如 Python、Java、C++ 和 Go)的高质量代码,还能够跨语言工作并对复杂信息进行推理。
表示,Gemini Ultra 在多个编码基准测试中表现出色,包括 HumanEval(用于评估编码任务性能的重要行业标准)和 Natural2Code(内部使用的数据集),使用作者生成的信息作为来源,而不是基于网络的信息。
Gemini 还可用作更高级编码系统的引擎。利用 Gemini 的专门版本,创建了更先进的代码生成系统 AlphaCode 2,该系统擅长解决那些不仅需要编码能力、也需要复杂数学和理论计算机科学知识的竞赛性编程问题。
数十亿人生活方式或被改变
在训练方法上,使用了自家的硬體张量处理单元(TPUs,Tensor Processing Units)对 Gemini 1.0 进行了大规模训练。在 TPU 上,Gemini 的运行速度明显快于早期规模更小、性能更弱的模型。
与此同时,还将发布名为 TPU v5p 的新一代 TPU,其训练大型语言模型的速度比上一代 TPU v4 快 2.8 倍。
图 | Google 数据中心的 Cloud TPU v5p 人工智能加速器超级计算机(来源:谷歌)
大模型普遍存在偏见和输出有毒内容等问题,开发者会通过設定安全护栏等措施来应对。在这方面,表示 Gemini 拥有迄今为止所有人工智能模型中最全面的安全评估,包括偏见和毒性评估。
博客写道:" 我们对网络攻击、说服力和自主性等潜在风险领網域进行了创新性的研究,并应用了 Google Research 一流的对抗性测试技术,帮助我们在部署 Gemini 之前检测关键的安全问题。"
不过根据以往用户使用大模型的经历,人们总能找到各种方法来突破开发者设下的防护网,实现 " 越狱 "。因此,Gemini 在实际应用中的表现还需观望。
除了开头提到的 Bard,Gemini 还将被部署在 Pixel 系列手机上,以及其他产品线,包括搜索、广告、Chrome 浏览器等等。安卓开发者还可以通过 AICore(安卓 14 中提供的新系统功能)使用 Gemini Nano 进行构建。
值得注意的是,性能最强的 Gemini Ultra 目前尚未部署。正在对它进行大规模的信任和安全检查,包括由可信赖的外部团队进行红队测试,并在其被广泛应用前通过微调和人类反馈强化学习进一步完善模型。
在模型的完善过程中,将向部分客户、开发者、合作伙伴以及安全和责任专家提供 Gemini Ultra,以供其进行早期试验和提供反馈。预计在 2024 年初向开发者和企业客户提供该模型。
看得出来,对 Gemini 寄予了厚望,其表示:" 我们对人工智能赋能的世界所带来的惊人可能性感到兴奋——这是一个创新的未来,它将增强创造力、扩展知识、推进科学并改变世界各地数十亿人的生活和工作方式。"