今天小编分享的科学经验：零一万物API开放平台出场！通用Chat多模态通通开放，还有200K超长上下文版本，欢迎阅读。
3 月，国内外模型公司动作频频。国产大模型独角兽 " 五小虎 " 之一零一万物也有诸多新动作。
这不，前脚刚发布高性能向量数据库，零一万物又立马正式发布了自己的API 开放平台，
共为开发者提供三个版本的模型：
Yi-34B-Chat-0205：支持通用聊天、问答、对话、写作、翻译等功能。
Yi-34B-Chat-200K：200K 上下文，多文档阅读理解、超长知识库构建小能手。
Yi-VL-Plus：多模态模型，支持文本、视觉多模态输入，中文图表体验超过 GPT-4V。
去年 11 月，零一万物就正式开源发布了首款预训练大模型 Yi-34B，当时的模型已经能处理 200K 上下文視窗，约等同于 20 万字文本。这次开放 API 平台，在 Yi-34B 的基础上，有什么新亮点？
要说有什么独特之处，我愿以五个 " 更 " 来概括。
分别是覆盖更大的参数量、更强的多模态、更专业的代码 / 数学推理模型、更快的推理速度、更低的推理成本。
并且！
Yi 大模型 API 开放平台兼容 OpenAI 的 API，可以随心快速丝滑切换。
更多详情，一起来看——
200K 上下文視窗 + 多模态能力
此次 API 开放，最亮眼的地方一共有两点。
首先是200K 的超长上下文視窗，可以一口气处理约 30 万个中英文字元，相对于读完整本《哈利 · 波特与魔法石》小说。
在大海捞针测试中，Yi-34B-Chat-200K 取得了几乎全绿的成绩，准确率高达 99.8%。
实际测试中，篇幅近两百页、总字数 19 万的《三体》第一部，Yi 很快就能读完并给出总结。
而且细节关注到位，能从故事中提取出主要角色信息和他们的事迹，然后直接用表格的形式呈现在我们面前。
我们又补充追问了十个细节问题，答案分散在整部小说的各个位置，结果 Yi 全部答对。
另一大亮点，是 Yi-VL-Plus 强大的多模态能力。
多模态版本中，在保持 LLM 通用知识、推理等能力的前提下，图片内中文、符号识别能力大幅增强，体验超过了 GPT-4V。
而且图片输入分辨率也提高到了 1024 × 1024 分辨率，并专门针对图表、截屏等生产力场景进行了优化。
比如下面这张图来自一篇文献综述，列举了课题相关论文中被引量最高的 10 篇。
Yi-VL-Plus 准确地找到了目标文献，并准确识别出了文章标题，遇到 " 嗪 " 这种不常见的专业文字也没掉链子。
再看看 GPT-4V 这边，则是主打一个已读乱回，给出的文章标题不知道来自何处。
而除了识读图表和文字，Yi-VL-Plus 还支持学习专业知识并立即用于影像的解读。
比如早期体验过的开发者教给模型一些心理学知识后，Yi-VL-Plus 就能根据孩子的铅笔画展开一些基本的分析。
并且，模型给出的分析获得了专业人士的认可，给出了 " 较准确 " 的评价。
△开发者星云爱店 CTO 大董提供的测试资料，文图数据均脱敏
总之，凭借强大的长文本和多模态处理能力，无论是在 to B 还是 to C 场景，Yi 都能构建出高效的大模型应用。
举个例子，在 to C 场景中，可以用基础或多模态版本构建智能对话助手，进行深层次的对话问答。
而在 B 端，可以把 Yi 整合到现有产品，搭建出 Copilot 类的应用，抑或是利用超长文本能力建立知识库，打造出客服等特定场景的智能助手。
在前期的开发者邀测中，拥有阿里、美团等多家大厂工作经历的知乎大佬 @苏洋就利用 Yi 的 API 搭建出了一个翻译器应用。
据作者本人介绍，他是看到 GitHub 上的一份开源的机器学习书籍之后萌生了翻译的想法，然后开始搭建这个应用的。
而之所以选择 Yi 作为承担这一工作的大模型，就是看中了它超出的上下文視窗，能够将作者每一章的全文都扔到模型里，而不用切分章节或做一些递归式的章节摘要等麻烦事。
另一方面，Yi 和 OpenAI 的兼容性，也让作者直接利用 LLM 平台的 OpenAI 兼容 API 模块，就快速完成了模型的接入。
接入完模型之后就是几乎可以一键完成的模型搭建了，这里需要做的只是点选应用的类型，然后起个名字，并适当调节一些参数。
在此基础之上，作者又用 golang 对模型调用程式进行了编译，进一步提升了整个流程的自动化程度。
最终，一个全自动的翻译工具就大功告成了。
如果不看最后的进阶部分，利用 Yi 的 API 快速构建一款 AI 应用，简直不要太简单！
而除了这些应用上肉眼可见的优势，Yi 系列 API 在技术层面的亮点同样可圈可点。
丝滑切换 OpenAI API
在 Yi 优异表现的背后，无论是 API 还是模型本身，都必然有强大的技术作为支撑——在技术上，Yi 有哪些特色？
首先，Yi 与 OpenAI API 完全兼容。
这意味着开发者只需修改少量代码，就能完成从 OpenAI 到 Yi 的平滑迁移，实现了替换成本的最小化。
同时，为了提升 API 性能，零一万物在 API 侧进行了专门的推理优化。不仅推理速度更快，用户体验的流畅性和响应速度也都相应提高。
而针对模型自身的其他亮点，我们充分利用了 Yi 的长文本分析能力，从它的技术报告中进行了提炼。
当然，除了专门针对 API 做的优化之外，基础模型的能力同样不可或缺。
为了实现模型能力的提升，研究团队从保证训练数据质量、在 tokenization 中运用独特设计、微调阶段积累经验等多个角度进行了突破瓶頸，增强了模型的优势并在 API 段充分发挥。
比如从训练阶段开始，研究团队就对数据进行了精心挑选，引入了启发式规则去除低质量文本，并利用机器学习方式识别有害内容。
同时研发人员还对训练数据中的文本进行聚类分析，并实施严格的去重机制，最大程度保证训练数据的质量。
而 tokenization 阶段，同样体现着研发人员的独到设计。
Yi 使用字节对编码进行分词和词汇表的构建，减少了词汇表的大小并提高了编码效率。
同时最大程度保留原始符号，避免变换过程中造成的信息丢失。
针对数字，Yi 还采用了拆抽成单个 token 的方式来提高模型理解力；甚至对于特殊和无法识别的字元，也有专门的应对策略。
到了微调环节，Yi 从技术报告总结出的关键经验就更多了。
比如 " 数据质量高于数量 " 的重要思想，从训练阶段开始就贯穿始终。
此外还有迭代过程、标签系统、结构化格式等诸多策略，这里就不再一一赘述了。
食用指南
看到这里，旁友们应该对 Yi API 的能力已经有一定了解了。
那么，Yi 大模型 API 到底该如何食用？
此前，Yi 大模型 API 已经在小范围开放内测。
" 为了邀请更多的开发者并肩作战 "，今天起，Yi 大模型 API 名额开启了限量开放。
而且新用户还赠送 60 元（千万 token）。
谁看了不说一句真香呢？？！指路这篇文章的评论区置顶，可获得申请直通车连接～
开放 API 平台后，零一万物下一步会又什么新动作？
零一万物技术副总裁及模型训练 AI Alignment、开放平台负责人俞涛对此做出了答复，称近期将会为开发者提供更多更强模型和 AI 开发框架。
未来计划具体围绕以下三个方面展开：
第一，支持更快的推理速度，显著降低推理成本。
第二，突破更长的上下文，目标由目前的 20 万 tokens 拓展到 100 万 tokens。
第三，基于模型具备的超长上下文能力，构建向量数据库、RAG、Agent 架构在内的全新开发者 AI 框架。
看来，零一万物的下一步棋，就是推理更快、視窗更长，同时提供更加丰富和灵活的开发工具，以适应不同开发者需求下的多样化应用场景。
具体推出的节奏，零一万物此次没有透露。但是——
三款模型的 API，大家可以用起来了！先到先得，记得在评论区找到申请地址哟～
