今天小编分享的科学经验:首个开源中文金融大模型来了!解释授信额度、计算收益率、决策参考样样通,来自度小满,欢迎阅读。
金融行业正迎来大模型时代。
近日,度小满正式发布千亿级中文对话大模型轩辕,集中文、金融、开源特色于一身。
基于BLOOM-176B研发的轩辕大模型,在金融场景中的任务评测中,效果相较于通用大模型大幅提升,表现出明显的金融领網域优势。
在诸如金融名词理解、金融市场评论、金融数据分析和金融新闻理解等任务的评测中,轩辕超越了其他四种开源大模型,赢得了 150 次回答中 63.33% 的胜率,充分凸显了其在金融领網域的显著优势。
在通用中文领網域,轩辕表现也不亚于 ChatGPT。
根据实验结果,轩辕有 10.2% 的任务表现超越 ChatGPT,61.22% 的任务表现与之持平。其中涉及数学计算、场景写作、逻辑推理、文本摘要等 13 个主要维度,验证了轩辕的通用能力。
此次发布的千亿级轩辕模型,将成为国内首个开源的中文金融大模型。
度小满表示,轩辕大模型将有力地推动大模型在金融行业的应用,为客户提供更准确、全面的金融咨询与服务。
国内首个开源中文金融大模型
去年 11 月,ChatGPT 滚滚而来,全球互联网用户为之疯狂。
其专业、快速、精准、富有情感的内容表达,无不向大家展示 NLP 大模型惊人的自然语言理解与生成能力。
ChatGPT 的的诞生,掀起了新一轮技术革命,自此各类大模型层出不穷。而度小满也开启了金融大模型的研发之路。
" 将 ChatGPT 的能力迁移到金融领網域,会产生怎么样颠覆性的影响?",为了寻找问题的答案,度小满将轩辕大模型定位在了三个维度:
中文、金融和开源。
轩辕大模型基于 1760 亿的 BLOOM(BigScience Large Open-science Open-access Multilingual Language Model)语言模型训练而来,使用了 IDRIS 的 Jean Zay 超级计算机(来自法国,目前在最新全球超算 500 强榜单上排名第 135)。
BLOOM 拥有 1.61TB 文本,包含 46 种自然语言和 13 种编程语言。
相比 Meta 发布的 LLaMA(Large Language Model Meta AI)模型,Bloom 参数量更有优势。
度小满依托多年行业实践积累,构建了具有金融垂直领網域特色的、千亿 tokens 的中文预训练数据集。
度小满数据智能部总经理、技术委员会执行主席杨青表示,经过清洗和标注的高质量数据集,不仅在通用性方面与 ChatGPT 达到持平成为可能,且显著提升了模型在金融垂直领網域的性能。
值得一提的是,轩辕数据集包含了诸如金融研报、股票、基金、银行、保险等方向的专业知识。
通过在训练过程中加入大量金融对话数据并针对金融领網域进行特定的预训练调优,轩辕在金融垂直领網域的表现得到了显著提升。
因此,轩辕在金融专有领網域内容理解和生成上展现出卓越的能力。
解释授信额度、计算收益率、决策参考……样样通
作为 AI 新基建,大模型在金融及各个行业有着广泛的应用场景。
轩辕大模型开源后,将会为金融企业带来怎么样的帮助?如何推动产业发展?
度小满 CTO 许冬亮认为,生成式大模型在内容生成与创作、信息摘要与总结、知识理解与问答、自然互動与对话等方面具备非常出色的能力,在金融场景中会有广泛的应用。
在前台,生成式大模型将大幅提升客户经理的专业水平和服务能力,大幅降低客户经理的运营成本,让每个人都拥有 24 小时在线的专业客户经理成为可能。
出色的内容生成能力也将引发营销内容生产能力的大幅提升。
在中台,生成式大模型有机会改变企业内知识获取、内容创作、会议与沟通、代码开发与测试的方式,进而大幅提升企业内部办公效率,甚至引发研发测试模式变革,全方位的提升金融企业内部运营效率。
在后台,大模型将成为智能科技底座的标配,大幅降低智能技术应用的门槛,只需少量标注数据甚至无需调整就可以让智能技术覆盖广泛的场景。
智能客服,是 AI 在金融领網域最常见的应用方向之一。
通用语音或文本的互動方式,可以为金融用户提供 24 小时在线咨询和答疑服务。为了降低人工成本和风险,引入智能客服已成为金融企业的基础配置。
然而实际上,面对用户多样化复杂场景的询问,智能客服常常表现出 " 智障 "。以简单的名词解释为例,可以看到轩辕的表现更为专业。
在回复中,轩辕从个人信用记录、收入水平、负债情况和担保能力四个方面进行了全面的解释,清晰的结构、详细的计算方法以及实用的建议,真正做到以用户视角详解专业概念。
此外,轩辕在股息收益率、股东权益计算等方面也有相当不错的表现。
而这些涉及逻辑推理、数学计算的问题往往是 AI 的弱点。
现有的 AI 金融模型也经常会犯一些愚蠢的错误,比如:股息率 = 股息 ÷ 股票价格 = 5 美元 ÷ 100 美元 = 0.5。
轩辕对数据和知识的挖掘与理解,不是简单的关键词搜索,而是多语义关联与匹配,更智能地识别出用户的真实意图,进而给出更符合用户需求的答案。
这一点在" 智能金融顾问 "应用中,尤为明显。
AI 技术的优势在于海量信息的搜集、提取和分析能力,这是人类难以企及的。
例如 AI 大模型可以通过分析金融数据、新闻动态、社交评论等每日信息,为投资者提供市场舆情和风险预测等服务。
度小满认为,轩辕大模型要想无限趋近于人类的思维能力,不能停留在标准答案上,需要能够处理更具开放性、灵活性的复杂问题。
从下面的示例中,可以看到,轩辕会提醒客户结合资产状况、收益目标和风险偏好,以及外部的市场动态,来进行投资决策。
轩辕在解释 " 牛市 " 和 " 熊市 " 含义的同时,还强调了投资者要如何面对两种市场状况,以及可采取的策略。
这一点相比其他模型,不仅交流更充分、信息更有价值,而且更显人性化,更有温度。
轩辕还能针对当下金融时事分析背后的原因,并据此从不同维度对金融市场的未来走势进行预测,给出总体结果评估,为投资者提供明确的决策参考。
AI 算法没有护城河,正是开源造就了当下大模型创新的繁荣景象。
历史也证明了,安卓系统的开源不仅使得技术的发展更加快速,也促进了开发者之间的交流与合作,让移动应用和服务得以更快地普及到全球各地,并带来更加多样化的用户体验。
得益于开源,让人人都可参与这个行业,这也使得菜鸟和小众开发者可以通过参与开源项目提高自己的技能和见识,让业界更加平等公正。
秉承这一精神,许冬亮表示,轩辕大模型是经度小满业务场景中积累的金融数据训练而来的,对金融相关问题的理解比通用大模型更有优势。
我们把大模型能力开放给金融机构,有利于推动大模型在金融行业的应用,降低大模型的应用门槛,提升金融行业智能化水平。