今天小编分享的互联网经验:聚焦大模型轻量化和本地化部署,众数信科完成数千万Pre-A轮融资,欢迎阅读。
作者|武静静
编辑|邓咏仪
36 氪获悉,人工智能创业公司众数信科今日完成数千万元 Pre-A 轮融资,本轮融资由诚美资本、火炬兴业科创基金联合投资。公司称,资金将主要用于产品研发,业务拓展以及团队搭建等。此前,云从科技以及厦门火炬创投也参与了公司的早期投资。
众数信科是36 氪长期关注的一家公司。公司创立于 2021 年,成立之初选择的业务方向是数字城市的数据及场景的产品定义和运营。2023 年,众数信科基于大模型技术对原有业务进行了全新更新——借助原有的数据能力积累,瞄准大模型在行业场景轻量化和本地化落地方向。
众数信科 CEO 吴炳坤向 36 氪表示,选择用这种落地方式,源于公司在此前服务客户过程中,感知到用户对数据安全、成本、效果等方面的多样化需求。
吴炳坤进一步解释:" 首先是模型效果,通用大模型需要结合具体场景数据才能有效发挥价值,以政务为例,需要特定场景化训练,这正是很多基础大模型的短板所在。其次,政务等用户对数据安全尤为看重,但当前大模型都以 API 接口方式对接,访问不安全也不稳定。此外,成本问题也很关键,API 接口难以满足垂直场景用户需求,但如果用户想要一个定制化的大模型,花费都在大几百万以上,市面上用户可接受的成本则在 5 万到 200 万之间。"
这些都是桎梏大模型在用户端落地的现实因素。为了解决这些问题,众数信科选择从轻量化以及本地化的角度入手,推动大模型的落地。
产品方面,目前众数信科搭建了 " 寻知 "AI 智能体服务平台,围绕模型层、基础能力层、技能层、应用层四个维度构建了不同能力:
· 模型层,打造了一个大模型应用开发平台,支持云从的从容大模型、百度文心大模型以及各种开源模型;
· 基础能力层囊括数据处理、模型训练、知识中心、数据安全、模型应用等组建能力;
· 技能层集合了各种文档问答、智能创作、图片生成等应用产品的能力组件;
· 应用层主要是通过軟體容器,把技能组件组合,呈现政务、教育、金融等场景的智能应用。
众数信科产品矩阵
基于这些产品,众数信科面向用户提供模型定制、标准化的 SaaS 应用、软硬體一体产品等服务。
模型定制化服务包括模型微调、模型专有化、应用规划 + 专家咨询整体服务等;SaaS 应用包括浏览器、智能助手、插件以及界面式的 AI 训练工具等;在软硬體融合方面,众数信科推出 " 手提箱大模型 " 一体机产品,融合一体机 +AI 大模型 + 行业智能应用,实现大模型开机即用,此外公司也推出了 AI 滑鼠、AI 健身镜、AI 陪伴机器人等产品。
众数信科大模型一体机产品
行业方面,众数信科优先选择信创和政企场景。吴炳坤认为:" 这些场景面临着大模型服务和落地的巨大缺口,且对模型私有化部署需求程度高。"
吴炳坤告诉 36 氪,数据能力是公司的核心优势之一:" 我们此前的数字政府和民生服务数字化为大模型技术提供了场景,尤其在教育、政务、养老、金融等场景积累了大量的数据,是大模型落地非常宝贵的沃土。" 此前,公司服务的数字政府平台 i 厦门平台实名注册用户数 960 万,企业用户数达到近十万,此外,公司也将数字政府平台在云南、安徽、黑龙江、云南等地市实现落地。
吴炳坤也提到,在自研算法、大模型量化压缩上,公司也具备一定的技术优势," 目前公司自主研发 RAG (检索增强生成)算法有效解决了常见的提示词冲突、技能混乱、插件缺失等问题,且已经将云从、阿里的大模型参数量从千亿降低到百亿,且还能保证整体模型精度不受影响。"
商业化层面,目前众数信科已经与合作伙伴一起,将大模型在政务服务、人力资源、教育、医药、商业、金融等场景落地,客户包括海关、i 厦门、广州白云山明兴制药、文广传媒等机构。
团队方面,公司创始人吴炳坤是资深金融科技专家,有丰富的数字城市运营经验,曾任厦门银联商务、民生银行中和渠道等企业高管职务;公司技术负责人姚锋曾担任云从科技子公司技术总监、厦门银联商务首席架构师,精通模型训练、模型微调、提示词工程等大模型技术。
吴炳坤提到,接下来公司将加速产品研发、市场推广和生态打造,接入国产信创生态,完成智能应用、能力中台、开发者平台等产品研发,发力政务、教育行业模型投产 ,并完成 C 端、行业、生态平台产品的初步布局。
诚美资本董事总经理邱剑波表示,众数信科是诚美资本在 AI 大模型领網域布局的第一家企业,此次投资与公司在 AI 大模型赛道上的战略规划相得益彰。众数信科在 AI 智能体领網域具有前瞻性,专注于实现 AI 大模型的轻量化和行业模型的定制化,这一方向对于推动 AI 技术在各行各业的广泛应用具有重要意义。众数信科已经在多个行业头部企业中成功应用并落地,为解决大模型在实际应用中的难题提供了有效的解决方案,成为 AI 大模型应用领網域的领军者。
火炬创投副总经理詹泓恺表示,人工智能的时代已经到来,各行各业即将被人工智能重写,众数信科在 AI+ 数据领網域的深厚积累和卓越的技术创新能力使其成为了一个具有高潜力的投资标的。众数信科凭借着自己一脚踩在数据里,一脚踩在 AI 技术里的独特优势,实现了 AI 技术与实际业务场景的紧密结合。这种结合不仅提升了技术的实际应用价值,还为客户带来了更为出色的业务效果。作为投资人,我非常看好众数信科这种将技术与实际业务场景结合的能力。