面壁智能推出小钢炮开源 MiniCPM3-4B AI 模型

今天小编分享的科技经验：面壁智能推出小钢炮开源 MiniCPM3-4B AI 模型，欢迎阅读。

IT 之家 9 月 6 日消息，面壁智能官方公众号昨日（9 月 5 日）发布博文，宣布推出开源 MiniCPM3-4B AI 模型，声称 " 端侧 ChatGPT 时刻到来 "。

IT 之家附上 MiniCPM 3.0   开源地址：

MiniCPM3-4B 是 MiniCPM 系列的第三代产品，整体性能超过了 Phi-3.5-mini-Instruct 和 GPT-3.5-Turbo-0125，媲美多款 70 亿 ~90 亿参数的 AI 模型。

相比 MiniCPM1.0 / MiniCPM2.0，MiniCPM3-4B 拥有更强大、更多用途的技能集，可用于更广泛的用途。MiniCPM3-4B 支持函数调用和代码解释器。

下面是 3 个版本的模型结构（1->2->3）的区别：

词表大小：123K->73K->73K

模型层数：40->52->62

隐藏层节点：2304->1536->2560

最大长度：4k->4K->32k

系统提示词：不支持 ->  不支持 ->  支持

工具调用和代码解释器：不支持 ->  不支持 ->  支持

MiniCPM3-4B 有一个 32k 上下文視窗。MiniCPM3-4B 借助 LLMxMapReduce，不需要占用太高的内存，可以处理理论上的无限上下文。

面壁智能还发布了 RAG 套件 MiniCPM-Embedding 模型和 MiniCPM-Reranker 模型，针对 RAG 场景还发布了微调版 MiniCPM3-RAG-LoRA 模型。