MiniCPM5-2B：本地随身AI智能助手，工具使用、数学推理和Agent任务表现强劲，长文本处理能力强

无言***

MiniCPM5-2B：轻量随身AI智能助手，工具使用、数学推理和Agent任务表现强劲，长文本处理能力强 ... ... ... ...

MiniCPM5-2B 是由 OpenBMB（面壁智能）开源的一款约 25 亿参数（2.5B 级）的紧凑型大语言模型，专门为端侧、本地部署、资源受限场景设计。它是 MiniCPM5 系列的第二款模型（继 1B 版本之后），采用标准 Llama 架构，支持中英文，上下文长度达 131K（约 13 万 token）。
简单说，它就像一款“小而强”的本地 AI 引擎——体积小、能跑在普通硬件上，却在代码、数学、工具使用和智能体任务上表现出色，特别适合想自己部署、追求隐私或离线可用的开发者和用户。

MiniCPM5-2B：轻量随身AI智能助手，工具使用、数学推理和Agent任务表现强劲，长文本处理能力强 ... ... ... ...

主要特点

小身材，大本事：参数量只有约 2.5B，但在同尺寸开源模型中表现突出。官方评测显示，它在 34 项基准上的平均分达到 53.9，不仅领先其他 2B 级模型，还整体超过了对比中的部分 4B 级模型（最高约 51.1）。优势尤其明显在代码推理、数学推理、长文本理解、工具调用和智能体（Agent）任务上。
专业机构评价：第三方评测机构 Artificial Analysis 给出较高评价——它在 4B 以下开源模型中 Intelligence Index 得分最高（约 13–15 分，不同版本略有差异），显著领先同量级模型，甚至在部分指标上接近或对标更大尺寸模型。同时它在智能体相关任务上表现突出，且输出相对精简高效。
超长上下文 + 强工具/Agent 能力：原生支持 128K+ 上下文，适合处理长文档或复杂多步任务；工具调用和搜索/编码类 Agent 表现亮眼（例如部分工具使用和搜索 Agent 基准领先对比组）。
训练与开源诚意足：配套开源了高质量训练数据（UltraData 系列，含代码、数学、Agent 等分级数据），并采用 SFT → 强化学习（RL）→ 在线策略蒸馏（OPD）的后训练流程，进一步提升推理和 Agent 能力。提供多种量化版本（GGUF、MLX、GPTQ 等），方便在手机、树莓派、笔记本、Apple 芯片等设备上直接跑。
部署友好：标准架构，兼容 vLLM、SGLang、llama.cpp、Ollama、LM Studio 等主流工具，几乎“开箱即用”。



应用领域

本地/端侧 AI 助手：手机、电脑、嵌入式设备上的离线聊天、问答、总结。
编程助手与代码 Agent：写代码、修 bug、代码推理（在 LiveCodeBench、SWE-bench 等上表现强）。
数学与推理任务：复杂数学题、逻辑推理。
工具调用与智能体工作流：调用外部工具、搜索、多步骤任务（如文档处理、自动化流程）。
长文本处理：阅读长文档、代码库、会议记录等。
资源受限场景：边缘计算、隐私敏感应用、低功耗设备。



使用教程：（建议N卡，显存4G起，支持50系显卡）

支持思考/非思考两种模式，输入问题或需求，提交即可。
支持消费级笔记本流畅运行，实测4G显存+8G运存流畅运行。

支持WebUI和GUI两种运行模式，支持api，可对接三方Agent使用
启动后 API 地址为：`http://localhost:8000/v1`
兼容open-ai 格式api，请求参数

1. {
   
2.   "model": "minicpm5-2b",
   
3.   "messages": [
   
4.     {"role": "user", "content": "用Python写一个计算器"}
   
5.   ],
   
6.   "temperature": 0.7,
   
7.   "top_p": 0.95,
   
8.   "max_tokens": 4096,
   
9.   "stream": true,
   
10.   "thinking_mode": true
    
11. }

复制代码

crul格式

1. curl http://localhost:8000/v1/chat/completions ^
   
2.   -H "Content-Type: application/json" ^
   
3.   -d "{"model":"minicpm5-2b","messages":[{"role":"user","content":"你好"}],"stream":false}"

复制代码

下载地址：
一键包在路上...