MiniCPM5-2B：本地随身AI智能助手，工具使用、数学推理和Agent任务表现强劲，长文本处理能力强
MiniCPM5-2B 是由 OpenBMB（面壁智能）开源的一款约 25 亿参数（2.5B 级）的紧凑型大语言模型，专门为端侧、本地部署、资源受限场景设计。它是 MiniCPM5 系列的第二款模型（继 1B 版本之后），采用标准 Llama 架构，支持中英文，上下文长度达 131K（约 13 万 token）。
简单说，它就像一款“小而强”的本地 AI 引擎——体积小、能跑在普通硬件上，却在代码、数学、工具使用和智能体任务上表现出色，特别适合想自己部署、追求隐私或离线可用的开发者和用户。
主要特点
小身材，大本事：参数量只有约 2.5B，但在同尺寸开源模型中表现突出。官方评测显示，它在 34 项基准上的平均分达到 53.9，不仅领先其他 2B 级模型，还整体超过了对比中的部分 4B 级模型（最高约 51.1）。优势尤其明显在代码推理、数学推理、长文本理解、工具调用和智能体（Agent）任务上。
专业机构评价：第三方评测机构 Artificial Analysis 给出较高评价——它在 4B 以下开源模型中 Intelligence Index 得分最高（约 13–15 分，不同版本略有差异），显著领先同量级模型，甚至在部分指标上接近或对标更大尺寸模型。同时它在智能体相关任务上表现突出，且输出相对精简高效。
超长上下文 + 强工具/Agent 能力：原生支持 128K+ 上下文，适合处理长文档或复杂多步任务；工具调用和搜索/编码类 Agent 表现亮眼（例如部分工具使用和搜索 Agent 基准领先对比组）。
训练与开源诚意足：配套开源了高质量训练数据（UltraData 系列，含代码、数学、Agent 等分级数据），并采用 SFT → 强化学习（RL）→ 在线策略蒸馏（OPD）的后训练流程，进一步提升推理和 Agent 能力。提供多种量化版本（GGUF、MLX、GPTQ 等），方便在手机、树莓派、笔记本、Apple 芯片等设备上直接跑。
部署友好：标准架构，兼容 vLLM、SGLang、llama.cpp、Ollama、LM Studio 等主流工具，几乎“开箱即用”。
应用领域
本地/端侧 AI 助手：手机、电脑、嵌入式设备上的离线聊天、问答、总结。
编程助手与代码 Agent：写代码、修 bug、代码推理（在 LiveCodeBench、SWE-bench 等上表现强）。
数学与推理任务：复杂数学题、逻辑推理。
工具调用与智能体工作流：调用外部工具、搜索、多步骤任务（如文档处理、自动化流程）。
长文本处理：阅读长文档、代码库、会议记录等。
资源受限场景：边缘计算、隐私敏感应用、低功耗设备。
使用教程：（建议N卡，显存4G起，支持50系显卡）
支持思考/非思考两种模式，输入问题或需求，提交即可。
支持消费级笔记本流畅运行，实测4G显存+8G运存流畅运行。
支持WebUI和GUI两种运行模式，支持api，可对接三方Agent使用
启动后 API 地址为：`http://localhost:8000/v1`
兼容open-ai 格式api，请求参数
{
"model": "minicpm5-2b",
"messages": [
{"role": "user", "content": "用Python写一个计算器"}
],
"temperature": 0.7,
"top_p": 0.95,
"max_tokens": 4096,
"stream": true,
"thinking_mode": true
}
crul格式
curl http://localhost:8000/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"minicpm5-2b\",\"messages\":[{\"role\":\"user\",\"content\":\"你好\"}],\"stream\":false}"
下载地址：
迅雷云盘：https://pan.xunlei.com/s/VP19qqg2jiIwyOo_vBno7ki9A1?pwd=bm7v
夸克网盘：
**** 本内容需购买 ****
页:
[1]