面壁智能发布MiniCPM 4.0：端侧大模型新标杆

北京 – 人工智能领域再添新星。近日，面壁智能正式发布了MiniCPM 4.0，一款旨在实现极致高效端侧推理的大模型。该模型凭借其创新的架构设计、强大的推理能力以及对多种硬件平台的良好适配性，有望加速人工智能在移动设备、嵌入式系统等边缘计算场景的落地。

MiniCPM 4.0 提供了两种参数规模的版本：8B（80亿参数）和0.5B（5亿参数）。其中，8B版本采用了创新的稀疏架构，能够高效处理长文本任务，而0.5B版本则以其低计算资源消耗和高性能而著称。值得一提的是，面壁智能自研的CPM.cu推理框架，在极限场景下可实现最高220倍的提速，即使在常规情况下也能达到5倍的速度提升。

技术亮点：稀疏注意力、模型量化与多平台适配

MiniCPM 4.0 的核心技术亮点包括：

稀疏注意力机制： 8B版本采用可训练稀疏注意力机制（InfLLM v2），在处理长文本时，每个词元仅需与不到5%的其他词元进行相关性计算，大幅降低了计算开销。
高效双频换挡： 模型能够根据任务特征自动切换注意力模式，处理长文本时启用稀疏注意力，处理短文本时切换至稠密注意力，兼顾效率与精度。
模型量化与压缩： 采用极致的三值量化技术（BitCPM），将模型参数的位宽压缩超过90%，在大幅“瘦身”的同时保持了卓越性能。
自研推理框架： 内置自研的CPM.cu极速端侧推理框架，通过投机采样创新、模型压缩量化创新以及端侧部署框架创新，实现了90%的模型瘦身和速度提升。
多平台适配： 目前已适配Intel、高通、MTK、华为昇腾等主流芯片，可在多种端侧设备上流畅运行。

应用场景广泛：教育、医疗、金融、游戏等领域潜力巨大

MiniCPM 4.0 的高效性能和多平台适配性使其在众多领域拥有广阔的应用前景，包括：

智能辅导系统： 理解学生问题并提供详细解答，助力学生更好地掌握知识。
病例分析与诊断辅助： 辅助医生进行病例分析，提供诊断建议和参考信息，提高诊断准确性和效率。
医学文献检索： 帮助医生和研究人员快速检索相关文献和研究成果。
智能客服： 作为金融客服的核心，快速准确地回答客户咨询，提供个性化服务。
游戏剧情生成： 根据游戏设定和玩家行为，自动生成丰富多样的游戏剧情和任务。

开源模型合集：助力开发者快速上手

为了方便开发者使用，面壁智能开源了MiniCPM 4.0的多个版本，包括：

MiniCPM4-8B：旗舰模型，拥有80亿参数。
MiniCPM4-0.5B：小型版本，拥有0.5亿参数。
针对特定任务优化的版本，如用于加速推测性推理的Eagle头，以及应用了极值三进制量化的BitCPM版本。
基于MiniCPM4-8B开发的，能够自动生成可信长篇调查论文的MiniCPM4-Survey，以及能够自动调用相关MCP工具以满足用户需求的MiniCPM4-MCP。

项目地址：