百度 ERNIE · 高配笔记本与单卡工作站

ERNIE 4.5 本地模型家族

百度开放的 ERNIE 4.5 本地家族，从 0.3B 测试模型延伸到 21B-A3B 文本与 28B-A3B 多模态型号。

查看官方资料 官方源核验于 2026/08/20
参数规模0.3B / 21B-A3B / VL 28B-A3B
架构Dense + MoE + Multimodal Heterogeneous MoE
模态文本、图像、视频、推理
上下文21B-A3B 为 128K；0.3B 与 VL 以具体模型卡为准
Local deployment verdict

部署判断

0.3B 适合架构实验和窄任务；21B-A3B 与 VL-28B-A3B 仍需加载全部 MoE 权重，A3B 只表示每 Token 激活计算量。量化后才更接近单卡工作站部署。

推荐起点
高配笔记本与单卡工作站
常见运行时
PaddlePaddle / ERNIEKit、Transformers、vLLM、多硬件推理路径
许可
Apache 2.0
Model variants

型号与精度版本

0.3B Base / PT
21B-A3B Base / PT / Thinking
VL-28B-A3B Base / PT

同一模型家族中的基础、指令、推理、量化或多模态检查点用途可能完全不同。下载前应核对模型卡、提示模板、分词器、量化方法和运行时版本。

Enterprise fit

适合放进哪些本地工作流

中文本地知识助手
企业 RAG
多模态文档理解
国产硬件适配研究

端侧模型更适合边界清楚、输入可控、失败可回退的任务。涉及客户承诺、财务写入、生产控制或复杂多步工具调用时，应保留云端高能力模型与人工审批作为升级路径。

Evaluation protocol

进入数字员工路由前怎么测

  1. 加载测试记录具体设备、精度、运行时、上下文与首 Token 时间，避免只写“能跑”。
  2. 任务测试用脱敏企业样本测任务成功率、结构化输出和工具参数正确率。
  3. 压力测试加入长上下文、并发、热启动、内存峰值、功耗和降频观察。
  4. 治理测试验证模型许可、日志、更新、漏洞响应、人工接管与云端回退。
Known cautions

当前研究限制

  • 0.3B 更适合实验和专用微调，不是通用高能力助手
  • A3B 不等于只加载 3B 权重
  • 厂商比较与榜单结果需独立复测

本页是官方资料索引与企业选型分析，不构成速度、显存、质量、许可或合规承诺。社区量化与第三方运行时应作为独立供应链组件审计。