Model variants
型号与精度版本
同一模型家族中的基础、指令、推理、量化或多模态检查点用途可能完全不同。下载前应核对模型卡、提示模板、分词器、量化方法和运行时版本。
Enterprise fit
适合放进哪些本地工作流
端侧模型更适合边界清楚、输入可控、失败可回退的任务。涉及客户承诺、财务写入、生产控制或复杂多步工具调用时，应保留云端高能力模型与人工审批作为升级路径。
Evaluation protocol
进入数字员工路由前怎么测
- 加载测试记录具体设备、精度、运行时、上下文与首 Token 时间，避免只写“能跑”。
- 任务测试用脱敏企业样本测任务成功率、结构化输出和工具参数正确率。
- 压力测试加入长上下文、并发、热启动、内存峰值、功耗和降频观察。
- 治理测试验证模型许可、日志、更新、漏洞响应、人工接管与云端回退。
Known cautions
当前研究限制
- 100B 总参数与 6B 激活参数不能换算成 6B 权重内存
- 官方示例依赖 CUDA、多 GPU 与自定义代码，尚无统一手机、Mac 或单卡实测
- 模型卡中的 SOTA、视觉知识和音频生成描述属于厂商自述，需用企业数据集复测
- 语音克隆、音频生成和图像编辑进入企业流程前必须增加授权、内容安全与审计
- 全模态输出不等于可直接接管企业系统，仍需工具权限、审批和人工接管
本页是官方资料索引与企业选型分析，不构成速度、显存、质量、许可或合规承诺。社区量化与第三方运行时应作为独立供应链组件审计。