端侧模型
On-device Model
部署在手机、PC、边缘设备或现场服务器附近，能够在弱网、离线或数据不出域条件下完成推理任务的 AI 模型。
也称：端上模型、边缘模型、本地模型、Edge AI Model
端侧模型强调模型靠近数据和用户运行。它可以部署在手机、AI PC、Mac、边缘盒子、车载设备或企业现场服务器，不一定只指参数很小的模型。
企业采用端侧模型通常为了降低延迟、支持离线运行、控制数据边界或减少高频 API 调用。但本地部署也会把硬件适配、模型升级、安全补丁、监控和容量规划责任带回企业。
判断模型是否适合端侧，不能只看参数量，还要结合量化格式、上下文长度、KV Cache、运行时、设备内存、带宽、功耗和真实任务成功率。