Liquid AI · 嵌入式与手机

LFM2.5-2.6B

Liquid AI 面向设备端 Agent 发布的 2.6B 混合架构模型,覆盖工具调用、长上下文和多平台官方量化格式。

查看官方资料 官方源核验于 2026/08/20
参数规模2.69B
架构Hybrid Convolution / GQA
模态文本、工具调用、推理
上下文128K
Local deployment verdict

部署判断

官方提供 GGUF、ONNX、MLX 与 WebGPU 路径;ONNX Q4F16 约 1.5GB、MLX 4-bit 约 1.47GB。厂商宣称低于 2.5GB 内存可运行,但具体速度和内存属于指定设备自测。

推荐起点
嵌入式与手机
常见运行时
Transformers、vLLM、SGLang、llama.cpp、ONNX Runtime / WebGPU、MLX
许可
LFM Open License v1.0

型号与精度版本

Agentic
Base
GGUF
ONNX
MLX

同一模型家族中的基础、指令、推理、量化或多模态检查点用途可能完全不同。下载前应核对模型卡、提示模板、分词器、量化方法和运行时版本。

适合放进哪些本地工作流

设备端工具调用
本地 RAG
数据提取
浏览器与 Mac Agent

端侧模型更适合边界清楚、输入可控、失败可回退的任务。涉及客户承诺、财务写入、生产控制或复杂多步工具调用时,应保留云端高能力模型与人工审批作为升级路径。

进入数字员工路由前怎么测

  1. 加载测试记录具体设备、精度、运行时、上下文与首 Token 时间,避免只写“能跑”。
  2. 任务测试用脱敏企业样本测任务成功率、结构化输出和工具参数正确率。
  3. 压力测试加入长上下文、并发、热启动、内存峰值、功耗和降频观察。
  4. 治理测试验证模型许可、日志、更新、漏洞响应、人工接管与云端回退。

当前研究限制

  • 220 tok/s、113 tok/s 与手机 30 tok/s 均为厂商指定硬件自测
  • 厂商不建议用于知识密集与 Agent 编码任务
  • LFM 自定义许可需企业法务核对

本页是官方资料索引与企业选型分析,不构成速度、显存、质量、许可或合规承诺。社区量化与第三方运行时应作为独立供应链组件审计。