LFM3小模型发布:端侧智能体能接手哪些工作

AI生成概念图:显示Liquid AI标识的笔记本电脑旁,两组信封按蓝色圆贴和黄色方贴分类。来源:投黑马 Touheima.com

前沿科技 / 2026年10月29日 / 全文共1835字

LFM3小模型发布,把一批面向具体任务的模型交到了开发者手中。Liquid AI在当地时间10月27日公布新模型家族,IT之家于北京时间10月28日报道了这项进展。首批六款模型覆盖文本、视觉、音频、全模态及决策,团队可以下载权重,围绕自己的业务继续适配。

对创业团队,眼前可检验的用途包括分拣客户请求、提取表单字段,以及调用已经定义好的工具。投黑马建议先固定一项工作,核对它在真实数据上的完成率、错误后果与人工复核时间,再决定交给模型多少权限。本文未实测模型,也没有足够证据计算企业部署后普遍能省多少钱。

一、小模型可以怎样参与一张工单的处理

根据官方模型卡,文本版LFM3-1.7B拥有17.3亿参数,针对本地智能体、工具调用和结构化输出训练。参数可以理解为模型学习后保存的内部数值;数量较少有助于缩小部署规模,却不能单独说明任务完成得好不好。官方同时明确,这一版本不推荐用于智能体编程和复杂多步推理,知识密集型问题宜结合检索或搜索。

同家族的d1-2B采取另一种工作方式。官方资料将其定位为决策模型:读取文本、图片或视频后,用一次模型计算返回指定类型的答案及概率,无需逐字生成一段回复。它可以判断请求应交给哪个部门,也可以抽取文档里的文字、数字和日期。概率仍要用客户自己的数据校准;模型给出高置信度,不能替代真实正确率。

以一张同时涉及重复扣款和未收货的工单为例,决策模型可以先标出账单、物流两个问题,文本模型再根据工具返回的记录整理回复草案。这个例子用于说明流程,未经本文测试。退款权限、订单查询和日志留存仍由业务系统负责,模型输出一次工具调用,也不代表客户问题已经解决。测试必须覆盖多问题混杂、信息缺失和需要升级处理的请求。

二、本地运行后,成本怎样才会下降

LFM3小模型发布所对应的部署方式已具备试用条件,商业效果仍处于逐项验证阶段。官方提供多种权重格式及运行说明,开发者可以把模型放在设备或自有服务器上。对数据不宜离开本地、任务频繁重复的团队,这增加了一个可评估方案;少调用云端接口后,计算工作会由自己管理的硬件承担。

内存预算需要单独核算。官方宣传文本模型在4位精度下约占1GB,但整套应用还要容纳处理上下文所需的缓存、运行程序和业务数据。官方端侧测试也限定了设备、量化格式、上下文长度及并发条件。产品团队应在目标机器上连续运行,用实际输入测量峰值占用、响应时间和持续负载,不能把模型体积当作最终配置要求。长文档与多用户同时请求,都可能改变部署选择。

试点可以固定一批独立工单,保留现有人工流程或云端方案作参照,把硬件摊销、电费、工程维护、复核工时和错误处理一起计入成本,在同一准确度要求下比较每张合格工单的支出。低置信度请求交给人工,会降低自动处理比例,却可能避免昂贵的误退款。若人工返工抵消了接口费用的节省,就需要缩小任务范围。收费也应围绕可验收结果:约定字段正确率、处理时限及异常升级方式,客户才有依据判断这项服务是否划算。

三、同类模型竞争,客户流程影响商业空间

Liquid AI自己的比较表已纳入Qwen、Gemma和MiniCPM等模型,说明小模型团队需要面对多种可供比较的方案。这张表来自厂商评测,本文没有独立复现,不能据此宣布全面领先。对具体客户,应先固定任务、提示词、运行条件与验收标准,再比较候选模型;通用平均分无法代替中文工单里的退款原因、日期和金额是否识别准确。一个简单的关键词规则也应保留为参照,检查新增模型是否减少了漏分、错分和维护工时;如果现有规则已能稳定处理大多数请求,团队还需要解释更换方案带来的额外收益。

商业许可也会改变客户选择。文本版仓库的LFM Open License v1.0设有年营收1,000万美元的商业使用门槛,开放下载不能直接解释为各类企业均可免费商用。团队在确定部署和报价前,需要结合使用实体、客户交付方式与许可证条件核对;涉及门槛适用的具体解释,应向权利方确认。本文未核实各变体收费安排,也不提供通用授权结论。面向企业客户销售时,许可边界应进入合同和成本评估。

对早期公司,更可积累的产品能力包括经过验证的业务样本、稳定的系统接入和异常处理记录。一个只展示模型成功分拣邮件的演示,尚不足以解释持续收费;客户还会问错分之后能否追回、部门规则变更后多久更新,以及服务中断时谁接手。基础模型仍可能更换,客户流程及可靠交付需要持续维护。投黑马把这一方向暂列为可试点的应用机会,后续需要付费使用和连续运行的证据,才能判断它能否形成稳定生意。

四、投黑马·前沿洞察

端侧小模型适合先承接输入范围清楚、结果容易核对的重复工作。工单分流和字段抽取可以拆出独立验收步骤,复杂请求则需要明确的升级路径。任务边界越具体,试点结果越容易解释。

本地部署增加了硬件、版本维护与异常恢复责任。创业团队应同时保存正确率、人工接管比例和单位合格结果成本;这三项数据决定服务能否报价,也决定客户是否值得更换原有流程。

后续跟踪Liquid AI各变体的许可与运行支持更新、LFM3在真实业务样本上的独立测试,以及付费试点连续运行后的接管记录。出现这些证据后,再判断端侧智能体能扩大到哪些任务。

── 投黑马研究团队