ARTICLE SIGNAL
树莓派也能跑!Liquid AI 推出端侧模型 LFM2.5-2.6B,主打无网无 GPU 运行 Agent
Liquid AI 发布了专为 Agent 任务设计的开源权重模型 LFM2.5-2.6B。该模型无需依赖云端或 GPU,可在树莓派、智能手机等边缘设备上本地运行,为隐私敏感和离线场景提供强大的端侧 AI 支持。
type
status
date
slug
summary
tags
category
icon
password
网址
随着生成式人工智能的爆发,大模型对云端算力和 GPU 的依赖成了一道难以逾越的门槛。然而,边缘计算和端侧 AI 的崛起正在打破这一现状。近日,由麻省理工学院(MIT)前计算机科学家于2023年创立的 AI 初创公司 Liquid,正式推出了专为智能体(Agent)工作负载设计的新型开源权重语言模型——LFM2.5-2.6B。这款模型的最大亮点在于,它能够完全在本地硬件上运行,甚至可以在树莓派(Raspberry Pi)这样微型的设备上流畅部署,彻底摆脱了对云端推理和昂贵 GPU 的依赖。
Liquid AI 的端侧新突破:LFM2.5-2.6B 亮相
Liquid 团队在发布说明中指出,LFM2.5-2.6B 是一款参数量为26亿的轻量化模型。它针对端侧和边缘设备进行了极致的优化,支持在从智能手机、个人电脑到树莓派等各类硬件上运行。该模型的推出,标志着 Liquid AI 在端侧高效率模型研发上的又一重要进展。通过优化架构,它让开发者能够在极低算力消耗下,在本地设备部署具备工具调用和多步骤推理能力的 AI Agent。
无网无 GPU 的端侧智能:应用场景广泛
对于企业和开发者而言,LFM2.5-2.6B 的出现释放了端侧智能的巨大潜力:
- 隐私安全与合规性:在医疗、金融等强监管行业,数据隐私至关重要。该模型允许数据完全保留在本地进行处理,无需上传至云端,从而规避了敏感信息泄露的风险。
- 离线与弱网环境:在智能汽车、无人机、工业机器人等网络连接受限或不稳定的场景中,本地运行的 Agent 可以保证服务的连续性与实时响应。
- 低成本高效率:企业无需支付高昂的云端 API 订阅费,仅需消耗设备运行所需的电力,即可执行高频次、定义明确的日常任务,如文档管理、日程安排和自动工作流。
局限性与潜在风险
尽管 LFM2.5-2.6B 在端侧表现亮眼,但它并非全能。Liquid 团队坦言,受限于模型体量,该模型在面对高度复杂的代码编写等重度逻辑任务时,表现依然无法与云端超大模型相比。此外,该模型采用了自定义的“开源权重”许可协议(类似于近期部分大模型厂商的授权方式),在商业化落地和大规模分发时,开发者需要仔细研读其授权条款,以防合规风险。
结语
总体而言,LFM2.5-2.6B 的推出为端侧 AI 和 Agent 的平民化普及打下了一剂强心针。它向市场证明,强大的 AI 不一定需要庞大的数据中心支持。对于追求隐私、低延迟和低成本的边缘应用开发者来说,Liquid AI 的这一新尝试无疑提供了一个极具吸引力的全新选择。
Loading...