半年融三轮爆单千万！万格智元如何用端侧打破大模型算力垄断？｜AI新闻

type

status

date

slug

summary

引言

在生成式AI狂飙突进的当下，算力与成本一直是悬在所有创业者和开发者头顶的达摩克利斯之剑。云端巨头动辄成千上万张高端算力卡集群，不断推高着推理成本，也让“按Token计费”成了限制大模型普及的隐形枷锁。想要实时跟进最新的行业动态和前沿突破，可以关注权威的 AI门户获取每日 AI资讯。

然而，当多数大厂还在云端陷入参数内卷与成本泥潭时，一支由清华、北大、中科院等00后硕博组成的青年团队——万格智元，正悄悄从另一条路径破局。半年内连续完成三轮近亿元融资、成立一年即实现盈利、一个月内拿下头部PC与NAS厂商千万级订单……这家年轻团队所打磨的核心武器，不是造芯片，也不是自研千亿大模型，而是深扎在模型与硬件底层的“端侧推理架构”。

他们提出要做“Token界的WiFi”，并推出将视频生成成本击穿至“地板价”的本地工作站 Vilot。这不仅是端侧算力架构的一次重大跃迁，更可能彻底颠覆大模型的生产与商业化变现逻辑。

撕掉GPU标签：端侧AI的技术破局点

在传统认知中，高效运行大语言模型（LLM）或视频多模态模型离不开昂贵的企业级GPU集群以及海量的DRAM显存。这种重依赖使得普通个人及中小团队在使用中面临极高门槛。万格智元的技术主张正是“去GPU化”与“去大内存化”，通过算法与系统底层的重构，释放低成本硬件的潜能。

其核心技术主要体现在两大维度：

去GPU化的端侧调度引擎：通过重构底层推理算子与硬件调度流水线，使普通的低成本边缘SoC芯片能够迸发出媲美高端显卡的算力吞吐。在实际测试中，他们使用一颗仅300多美元的终端芯片运行35B大模型，Prefill阶段达到约3,000 tokens/s，解码阶段达到50-70 tokens/s，几乎拉平了售价3,500美元的高端消费级显卡性能，将硬件成本直接压缩了近88%。

多级存储深度协同：大模型落地端侧最容易触碰的天花板不是算力，而是内存瓶颈。万格智元摆脱了对单一超大DRAM的强依赖，通过闪存与内存的多级协同流水线，成功在3-5GB左右的内存占用下稳定承载35B参数量级的模型，且不牺牲原始精度。这意味着，普通配置的终端设备在日常轻负载下即可跑满大模型的泛化能力。

这种突破让大家看到，AGI 的落地形态绝不仅限于庞大耗电的中心化数据中心，海量分布式的终端节点同样能够成为高质量智能计算的承载者。

从“按量买流量”到“无限连WiFi”：终结Token焦虑

回顾移动互联网的演进史，在2G、3G时代，由于流量昂贵，用户每次打开网页都要精打细算；唯有WiFi的全面普及和宽带提速降费，才催生了短视频、移动直播等数万亿规模的生态应用。

万格智元提出的“Token WiFi”概念，正在将这一历史逻辑复刻至AI领域：

重构生产关系：传统的云端API调用本质上是“租用智能”，不仅按次扣费，还会面临数据隐私泄露的顾虑。“Token WiFi”则倡导“拥有智能”，通过常驻本地的一体化设备，电脑、手机乃至各类本地应用均可直接调用，一次性买断设备，实现无限量且完全本地化的模型推理。

解锁“敢试”的应用创新：无论是复杂的自主智能体（Agent）工作流，还是多轮长文本 Prompt 反复试错，按量付费的计费机制极容易抑制用户的探索欲望。当Token供给变成像自来水和无线局域网一样低廉、无感时，全新的 AI变现模式和个人生产力工具才有可能真正被“试”出来。

正如移动互联网的大爆发始于宽带无感化一样，Token生产成本的骤降，是各类自主Agent走向常态化运行的绝对前提。

视频生成成本打到“两毛钱”：重构AI短剧与多模态创作生态

多模态视频生成是当下公认最具商业潜力的领域，但在实际生产链路中，创作者常饱受“抽卡成本高”与“模型部署重”的困扰。高昂的云端API调用费，往往让短剧工作室和个人创作者在项目尚未盈利前就背负沉重的算力账单。

万格智元推出的视频生成工作站 Vilot，直接针对痛点带来了生产范式的转移：

非缩水模型驱动：Vilot并非靠简单地剪枝或量化出画质劣化的“残血版”模型来降低门槛，而是在单张主流消费级显卡（如RTX 4090）上，通过算子和调度优化完整运行Minimax H3等多模态视频生成模型。

从十万元门槛降至千元级：过去跑同类完整视频模型往往需要配置多卡高规格服务器，或承受高额的云端API账单，单条10秒高质量视频的综合试错成本在数元以上；经优化后，本地单张消费级显卡即可胜任，10秒视频的生成折算边际成本可压至两毛钱以内。

“睡前排任务，醒来挑片子”：创作者白天打磨分镜与提示词，晚上将数十个机位与镜头批处理排队，由本地工作站离线执行。这种工作流程把创作者从战战兢兢的“单次抽卡”中解放出来，让同个镜头生成十版进行精选成为可能，真正让AI创作回归创意本身。

想要了解更多关于视频生成模型、多模态算法演进及大模型前沿动态的创作者，可以持续关注 AI日报的一手推送。

跨越实用性“斩杀线”：AI创业者的非共识红利

行业长期存在一种误区，认为模型参数越大、越逼近云端天花板才越有价值。然而商业世界遵循着另一套铁律：只要端侧模型的能力跨过了满足日常任务的“实用性斩杀线”，用户关注的焦点就会迅速从“参数有多宏大”切换为“成本是否足够便宜、响应是否稳定、数据是否绝对私有”。

万格智元作为一支年轻的00后极客团队，之所以能在巨头环伺的赛道中实现成立首年盈利并狂揽千万订单，根源在于他们提前押注了这一“非共识”：

避开巨头主战场：大厂资源天然倾斜于更大的模型和更重的GPU集群，致力于把“共识”做到极致；而在模型与芯片之间的底层推理系统，是一片依靠深度工程和跨栈协同构筑的技术洼地。

以B端筑基，向C端引爆：先通过与头部PC、NAS厂商合作，输出高性价比的算力适配能力，换取健康的现金流与成熟的供应链把控力；再进一步向个人创作者及C端用户推出一体化产品，把大模型红利下沉到千家万户。

无论是对于大模型行业从业者，还是正在探索 chatGPT 与 claude 等工具落地的开发者而言，这种系统级工程优化都带来了深刻启示：大模型的未来不止在云端争锋，更在终端的无声普及之中。

结论

算力成本的高墙终将被技术创新击碎。从大洋彼岸的 openai 到国内的开源模型生态，人工智能正在加速从“模型研究期”迈入“落地渗透期”。

当“Token WiFi”真正走进千家万户，当高质量多模态生成不再受制于昂贵的显存账单，算力将真正脱离少数巨头的云端垄断，转变为每个人手边即插即用的数字基础设施。唯有将成本打入“地板”，AI才有可能真正飞入云霄，引爆下一波全民级的生产力革命。更多前沿技术解读与应用趋势，欢迎随时访问 AI新闻获取全面资讯。