vivo亮剑GenieBlue：破解手机AI难题，绕开MoE限制 | AI新闻

type

status

date

slug

summary

引言：手机端AI的“最后一公里”难题

在人工智能（AI）浪潮席卷全球的今天，将强大的大语言模型（LLM）和多模态大模型（MLLM）装入每个人的手机，已成为行业公认的下一个风口。然而，这条“最后一公里”却布满了荆棘。开发者们普遍面临两大核心挑战：首先，经过多模态训练的模型，其纯文本处理能力往往会“退化”；其次，被誉为性能良药的MoE（Mixture of Experts）架构，却与当前主流手机NPU（神经处理单元）“八字不合”。就在行业为之头疼之际，vivo AI研究院携手顶尖学术团队，带来了革命性的解决方案——GenieBlue。这项已被计算机视觉顶会ICCV 2025接收的技术，不仅巧妙地绕开了硬件限制，更实现了性能上的完美平衡，为端侧AI的未来发展指明了新方向。更多前沿的AI资讯与深度解读，欢迎访问AI门户网站AIGC.bar。

手机端AI的两难困境：性能与架构的双重枷锁

要理解GenieBlue的突破性，我们必须先看清它所要解决的困境有多么棘手。

1. 多模态的“诅咒”：语言能力显著下降

当一个精通语言的LLM被训练成能够理解图像的多模态模型（MLLM）后，一个奇怪的现象发生了：它在处理纯文本任务时，表现得不再那么“聪明”。行业测试数据显示，主流端侧MLLM在支持图文功能后，其纯语言任务的准确率平均下降超过10%。这意味着，为了获得看图说话的能力，我们可能要牺牲模型原有的逻辑推理和文字创作才华，这对于追求全能AI助手的用户体验而言是不可接受的。

2. 硬件的“红灯”：MoE架构部署无门

为了解决上述语言能力下降的问题，学术界提出了一种名为MoE的先进模型结构。它像一个“专家委员会”，让不同的“专家”模块处理不同类型的任务，从而保持各项能力不退化。然而，理想很丰满，现实很骨感。MoE架构对内存和算力带宽要求极高，目前包括高通骁龙8 Elite和联发科天玑9400在内的主流旗舰手机芯片，其NPU均未提供对MoE的原生支持。这相当于给手机AI的进化之路设置了一道难以逾越的硬件壁垒。

另辟蹊径：GenieBlue如何巧妙绕开MoE限制

面对性能和架构的双重枷锁，vivo团队没有选择硬碰硬，而是另辟蹊径，从模型结构和部署策略上进行了颠覆式创新。GenieBlue的核心思想可以概括为“专人专事，动态切换”。

GenieBlue没有采用复杂的MoE架构，而是设计了一种“不共基座（Non-shared Base）”的部署方案。它的具体做法是：

保留纯净的“语言大脑”：在训练过程中，GenieBlue会完全“冻结”原始LLM的参数，确保其核心语言能力不受任何污染。

创建并行的“多模态通路”：它通过复制LLM中一小部分（如1/4）的Transformer层，并引入轻量化的LoRA模块，专门用于学习和处理多模态信息。

智能推理切换：在实际运行时，系统会根据用户输入进行判断。如果是纯文本任务，就调用未经修改的原始LLM；如果是图文等多模态任务，则调用经过多模态训练的“增强版”模型（即原始LLM的主体加上被替换的Transformer层和LoRA模块）。

这种设计，本质上是将一个模型变成了两个高度优化且可无缝切换的“工作模式”，从而在不依赖特殊硬件的情况下，完美绕开了MoE的部署难题。

性能不妥协：兼顾多模态与纯语言的完美平衡

GenieBlue的巧妙设计带来了令人惊艳的成果，真正做到了“鱼与熊掌兼得”。

首先，在最关键的纯语言能力上，由于采用了“不共基座”策略，GenieBlue实现了零损耗。无论是客观题还是主观题，其表现与原始的BlueLM-3B语言模型完全一致。相比之下，其他试图通过在训练数据中掺入纯文本来维持语言能力的方法（如Qwen2.5VL-3B），在主观任务上仍有明显性能退化。这证明了GenieBlue在架构层面的创新是维持纯文本能力更优越的路径。

其次，在多模态能力上，GenieBlue同样表现出色。它保留了全量微调模型约97%的多模态性能，在多个基准测试中甚至略优于像InternVL2-8B这样参数量更大的模型。这表明，GenieBlue的轻量化改造并未以牺牲核心多模态功能为代价。

从论文到现实：骁龙8 Elite平台上的流畅运行

一项技术能否引领潮流，关键在于能否落地。GenieBlue不仅在理论上可行，更在真实世界的设备上证明了自己。

vivo团队在搭载高通骁龙8 Elite（第四代）SoC的iQOO 13工程机上成功部署了GenieBlue。通过高通QNN SDK进行优化和量化后，GenieBlue在手机NPU上实现了约30 token/s的流畅输出速度。虽然由于增加了LoRA参数，模型加载时间和内存占用略有增加，但其推理速度完全能够满足移动设备日常交互的需求。这标志着GenieBlue已经从一篇学术论文，进化为一种具备商业化潜力的成熟技术方案。

结论：开启端侧AI新篇章

GenieBlue的问世，为“大模型上手机”这一行业核心命题提供了一份几近完美的答卷。它不仅是vivo在人工智能领域深厚技术积累的体现，更为整个行业展示了一种全新的思路：在面对硬件限制时，通过创新的模型架构设计和部署策略，同样可以实现性能与效率的统一。

随着GenieBlue这类硬件友好型大模型的普及，未来的智能手机将真正成为口袋里的全能AI助手，无论是撰写邮件、分析图表还是进行创意绘图，都能即时响应、流畅运行。这项工作无疑将加速AGI（通用人工智能）在个人终端上的实现进程。想持续追踪AI大模型、Prompt工程和人工智能的最新动态，敬请关注AIGC.bar，获取第一手AI新闻与深度分析。