陶哲轩拷问AI：大力出奇迹的“炼金术”能走多远？最新AI资讯门户解读

type

status

date

slug

summary

引言：来自数学顶峰的“灵魂拷问”

当菲尔兹奖得主、数学家陶哲轩将目光投向当前炙手可热的人工智能（AI）领域时，他带来的不是赞歌，而是一记发人深省的“灵魂拷问”。他敏锐地指出，当今的AI，尤其是大语言模型（LLM）的飞速发展，几乎完全由经验主义和庞大的算力驱动，而坚实的理论基础却严重缺位。

“黑箱”、“炼金术”、“大力出奇迹”——这些看似与严谨科学背道而驰的词汇，正成为描述LLM现状最贴切的标签。这引发了一个核心问题：一个缺乏理论根基、连创造者都无法完全解释其工作原理的技术，其未来的发展道路究竟能走多远？这不仅是学术界的忧思，更是关乎整个AI生态能否健康、可持续发展的关键。

一、AI的“炼金术”困境：成功无法复制，失败无法解释

陶哲轩认为，目前AI领域的许多重大突破，更像是工业界凭借海量数据和超强算力“炼”出来的丹药，而非理论指导下的必然产物。除了在数值优化和线性代数等相对成熟的数学领域有所应用外，我们几乎没有一个成体系的数学框架来解释AI为何强大，又为何会犯下低级错误。

这种“炼金术”式的研究范式直接导致了两个突出问题：

成功的偶然性：一个模型（如GPT-4）的惊艳表现，往往难以在另一个模型上完美复现。某个特定的训练技巧在一个场景下效果显著，换个场景可能就完全失效。成功变成了一种难以捉摸的艺术，而非可以稳定输出的工程科学。

失败的神秘性：当AI模型在某个看似简单的任务上意外“翻车”时，研究人员往往难以定位根本原因。我们知其然，却不知其所以然。这使得修复和改进模型的过程充满了大量的试错，成本高昂且效率低下。

即便是被誉为“AI教父”的Geoffrey Hinton也对此深感忧虑，他直言深度学习系统“没有任何解释能力”，并警告系统越强大，其内部运作就越不透明，这为AI的未来安全埋下了巨大隐患。

二、理论的缺位：我们为何不懂大模型为何有效？

陶哲轩以“压缩感知”领域的发展历史作为类比，为我们提供了深刻的启示。在压缩感知早期，工程师们早已凭经验摸索出有效的方法并应用于MRI、地震学等领域。随后，数学家们介入，建立了一套严谨的理论框架，不仅解释了这些方法为何有效，还明确了其适用边界，为技术的普及和应用提供了强大的信心背书。

然而，LLM的情况则更为极端。它是在理论几乎完全真空的状态下，由工业界巨头通过“暴力美学”般的资源投入催生出的产物。我们目前拥有的，仅仅是描述其表面现象和经验规律的论文，距离真正洞悉其内在机理的“第一性原理”还非常遥远。

机器学习领域的先驱们早已敲响警钟：

早在2017年，著名研究员Ali Rahimi就曾尖锐地批评当时的机器学习研究如同“炼金术”，缺乏科学理论的系统性指导。

计算机科学家Michael Jordan则用一个生动的比喻形容道：当前的AI发展就像在没有桥梁工程理论的情况下盲目建桥，有些桥或许侥幸成功，但必然有一些会意外垮塌。

缺乏理论支撑，意味着我们对AI的认知建立在流沙之上，每一次进步都可能伴随着未知的风险。

三、“黑箱”的代价：从投资狂热到信任危机

理论的缺失，最直接的后果就是AI的“黑箱”问题。我们无法完全理解模型做出特定决策的原因，这在自动驾驶、医疗诊断、金融风控等高风险领域是致命的。

陶哲轩举了MRI（核磁共振）制造商的例子。像西门子、通用电气这样的公司，在决定将压缩感知技术投入巨资整合到其昂贵的设备中时，他们需要的不仅仅是几个成功的实验案例，而是需要来自数学和信号处理领域广泛而坚实的理论共识。这种理论共识为他们提供了“投资自信”，确保他们的研发投入不会因为某个未知的理论障碍而付诸东流。

反观AI领域，当前的投资热潮似乎更多地流向了那些擅长构建更大、更强“黑箱”的公司，而非致力于破解“黑箱”的基础理论研究。这形成了一种短期看似繁荣，长远却可能导致整个行业陷入信任危机的局面。如果AI的决策过程永远是一个谜，我们又如何能安心地将社会的未来托付给它？

四、走出迷雾：理论是AI可持续发展的唯一灯塔

面对AI领域的“炼金术”现状，出路何在？答案并非单纯增加数据、堆砌算力，而是回归科学的本源——建立坚实的理论根基。

一个良好的理论框架，能为我们带来：

清晰性与洞察力：将零散的经验和成功的“魔法”转化为可理解、可预测的科学规律。

普遍性与可复制性：提供跨领域的通用标准，让成功的方法可以被广泛、稳定地复制和应用。

信任度与安全性：让我们能够提前预知AI的行为边界和潜在风险，从而构建真正安全、可靠的AI系统。

幸运的是，整个AI社区已经开始正视这个问题。从OpenAI到Anthropic，再到学术界的众多实验室，破解AI“黑箱”、探寻大模型能力涌现机制的研究正在如火如荼地进行。这无疑是一条艰难但正确的道路。

结论：告别“炼金术”，拥抱真科学

陶哲轩的“灵魂拷问”，为狂飙突进的AI行业踩下了一脚理性的“刹车”。它提醒我们，任何脱离了坚实理论基础的技术繁荣，都可能是昙花一现的泡沫。“大力出奇迹”的时代终将过去，盲目的试错和幸运的赌博无法支撑起AGI的宏伟蓝图。

唯有推动理论研究与工程实践的深度融合，用严谨的科学精神取代神秘的“炼金术”，人工智能才能真正从一个强大的工具，进化为值得我们信赖的伙伴。

想要持续追踪关于AI理论突破、LLM黑箱破解等前沿话题的最新AI新闻和深度AI资讯吗？像 aigc.bar 这样的AI门户网站，正致力于汇集全球最重要的AI日报和行业洞察，为您提供理解和驾驭这场技术变革所需要的一切信息和Prompt技巧。未来已来，让我们共同见证AI从“炼金术”走向真正的科学时代。