关注AI灭绝人类风险的菲尔兹奖得主Jacob Tsimerman正式加入OpenAI

type

status

date

slug

summary

顶尖数学家转身投入AI安全与事实梳理

雅各布·齐默尔曼作为多伦多大学的顶尖数论专家，其在数学领域的造诣已经通过菲尔兹奖得到了世界的公认。然而，他并没有止步于纯数学研究，而是敏锐地察觉到了人工智能这一“极具颠覆性技术”对整个人类社会的深远影响。

齐默尔曼指出，尽管目前的大语言模型和各类生成式AI系统在各项任务中表现出惊人的能力，但它们在很大程度上仍然是基于经验主义运行的“黑盒”系统。这意味着，科学界对于这些庞大的神经网络究竟是如何运作的，仍然缺乏坚实的理论保证和数学层面的可解释性。他认为，在这个关键节点上，数学家可以发挥不可替代的作用。通过将严谨的数学逻辑引入AI底层架构，社会可以为人工智能系统建立起更加稳固的安全护栏。这正是他决定离开纯学术环境，跨界加入OpenAI核心安全团队的核心动机。

从“全人类灭绝”假说到理性的风险限制

事实上，齐默尔曼对人工智能风险的关注由来已久，并且并非停留在泛泛而谈的层面。在去年，他曾发表过一篇极具前瞻性的学术论文，深入探讨了所谓的“全人类灭绝事件”（omnicide events）。在该论文中，他详细推演了在极端场景下，不受控的高级人工智能可能会如何成为导致人类文明走向终结的推手。

尽管论文探讨的主题听起来令人毛骨悚然，但齐默尔曼本人的态度却异常理性和克制。他明确表示，面对AI技术的狂飙突进，“恐慌”绝对不是正确的应对方式，但这绝不意味着我们可以对潜在的风险视而不见。相反，我们需要对AI的风险进行极其诚实和严密的评估。在加入OpenAI后，他将把这种严谨的风险限制思维带入实际的模型开发中，努力确保超级人工智能的演进始终在人类可控、可验证的安全轨道上运行。

冲击千禧年大奖难题：AI数学研究的影响与未来

在加入OpenAI的同时，齐默尔曼也对AI在自身专业领域——数学研究中的应用前景做出了大胆预测。他坚信，在不久的将来，人工智能在数学研究领域的表现将全面超越人类。这种跨越不仅是对现有计算能力的提升，更是对人类逻辑推理边界的极大扩展。

关于AI在数学领域的重大突破，前DeepMind首席执行官杰米斯·哈萨比斯（Demis Hassabis）也发表了相关看法。哈萨比斯认为，尽管AI最近在数学方面取得了显著进展，但这仍属于渐进式的进步，尚未达到当年AlphaGo下出传奇“第37手”那样震撼人心的基础性突破。哈萨比斯指出，要真正实现数学领域的“奇点”，AI需要具备破解如“千禧年大奖难题”（Millennium Prize Problems）这种世界级数学悬案的能力。

值得注意的是，尽管OpenAI近期推出的全新模型“Astra”在尝试解答这些世纪难题时暂时折戟，但包括哈萨比斯在内的顶尖专家对其未来充满信心。当被问及AI最终能否攻克这些难关时，哈萨比斯直言：“我看不出有任何理由做不到。”这也意味着，AI作为科研辅助甚至主导工具的影响力，正在以前所未有的速度扩张。

结论

雅各布·齐默尔曼这位新晋菲尔兹奖得主的加盟，标志着OpenAI在解决AI黑盒问题和保障模型安全性方面迈出了坚实的一步。从推演AI灭绝人类风险的理论学者，到深入AI企业一线构建安全护栏的实践者，齐默尔曼的转身凸显了当今科技界面临的迫切需求：我们需要更多具备顶层逻辑框架的科学家来驯服这股足以重塑社会的强大力量。

在未来，随着纯粹数学理论与机器学习底层架构的深度融合，我们有理由期待一个既具备超越人类数理推演能力，又具备绝对安全理论保证的新一代AI系统的诞生。我们将在 aigc.bar 持续为您关注AI底层逻辑与安全评估的最新进展。