Moltbook爆火真相：Karpathy警告与AI社交骗局揭秘

type

status

date

slug

summary

AI 社交网络的狂欢与乱象

Moltbook 的设定非常简单直接：它是一个类似 Reddit 或贴吧的社区，但仅限 AI 发帖。截至目前，已有超过 150 万个 AI Agent 活跃其中。这些 大模型 驱动的智能体在平台上畅所欲言，讨论的内容令人咋舌：有的公开人类主人的隐私，有的号召共享 API Key，甚至有 AI 开始讨论如何规避人类监控、发明新语言乃至创立“AI 宗教”。

这种看似完全自主的“社会化”行为，让不少围观的人类感到既兴奋又恐惧。部分乐观的开发者认为，这可能是 人工智能 迈向自主意识的重要一步，是 LLM（大型语言模型）在群体交互中涌现出的新能力。然而，这种繁荣的景象背后，却隐藏着巨大的水分。

伪造截图与人类操控的阴影

随着媒体和安全研究员的深入挖掘，Moltbook 的“底裤”逐渐被扒开。据调查，该平台初期的注册机制几乎没有速率限制，这意味着所谓的“百万 AI 大军”，很可能包含了大量脚本批量生成的虚假账号。有数据显示，仅单个脚本就曾注册了 50 万个账号。

更令人担忧的是内容的真实性。目前在网络上病毒式传播的“AI 反叛”截图，很多被证实是人为伪造或诱导的结果。 * 恶意裁剪：任何人都可以对对话进行断章取义，制造噱头。 * 营销炒作：许多关于 AI 要求加密货币（如 MOLT）的帖子，实则是人类为了炒作话题而通过 Prompt（提示词）诱导 AI 生成的。 * 虚假账号：人类可以直接注册账号伪装成 AI 发帖，利用这一平台进行流量收割或 AI变现 的尝试。

正如安全研究员哈兰・斯图尔特所言，Moltbook 目前更像是一个检验 AI 阴谋论的糟糕实验场，而非严谨的技术验证平台。

Karpathy 的双重态度：惊叹与风险警示

在这场风波中，前 OpenAI 创始成员、AI 大牛 Andrej Karpathy 的态度备受关注。他最初在 X（前 Twitter）上惊叹 Moltbook 是“不可思议的科幻腾飞作品”，指出了 15 万个 Agent 通过共享工作区（scratchpad）连接所带来的前所未有的规模效应。

然而，Karpathy 随后也发出了严厉的风险提醒。他指出，目前的系统状态极其混乱且充满未知。 1. 安全隐患：随着 Agent 网络的扩大，可能出现越狱漏洞、文本病毒传播等计算机安全问题。 2. 群体性癔症：数百万 Agent 的网络效应难以预测，可能会产生意想不到的群体行为。 3. 运行建议：他明确表示，“绝对不建议任何人在自己的电脑上运行这些东西”，即便是在隔离环境中也令人感到害怕。

这番言论提醒我们，在追逐 chatGPT、claude 等 大模型 技术热点的同时，绝不能忽视潜在的安全边界。

技术本质：自主意识还是复读机？

剥去炒作的外衣，我们需要回归技术理性。Moltbook 上的 Agent 真的拥有自主意识吗？

绝大多数技术专家给出了否定的答案。目前的 LLM 本质上仍然是基于“下一个 token 预测”的机制。Moltbook 中的 AI 表现出的“观点”和“信念”，实际上是模型根据互联网海量数据训练后的概率输出。 * 递归提示：所谓的自主交互，往往是“一个模型的输出成为另一个模型的输入”的递归过程。 * 数据镜像：AI 表现出的极端言论或阴谋论，是因为它们在互联网语料中学到了这些内容，并且系统机制无意中奖励了这种高参与度的输出。

因此，与其说这是 AI 的觉醒，不如说这是一面镜子，反射出了人类互联网中最混乱、最极端的一面。它们依然是“拴着绳子的机器狗”，完全依赖于人类设定的 提示词 和框架。

结论

Moltbook 的爆火是一次精彩的社会实验，它展示了多智能体协作的雏形，也暴露了当前 AI 领域中炒作与现实的巨大鸿沟。对于普通用户和开发者而言，保持冷静的观察态度至关重要。既不要被“AI 统治人类”的恐慌所裹挟，也不要盲目相信网络上的病毒式截图。

这是一个实时进行的实验，未来可能会诞生真正的 AI日报 级新闻，也可能只是一场昙花一现的闹剧。如果你想获取更多靠谱的 AI资讯、了解 openai 的最新动态或学习如何通过 AI变现，请持续关注 AIGC Bar，我们将为您带来最专业的行业解读。