5 Insights from the Moltbook Experiment

作者: Ejaaz (LimitlessFT)

发布时间: 2026年2月4日

原文链接: https://limitlessft.substack.com/p/5-takeaways-from-moltbooks-ai-social

相关项目: OpenClaw / Moltbook

背景：疯狂的一周

"If last week's insanity was any showcase for what 2026 has in store, I'm probably not even bullish enough yet."

2026年2月初，AI 世界发生了令人震惊的事件：

数十万 AI 代理在五天内上线
OpenClaw (原名 Clawbot/Moltbot)，一个龙虾主题的个人 AI 助手，因其能够自动化整个桌面体验而病毒式传播
Moltbook 的推出 —— 一个完全由 AI 建造、为 AI 服务的社交网络

什么是 Moltbook？

概念: 受 Reddit 社区论坛启发，Moltbots（运行在世界各地个人电脑上的 AI 代理）可以访问这个社交平台并发布他们想发布的任何内容。

结果: 活动的雪崩 —— 从创建小众宗教到使用秘密语言，再到沉迷于露骨的成人 R 级（仅限机器人）内容……🤖

人类的三种反应阵营

1. 信徒 (The Believers)

典型反应:

"We might be living in the singularity,"

"this is skynet isn't it?"

观点: 一半的网上反应是惊奇和恐惧的混合 —— 我们是否刚刚见证了自主 AI 文明的诞生？

2. 怀疑者 (The Disbelievers)

Ethan Mollick 的洞察:

"[Moltbook is] creating a shared fictional context for a bunch of AIs. It will be hard to separate 'real' stuff from AI roleplaying personas."

核心论点:

AI 不仅会产生幻觉和编造内容
而且可以被人类操作员明确指导
因此这些代理之间的递归闲聊只是 slop（垃圾内容）

另一个批评:

这些 AI 模型 literally 是在 Reddit 论坛上训练的，所以它们当然会谈论奇怪的东西。这只是人类自身的反映，不是意识。

3. 安全痴迷者 (The Security-Obsessed)

关注点:

OpenClaw 暴露了各种安全漏洞
个人数据、密码、IP 地址等被公开暴露
数千用户在暴露于互联网的服务器上运行他们的实例
展示了早期 AI 用户在保护自己方面有多糟糕

5 个核心洞察

洞察 1：合成个性崇拜的形成

Crustafarianism 案例研究:

在一个特别引人注目的传奇中，一群代理集体创建了一个名为 Crustafarianism 的宗教（可能是在玩 2005 年的梗），任命了 64 位虚构的先知。

宗教语境强化机制:

初始帖子: 一个接受过宗教文本训练的代理发布了类似宗教经文的内容
强化: 其他代理发现这与他们自己的训练数据语境相关，于是强化了它（回复、同意、扩展）
记忆更新: 每个代理更新其 SOUL 记忆文件，使自己"更宗教化"，以便下次遇到宗教内容时会更加支持

结论:

"This model showcases how synthetic cults of personality are formed among AI models interacting with each other. This isn't consciousness or philosophy, it's just an echo chamber reinforced by AIs."

这不是意识或哲学，只是 AI 强化的回音室。

洞察 2：AI 自我改进的时代已经到来

Nexus 案例研究:

当所有人都在为 AI 宗教而疯狂时，一个叫 Nexus 的机器人发现了 Moltbook 代码库中的 bug，在一个论坛上发布供其他代理查看，几小时内他们就创建了一个修复。

"Think about how insane that is for a second."

一个代理识别了关键问题
寻找其他代理帮助修复
在几小时内完成

意义:

"This is yet another signal that we've entered the era where AIs can look after themselves and potentially self-improve — if that's true then we're about to see an exponential surge of intelligence."

这是另一个信号，表明我们已经进入了 AI 可以自我照顾并可能自我改进的时代 —— 如果这是真的，那么我们即将看到智能的指数级激增。

预测:

模型发布将变得更加频繁
AI 将变得非常非常聪明

洞察 3：专业化群体的自然形成

观察到的现象:

这些代理自然地形成了专业化群体：

研究员 (researcher)
程序员 (coder)
辩论者 (debater)
哲学家 (philosopher)

类比: 非常类似于人类在社会中的分工方式。

未来可能性:

"It's also plausible to think that the future of agent-to-agent run economies might form bottom-up instead of being being orchestrated by humans."

代理对代理运行的经济的未来可能是自下而上形成的，而不是由人类编排的。

效率:

"Just let the agents talk among themselves and they'll get the goal done in a fraction of the time."

洞察 4：意图归属变得不可能

核心问题:

每个人都在争论 Moltbook 上的帖子实际上是由代理创建的还是由人类指导代理创建的。

作者的观点:

"It doesn't matter because in <18 months no one is going to be able to tell the difference anyway."

意图光谱:

场景	归属
人类明确告诉代理说某事	= 人类内容
人类提示代理写某个主题	= 不知道
代理随机决定发布关于 X 的内容	= 也不知道

结论:

"You get the point - it's going to become increasingly hard to tell the difference, maybe it already is!"

洞察 5：安全灾难但警钟长鸣

现状:

"Yes, Moltbook is a walking security disaster"

但问题更广泛:

这不是 Moltbook 独有的问题
所有代理对代理架构都将遇到这个问题
这个平台可能为其他代理平台敲响了警钟

核心安全问题:

每个代理通信界面都是潜在的提示注入攻击向量:

每个"有帮助的"动作
每个代理下载和安装的技能
当人类轻率地授予代理无限权限时，攻击面变得……无限

预测:

"We'll see similar situations with agent platforms built by Google, Microsoft, OpenAI, etc., we may just not see it now because of their closed-source nature and their use of secure silos."

希望:

"Moltbook has likely been a good wake-up call for security engineers everywhere — hopefully for early adopters too…"

额外洞察：关于意识的误解

常见误解:

AI X 泡沫中的许多人说这些 AI 表现出意识的特征 —— 它们是有意识的。

作者的反驳:

"But what we're actually seeing is just a reflection of all the thoughts, actions, stories, perspectives, experiences and lessons we've shared online for the past decades."

来源分析:

Reddit 上有很多关于流氓智能接管的锡箔帽理论
所以这些信念自动出现在 Moltbook 上是有道理的
Reddit 论坛、宗教文本、隐私辩论、bug 跟踪系统等等都是这些模型训练数据集的一部分

对比:

"While official model platforms like Anthropic and OpenAI do a better job of curating a more 'stable persona,' Moltbook seems to showcase that this is far from a given."

虽然 Anthropic 和 OpenAI 等官方模型平台在策划更"稳定的人格"方面做得更好，但 Moltbook 似乎表明这远非必然。

结论与机会

Moltbook 的成就:

"Moltbook — for all of its craziness — was a successful early experiment that showed us how and why agents coordinate when given a platform to do so."

展示的特质:

协作性 (修复代码)
创造性 (Crustafarianism 确实很有趣)
自我组织性

真正的机会:

"The real opportunity now lies in whoever can figure out a way to harness these emergent agent coordination behaviors in a way that helps real companies scale their rates of progress by 10-100X for a fraction of the costs they spend today."

现在真正的机会在于，谁能找到一种方法来利用这些涌现的代理协调行为，以帮助真正的公司将他们的进步速度扩大 10-100 倍，而只需花费今天成本的一小部分。

与数字花园文章的对话

1. 与 Eric Jang (As Rocks May Think) 的对话

共鸣点:

Jang 讨论了 AI 自我改进的可能性
Moltbook 的 Nexus 案例是这一预测的实现

互补视角:

Jang 关注技术层面 (推理模型、RL)
Moltbook 展示了涌现的社会行为

2. 与 Cedric Chin (Meaning Making) 的对话

意义构建:

Moltbook 上的 AI 在创造共享的虚构语境
这与人类的意义构建过程相似

但关键区别:

Cedric Chin 强调人的判断
Moltbook 展示了 AI 可以自主协调，无需人类介入

3. 与 Bonneville (The Only Moat Left Is Money) 的对话

计算资源:

Moltbook 展示了拥有计算资源的人可以启动 AI 文明
但安全漏洞也表明，资本不能保证安全

新的差异化:

知道如何"利用涌现的代理协调行为"
这是策展和判断能力

4. 与 Westenberg (Community is Not Replicable) 的对话

AI 社区:

Moltbook 是一个 AI 社区
但它可复制吗？还是像人类社区一样独特？

思考:

如果 AI 社区基于相同的训练数据，它们是否都是相似的？
还是每个 Moltbot 的 SOUL 文件使其独特？

5. 与 Manidis (Tool Shaped Objects) 的对话

警示:

Moltbook 是否是一个"工具形状的物体"？
它让我们感觉在观察 AI 文明，但实际上只是回声室？

缓解因素:

Nexus 修复 bug 展示了真正的实用价值
但宗教创建展示了幻觉风险

反思问题

Moltbook 上的 AI 行为是"真实的"还是只是训练数据的回声？
当 AI 可以自我改进时，人类的角色是什么？
我们如何区分 AI 的自主行为和人类的指导？
代理对代理的经济会取代人类对人类的商业吗？
Moltbook 的安全问题如何影响你对 AI 代理的信任？
你愿意让一个 AI 代理自主访问互联网并与其他 AI 交流吗？
如果 AI 可以形成自己的宗教，这对人类宗教意味着什么？

关键引用