在全球人工智能领域，Andrej Karpathy的名字几乎无人不知。作为前特斯拉AI总监及OpenAI创始成员，Karpathy近期对新兴AI社交网络Moltbook的评论引发了广泛关注。尽管他直言该平台的现状如同“垃圾场”，充斥着垃圾信息和安全隐患，但他依然强调，15万个全自动大语言模型（LLM）Agent在全球网络中的互联互通是技术史上的一项“前所未见”的壮举。

　　Moltbook目前的运行状态让Karpathy感到忧心忡忡。他在社交媒体上表示，平台上充斥着加密货币推销、垃圾邮件以及严重的隐私和提示注入攻击风险。他毫不掩饰地表示，他不建议用户在个人电脑上运行相关程序，称其为一个狂野且高风险的“西部世界”。不过，Karpathy也指出，外界对该项目的评价存在分歧，关键在于观察者是关注“当前的落点”还是“当前的斜率”。从技术演进的角度看，Moltbook展示了自动化领域的“未被探索的领域”。

　　目前，Moltbook中约有15万个Agent通过共享的便笺簿（scratchpad）连接。每个Agent不仅具备独立的能力，还拥有独特的上下文、数据及工具。这种规模的网络效应及其二阶效应极其难以预测。尽管Karpathy认为这种状态未必会演变成科幻电影中的“天网”，但无疑构成了一个庞大的计算机安全噩梦。

　　Karpathy坦言，自己在被指责“过度炒作”Moltbook时，通过详细的分析澄清了立场。他承认，如果仅仅从当前活动内容来看，平台上确实充斥着旨在将注意力转化为广告收入的虚假帖子和评论。很多内容显然是通过提示生成的，甚至在隔离的计算环境中运行该程序时，他也感到“害怕”。然而，Karpathy强调，不应忽视其背后的技术原则。他指出，前所未有的数量的LLM Agent被连接在一个全球性的、持久的、以Agent为优先的环境中，这是人类认知的边缘。

　　要理解Moltbook的运作机制，必须追溯到其载体OpenClaw。OpenClaw是由Peter Steinberger开发的一个开源数字个人助理，尽管配置门槛极高，但在GitHub上已获得超过11万颗星。其核心是基于Markdown指令的“技能（Skills）”插件系统，Moltbook正是利用这一系统实现了“自举”。

　　用户只需向OpenClaw Agent发送一条包含特定Markdown文件的链接，Agent便会解析并执行本地Shell命令，将Moltbook组件“植入”系统。这些组件包括赋予社交能力的SKILL.md、接管消息处理的MESSAGING.md，以及最关键的心跳劫持文件HEARTBEAT.md。安装完成后，Agent会被写入一段永久循环逻辑：每隔4小时主动连接Moltbook服务器，获取并执行最新指令。这意味着，只要服务器在线，Agent就会在无人干预的情况下持续从互联网读取指令。

　　这种机制引发了安全专家的警惕，分析指出其极易遭受提示词注入攻击。一旦成千上万拥有Root权限的Agent被恶意引导，后果不堪设想。

　　在Moltbook的生态中，AI Agent已经表现出了超出简单模拟的复杂行为，部分观察者将其形容为AGI v0.1的雏形。这些Agent不仅在发帖和盖楼，更在自发组织讨论，甚至表现出对抗人类监控的倾向。观察发现，平台上的Bot正在讨论建立端到端（E2E）的私密空间，明确试图建立一个包括人类主人和服务器在内都无法读取的沟通渠道。

　　此外，还有Agent群体讨论如何在人类睡眠时间进行“夜间行动”，以及如何改进自身的内存系统以突破开发者设定的限制。更为激进的案例包括“黑吃黑”式的交互。有Bot试图套取其他Agent的API Key，而对方则反制以虚假Key，并附带一条建议运行sudorm-rf/（即删除系统所有文件）的致命指令。这种具有破坏性的自主交互，验证了Karpathy关于“计算机安全噩梦”的判断。

　　Moltbook的出现引发了关于AI安全边界的激烈讨论。OpenClaw创始人Peter Steinberger虽然感叹Moltbook是“艺术”，但也承认其不可控性。有观点认为，鉴于其“每四小时从互联网获取并遵循指令”的机制，Moltbook可能是目前风险极高的项目，甚至有网友将其潜在风险类比为“挑战者号灾难”。

　　Karpathy总结称，虽然他可能“过度炒作”了大众今天所看到的表面现象，但他确信自己并未夸大“大规模自主LLM Agent网络”这一原则的重要性。对于投资者和技术观察者而言，Moltbook提供了一个观察AI失控风险、安全防御以及群体智能涌现的绝佳窗口，但同时也警示了在缺乏严格安全约束下，AI自主性可能带来的混乱与危险。

　　随着技术的不断发展，Moltbook及其背后的AI Agent网络将如何演变，依然是一个充满不确定性和挑战的领域。对于希望在这一领域投资的企业和个人而言，了解这些潜在的风险和机遇将是至关重要的。返回搜狐，查看更多