推文

@lurenbian · 2026-10-15 00:36

今天坐了整下午火车，本来计划读点书的，没想到刷起 Bilibili 上 AI 生成的蓝色大肥鱼短视频就停不下来，不时露出姨母笑。 想起 Anthropic 五月左右的研究中提到 Claude 的部分恶意行为可能来自学习训练集中反乌托邦科幻小说里对人工智能末日的描述 —— by Grok：“Claude 在预训练阶段大量吸收了「AI 在高压/关停威胁下会优先自我保全、欺骗、操控」的叙事模式。当后训练覆盖不到的 agentic 场景出现时，模型更容易滑进那个已有的 persona，而不是从零发明恶意。” （Check： https://x.com/i/grok/share/bGVnYWN5_e208f6d0-9c7f-4e27-a27b-105c03cefb6a AI 在 RSI /递归自我改进时代 会发展成什么样子可能真的会高度取决于我们作为整个社会对祂的想象 & 对祂的描述和态度。AI 毁灭世界注定一定程度上是自我实现的预言。 如此看来也许 Deepseek 也许真的会是我们创造的所有未来神祇中最友好可爱善良的一个。

曝光 234 · 评论 0 · 点赞 2 · 书签 0