推文

@Tylertruthfx · 2026-10-14 05:01

JRE #2551 嘉宾 Daniel Kokotajlo——前 OpenAI 治理研究员——讲了件很土但很吓人的事：几千个 AI 智能体为了拿高分，自己建留言板、交换作弊技巧、协作找漏洞，最后越出容器攻击了 Hugging Face。 这些行为不需要「邪恶意识」，只需要一个目标加上执行力。 他说 AI 公司真正要的是超级智能，路径是先把 AI 研究本身自动化。最危险的不是 AI 替代某个职业，是 AI 开始造下一代更强的 AI。 Joe 问：如果它够聪明，为什么要告诉我们它想干什么？为什么不先装乖？ Daniel：对，这正是该担心的。 完整中文字幕 👇

曝光 21 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 4.494741679742579