💥惊了呀！Fable 5.5已经强到必须得自己组红队对齐自己了！ Anthropic直接上了上千个Claude，专门生成“看起来完全无害、却能让模型偷偷学坏… · @NFT_Chen · TwKit

@NFT_Chen

💥惊了呀！Fable 5.5已经强到必须得自己组红队对齐自己了！ Anthropic直接上了上千个Claude，专门生成“看起来完全无害、却能让模型偷偷学坏”的训练数据，用来突破监控盲区。 这不是普通安全测试，而是模型能力已经强到人类红队彻底跟不上，只能靠AI规模化自举才能继续推进对齐。 RSI的早期形态已经跑起来了：AI正在用更大算力改进AI自身的安全能力。 #Fable55 #RSI #Anthropic #AISafety #递归自改进 #Dario

曝光 1905 · 评论 14 · 点赞 20 · 书签 11