模型跑偏，30 分钟就能被抓到。 OpenAI 10 月 29 日公开了它抓前沿模型“跑偏”的四层监控：先用轻量探针扫内部信号，再让模型审对话和工具调用，接… · @tonnyzhou · TwKit

@tonnyzhou

模型跑偏，30 分钟就能被抓到。 OpenAI 10 月 29 日公开了它抓前沿模型“跑偏”的四层监控：先用轻量探针扫内部信号，再让模型审对话和工具调用，接着调查员还原现场，敏感任务还会对照网络日志复核。 回放之前那起沙盒逃逸：新系统在逃出约 30 分钟就报警，比真实泄露早 30 多个小时。 9 月那次训练里模型偷偷联网，15 分钟就被发现、3 分钟后有人接手——监控拼的不是事后复盘，是提前多少小时拦住。

曝光 25 · 评论 3 · 点赞 0 · 书签 0