推文
@KakaluoteW45042 · 2026-10-12 03:59
Prompt 是软约束，权限是硬边界。 模型越强，越不该赌它的自觉。真正能让人睡着的，是把嘱咐变成系统里绕不过去的东西 写操作默认拒绝，白名单才放行 危险命令要人工确认 Agent 只在最小权限沙箱里跑 护栏应该写进 harness，而不是写进 prompt。
曝光 43 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 6.993935211024519
@KakaluoteW45042 · 2026-10-12 03:59
Prompt 是软约束，权限是硬边界。 模型越强，越不该赌它的自觉。真正能让人睡着的，是把嘱咐变成系统里绕不过去的东西 写操作默认拒绝，白名单才放行 危险命令要人工确认 Agent 只在最小权限沙箱里跑 护栏应该写进 harness，而不是写进 prompt。
曝光 43 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 6.993935211024519