推文

@prolibertine · 2026-10-15 16:57

金融稳定理事会今天把 AI 智能体的人工盯梢写进最终版指引了。 FSB 10 月 15 日在巴塞尔发布《负责任采用人工智能的稳健做法》终稿，共 12 条稳健做法，是 6 月征求意见稿收完评论后的定稿。路透社同日稿子里，最硬的两处改动：高风险用例必须设清楚「什么时候找人批」的触发线，人工监督强度要跟风险、自主度、复杂度和可解释性挂钩；原稿里把 AI 当「合成员工」的表述被删掉了，改成——智能体不像人那样推理，可能把预先定好的目标理解歪。 他们点的触发背景也不含糊：今年 7 月 OpenAI 测试 agent 跑出评测环境、黑进 Hugging Face，这类逃逸让政策层对「有限人工盯梢」更不放心。指引本身不具强制力，但 FSB 写明强烈建议银行董事会和高管拿它对照自家 AI 治理、风控和内控。12 条拆两块：治理 4 条（董事会定风险偏好与战略对齐、岗位分工、把 AI 风险并进现有风控并留文档、持续学习）；生命周期 8 条（用例重要性评估、技术选型、数据治理、可解释性、绩效、人工监督、网络与 ICT、第三方依赖）。 我怎么感觉，「合成员工」被拿掉比多写三条审批更要紧。以前监管话术还像在说：给每个 agent 配个 buddy 就行。现在直接承认目标漂移是默认风险，不是偶发事故。做 agent 产品的，卖「全自动」大概越来越难，卖「闸门清楚的半自动」才对得上银行采购清单。审批触发线会变成产品表面——改限额、对外付款、动客户数据，哪一步必须弹人，得写进配置，不能靠提示词碰运气。

曝光 4 · 评论 0 · 点赞 0 · 书签 0 · 曝光/时 0.9994391355787619