推文

@Jerry_Galaxy · 2026-10-14 18:53

字节跳动 Seed 刚刚单拆了国内首个独立的 大模型安全与对齐部门，原 Responsible AI 和部分 Chat 团队直接并入。核心死磕： Agent 智能体安全：现在的 Agent 有工具调用、有执行权限，万一产生幻觉或权限逃逸，就不是胡说八道那么简单了，而是直接帮你删库跑路或发起网络攻击。 CBRN 前沿风险：防范化学、生物、放射与核领域的危险知识被模型不当释放（有点对标 OpenAI Preparedness 团队的架势）。 以前国内大厂把安全当内容合规，现在终于进化到行为控制了。 说白了，这部门的 KPI 很纯粹：既要防止大模型在家偷偷教你手搓核反应堆，又要防止 Agent 在帮老板订机票时顺手把公司服务器给 format 了。 #AI安全 #Agent

曝光 5 · 评论 0 · 点赞 0 · 书签 0