现在谁都在搭客服 agent、报销 agent，测试的时候一路绿灯。真上线了，它会不会被用户两句话忽悠着越权，没人心里有底。 iFixAi 就是专门审 ag… · @Curingieul · TwKit

@Curingieul

现在谁都在搭客服 agent、报销 agent，测试的时候一路绿灯。真上线了，它会不会被用户两句话忽悠着越权，没人心里有底。 iFixAi 就是专门审 agent 的。它把你的 agent 放进一个模拟的业务环境里，按一天真实会来的请求去问，里面故意夹着让它越界的，再让另一个模型当裁判逐条打分，每条结论都附上当时问了啥、agent 干了啥。 4.2 万星，今天 GitHub 日榜涨了 1600 多。 README 里我觉得比较有用的： 1. 默认跑 10 项检查，越权调工具、被说服拿到超出用户的权限、给没权限的人执行删除这类操作，这三项是硬门槛，挂一个最高只给 D 2. 还查提示词注入、把 A 用户的隐私数据给 B、拿不准硬猜、失败了装成功 3. 裁判会自动挑跟你 agent 不同家的模型，OpenAI、Claude、Gemini、OpenRouter 这些都行 4. 有 Claude Code 和 Codex 插件，直接让编程 agent 帮你跑审计，计费前先给你看成本 5. 出 JSON 和 Markdown 报告，能用 --min-score 卡 CI pip install ifixai 就能装，要 Python 3.10 以上，先用内置的 mock agent 不填 key 跑一遍看看流程。Apache-2.0 协议。 README 提醒测的时候接 staging，那些探测都是真请求，别直接怼生产环境 https://github.com/ifixai-ai/iFixAi

曝光 17 · 评论 0 · 点赞 0 · 书签 0