TwKit
正在载入
TwKit

团队里 agent 一多,MCP server 也跟着一个个接进来,谁的 agent 调了哪个工具、key 放在哪、调模型花了多少钱,基本没人能说清。 ag… · @Curingieul · TwKit

@Curingieul

团队里 agent 一多,MCP server 也跟着一个个接进来,谁的 agent 调了哪个工具、key 放在哪、调模型花了多少钱,基本没人能说清。 agentgateway 就是专门挡在这中间的一层代理,agent 去调模型、调工具、调别的 agent,都先经过它,鉴权、权限、日志统一在这一层做。 Linux 基金会下的项目,Rust 写的,去年 3 月就开源了,现在 5,903 星,这周又上了 GitHub Rust 周榜,今天还有提交。 README 里我觉得比较有用的: 1. 当 LLM 网关用,OpenAI、Anthropic、Gemini、Bedrock 这些统一成一个 OpenAI 兼容接口,带预算和花费控制,还能负载均衡、故障切换 2. 当 MCP 网关用,多个 MCP server 的工具可以合并成一个出口,stdio、HTTP、SSE、Streamable HTTP 都支持,OpenAPI 也能直接接 3. 鉴权支持 JWT、API key、OAuth,权限用 CEL 写规则,能细到具体哪个工具 4. 内容过滤可以挂正则、OpenAI moderation、Bedrock Guardrails,也能接自己的 webhook 5. 指标、日志、链路追踪走 OpenTelemetry,自带一个网页 UI 看配置和调试 部署两种,单独跑就靠一份 yaml 配置,要上 Kubernetes 有自带的 controller,走 Gateway API。Apache-2.0 协议。 个人一两个 MCP 用不上这么重的东西,团队里接得多了才值得上。 https://github.com/agentgateway/agentgateway

曝光 21 · 评论 0 · 点赞 0 · 书签 0

查看原帖