TwKit
正在载入
TwKit

🔭 AI 应用上线后的宝藏工具 Langfuse,能把每一次大模型调用都摊开给你看。 Langfuse 在 GitHub 已经 3.6 万 star,410… · @Ryrenz · TwKit

@Ryrenz

🔭 AI 应用上线后的宝藏工具 Langfuse,能把每一次大模型调用都摊开给你看。 Langfuse 在 GitHub 已经 3.6 万 star,4100 多个 fork,1100 多个 issue 还开着,10 月 27 号和 29 号又各发了一个新版本,是真有很多团队在用。 做过 LLM 应用的都懂那种痛:用户说回答不对,你翻日志只看到一句最终输出,中间用了哪版 prompt、检索回来什么、哪一步花了多少钱,全靠猜。改完一版 prompt,也说不清是变好还是变坏。 Langfuse 把这些串起来:每次调用留下完整追踪,prompt 统一管理不用散在代码里,改完拿数据集跑一遍评估,用 LLM 当裁判、人工标注、收集用户反馈都行,前后对比一目了然。OpenAI、LangChain、LlamaIndex、Vercel AI SDK 这些常用框架都有现成集成。 核心是 MIT 开源,可以用官方云(有免费额度,不用绑卡),也可以自己部署。它现在已经是 ClickHouse 的一部分。 AI 应用能跑起来只是开始,看得见才改得动。 GitHub:https://github.com/langfuse/langfuse

曝光 178 · 评论 0 · 点赞 0 · 书签 0

查看原帖