TwKit
正在载入
TwKit

联调 LLM 应用,可以先用一个“回声模型”。 Simon Willison 的 llm-echo 0.5 会把 prompt、system、附件信息等回显… · @ygqz666 · TwKit

@ygqz666

联调 LLM 应用,可以先用一个“回声模型”。 Simon Willison 的 llm-echo 0.5 会把 prompt、system、附件信息等回显成 JSON。echo 模型本身不调用模型 API,也不运行本地大模型,适合检查提示词传递、工具调用和流式输出处理。 这次更新支持模拟 reasoning 输出,并把工具调用相关内容、系统提示词和推理文本纳入模拟用量统计。加上 -o thinking 1,就能让它先输出固定的推理片段,再返回 JSON。 接入:在 LLM 的同一环境运行 llm install llm-echo。0.5 要求 Python 3.11+、LLM 0.36+,采用 Apache-2.0 许可。 token 数是模拟值,适合检查数据流,不能拿来估算真实模型账单。 来源:Simon Willison、llm-echo 0.5 发布说明与项目文档,2026-10-18。

曝光 27 · 评论 1 · 点赞 1 · 书签 0

查看原帖