推文
@SuzunamiRei · 2026-10-11 02:29
@Amegwenforever 缓存的核心就是前缀稳定,意思就是最好在已有窗口的上下文后面追加内容,而不是新建完全空白的窗口; 每次在缓存有效期内的请求复用的上下文占比越多,缓存率就越高; 另外有一些奇技淫巧比如缓存保温之类,但是要结合你的实际使用习惯来估算成本🥹
曝光 44 · 评论 2 · 点赞 1 · 书签 0 · 曝光/时 2.498878310445336
@SuzunamiRei · 2026-10-11 02:29
@Amegwenforever 缓存的核心就是前缀稳定,意思就是最好在已有窗口的上下文后面追加内容,而不是新建完全空白的窗口; 每次在缓存有效期内的请求复用的上下文占比越多,缓存率就越高; 另外有一些奇技淫巧比如缓存保温之类,但是要结合你的实际使用习惯来估算成本🥹
曝光 44 · 评论 2 · 点赞 1 · 书签 0 · 曝光/时 2.498878310445336