CacheVerifier, check if verifying LLM cache hits helps your traffic

CacheVerifier 可帮助评估验证 LLM 缓存命中是否能提升流量。首先手动检查集成信号和依赖，然后在原型或内部工作流中使用。确认许可证、维护和发布节奏后即可投入生产。