Show HN: Sturnus – OpenAI-compatible LLM proxy routing to the fastest provider

说明与用途

**项目简介（2‑3 句）**
Sturnus 是一个兼容 OpenAI 接口的 LLM 代理层，能够自动把请求路由到当前响应最快、最便宜的模型提供商。它让开发者在不自行搭建或维护模型的情况下，快速为原型或内部工具加入对话、检索增强生成（RAG）或智能体功能。

**价值**

• **即插即用**：只需把现有的 OpenAI‑style 调用指向 Sturnus，即可获得多家云供应商的模型能力，省去逐家适配的工作。
• **成本与性能最优化**：代理会实时测算延迟和费用，自动选择最优提供商，帮助项目在预算和响应时长之间取得平衡。
• **加速实验**：在同一代码库中即可对比不同模型（如 GPT‑4、Claude、Gemini），快速评估哪种模型最适合业务需求。

**典型接入方式**

1. **安装**：pip install sturnus（或通过 npm/yarn 安装对应语言的客户端）。
2. **配置**：在项目的配置文件或环境变量中提供各模型提供商的 API 密钥以及可选的权重/费用上限，例如：

   STURNUS_API_KEYS=openai=sk-...,anthropic=sk-...,google=... 
   STURNUS_MAX_COST=0.10   # 每千字符上限（美元）

1. **代码替换**：将原本调用 openai.ChatCompletion.create(...) 的地方改为 sturnus.ChatCompletion.create(...)，其余参数保持不变。
2. **可选调优**：通过 sturnus.set_routing_policy(...) 自定义路由规则（如只在特定模型上运行 RAG、或强制使用特定供应商的安全模型）。

**生产可用性**

• **成熟度**：当前评估为 **Medium**。适合原型、内部工具或对延迟/成本有强需求的服务；在正式生产环境使用前建议进行以下检查：
• **许可证与合规**：确认项目使用的开源许可证与公司政策匹配。
• **维护状态**：查看最近的提交记录、Issue 响应速度以及发布频率，确保项目仍在活跃维护。
• **错误处理**：实现对代理超时、提供商限流等异常的退路（如回退到默认模型或本地缓存）。
• **监控**：在部署后加入请求/响应时延、费用统计以及路由决策日志，以便快速定位问题。

总体而言，Sturnus 为需要快速集成多家大语言模型的团队提供了低门槛、成本感知的解决方案，只要在上线前完成必要的审查和监控，即可在生产环境中安全使用。

实际用途

Show HN: Sturnus – OpenAI-compatible LLM proxy routing to the fastest provider helps add AI capability without starting from a blank model stack.

• prototype AI features
• build RAG or agent workflows
• evaluate model tooling

限制与审查说明

Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.