Fortemi/fortemi

说明与用途

**项目简介**
Fortemi（仓库 Fortemi/fortemi）是一款基于 Rust 与 PostgreSQL 的自托管 AI 知识库。它通过 pgvector、全文检索（FTS）以及 Reciprocal Rank Fusion（RRF）实现混合语义搜索，内置 MCP（Model Context Protocol）服务器，支持 Ollama、OpenAI、OpenRouter、llama.cpp 等多供应商 LLM 推理，并提供视觉、音频转写、说话人分离等多模态数据接入以及知识图谱功能。

---

价值点

1. **统一的 AI 与工具桥梁**：通过标准化的 MCP 接口，AI 助手可以直接调用企业内部工具、数据库或外部 API，实现“AI‑to‑Tool”的闭环。
2. **高效检索 + 多模态**：结合向量搜索、全文检索和 RRF，既能处理自然语言查询，又能快速定位结构化或多媒体信息。

3 **灵活的模型后端**：不锁定单一 LLM，开发者可根据成本、隐私或性能需求自由切换 Ollama、OpenAI、OpenRouter、llama.cpp 等后端。

1. **可扩展的知识图谱**：内置图谱层，适合构建业务概念、实体关系等复杂语义网络，提升 RAG（Retrieval‑Augmented Generation）质量。

---

典型接入方式

| 场景 | 接入方式 | 关键步骤 |
|------|----------|----------|
| **AI Agent 调用企业工具** | **MCP Server (HTTP/JSON)** | 1. 在 Fortemi 中配置业务工具的 API（如 CRM、ERP）<br>2. 启动 MCP 服务<br>3. 在 LLM Prompt 中使用 model_context 调用（示例：{{mcp:tool_name:action}}） |
| **构建自定义 RAG 流程** | **REST API / SDK / CLI** | 1. 使用 SDK 将文档、图片、音频等上传至 Fortemi（自动进行向量化、FTS 与知识图谱抽取）<br>2. 调用 /search 接口获取混合检索结果<br>3. 将结果喂给 LLM 进行生成 |
| **部署模型推理服务** | **Model Provider Adapter** | 1. 在 config.toml 中声明使用的模型提供商及凭证<br>2. Fortemi 会在需要时自动路由请求到对应后端（如 Ollama 本地模型或 OpenAI 云模型） |
| **内部原型或工作流自动化** | **CLI + Docker Compose** | 1. docker compose up -d 启动 Rust 服务 + PostgreSQL<br>2. 通过 CLI (fortemi ingest, fortemi query) 快速验证功能 |

---

生产可用性评估

| 维度 | 现状 | 备注 |
|------|------|------|
| **成熟度** | 中等（MVP + 功能完整） | 已支持核心功能，适合原型、内部工具或受控生产环境。 |
| **维护活跃度** | 最近一次提交 2026‑07‑13，22 Stars、3 Forks | 项目活跃度一般，建议自行审计代码并关注后续更新。 |
| **依赖风险** | Rust + PostgreSQL + pgvector，依赖库成熟 | 需要自行管理 PostgreSQL 备份、容器安全与模型许可证。 |
| **安全/合规** | 未发现重大元数据泄露风险，仍需检查许可证（MIT/Apache 等）以及模型提供商的使用条款。 |
| **部署复杂度** | 中等 | 推荐使用官方 Docker Compose，或在 Kubernetes 中通过 Helm Chart 部署。 |
| **适用场景** | - 企业内部知识库 / 文档检索<br>- 多模态客服机器人<br>- AI‑to‑Tool 自动化平台 | 对外部高并发或严格 SLA 场景，需要额外的水平扩展与监控方案。 |

**结论**：Fortemi 为希望在自有基础设施上快速搭建 AI‑增强知识检索与工具调用能力的团队提供了“一站式”解决方案。对原型开发和受控生产环境已具备可用性，但在大规模生产部署前，建议完成安全审计、容灾设计以及对模型供应商的合规检查。

实际用途

Fortemi/fortemi helps connect AI assistants to real tools and data through a standard protocol.

• connect AI agents to tools
• ship Model Context Protocol servers
• standardize integrations

限制与审查说明

Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.