**项目简介** VectorInstitute/vector-inference 是一个开源项目，旨在提高 Slurm 集群中的大规模语言模型（LLM）推理的效率。通过使用这个项目，可以使内部知识变得可搜索和可用，助力助手回答问题。 **价值** 这个项目的价值在于，它可以帮助您： * 索引知识库，改进文档搜索 *