Loading page...Загружаем страницу...正在加载页面...
AtlasRepo

Show HN: BitRun – Run 1-bit LLMs on CPU at 98T/s without compiling

BitRun 允许在 CPU 上以 98 T/s 的速度运行 1‑比特 LLM,无需编译,适合快速原型和内部工作流程。采用时请先核实仓库的活跃度、文档和依赖,然后通过简单的 API 包装器集成。生产就绪度为中等:适合原型,但在大规模部署前需检查维护和更新情况。

原始来源