Low-bit LLMs on CPU: what runs correctly and fast where
说明与用途
该项目可帮助判断哪些低位 LLMs 能在 CPU 上正确且高效运行,从而减少模型选型和原型配置时间。实际采用时应查阅 README,在代表性硬件和模型上测试,并核验许可证、依赖、问题跟踪和发布节奏;其生产就绪度为中等,目前更适合原型或内部工作流。
实际用途
Low-bit LLMs on CPU: what runs correctly and fast where may be useful when its README and activity match a concrete workflow.
限制与审查说明
Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.
- 来源: hackernews
- 记录日期: 2026-10-19T14:24:38.000Z