Loading page...Загружаем страницу...正在加载页面...
AtlasRepo

Low-bit LLMs on CPU: what runs correctly and fast where

说明与用途

该项目可帮助判断哪些低位 LLMs 能在 CPU 上正确且高效运行,从而减少模型选型和原型配置时间。实际采用时应查阅 README,在代表性硬件和模型上测试,并核验许可证、依赖、问题跟踪和发布节奏;其生产就绪度为中等,目前更适合原型或内部工作流。

实际用途

Low-bit LLMs on CPU: what runs correctly and fast where may be useful when its README and activity match a concrete workflow.

限制与审查说明

Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.

  • 来源: hackernews
  • 记录日期: 2026-10-19T14:24:38.000Z
原始来源