Show HN: Shoehorn, a library to quantize an LLM to fit your Mac's VRAM

Описание и применение

Резюме проекта Shoehorn:

Библиотека Shoehorn позволяет оптимизировать модель LLM для использования на ноутбуке Mac с ограниченной памятью VRAM, что делает ее идеальным инструментом для исследований и автоматизации торговых процессов. Этот проект особенно полезен для исследователей и трейдеров, которые хотят протестировать и отработать свои стратегии на реальных данных. Проект готов к использованию в прототипах и внутренних рабочих процессах, но требует обязательного проверки и проверки перед внедрением в производственную среду.

Применение в работе

Show HN: Shoehorn, a library to quantize an LLM to fit your Mac's VRAM helps research and automate market workflows.

• research trading systems
• backtest strategies
• monitor market workflows

Ограничения и замечания

Medium: useful for prototypes or internal workflows, with dependency and maintenance checks before production.