OpenVINO Windows LLM — Запуск локальных LLM на Intel NPU с OpenVINO

🚀 Разработан OpenVINO Windows LLM, который упрощает запуск локальных моделей на Intel NPU на Windows! Этот проект объединяет все необходимые шаги в одном решении: от обнаружения устройства до управления моделями и API. Он поддерживает встроенный браузерный интерфейс, автоматический выбор устройств и совместимость с OpenAI. Несмотря на необходимость первоначальной настройки, проект полностью локальный и не требует Docker или облачных решений. Ссылка на код: GitHub.