Ternary Bonsai 2: новые модели с поддержкой WebGPU

🛠 Ternary Bonsai 2 только что вышел на Hugging Face! Модель 2B может полностью работать локально в браузере и достигает скорости до 500 токенов в секунду на M4 Max благодаря специальным ядрам WebGPU. Это отличное решение для разработчиков, которые ищут высокопроизводительные модели для своих приложений. Модели доступны здесь, а демо WebGPU позволяет оценить возможности в действии.