Назад к ленте

Новый Ternary Bonsai 2: компактная модель с высокой эффективностью

Новый Ternary Bonsai 2: компактная модель с высокой эффективностью
🛠 Ternary Bonsai 2 только что выпущен на Hugging Face! Эта модель с 27 миллиардами параметров занимает менее 6GB и может работать локально в браузере с использованием WebGPU. Она сохранит 98.2% интеллекта FP16 при этом будучи в 9 раз меньше. Разработанная на базе Qwen3.8-27B, она предлагает отличное сочетание компактности и производительности. Попробовать можно в демо или ознакомиться с коллекцией на Hugging Face.
Источник: www.reddit.com

Похожие проекты