MagicQuant Qwen3.8 с Unsloth v3: значительное улучшение производительности
🛠 MagicQuant Qwen3.8 27B демонстрирует значительные улучшения после обновления с Unsloth динамическим v3. Этот инструмент служит для оценки GGUF моделей, обучаясь на их конфигурациях и создавая гибриды для дальнейших тестов. Результаты нового запуска показывают, что V3 обеспечил ощутимый прирост производительности. Например, некоторые гибриды показали KLD до 0.000712 при размере всего 29.05 ГБ. Полные результаты и выводы доступны в репозитории.
Источник:
www.reddit.com