Назад к ленте

QWEN3.8-27B Benchmark — Результаты эксперимента QWEN3.8-27B на RTX 6000 Pro

QWEN3.8-27B Benchmark — Результаты эксперимента QWEN3.8-27B на RTX 6000 Pro
🧪 Что получится, если протестировать QWEN3.8-27B на RTX 6000 Pro с использованием FP8? Разработчики приглашают участников эксперимента поделиться своими результатами с использованием llama-benchy. Инструкции по установке доступны по ссылке, а скачать llama-benchy можно здесь: GitHub. Участникам предлагается сообщить о ходе загрузки и сборки окружения vLLM с последними пакетами.
Источник: www.reddit.com

Похожие проекты