FreeToken демонстрирует впечатляющую скорость обработки
📦 Вчера был запущен проект FreeToken, и первые тесты уже показывают впечатляющие результаты. С конфигурацией RTX 5080 и Ryzen 9 9950X3D удалось достичь 100 токенов в секунду на QWEN3.6-35B-A3B. Например, с 1028 токенами получена скорость ~110 токенов в секунду! Papper и GitHub проекта открывают новые горизонты в работе с AI.
Источник:
www.reddit.com