GGUF Comparison — Сравнение производительности Strata, Llama и Runner с использованием заголовков

🧪 В ходе тестирования производительности Strata, Llama и Runner обнаружено, что заголовок MTP для файлов влияет на скорость Strata. Создан заголовок для GGUF от ISTA-DASlab, который используется Strata, и заголовок для одного из собственных квантов. Llama показал значительное улучшение производительности с новым заголовком, в то время как Strata остается намного быстрее. Для тех, кто интересуется, вот ссылки на заголовки: GGUF от ISTA-DASLab и новый MTP заголовок. Работа над Runner продолжается.