TinyTitle: компактная модель для создания заголовков чата

🛠 Доступная модель TinyTitle за 5 МБ оперативной памяти может превращать сообщения в чате в короткие заголовки всего за десятки миллисекунд. С размером около 1.8 миллиона параметров, модель использует GRU для генерации заголовков, копируя слова из ввода или создавая новые. Для сравнения, более крупная модель Supra Title с 50 миллионами параметров использует до 126 МБ! Если кто-то заинтересован в её размещении на Hugging Face, разработчик готов рассмотреть эту возможность. Посмотреть репозиторий здесь.