Llamaforge: браузерная панель управления для llama.cpp с локальными агентами

🚀 Ламафорж получил обновление до версии 0.16, и теперь у него есть локальные агенты, которые должны цитировать свои источники. Это не просто другая версия llama.cpp — это панель управления, которая позволяет вам управлять моделями и обновлять их мгновенно. Перед загрузкой модели вы видите, на каком GPU она будет работать, что помогает избежать ошибок переполнения памяти. Локальные агенты собирают информацию и пишут краткие отчеты, проверяя каждую цитату с помощью кода. Более того, версия 0.16 предлагает улучшенный интерфейс с реальным отображением прогресса загрузки моделей и настройками для автоматического или ручного управления. Бэкэнд написан на Python, а фронтэнд — на чистом JavaScript. Узнать больше можно на GitHub.