NexusMem: локальный движок контекстной памяти для AI-агентов
🚀 100,000 токенов в контексте — это слишком много. Разработчик создал NexusMem: локальный движок контекстной памяти для AI-агентов, который решает эту проблему. Он быстро обрабатывает репозитории, разбивая контекст на части менее 2000 токенов всего за 60 миллисекунд. Теперь разработчики могут избежать увеличения затрат на API и задержек в ответах. NexusMem уже работает, и автор ищет обратную связь и помощь в улучшении проекта. Поддержать можно на GitHub.
Источник:
www.reddit.com