Назад к ленте

EmbedFlow — Как мигрировать между моделями встраивания без повторного встраивания

EmbedFlow — Как мигрировать между моделями встраивания без повторного встраивания
🚀 63 успешные миграции на 1 миллион документов! Один разработчик нашёл способ перехода между моделями встраивания без необходимости повторного встраивания всей базы. Вместо того чтобы тратить время на встраивание 1 миллиарда векторов, он предлагает взять K документов из старого индекса и переранжировать их с использованием новой модели. При достаточном количестве документов качество поиска остаётся на уровне новой модели. Метод уже проверен, и результаты впечатляют: при переходе с qwen4b на 8b на 50 документах качество поиска совпадает с оригиналом. Работает с Qdrant, pgvector и Faiss. Попробовать можно с помощью команды pip install embedflow. Подробности на GitHub.
Источник: www.reddit.com

Похожие проекты