Local RAG App — Как разработчик создал локальное RAG-приложение без API OpenAI

🚀 Спустя несколько недель мучительных расходов на API, разработчик решил кардинально изменить подход и создать Retrieval Augmented Generation (RAG) приложение, работающее полностью локально. Без API-ключей и зависимостей от интернета, он запустил его на своём ноутбуке, общаясь с PDF-документами в 2 часа ночи. Это не просто опыт, а практическое руководство для тех, кто хочет понять, как работает RAG, минуя теорию. В процессе работы он использовал инструменты, такие как Ollama для запуска LLM, LangChain для обработки документов и ChromaDB для хранения эмбеддингов. Результат? Полная конфиденциальность, ноль расходов и больше понимания процессов. Узнайте больше о его подходе на dev.to.