jc-proxy — Как разработчик создал LLM-прокси для упрощения AI-воркфлоу
🚀 Трудности с API разных провайдеров стали настоящей головной болью для разработчика, пока он не нашёл решение. Каждый раз, когда Gemini ограничивал доступ, а Groq давал сбои, приходилось менять ключи и редактировать рабочие процессы. Вдохновлённый этим, разработчик создал jc-proxy — API-шлюз, который совместим с OpenAI и позволяет легко переключаться между провайдерами. Теперь его личный AI-ассистент Hermes Agent работает бесперебойно, даже если один из провайдеров выходит из строя. В планах — улучшить маршрутизацию и добавить новые функции. Как вы справляетесь с множеством провайдеров?
Источник:
www.reddit.com