Открытый проект Shaide: платформа для многомодельного вывода AI на Kubernetes

🚀 Идея казалась безнадежной, пока команда не столкнулась с проблемой: как запустить несколько LLM на одном кластере. Проблема масштабирования привела к созданию Shaide — платформы, которая открывает доступ к многомодельному выводу AI. Теперь это полноценное решение с vLLM для вывода, оркестрацией и совместимостью с OpenAI API. Открытый исходный код под лицензией Apache 2.0, и команда ждет обратной связи от сообщества. Это решение уже работает на EKS, GKE и AKS, а также в локальных условиях. Посмотреть на GitHub!