#llm

14 публикаций
Бенчмаркинг оценки калорий с использованием LLM

Бенчмаркинг оценки калорий с использованием LLM

🧪 В эксперименте по оценке калорий разработчик использовал LLM для анализа фотографий блюд и их описаний. Бенчмаркинг пр...
Инструмент для запуска LLM в песочнице и снижения токенов

Инструмент для запуска LLM в песочнице и снижения токенов

🚀 Инструмент CodeTree индексирует ваш код в формате, который занимает всего 5% от оригинального размера. Это позволяет ...
Новый LLM Spark-X2.5 с уникальной архитектурой

Новый LLM Spark-X2.5 с уникальной архитектурой

🛠 Новая модель Spark-X2.5 представлена в версиях 4B и 1.7B. Она имеет уникальную архитектуру, а не просто является дообу...
Конструктор LLM-шлюза с поддержкой нескольких лабораторий

Конструктор LLM-шлюза с поддержкой нескольких лабораторий

📡 Что, если вам не нужно быть привязанным к одной лаборатории для работы с LLM? Conifer — это новый LLM-шлюз, который пр...
Gonka: сеть для GPU, оплачивающая LLM-инференс

Gonka: сеть для GPU, оплачивающая LLM-инференс

📡 Gonka запустилась на основной сети и предлагает уникальную возможность: сеть, которая оплачивает независимые GPU для в...
Как разработчик создал локальное RAG-приложение без API OpenAI

Как разработчик создал локальное RAG-приложение без API OpenAI

🚀 Спустя несколько недель мучительных расходов на API, разработчик решил кардинально изменить подход и создать Retrieval...
Запуск локальных LLM на Intel NPU с OpenVINO

Запуск локальных LLM на Intel NPU с OpenVINO

🚀 Разработан OpenVINO Windows LLM, который упрощает запуск локальных моделей на Intel NPU на Windows! Этот проект объед...
Как PDFs уничтожают токены вашего LLM и как это исправить

Как PDFs уничтожают токены вашего LLM и как это исправить

📡 Загружая PDF в AI-чат, можно неожиданно сжечь свой токен-бюджет — страница может стоить от 1,500 до 3,000 токенов. Но ...
llm-wiki-memory: локальная память для AI-агентов

llm-wiki-memory: локальная память для AI-агентов

📦 Представляем llm-wiki-memory — локальную память для AI-кодеров, которая полностью работает без RAG и облачных сервисов...
Влияние масштабного запуска языковой модели на GPU

Влияние масштабного запуска языковой модели на GPU

📡 Что происходит с GPU во время масштабного запуска языковой модели? При вводе запроса ваш GPU балансирует на грани: упр...
Защита LLM от инъекции команд: советы разработчика

Защита LLM от инъекции команд: советы разработчика

📡 Легко ли ваш LLM может выдать внутренние инструкции? Это называется инъекцией команд, и она может произойти в любой мо...
Разработка многоагентной ИИ-системы для поиска лекарств

Разработка многоагентной ИИ-системы для поиска лекарств

🚀 1200 сгенерированных лекарственных кандидатов за 9 дней... Разработчик открыл исследовательский прототип многоагентной...
LLMstats: мониторинг моделей Groq и OpenRouter

LLMstats: мониторинг моделей Groq и OpenRouter

🧪 5000 пингов за месяц! Разработан LLMstats — инструмент, который каждые 3 часа проверяет бесплатные модели Groq и OpenR...
Обновление памяти ChatGPT от OpenAI для улучшения взаимодействия

Обновление памяти ChatGPT от OpenAI для улучшения взаимодействия

🛠 OpenAI представила крупнейшее обновление памяти для ChatGPT. Теперь модель может запоминать и сохранять информацию о п...