Назад к ленте

GraphSignal — Открытый GPU-профайлер для AI-агентов без чтения трассировок

GraphSignal — Открытый GPU-профайлер для AI-агентов без чтения трассировок
📦 В разработке GraphSignal создали открытый GPU-профайлер, который позволяет AI-агентам оптимизировать настройки без необходимости вручную анализировать трассировки. С помощью этого инструмента можно просто обернуть любое CUDA или ROCm приложение, и он будет собирать данные о производительности, включая время выполнения ядер и метрики NVML. Агенты могут автоматически настраивать параметры, чтобы исправить проблемы, например, низкую загрузку GPU во время декодирования. Все данные доступны в удобном формате JSON по локальному адресу, что упрощает процесс анализа. Узнать больше можно на GitHub.
Источник: www.reddit.com

Похожие проекты