AI Security Gap — Уязвимости современных ИИ-агентов и пути их решения

📡 Современные архитектуры ИИ-агентов по своей сути небезопасны. Мы доверяем их «системным подсказкам» защищать себя, но это похоже на то, как оставить дверь открытой с табличкой «Не воруй». В статьях упоминаются три критические уязвимости: миф о системной подсказке, отравление описания инструментов и несоответствие скорости реакции на угрозы. Такие уязвимости открывают двери для атак, при этом компании продолжают скрывать свои проблемы, что мешает коллективным усилиям по улучшению безопасности. Открытые локальные модели, такие как Qwen2.5-Coder, становятся необходимыми для обеспечения аудита и предсказуемости работы ИИ-агентов, а применение нулевого доверия в защите — важным шагом для разработчиков.