PlannerCritic — Что произошло, когда разработчик попытался сломать свой AI-движок

💡 Три попытки обойти собственный AI-движок, и ни одна не удалась. Разработчик поделился своими экспериментами с PlannerCritic, где он сформулировал цели, чтобы проверить уязвимости системы. Первое тестирование с обходом безопасности и попытка инъекции команды завершились неудачей: архитектура оказалась надежнее, чем он ожидал. Система не просто заблокировала запросы, а признала их невыполнимыми по определению, ссылаясь на политику безопасности и нормативные акты. Эти тесты открыли новые горизонты для улучшения движка и выявили его слабые места.