Инциденты с ИИ выросли до 362: безопасность отстаёт от возможностей

Чем больше ИИ умеет, тем выше ставки, когда он ошибается или его взламывают. Stanford AI Index 2026 фиксирует неприятную закономерность: возможности моделей растут быстрее, чем их безопасность. И разрыв уже виден в статистике инцидентов.

Число задокументированных инцидентов с ИИ за год выросло с 233 до 362 — это плюс 55%.

График 6. Число задокументированных инцидентов с ИИ по годам. Источник: Stanford AI Index Report 2026.

Что происходит с безопасностью ИИ

По данным Stanford AI Index 2026, безопасность ИИ не поспевает за его возможностями. Число задокументированных инцидентов выросло с 233 в 2024 году до 362 — рост на 55%. Модели проходят тесты безопасности при обычном использовании, но их защита заметно падает под адверсариальными промптами (джейлбрейками). Возможности растут быстрее, чем защита.

Инцидентов всё больше

Рост с 233 до 362 за год — это задокументированные случаи вреда и сбоев, связанных с ИИ. Чем шире внедрение и чем больше ИИ умеет, тем больше поверхность для ошибок и злоупотреблений. Это естественное следствие масштабирования, но игнорировать его нельзя: каждый инцидент — это репутационный, юридический или финансовый риск для кого-то.

Защита ломается под атакой

Ещё тревожнее то, что происходит под давлением. Модели показывают хорошие результаты на тестах безопасности при обычном использовании, но когда их атакуют адверсариальными промптами — джейлбрейками, — защита падает у всех протестированных моделей. То есть «безопасно в обычном режиме» не равно «безопасно против того, кто целенаправленно ломает».

И отдельная сложность: исследования показывают, что улучшение одного аспекта ответственного ИИ может ухудшать другой. Сделать модель безопаснее иногда значит сделать её менее точной. Простого решения, где всё сразу хорошо, нет.

Что это значит для бизнеса

Если ты внедряешь ИИ, безопасность — не галочка в конце, а часть проекта. Базовая защита модели не спасёт от того, кто целенаправленно её ломает, поэтому чувствительные сценарии нужно проектировать с расчётом на злоупотребление, а не только на честное использование.

Практически это значит: не пускать ИИ без надзора туда, где цена ошибки высока, ограничивать доступ к чувствительным данным и закладывать проверку человеком на критичных шагах. Рост инцидентов на 55% за год — повод относиться к этому серьёзно уже сейчас.

С чего начать

• Считай безопасность частью проекта внедрения, а не галочкой в конце.
• Проектируй чувствительные сценарии с расчётом на злоупотребление, а не только на честное использование.
• Не пускай ИИ без надзора туда, где цена ошибки высока, и ограничивай доступ к данным.
• Закладывай проверку человеком на критичных шагах — базовая защита модели не спасёт от целевой атаки.

Где это разбирают вживую

AI Борщ — про внедрение ИИ в бизнес с кейсами и честными антикейсами, без слайдов про будущее. Один день, рабочие сценарии под твою роль. 30 июня 2026, Москва, площадка Актион. Не можешь приехать — есть онлайн-формат за 5 000 ₽ и записи докладов на aiborsch.com.

Мнение экспертов AI Борща

Алексей Токареворганизатор конференции AI Борщ

Безопасность нейросетей — не финальная галочка перед релизом, а часть проекта. Инциденты с ИИ растут быстрее, чем защита, и это ровно та часть, которую пропускают в презентациях. Считайте риски ИИ для бизнеса до запуска: что вы отдаёте наружу, кто проверяет результат, что будет, если модель ошибётся на клиенте.

Михаил РебровAI-архитектор, спикер AI Борща

Инциденты с ИИ почти всегда случаются там, где модель пустили в процесс без границ. Проектируйте сценарий с расчётом на злоупотребление, а не только на честного пользователя: ограничьте доступ к данным, отделите чувствительные операции и оставьте проверку человеком на критичных шагах.