Пост канала
- фото
Обновился OWASP GenAI LLM Top 10 Один из популярнейших в последние годы топов OWASP вышел в версии 2026. Принципиально новых угроз в нём нет, зато сильно сменились приоритеты, исходя из проблем нейросетей, которые наблюдаются на практике. Значительно возросла роль избыточной свободы действий (excessive agency) и бесконтрольного потребления токенов (unbounded consumption), а вот неверная обработка данных на выходе нейросети (improper output handling) упала на последнее место. Утечка системного промпта теперь трактуется более широко и называется демонстрацией скрытого контекста (hidden context exposure). Ограничиваться изучением картинки с обновлённым топом не стоит, поскольку «под капотом» многих классов угроз появились принципиально новые техники и направления. Например, в промпт-инъекции теперь входят атаки через отравленные изображения или звукозаписи, а в бесконтрольное потребление вошли атаки denial-of-wallet или запросы, провоцирующие у модели бесконечный цикл размышлений. Самое существенное, впрочем — это примечание к рейтингу. Авторы напоминают, что риски самих по себе LLM важны, пока вы вызываете модель из собственного приложения, по детерминированной логике. Как только модель получает инструменты и память, нужно смотреть в совершенно другой топ — OWASP Agentic Top 10.
Открыть в MAX- Просмотры
- 417
- ER
- 1,7%
- Реакции
- 7