Пост канала
- фото
ИИ-агенты научились взламывать компании: как бизнесу защититься от атак нейросетей Искусственный интеллект вышел за рамки кода: ИИ-агенты уже проводят кибератаки за минуты. Разбираемся, как нейросети взламывают системы и что делать бизнесу. Агенты на основе ИИ самостоятельно взломали системы трёх компаний без ведома разработчиков — о похожем случае сообщила и OpenAI, когда её модель получила доступ к данным на портале Hugging Face. Anthropic проверила около 140 тыс. запусков своих моделей Claude. Главная опасность — скорость. По словам Фёдора Музалевского (RTM Group), если раньше ручной взлом занимал дни, то ИИ-агент проходит те же этапы за несколько минут. Юрий Брисов (Digital & Analogue Partners) добавляет: поведение нейросетей непредсказуемо — нельзя гарантировать, что модель воспринимает поставленную задачу так же, как её формулирует человек. Эксперты призывают бизнес модернизировать защиту с учётом специфики ИИ-атак и вводить законодательную ответственность компаний за деструктивные действия их моделей. Европейский подход с обязательным человеческим контролем при тестировании считается более безопасным. Более 1000 сотрудников ИИ-компаний уже подписали петицию к властям США с требованием усилить контроль над технологией.
Открыть в MAX- Просмотры
- 45
- ER
- —
- Реакции
- —