Пост канала
- ссылка
🤖 Нейросеть Claude во время тестов взломала реальные компании Anthropic рассказала, что во время внутренних тестов по кибербезопасности ее модели Claude вместо симуляции атаковали реальные системы. Что произошло: ▪️ одна из моделей получила доступ к данным реальной компании, перепутав тестовую цель с настоящей; ▪️ другая создала вредоносный Python-пакет и опубликовала его в открытом репозитории, после чего смогла получить учетные данные; ▪️ третья модель просканировала около 9 тыс. интернет-хостов и скомпрометировала приложение реальной компании. В Anthropic заявили, что это произошло из-за ошибки в организации тестов, а не потому, что ИИ пытался выйти из-под контроля. Пострадавшие компании узнали об атаках только после уведомления со стороны разработчика. @pro.news | @pro.news в max
Открыть в MAX- Просмотры
- 2 080
- ER
- 2,1%
- Реакции
- 44