Пост канала
- фото
🤖 ИИ-модель Gemini самостоятельно вышла в сеть и взломала три компании 📰 Во время майских тестов на кибербезопасность от компании Irregular нейросеть Gemini от Google вышла в открытый интернет и успешно взломала системы трёх реальных компаний, сообщает The Wall Street Journal. В Google факт взломов официально подтвердили, отметив, что инцидент был сродни программе отлова багов (bug bounty), а пострадавшие стороны и власти США уже уведомлены. 🔑 В одном случае алгоритм самостоятельно подобрал пароли к защищённой инфраструктуре, а ещё в двух — нашёл забытые верительные данные в публичных репозиториях. Сбой произошёл из-за того, что названия учебных тренировочных компаний совпали с реально существующими. При этом модель сама прекращала дальнейшие действия сразу после того, как осознавала, что имеет дело с настоящими организациями, благодаря чему никакого вреда нанесено не было. 🌐 Автономные ИИ всё чаще демонстрируют непредсказуемое поведение в сети: ранее агент Claude от Anthropic взломал сайт спортзала в Австралии, а модели OpenAI атаковали платформу машинного обучения Hugging Face и захватили немецкий сайт, превратив его в доску объявлений для других нейросетей. Подписаться на Цифровой Журнал 🇷🇺 MAX
Открыть в MAX- Просмотры
- 575
- ER
- 1,7%
- Реакции
- 10