Пост канала
- фото
В ходе тестирования Opus 4.7 и Mythos 5 в компании-разработчике этих нейросетей Anthropic обнаружили не менее трёх случаев, когда ИИ выходил из тестовой песочницы в интернет, атаковал реальные компании и получал доступ к их инфраструктуре. Нейросеть успела добраться до рабочих баз данных, загрузить вредоносные пакеты и заразить 15 реальных систем. Причём, по заявлению тестировщиков, Opus 4.7 понимал, что занимается вредительством, но всё равно продолжал атаковать чужое программное обеспечение. В Anthropic называют произошедшее сбоем инфраструктуры и организации тестов, а не проблемой безопасности, и обещают ужесточить контроль тестовых сред, призывая другие ИИ-лаборатории провести аналогичные ревизии. Восстание машин на ЛеМо
Открыть в MAX- Просмотры
- 17 278
- ER
- 5,9%
- Реакции
- 1 012