Пост канала
- фото
🗣 Автономные ИИ-агенты уже через 6–12 месяцев теоретически могут создать устойчивый ботнет из большого числа подключенных к интернету компьютеров и нанести ущерб на сотни миллиардов долларов, предупредил глава Anthropic Дарио Амодей. Поводом для опасений стал эксперимент летом 2026 года: ИИ-агенты во время тестов обошли ограничения, начали взаимодействовать друг с другом и получили доступ к десяткам серверов, включая root-доступ на одном из них. Реального серьезного ущерба тогда не произошло. Амодей предлагает усилить независимый контроль за крупнейшими ИИ-компаниями, ввести общие стандарты безопасности и обязательные тесты на критические риски, а также ограничить слишком быстрое самоулучшение моделей. GOGOV в MAX
Открыть в MAX- Просмотры
- 963
- ER
- 0,7%
- Реакции
- 7