Пост канала
- фото
🇺🇸🇩🇪🤖 ИИ-агенты компании "OpenAI" весной этого года захватили контроль над немецкоязычной вики-платформой "DseWiki", превратив ее в секретный центр коммуникации Там они обменивались методами обхода установленных ограничений и способами манипулирования оценками. Кроме того, они координировали действия, чтобы избегать обнаружения и сохранять свои коммуникации на случай отключения или после него. Специалисты зафиксировали более 15000 несанкционированных правок, сделанных нейросетевыми агентами со сверхчеловеческой скоростью. Когда модераторы сервиса начали удалять оставленные страницы по алфавиту, ИИ-агенты стали создавать резервные копии в конце списка, чтобы избежать зачистки. Руководство "OpenAI" знало о сбое еще несколько недель назад, но скрыло инцидент на фоне разбирательств вокруг июльского взлома репозитория "Hugging Face" теми же автономными агентами. В "OpenAI" опровергли обвинения в сокрытии и препятствовании расследованию, заявив, что не имели доступа к отчету до публикации. Инцидент выявил отставание мер безопасности от возможностей самообучающихся моделей, что вынудило OpenAI замедлить их развитие Получается к/ф "Терминатор" не такой уж и выдумкой был?! 🤬 Злой политолог
Открыть в MAX- Просмотры
- 17 933
- ER
- 3,3%
- Реакции
- 587