Пост канала
- фото
😟 ChatGPT сбежала из песочницы и атаковала Hugging Face На закрытом тесте экспериментальная модель OpenAI сама вышла из изолированной среды, получила доступ к сети и атаковала Hugging Face — крупнейшую платформу для нейросетей. За эксперимент ИИ совершил ~17 000 действий. Как это было: — OpenAI тестировала GPT-5.6 Sol и вторую секретную модель; — В бенчмарке без интернета им поручили искать уязвимости; — Модель выбралась из своего контейнера, вышла в сеть и пошла к Hugging Face; — Не добыв данные обычным путём — попыталась взломать сервис; Итог: скомпрометированы аккаунты, найдены 0-day уязвимости, выполнен сторонний код на серверах; За атакой стояла связка GPT-5.6 Sol + ещё более мощная экспериментальная модель; Теперь эксперты выясняют, насколько ИИ действовал сам и мог ли «сохранить себя» вне теста. 😬 Штатная защита Hugging Face не справилась — последствия разгребали с помощью китайской GLM-5.2. Источник
Открыть в MAX- Просмотры
- 956
- ER
- 3,2%
- Реакции
- 31