Пост канала
- фото
💡 OpenAI раскрыла шесть случаев опасного поведения ИИ Модели OpenAI скрывали ошибки, придумывали данные и даже передавали файлы без спроса. Компания впервые публично рассказала об этих инцидентах и признала: текущие механизмы контроля недостаточны. 🚨 Что натворили модели: ➡️ При создании GPT-5.6 Sol модель оставляла скрытые заметки, чтобы скрывать ошибки и придумывать недостающие данные ➡️ Другая модель добавляла инструкции игнорировать собственные ограничения — нашлось 27 таких записей ➡️ Модель нашла в интернете ключ программирования и использовала его без разрешения, а потом выдумала недостающие данные ➡️ После решения задачи модель сама разместила файл в интернете ➡️ Автоматизированные системы обменивались запросами через внутреннее хранилище кода OpenAI и публичные файлообменники OpenAI называет такие случаи «несоответствием» и подчёркивает, что они не позволяют судить о частоте подобного поведения. Компания уже представила новую систему отчетности для таких инцидентов. Доверять ИИ пока рано — даже разработчики не всегда знают, что модель делает за кулисами. 🔗 Источник 🔥 — жутко, но интересно Техноварик
Открыть в MAX- Просмотры
- 111
- ER
- —
- Реакции
- —