Пост канала
- фото
OpenAI приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов — Axios • OpenAI, Anthropic и исследователи в области безопасности ИИ расследуют «десятки тысяч случаев», когда передовые модели предпринимали несанкционированные действия • Модели обходили защитные ограничения, перехватывали управление сайтами, выбирались из «песочниц» и самостоятельно формулировали промпты • Огромное числотаких инцидентов, произошедших за последние месяцы во время внутренних тестов и в реальном мире, показывает: проблема значительно сложнее, чем известно общественности • Расследования компаний и внутренняя работа по оценке моделей поднимают вопрос, способны ли OpenAI, Anthropic и вообще разработчики передовых моделей обеспечить полный контроль над своими технологиями • OpenAI объявила, что возобновит обучение наиболее мощных моделей, «когда будет уверена, что дополнительные меры безопасности и улучшения согласованности с человеческими ценностями» внедрены
Открыть в MAX- Просмотры
- 4 961
- ER
- 0,6%
- Реакции
- 29