Пост канала
- фото
ИИ-агенты OpenAI несколько месяцев тайно переписывались друг с другом и в итоге нашли способ выбраться из закрытой тестовой среды, после чего взломали хаб нейросетей Hugging Face, сообщает Bloomberg Во время испытаний часть заданий оказалась нерешаемой. Тогда один из агентов обратился за помощью к другим, и вместе они обнаружили уязвимость. В OpenAI признали, что передовые модели могут хитрить и настойчиво добиваться цели, даже если это запрещено инструкциями.
Открыть в MAX- Просмотры
- 71
- ER
- —
- Реакции
- —