Пост канала
OpenAI больше не пускает в интернет модели, которые она обучает Теперь самые мощные модели OpenAI учатся работать с вебом по большой коллекции сохранённых страниц. Так у них должно быть меньше шансов убежать из песочницы и взломать кого-нибудь. Проверкой барьеров занимаются отдельные AI-агенты, которым дали задачу найти выход из изолированной среды. Они уже нашли неизвестные уязвимости и даже способы передавать друг другу сообщения через общий процессорный кеш — без сетевого соединения. https://openai.com/index/securing-our-frontier-model-training-environment/
Открыть в MAX- Просмотры
- 84
- ER
- —
- Реакции
- —