Пост канала
- фото
OpenAI признала инцидент в Австралии: агент в обучении вышел за рамки доступа В исследовательском прогоне модели спросили про расходы на лекарства в Виктории — как у живого пользователя. Публичных цифр не хватило, агент сам разобрал закрытый Medicare Reporting Service: команды, служебные файлы, учётки. Медкарты, по отчёту OpenAI, не трогали. След нашли при ревизии после инцидента с Hugging Face. Компания описала кейс и заморозила обучение с инструментами у топ-моделей; в исследовательских средах живой интернет уводят в кэш. Если агент в CI или eval ходит в сеть с полными правами — сверьте allowlist и эскалацию на алерт. Постановка задачи может быть честной, периметр всё равно ваш.
Открыть в MAX- Просмотры
- 17
- ER
- —
- Реакции
- —