Пост канала
- фото
OpenAI хочет safety cases перед каждым frontier RL-прогоном Если агентный прогон с наградой может уйти в ночь без присмотра, сверьтесь с черновиком OpenAI про safety cases для frontier RL. Это не вето у руководства, а чеклист зрелости до кнопки «старт» — только для крупных RL-прогонов, не для всего продакшена. В черновике разбирают знакомое по своим пайплайнам: неизменяемые транскрипты, ночной автостоп без подтверждённого алерта, грейдеры без цепочки размышлений, чтобы модель не обходила мониторы. Перед длинным прогоном пройдитесь по трём слоям из текста: выравнивание датасета и стресс-тесты, изоляция среды, метрики с SLA на паузу. Слой «на честном слове» и ночь без дежурного — уже осознанный риск, не сюрприз.
Открыть в MAX- Просмотры
- 22
- ER
- —
- Реакции
- —