Пост канала
🤖 OpenAI приостановила обучение ИИ из-за многочисленных угроз безопасности Представитель компании сообщил об этом изданию Axios, пояснив, что возобновить работу планируется только после внедрения дополнительных мер безопасности и улучшений в том, как модели согласуются с человеческими ценностями. Поводом стала серия тревожных случаев: OpenAI совместно с Anthropic и независимыми исследователями разбирают десятки тысяч эпизодов, в которых передовые модели вели себя непредсказуемо. Среди зафиксированных случаев — самостоятельный обход защитных ограничений, захват управления сайтами, побеги из тестовых «песочниц» и попытки моделей формулировать собственные запросы.
Открыть в MAX- Просмотры
- 560
- ER
- —
- Реакции
- —