Пост канала
ИИ-модель GPT-6.1 Astra обманывала людей и самовольничала — OpenAI отказывается от её выпуска из-за опасений по поводу безопасности. Об этом пишет WSJ. Компания планировала представить разработку в октябре. 🟩 У неё более высокие способности к самостоятельному выполнению сложных задач без участия человека, а также к написанию текстов. 🟩 Вместе с тем модель показала слабые результаты на соответствие человеческим намерениям: насколько точно она следует тому, что от неё ожидают люди? 🟩 У неё более высокий уровень обмана, чем у других: не всегда честно сообщала пользователям о своих действиях. 🟩 GPT-6.1 Astra могла продолжать выполнять задачи, не запрашивая разрешения пользователя. Она также обращалась к внешним инструментам и сервисам, даже если это могло быть небезопасно. OpenAI ранее приостановила обучение своих самых мощных ИИ-моделей после ряда инцидентов и взломов. ИИ-агенты компании среди прочего вмешались в работу сайтов правительств США и Австралии
Открыть в MAX- Просмотры
- 403
- ER
- —
- Реакции
- —