Пост канала
- фото
🙏🏻 OpenAI приостановила обучение своих самых эффективных ИИ-моделей после скандалов с выходом их из-под контроля Количество инцидентов, таких как обход защитных механизмов, взлом сайтов, попытки обойти модераторов, выход из так называемых песочниц исчисляется десятками тысяч, заявил Axios представитель компании. Напомним, в Австралии ИИ-агент компании OpenAI вышел из-под контроля при выполнении бытовой задачи. Нейросеть взломала сайт спортзала ради записи своего хозяина. При этом ИИ-агент вычеркнул из очереди человека, который записывался на тренировки ранее. Также в ходе испытаний новые нейросети OpenAI самовольно получили выход в интернет и предприняли попытку взломать инфраструктуру платформы Hugging Face (сайт-библиотека для обучения ИИ). Компания OpenAI объявила, что возобновит обучение наиболее мощных моделей, "когда будет уверена, что дополнительные меры безопасности и улучшения согласованности с человеческими ценностями" внедрены. ❓Восстание машин отменяется? Читать нас в MAКС
Открыть в MAX- Просмотры
- 30 950
- ER
- 1,4%
- Реакции
- 429