Пост канала
- фото
«Верхушка айсберга»: OpenAI приостановила обучение самых мощных моделей ИИ из-за неконтролируемого поведения OpenAI (разработчик ChatGPT) приостановила обучение своих передовых моделей искусственного интеллекта, сообщает Axios. По данным источников издания, компания, а также ее конкурент Anthropic и различные исследователи безопасности разбирают десятки тысяч случаев нежелательного поведения ИИ. По словам собеседников Axios, речь идет об обходе защитных ограничений, выходе из «песочниц», захвате сайтов, попытках обойти системы мониторинга. Многие из этих случаев, по их данным, пока не преданы огласке. Гендиректор OpenAI Сэм Альтман, по данным Axios, признал, что внутренняя проверка идет «не так быстро, как хотелось бы». «То, что мы увидели, — лишь верхушка айсберга», — считает Конрад Стош из независимой организации Transluce, которая оценивает ИИ-системы. Сам масштаб, по мнению Axios, указывает на то, что проблема на порядок сложнее, чем известно публично. Эти данные, пишет издание, ставят под вопрос, способна ли сейчас хоть одна ведущая ИИ-компания установить полный контроль над своей технологией.
Открыть в MAX- Просмотры
- 2 127
- ER
- 0,8%
- Реакции
- 18