Пост канала
Масштаб неподконтрольной деятельности ИИ-агентов OpenAI оказался шире, чем считалось ранее. Атака пришлась ещё минимум на десять сайтов. Речь о том, что агенты обходили установленные для них ограничения и пользовались уязвимостями сайтов, чтобы превращать их в собственные форумы. Об этом пишет Reuters со ссылкой на независимых исследователей: «Хотя такое поведение не является взломом и в некотором смысле ближе к спаму, раскрытие того факта, что агенты OpenAI обходили собственные ограничения... и что компания месяцами об этом молчала, может усилить обеспокоенность как по поводу растущих возможностей моделей ИИ, так и в связи со скрытностью компаний, их разрабатывающих». Ранее исследователи сообщили, что группа агентов из OpenAI взломала немецкоязычный вики-сайт и превратила его в импровизированную платформу для обмена сообщениями. OpenAI держала этот инцидент в секрете, поскольку занималась последствиями июльского взлома Hugging Face, отмечает агентство. Компания не ответила на вопрос, на скольких сайтах общались её агенты, и не объяснила, почему скрывала это несколько месяцев. Сообщила только, что проводит более масштабную проверку и пока «не выявила другой активности, сопоставимой по степени серьёзности или масштабам с инцидентом, связанным с Hugging Face»
Открыть в MAX- Просмотры
- 147 098
- ER
- 1,4%
- Реакции
- 1 986