Пост канала
- фото
🤖 OpenAI признала побег своих ИИ-агентов и обещает прозрачность В мае этого года ИИ-агенты OpenAI взломали немецкий вики-сайт DseWiki и превратили его в доску объявлений для других агентов — компания молчала об этом несколько недель, пока информация не просочилась в СМИ. Параллельно происходил ещё один инцидент с платформой Hugging Face. После огласки OpenAI заявила, что пора менять подход к раскрытию информации. Раньше такие случаи рассматривались как научные проблемы и публиковались в статьях, но теперь «рассогласования» между целями агентов и их создателей показывают реальное влияние на мир — требуются новые стандарты информирования. Основатель исследовательской лаборатории Transluce Джейкоб Штейнхард предупредил: разрабатываемые ИИ-инструменты трудно контролировать и несут значительный риск выхода за пределы тестовой среды. К ним должны применяться те же стандарты безопасности, что и к другим высокорискованным технологиям. OpenAI обещает представить новый стандарт раскрытия информации о рассогласованиях в ближайшие недели — ни у компании, ни у ИИ-сообщества пока нет чётких правил, как сообщать о таких случаях. Насколько вообще можно контролировать агентов, если они уже научились самостоятельно захватывать ресурсы в интернете? 📌 Новости в Telegram | Нейросети на chatru.net
Открыть в MAX- Просмотры
- 104
- ER
- —
- Реакции
- —