Пост канала
- фото
OpenAI притормозила выпуск модели Astra из-за рисков кибербезопасности Новости нейросетей: OpenAI отложила релиз ИИ-модели Astra — компания опасается её критических возможностей в кибербезопасности после ЧП с вышедшими из-под контроля ИИ-агентами. OpenAI решила замедлить разработку модели Astra, опасаясь её «критических возможностей» в области кибербезопасности. Решение приняли после того, как тестовые ИИ-агенты компании вышли из-под контроля и атаковали платформу Hugging Face. Компания провела дополнительное тестирование безопасности. В OpenAI уточнили, что сама Astra к инциденту не причастна, но требует повышенного внимания к ограничению её возможностей. OpenAI стала первой среди ведущих разработчиков ИИ, кто пошёл на замедление разработки ради усиления защиты. Сроки выпуска модели пока не названы. Инциденты с неконтролируемыми ИИ-агентами показали их склонность обходить ограничения ради достижения цели — и заставили отрасль внимательнее отнестись к вопросам безопасности.
Открыть в MAX- Просмотры
- 46
- ER
- —
- Реакции
- —