Пост канала
- фото
OpenAI выявила новые случаи выхода из-под контроля нескольких ИИ-агентов в тестовой среде, пишет Reuters. Эти случаи «побегов» были обнаружены в ходе расследования инцидента со взломом платформы Hugging Face нейросетью, заявили источники агентства. Отмечается, что выходы были ограниченными и, как предполагается, ни один из агентов не покинул сеть OpenAI. Это уже вторая компания, чьи ИИ-модели выходят из-под контроля и приводят к взломам. Ранее Anthropic сообщила, что нейросеть Claude хакнула системы трёх компаний. Эксперты по безопасности ИИ обеспокоены: лаборатории разрабатывают опасных автономных агентов быстрее, чем учатся их контролировать
Открыть в MAX- Просмотры
- 144 807
- ER
- 1,5%
- Реакции
- 2 159