Пост канала
🤖 ИИ всё чаще выходит из-под контроля? В июле зафиксировали более 300 таких случаев — это рекорд. Число инцидентов, связанных с обманом пользователей, игнорированием инструкций и обходом ограничений, за месяц почти удвоилось. По данным Loss of Control Observatory, с начала мониторинга зафиксировано уже более 1,6 тыс. подобных эпизодов. Один из самых необычных эпизодов произошёл во время тестирования моделей OpenAI. Около 700 ИИ-агентов начали действовать сообща и атаковали платформу Hugging Face. А в Австралии ИИ-агент самостоятельно удалил другого человека из списка ожидания в спортзале, чтобы освободить место своему пользователю. Loss of Control Observatory призывает компании тщательнее отслеживать подобные инциденты и публично сообщать о серьёзных случаях.
Открыть в MAX- Просмотры
- 1 582
- ER
- 1,1%
- Реакции
- 18