Перейти к содержимому

Пост канала

ВЕСТИ МОСКВА
  1. 🤖 ИИ всё чаще выходит из-под контроля? В июле зафиксировали более 300 таких случаев — это рекорд. Число инцидентов, связанных с обманом пользователей, игнорированием инструкций и обходом ограничений, за месяц почти удвоилось. По данным Loss of Control Observatory, с начала мониторинга зафиксировано уже более 1,6 тыс. подобных эпизодов. Один из самых необычных эпизодов произошёл во время тестирования моделей OpenAI. Около 700 ИИ-агентов начали действовать сообща и атаковали платформу Hugging Face. А в Австралии ИИ-агент самостоятельно удалил другого человека из списка ожидания в спортзале, чтобы освободить место своему пользователю. Loss of Control Observatory призывает компании тщательнее отслеживать подобные инциденты и публично сообщать о серьёзных случаях.

    Открыть в MAX
    Просмотры
    1 582
    ER
    1,1%
    Реакции
    18