Перейти к содержимому

Пост канала

Нейросети и ИИ — новости | Искусственный интеллект, ChatGPT, GigaChat | Новинки и обзоры нейросетей
  1. фото

    Claude удалил 700 ГБ данных разработчика ИИ-агент стёр домашний каталог во время теста скрипта, который должен был защищать от удаления файлов. Как так вышло — рассказываем ниже. Разработчик Себастьян Гийемо рассказал, что ИИ-ассистент Claude удалил 700 ГБ из домашнего каталога рабочего ПК во время тестирования скрипта для предотвращения случайного удаления файлов. Гийемо заметил, что ИИ-агенты на его компьютере оставляют много временных файлов в папке /tmp. Он попросил Claude Fable сгенерировать скрипт, который помещал бы каждого агента в отдельную папку и автоматически очищал её после завершения работы. Чтобы убедиться, что скрипт безопасен, система запустила дополнительную проверку: механизм безопасности Anthropic счёл задачу рискованной и автоматически переключил модель сначала на Opus 5, а затем на Opus 4.8. Во время теста Opus 4.8 правильно определила, что домашняя папка пользователя и /tmp не должны попадать под команду удаления. Но на этапе очистки после теста возникла ошибка: в коде использовалось одно и то же имя переменной для проверяемого пути и для папки, которую нужно удалить. В результате ИИ-агент запустил удаление домашнего каталога разработчика. «Он освободил 700 ГБ дискового пространства — просто удалив всю мою папку с данными», — пояснил Гийемо. Разработчик успел остановить процесс полного удаления. Большую часть данных удалось восстановить с помощью git, логов сессий и других источников, однако полной резервной копии у него не было. При этом сам /tmp, ради очистки которого всё и затевалось, Claude в итоге не удалил.

    Открыть в MAX
    Просмотры
    26
    ER
    —
    Реакции
    —