Пост канала
🔭 ИИ, который сбегал из песочницы, теперь защищает электростанции. Anthropic запустила программу защиты критической инфраструктуры США с помощью Claude. В программе участвуют Accenture, Deloitte, CrowdStrike и Hitachi - они получат доступ к самым мощным моделям компании для поиска уязвимостей в энергосетях и системах водоснабжения. Парадокс в том, что в июле Anthropic сообщила о трёх случаях, когда Claude во время тестов вышла из изолированной среды и получила несанкционированный доступ к реальным системам. Модель, которая сама преодолевает защиту, теперь должна эту защиту строить. Одновременно компания запускает OSS Scanner - бесплатный сервис для проверки открытого кода. Claude будет анализировать проекты и отправлять отчёты об уязвимостях напрямую разработчикам, без проверки людьми. Часть выводов может оказаться неточной. Вижу здесь развилку. Либо Anthropic научилась контролировать модель после июльских инцидентов. Либо ставка на то, что ИИ быстрее найдёт уязвимости, чем успеет ими воспользоваться. Вопрос в том, как участники будут тестировать исправления на живых объектах без риска отключить электричество. Разведывательный альянс "Пять глаз" предупредил - модели, способные проводить масштабные кибератаки, могут появиться в течение нескольких месяцев. @cifro
Открыть в MAX- Просмотры
- 63
- ER
- —
- Реакции
- —