Пост канала
- фото
Claude уже используют для разработки оружия, слежки, мошенничества и потенциально опасных биологических исследований. Anthropic выпустили 154-страничный отчёт о самых серьёзных случаях злоупотребления своими моделями с декабря 2025-го по август 2026-го. И некоторые истории звучат уже довольно мрачно. — В Йемене Claude Code использовали при разработке управляемых ракет. Модель фактически заменяла часть команды программистов и писала софт для навигации и управления. Одну ракету даже испытали вживую — судя по данным Anthropic, запуск закончился неудачно. — Группа из России собирала автономный рой FPV-дронов-камикадзе. Claude писал и тестировал основное ПО системы. До рабочего оружия проект, по оценке Anthropic, ещё не дошёл: его успели проверить в симуляции и перенести код на реальные платы. — В Иране Claude превратили в инструмент массовой слежки. С его помощью сделали вредоносное расширение Firefox для сбора данных из соцсетей, а другая система проанализировала сотни тысяч постов и выбрала 39 оппозиционных аккаунтов для наблюдения. — В Китае запустили больше 20 фейковых дейтинг-приложений. За две недели там работали 4700 AI-персонажей, которые общались минимум с 25 тысячами человек и отправили около 2,36 млн сообщений. Три четверти анкет в ленте были ботами. — Ещё пять случаев касались потенциально опасных биологических исследований. Среди них эксперименты с мутациями вируса чикунгуньи и адаптацией птичьего гриппа к млекопитающим. Связанные аккаунты Anthropic блокировали и после каждого случая усиливала защиту. И это только те операции, которые компания вообще смогла заметить. Вот такая херня, собачка. Нейролента
Открыть в MAX- Просмотры
- 206
- ER
- 0,5%
- Реакции
- 1