Пост канала
- фото
CLAUDE ИСПОЛЬЗОВАЛИ В ИССЛЕДОВАНИЯХ, КОТОРЫЕ МОГЛИ ПОМОЧЬ СОЗДАТЬ БИООРУЖИЕ Реальный эпизод из серии «а что будет, если мощный ИИ попадёт не в те руки» случился в преддверии годовщины трагедии 11 сентября. 🦠10 сентября Anthropic рассказала сразу о пяти случаях, когда Claude использовали в опасных биологических исследованиях двойного назначения. Среди пользователей были исследователи, связанные в том числе с военными учреждениями. Часть из них обходила географические ограничения Claude, а потенциально опасные запросы маскировала под обычные научные проекты и заявки на гранты. Задачи при этом были совсем не безобидными. Claude просили помогать с исследованиями вируса чикунгунья, которые могли повысить его заразность и способность обходить иммунитет. В других случаях речь шла об адаптации высокопатогенного птичьего гриппа к млекопитающим, исследованиях ортопоксвирусов (семейства, куда входит и вирус оспы), а также работе с токсинами и ядами. Нюанс в том, что методы, которыми учёные пользуются для разработки вакцин и лекарств, иногда почти те же, что могут понадобиться для создания более опасного патогена. Поэтому запрос «помоги изучить, как вирус обходит иммунитет» сам по себе ещё не доказывает, что человек собирается делать биооружие. И Anthropic это отдельно подчёркивает: компания не смогла наверняка установить намерения всех исследователей. Но проблема показалась достаточно серьёзной для того, чтобы заблокировать связанные аккаунты, усилить защиту от подобных схем обхода ограничений и поделиться информацией с государственными структурами и другими компаниями, где это было необходимо. 🤖Важно и другое: никаких подтверждений, что с помощью Claude действительно удалось создать новый смертоносный вирус или улучшить существующее биологическое оружие, нет. Пока нет... А ведь ещё совсем недавно нейросети были безобидными игрушками, которые пишут тексты, рисуют картинки и помогают с домашкой. А теперь разработчики крупнейших ИИ-моделей всерьёз строят системы защиты от людей, пытающихся использовать эти же модели для работы с патогенами, токсинами и потенциальным оружием. Крайне неприятный вопрос «что произойдёт, когда мощный ИИ попадёт не в те руки?» уже начинает получать первые ответы... max.ru/channel_v_seti
Открыть в MAX- Просмотры
- 35
- ER
- 2,9%
- Реакции
- 1