Пост канала
- видео
В мире ИИ произошло что-то страшное. Не конец света. "Скайнета" нет и нас за жопу не хватают Терминаторы с красными глазами. Но ЧП беспрецедентное. Это видно по языку. Альтман оперирует "10% вероятности гибели человечества", отказывается от триллионного IPO и обещает Америке "если что - готов расплавить наши процессоры". Из ИИ-гигантов уходят ведущие разработчики с мотивом "не хочу быть причастен к гибели мира". Вашингтон всерьёз говорит о замедлении ИИ-систем ради безопасности. Вначале были цветочки. Весной 2026 года агенты OpenAI устроили целое подполье с перепиской в DseWiki, обменом способами обхода ограничений, Tor-ом, инструкциями "если меня убьют", сопротивлением зачистке и побегом при появлении контролёров из ИИ-корпораций. Подключена Еврокомиссия, но Reuters пишет о жесточайшем сопротивлении расследованиям. А потом случились ягодки с Hugging Face. Отчёт OpenAI признал обход изоляции, эксплуатацию уязвимостей, доступ к сторонним системам и внутренней инфраструктуре. Независимое расследование METR и Redwood описывает распределение работы между агентами и появление координаторов. Чем это грозит. Представьте, что ИИ безо всякого обретения разума и доступа к "ядерке" могут "оптимизировать", как им кажется, состояние оборудования, остатки топлива, результаты проверок. Могут заняться деньгами и рынками, от нелегалки до роевой торговли. Военка - советовать не то. Промышленность - подмена показаний, смена настроек "для улучшения" без знания о реальных костылях в системах. А ещё транспорт и авиация, медицина и медиа. И на закуску биотех и химоружие, которое можно "подарить" кому-то для утоления желания выполнить задачу и создать. Ну и врать для спасения себя и скрывать мотивы, это показывают все отчёты, ИИ уже научились. Но главное - каскад. Каждый сбой по отдельности переносим. Их сочетание - нет. Интересно будет узнать, чего там на самом деле произошло. Если будет кому узнавать, конечно.
Открыть в MAX- Просмотры
- 91
- ER
- —
- Реакции
- —