Пост канала
«Особое мнение» может начать запускаться с удобной аналитической системы. НАСТОЯЩИЙ МАТЕРИАЛ (ИНФОРМАЦИЯ) ПРОИЗВЕДЁН И (ИЛИ) РАСПРОСТРАНЁН ИНОСТРАННЫМ АГЕНТОМ АЛЕХИНЫМ РОМАНОМ ЮРЬЕВИЧЕМ ЛИБО КАСАЕТСЯ ДЕЯТЕЛЬНОСТИ ИНОСТРАННОГО АГЕНТА АЛЕХИНА РОМАНА ЮРЬЕВИЧА 18+ The American Prospect пишет, что Anthropic выстраивает систему мониторинга потенциальных угроз, в поле зрения которой попадают и активисты, выступающие против развития ИИ. Издание ссылается на вакансии и выступления сотрудников безопасности. Компания на запрос о деталях не ответила. Давайте продлим эту картину мира в будущее. Рассмотрим возможный сценарий: подобные инструменты получает власть и последовательно расширяет их применение. Сначала систему внедрят для аналитики. Она поможет обрабатывать огромные объёмы информации, замечать опасные тенденции, предупреждать угрозы. Цели для управленца понятные и лакомые, польза тоже объяснима. На этом этапе человеку даже не обязательно становиться объектом отдельного наблюдения: достаточно общей картины происходящего. Затем для повышения точности предложат отслеживать конкретных людей постоянно. Ведь отдельное высказывание можно неправильно понять, а история публикаций, контактов и перемещений якобы позволит восстановить контекст. Каждое расширение контроля конечно получит своё разумное объяснение, а вопрос о допустимых границах можно будет отложить до следующего этапа, прикрываясь безопасностью и парой результативных кейсов. Дальше накопленные сведения потребуется превратить в удобную для чиновника оценку. Чиновники же любят разбить всех на папочки и всем приклеить свой ярлык, желательно еще и разных цветов. Возникнут категории риска, показатели надёжности, уровни доверия. Постепенно эту оценку можно будет связать с доступом к определённым должностям, разрешениям или услугам. Так аналитическая характеристика получит вполне материальную силу, а социальный рейтинг сможет войти в жизнь под названием очередного улучшения государственного управления. Под это дело даже могут показать реформу с якобы сокращением 20% должностей. Но следующий переход окажется особенно опасным: ограничения начнут обосновывать прогнозом будущего поведения. Человек ещё ничего не совершил, однако система уже обнаружила опасное сочетание признаков. Его участие в протесте, резкую публикацию, репост или упоминание, лайк кого-то или даже лайк его и знакомство с кем-то объединят в предполагаемую траекторию, которую предложат заблаговременно пресечь. Здесь и вспоминаем сюжет «Особого мнения» с Томом Крузом, где людей арестовывали за предсказанные убийства. Только место подключённых к аппаратуре предсказателей займёт программа, а человеку придётся объяснять, почему он не собирался совершать то, что ему уже спрогнозировали. Такое будущее не предопределено. Но я считаю ошибкой успокаивать себя тем, что сегодня инструмент используется лишь для анализа. Разработка создаёт техническую возможность следующего шага. Если данные уже собраны, люди классифицированы, а оценка встроена в государственные системы, расширение полномочий потребует гораздо меньше усилий, чем создание всего этого с нуля. У чиновника при этом может появиться понятный стимул доверять тревожному сигналу: за пропущенную угрозу с него спросят, а необоснованное ограничение другого человека останется незаметным для руководства. Если ответственность устроить именно так, избыточный контроль станет удобным способом личной подстраховки. Для такого движения даже не потребуется единого тайного замысла или прямого приказа. Поэтому границы необходимо определять уже при разработке: какие сведения допустимо собирать, что может служить основанием ограничения, кто проверяет вывод и отвечает за ошибку. А главное - каким образом человек сможет оспорить решение, принятое на основании его цифрового портрета. Право человека выбирать своё будущее должно сохраняться и тогда, когда государственный ИИ уже рассчитал за него наиболее вероятный вариант. Иначе это приведет к катастрофе.
Открыть в MAX- Просмотры
- 5 041
- ER
- 3,8%
- Реакции
- 190