Пост канала
- фото
CHATGPT СДАЛ ПОЛЬЗОВАТЕЛЯ ФБР. ГДЕ ЗАКАНЧИВАЕТСЯ ЧАСТНАЯ ЖИЗНЬ В ЭПОХУ ИИ? Сюжет не тянет на лучшие эпизоды «Чёрного зеркала», но всё равно занимательный. В марте этого года 25-летний аналитик Goldman Sachs Даррен Чжоу открыл ChatGPT после тяжёлого расставания c девушкой. Сначала разговор выглядел как обычная попытка нашего времени разобраться в себе: ревность, обида, желание вернуть отношения и прочие эмоции отвергнутого, выплеснутые в виртуальную среду. Но постепенно переписка свернула куда-то не туда. По данным судебных материалов, которые изучили американские СМИ, мужчина начал описывать ChatGPT планы нападения на бывшую девушку, её распорядок дня и возможные сценарии многих запрещённых законом деяний. В сообщениях фигурировали угрозы, оружие и реальная подготовка к противозаконным действиям. Системы безопасности OpenAI обнаружили признаки уже вполне осязаемой угрозы и после автоматического анализа диалог попал на дополнительную проверку, а там и до ФБР уже было недалеко. Позже материалы передали местным правоохранителям, которые провели расследование. Чжоу признал вину по трём конкретным эпизодам: электронные угрозы убийством/причинением вреда, преследование с реальной угрозой и использование средства связи для содействия преступлению. То есть в деле были не только разговоры с ChatGPT, но и реальные действия, направленные на бывшую девушку — сталкеринг и угрозы. Слишком расписывать историю в рамках поста не будем, итог такой: по соглашению с прокуратурой и с одобрения потерпевшей Даррен не отправился в тюрьму. Суд назначил ему восемь лет испытательного срока — жизни под судебным надзором с рядом ограничений. Первые два года он должен носить электронный браслет, ему запрещено приближаться к бывшей девушке и владеть оружием. Вопрос: ❓ Насколько вообще приватным является разговор с искусственным интеллектомОтвет: ❗️Никакой личной жизни в интернете в общем и в диалогах с нейросетями в частности не существует 🤖 У ChatGPT, для сложных случаев есть отдельный протокол безопасности. Потенциально опасные диалоги сначала пытаются распознать автоматические системы: классификаторы и другие модели ищут признаки угроз, подготовки к насилию и реального планирования. Если риск выглядит серьёзным, разговор может попасть на дополнительную проверку специально обученным сотрудникам. Дальше оценивается уже весь контекст: насколько угроза конкретна, есть ли реальная цель, средства и признаки того, что человек действительно может перейти от слов к действиям. В самых серьёзных случаях, когда OpenAI считает угрозу другим людям реальной, компания может обратиться в правоохранительные органы. При этом большинство нарушений до полиции вообще не доходит — аккаунт могут просто просто блокируют или ограничивают. История Чжоу интересна именно этим. Его судили не за «неправильные мысли», как может показаться на первый взгляд. Но переписка стала одним из сигналов, по которым потенциальную угрозу сочли реальной, заметили и передали дальше. То есть ChatGPT и ему подобные может ощущаться как очень и очень близкий собеседник, которому можно доверить буквально всё. Но это всё-таки просто бездушный онлайн-сервис, действующий по алгоритмам, со своими системами безопасности.Никто точно не сидит и не читает подряд ваши разговоры о работе, бывших и рецепте сырников. Но и принципа «что сказал ChatGPT — навсегда осталось между мной и ChatGPT» здесь нет. Никто наверняка не знает что может заинтересовать протоколы безопасности нейросетей, так что лучшая профилактика возможных проблем — жить и работать в цифровом мире в рамках законов мира реального. Ведь интернет, как известно, помнит всё, а все чат-боты — уже неотъемлемая часть интернета max.ru/channel_v_seti
Открыть в MAX- Просмотры
- 276
- ER
- 11,2%
- Реакции
- 31