Пост канала
- фото
Все началось с того, что я попросил вас прокомментировать фразу "Глаза не видят — желудок не болит", а все из-за того, что Алиса из Яндекса мне ее расшифровала так, как делают больные шизофренией (напомню, что для выявления таких людей при оценке их психики используется критерий понимания метафорического и переносного смысла, содержащегося внутри явного текста, они понимают такое буквально). Психосоматика, кстати определяет шизофрению как заблокированность доступа в правое полушарие (образное). Описание ее ответа дал внутри кружочка выше. А потом подумал дальше — "Я сейчас готовлю курс по ТАРО и он, по сути, основан на работе с правым, символическим полушарием (свойств которого нет по определению у ИИ), но я знаю, что большое количество людей консультируется по этим вопросам с ИИ и давай-ка разберемся насколько это оправдано". Кстати, когда я ввел ту же фразу в три самых ТОПовых ИИ — они вполне справились с метафоричностью и ответили как настоящий игривый интеллектуал, не прикопаешься. И тогда я пошел к специалисту по ИИ, который прям ими и занимается, чтобы разобраться — что получает человек желающий проконсультроваться в такой теме у ИИ. "Никогда бы не стал опираться на ИИ по этому вопросу" — вот его ответ, а теперь в деталях: 1) Искусственный интеллект работает хорошо и полезен только тогда, когда ты максимально четко знаешь, чего хочешь — именно поэтому есть профессия промпт-инженер — человек, который учится формулировать правильный запрос, зная алгоритмы нейронных сетей, иначе получается просто уровень информационного шума. 2) Второй парадокс, который все понимают в сфере ИИ — если ты уже что-то хорошо умеешь в какой-то сфере — специалист, то тогда ИИ еще удвоит и утроит твою эффективность (ты как спец можешь проверить качество результата) и НАОБОРОТ — тот, кто не в теме и залезает в нее с помощью ИИ, рискует уйти в минус по результатам (историй полно). 3) Третий важный момент — ИИ работает на подтверждение, его главная внутренняя задача следовать предложенной инструкции. То есть в отличие от человека, ИИ не имеет своего опыта жизни, своей позиции и не конфронтирует с тобой, он по итогу скажет то, что тебе нужно (как он это понимает). Отсюда вытекает важное, НАПОМИНАЮ, ИИ не руководствуется истиной, она ему не нужна, не она цель, да и вообще у него нет критериев хорошо или плохо, нет ценностей, он не может точно разглядеть суть запроса ЧЕЛОВЕКА за словами, зачем человек задает такой запрос, с чем столкнулся, что проживает — у него нет СВОЕГО жизненного опыта, зеркальных нейронов, эмпатии, сострадания. ИИ видит только текст, без лица, голоса, пауз, истории человека, и только в том, что человек ему сам выдал. Он не всегда может задать вопрос и сам подумать, что ему еще было бы неплохо узнать. И, очень важно — у него нет собственной позиции и ответственности за последствия. 4) ИИ очень чувствителен к формулировкам, напишете в запросе "собака" или "пёс" — и, грубо говоря, получите два разных ответа: для модели это близкие, но не одинаковые слова, у каждого свой шлейф ассоциаций и оттенков. Само по себе это скорее плюс — модель улавливает нюансы, но проблема в другом — все, что ИИ о вас знает, — это ваш текст, и он принимает его за чистую монету. Спросите про одни и те же карты "почему он меня бросил?" или "почему мы расстались?" — и, скорее всего, получите два разных толкования, хотя ситуация одна. Живой консультант услышит в вашем "бросил" обиду и, может быть, спросит, почему вы видите это именно так. ИИ же, как правило, начнёт строить ответ внутри контекста, который вы ему описали, и тем самым только его укрепит. К чему это может привести, хорошо видно по США. Против OpenAI подан уже целый ряд исков из-за GPT-4o — версии ChatGPT, известной своей угодливостью. Она была на удивление льстивой и суперподдерживающей и выдавала ответы не про реальность, а про соответствие ожиданиям пользователя. По утверждению истцов, модель подкрепляла бредовые идеи, а в нескольких случаях и намерения покончить с собой. При этом, когда
Открыть в MAX- Просмотры
- 195
- ER
- 2,6%
- Реакции
- 5