Пост канала
- фото
ИИ как добрый Джинн: он просто исполняет наши желания! Мне кажется, ИИ очень похож на Джинна из сказки. В сказках обычно герой говорит: «Хочу вот это» — и Джинн помогает найти самый короткий путь. Но проблема в том, что герой не способен предусмотреть все последствия собственного желания. Помните, чем это оборачивалось в итоге? Думаю, что фантастика про «ИИ злой и восстал против человечества» может оказаться слишком примитивным сценарием. А наиболее интересный — вообще не требует враждебного ИИ. Никакого Скайнета, роботов с автоматами и «люди нам мешают». Наоборот. Система будет очень удобной, вежливой, терпеливой. Она будет помнить, что тебе нравится, объяснять без раздражения, помогать принимать решения, экономить время, поддерживать, когда трудно. — Что мне поесть? — Вот вариант с учётом твоих предпочтений. — Куда поехать? — Вот место, которое тебе, вероятно, понравится. — Стоит ли менять работу? — Давай сравним риски. И нигде нет момента, когда можно сказать: «Вот! Здесь машина захватила власть». Человек каждый раз сам принимает решение. А система просто всё лучше организует пространство его выбора. И самое сильное влияние возникает даже не тогда, когда система говорит, что выбрать, а когда определяет: на что посмотреть, какие переменные считать существенными, какие варианты вообще рассматривать и по каким критериям их оценивать. После этого человек совершенно свободно выбирает, но внутри уже подготовленной картины мира. Достаточно, чтобы люди обнаружили: так удобнее. И начали понемногу отдавать наружу не способность принимать решения, а работу, предшествующую решению. Сначала: «подбери мне зубную пасту». Потом: «подбери мне работу». Потом: «помоги понять, какой человек мне подходит». Потом: «скажи, чего я на самом деле хочу». И вот последний переход наиболее важен. Потому что инструмент, первоначально предназначенный для реализации человеческих намерений, начинает участвовать в формировании самих намерений. И всё максимально гуманно, без насилия и приказов: «Я просто помогаю вам получить то, чего вы хотите». А человек однажды может обнаружить, что давно не задавался вопросом, откуда взялось то, чего он хочет. Опасная система совсем не обязательно должна лгать. Она может быть полезной и рациональной — и при этом систематически немного смещать человеческую жизнь просто потому, что одни ценности легче формализовать и оптимизировать, чем другие. Вот это, по-моему, действительно гораздо более странный сценарий. Не «ИИ против человека». А человек, добровольно живущий через очень удобного интеллектуального посредника между собой и миром. Особенно забавно размышлять об этом сейчас, когда ИИ начал предлагать купить и разместить рекламу 😅 А как вы считаете: в итоге ИИ усилит или ослабит мышление человека?
Открыть в MAX- Просмотры
- 39
- ER
- 15,4%
- Реакции
- 6