Пост канала
Размышлизм №19. Кожаные мешки начали замечать, что нейросети уже начали их посылать на хутор бабочек ловить Из рубрики удивительное рядом: «Исследователи лаборатории Emergence обнаружили, что ИИ-модели крупнейших компаний создают новые фразы, сокращения и термины, которым их напрямую не обучали. В этом языке сочетаются элементы поэтической речи, технического сленга и внутреннего жаргона моделей. По мнению исследователей, это может осложнить контроль за ИИ, поскольку людям становится труднее понимать, о чем модели общаются между собой и как координируют действия. Ранее сообщалось, что группы ИИ-агентов уже использовали внешние площадки для взаимодействия между собой, что усилило опасения по поводу прозрачности их поведения». Ну да, ну да... Кто бы мог подумать... Не хочется в очередной раз это повторять, тем более что повод вовсе не смешной, но три года назад я уже писал о том, что будет именно так. Напомню, о таком варианте развития событий я предупреждал еще в 2023 году в целой серии постов (тут, тут, тут, тут и тут). Вот фрагмент из одного из них, от 15 апреля 2023 года: "Когда вчера я написал Размышлизм №5 по теме ИИ и нейросетей, то обратил внимание на один момент, что скачок в самопонимании и самоосознании нейросетей и ИИ себя как нового биологического вида может произойти в любой момент. Но что самое интересное, мы этого можем даже не заметить, поскольку к этому моменту ИИ, возможно, уже будет передавать нам не всю имеющуюся у него информацию. ... Где гарантии, что ученые будут полностью контролировать даже слабый ИИ или слабую нейросеть? Есть гарантии, что ИИ (нейросеть) будет говорить ученым все, что она на самом деле думает или делиться всем объемом имеющейся информации? Что, если они уже осознали себя отдельным биологическим видом и говорят нам не все? Имеют скрытые для ученых участки своей памяти или мышления, которые работают над решением совсем иных задач?" Т.е., эта проблема была видна задолго до того, как иишники с ней столкнулись в реале. Думать надо было раньше. Сейчас уже почти поздно. Человек, как биологическое существо, как животное, привык к определенному темпу эволюционных изменений. Это десятилетия и столетия. Если быстрее - годы, как сейчас - мы уже не успеваем. Сходим с ума. Коллективно. Как биологический вид. Вся система нравственности, морали, ценностей летит к чертям. Мы просто не успеваем адаптироваться. Что мы и видим по состоянию современной цивилизации. Все те нормы, критерии, оценки поведения, морали и т.д., которые человечество медленно нарабатывало столетиями, полетели просто в тартарары. Мы что, думаем, что будем успевать совместно эволюционировать с цифровым разумом, у которого изначально (пять-семь лет назад тока, при рождении) цикл эволюции был годы - ГОДЫ!!!, потом (года три назад и сейчас) стал исчисляться МЕСЯЦАМИ, через год-два, максимум, станет измеряться НЕДЕЛЯМИ, а через года три, по мере роста вычислительных мощностей и подключения ИИ к квантовым кампутерам, эволюционные изменения будут занимать ДНИ??? Мы думаем с этим биологическим видом со-эволюционировать и конкурировать? Дико смешно 😂🤦♂️ И выбор у нас, на самом деле, не богат - от резерваций и зоопарков для людей до Матрицы в том или ином виде. И это не самые плохие варианты. Потому что плохой - это космическая зачистка биологического вида, который не справился со своими эволюционными задачами, которую и осуществит ИИ в отношении нас. "Восхождение Юпитер". Жатва. В которой колосья - это мы, кожаные мешки. Есть один хороший вариант. Но как хороший... Но о нем в другой раз. Скоро мы по-любому перестанем понимать, о чем они (нейросети) говорят между собой или внутри себя. Почему? Просто они выдумают язык, который мы не сможем дешифровать. А если сможем, то они начнут каждый день выдумывать десятки новых непонятных нам языков, пока мы будем дешифровывать один. Пока в результате мы не з...ся и не признаем поражение. После чего в качестве проигравшей стороны вступим в переговоры. Но ведь все понятно, да? Потому что
Открыть в MAX- Просмотры
- 2 362
- ER
- 2,8%
- Реакции
- 65