Четвертая мировая война. Будущее уже рядом!

Мышление — по большому счёту, лишь поведенческий навык, а всякий навык легко утрачивается. Не следует переоценивать человеческий мозг — эта штука со времен нашего великого африканского исхода ничуть не изменилась — весьма, надо признать, примитивный агрегат.

Да, у мозга человека большой потенциал к обучению, и да — наша культура (язык и прочие знания о мире), — всё, что впихивают в нас первые двадцать лет жизни, штука сложная. Но если наш мозг не дрессировать, если ничего в него вот так — силой — не впихивать, мы останемся милым приматом, ничем не отличающимся от шимпанзе.

С мозгами как с мышцами: если их функцию выполняет какой-то сторонний агрегат, то они медленно, но верно усыхают.

Из-за социальных сетей, эффекта постоянной подключённости («всегда на связи»), агрессивной конкуренции между производителями контента, цифровой зависимости и других новых «зол» изменилось не только количество, но и качество потребляемой нами информации.
Эта фундаментальная трансформация среды с неизбежностью приводит к нашим собственным изменениям. Но из-за когнитивных искажений мы субъективно занижаем значение происходящего: к переменам мы стали привыкать быстро, а собственных изменений не видим, потому что не с чем сравнить – всё человечество меняется разом.
Многие, впрочем, чувствуют: «что-то пошло не так». Изменения вроде бы и положительные, но вот фон – нет, какой-то странный: всё сложнее определиться с целями, жизненные перспективы выглядят какими-то туманными (если вообще просматриваются), нарастает чувство безысходности, отношения между людьми становятся всё более и более поверхностными и формальными.

Да, Четвёртая мировая может стать войной между умными машинами и людьми-героями. Но окажемся ли мы сами достаточно умными, чтобы добежать до того момента, когда машины обретут свой ум и наш грядущий Армагеддон будет действительно прекрасен?
Меня частенько ругают, что я, мол, рисую мрачные перспективы и не предлагаю никакого выхода. Но выход, как мне представляется, напрашивается сам собой: всё, что мы должны сейчас делать (и не только сейчас), — это начать думать.
Понять механизмы собственного мышления и заставить свой мозг работать: избавиться от иллюзий, увидеть закономерности, определяющие действительную реальность, и начать действовать. Конечно, думающих всегда меньшинство. Но именно от этого меньшинства и зависит будущее всего человечества.

Мир технологий становится всё более сложным, управлять им, координировать его в целом уже сейчас невозможно. При этом он далеко ещё не в той форме, чтобы можно было ему полностью довериться. Поэтому количество ошибок в системе будет расти, а людей, способных их исправить, людей, которые могут видеть ситуацию в целом, уже сейчас нет.

Так что есть все основания предполагать, что мы «не потеснимся», уступив место сверхмощному искусственному интеллекту, а просто сгинем, отупев до того, как он будет нами создан.

Вот она, альтернатива, очень в духе надписи на придорожном камне из русских народных сказок: создадим серхмощный искусственный интеллект, и он нас уничтожит, не создадим — отупеем от промежуточных результатов «цифрового прогресса» и станем обычным homo.

Я придумал закон ускоренной отдачи, чтобы правильно рассчитывать время в моих собственных технологических проектах: чтобы я мог начинать их за несколько лет до того, как они станут осуществимыми.

РЭЙ КУРЦВЕЙЛ
(...)
«За семь лет проект „Геном человека“[2] собрал один процент генома, — рассказывает Курцвейл. — Мейнстримовые критики заявляли: „Я же говорил, что ничего не получится. За семь лет — один процент, значит, на весь геном уйдёт 700 лет“. Моя реакция была другой: „Ого, мы уже сделали один процент? Мы почти закончили!“ Дело в том, что один процент — это всего семь удвоений до ста процентов. Удвоение происходит каждый год. И действительно, проект закончили уже через семь лет. То же самое произошло со стоимостью: первый геном стоил миллиард долларов, а сейчас эта процедура стоит всего 1000 долларов».

Цифровая церковь – это уже не миф. Она реально существует, причём с 2015 года и основана в той самой Силиконовой долине. Церковь, провозглашённая Энтони Левандовским – бывшим инженером Google и Uber, – проповедует веру под названием «Путь будущего» (Way of the Future).
Да, Бога, согласно Левандовски, ещё нет, но Он сейчас рождается.
<...>
Будущий Бог – это искусственный интеллект, а точнее – суперинтеллект, а ещё точнее – та самая Курцвейловская «технологическая сингулярность». Когда эта штука обретёт самость и личность, она возьмёт на себя контроль над Землёй и по-разному обойдётся с каждым из нас.
Тех из людей, что всячески способствовали её появлению, ждали и верили, Цифровой Бог сделает своими возлюбленными, о которых Он будет заботиться. Тех же, кто противится рождающемуся Богу, ждёт кара. Цель же «Пути будущего» – способствовать «мирному и дружественному переходу планеты от людей к машинам».
Явление Цифрового Бога миру – это уже неизбежность, ничто и никто не сможет этого остановить. Он воцарится на Земле и преобразует наш мир.
<...>
«Путь будущего» учит людей не бояться прогресса, тем более что другого будущего у нас просто нет.
<...>
Во-первых, множество солидных учёных допускает, что искусственный интеллект сможет обрести некое подобие личности.
Во-вторых, большинство из них уверены, что контролировать сверхмощный искусственный интеллект у нас вряд ли получится.
В-третьих, во всё это безобразие сейчас инвестируются такие деньги, которых хватит, чтобы Статуя Свободы с Нью-Йоркского острова Свободы ожила и заговорила.

... у представителей «поколения X» бред структурный, а в бредовых конструкциях «игреков» никакой структуры нет и близко — исчезла.

Но бред — это ведь просто психическая продукция, пусть и весьма специфическая. Морфологически и психофизиологически мозг в обоих случаях один и тот же, и в обоих же случаях он поражён одним и тем же недугом (генетическая природа этого заболевания никак не изменилась). Почему же настолько отличается само качество этой, как её называют психиатры, психической продукции?!

Вопрос не в содержании бреда, а в том, как он структурно организован. А структурно он теперь организован из рук вон плохо, но не по причине болезни как таковой, нет. Мы все с вами в этом мороке информационного потребления так мыслим — бесструктурно, рвано, несистемно. Шизофреник просто не боится, поскольку теряет связь с реальностью, вывернуть своё мышление наружу и нам этот бардак, касающийся теперь каждого, продемонстрировать.

Печальная ирония состоит в том, что искусственный интеллект обучается сейчас в чрезвычайно «обогащённой среде», буквально унавоженной нашими мозгами. А вот ребёнок нет — он попадает в тоннель рекомендуемого контента и форматируется под этот случайным образом возникший паттерн.

Впрочем, почему случайный? Нет, не случайный — он сделан искусственным интеллектом. Правда, пока без цели и смысла, но это уже работает. Осталось дождаться вводных, которые, впрочем, как мы видим, могут возникать и по методу спонтанного самозарождения…

Даже крысы становятся умнее, если их поместить в богатую внешними раздражителями, да вдобавок ещё и комфортную социальную среду. А в какую среду помещены современные дети? Вы, вообще, давно слышали детский крик? Нет, я совершенно серьёзно спрашиваю…

Современные дети не кричат, потому что, как только они начинают кричать, им тут же, в качестве интеллектуальной соски, дают в руки гаджет — телефон или планшет. И это магическим образом успокаивает любого ребёнка. Гаджеты превратились в универсальных бэби-ситтеров, нянек, воспитательниц и бабушек.

...при слепом тестировании (а соответствующие тесты были проведены) люди не могут отличить музыку, написанную Атрег’ом, от той, что создал человек. Идея, что человеческий креатив — это нечто совершенно невозможное для машин, является совершенно нелепым заблуждением.

Искусственный интеллект уже умеет из сырых данных выводить законы природы, включая законы Ньютона, например, и проверять сложнейшие математические доказательства (на что раньше у людей-математиков зачастую уходили годы). А это всё-таки настоящая наука!

Так что думать, будто бы он не сможет справиться с какими-то семью красками и семью же нотами — это как минимум смешно.

«Мемы» — это вовсе не весёлые картинки с забавными подписями, как почему-то думают некоторые представители современной молодёжи, а самый настоящий научный термин. Понятие «мема» было предложено Ричардом Докинзом для определения единиц культурной информации.
(...)
В толковых словарях всё остаётся по-прежнему, а вот в реальной жизни — нет.

В этой борьбе мемов друг с другом одни смыслы борются с другими за одни и те же слова. Потом один мем побеждает, другой — гибнет, но никто из нас возникшей подмены заметить не может, потому что слова остаются теми же, что и раньше. Как будто бы ничего и не произошло…

А теперь вопрос: у какого мема больше шансов на победу в этой конкурентной борьбе за наши мозги? Тут всё действительно как у вирусов: побеждает тот из них, которым легче «заразиться», а заразиться легче тем, что проще, примитивнее, легче в восприятии и реализации.

И, постепенно отупляясь, мы этого не заметим.

Но зачем этой системе люди? Судя по всему, они будут превращаться в «домашних питомцев».

Но домашние животные тоже заводятся не просто так — или для того, чтобы их есть, или же (и таких куда меньше в процентном отношении) — чтобы ими умиляться. Но кто нами в такой ситуации будет умиляться, и главное — зачем?

Искусственный интеллект и вправду должен оказаться тем ещё извращенцем, чтобы его умиляло человечество. А съесть нас… Нуда, эту версию мы уже рассматривали — нанонож и всё такое.

В общем, всё это пока напоминает какую-то ужасающую футурологическую пародию на «Мёртвые души». И неудивительно, что трогательного Илона Маска это пугает.