Молох

Сегодня наткнулся на это эссе, которое Станислав Лем написал еще в 1998 году.

Duch z maszyny в оригинале, не знаю почему переводчик решил написать Душа, когда тут написано Дух или если взять устоявшееся выражение призрак из машины.

Хотя видно же в английском языке, слово "the ghost" , никая это не душа.

Автор подымает вопросы сможет ли машина мыслить так же, как и человек. И какие варианты возможны.

Часть текста было еще написано в 1963 году. Прошло 35 лет до момента написания эссе, и уже за это время появились новые компьютеры и уже тогда люди начали говорить про нейронные сети.

Сейчас же прошло еще 25 лет и многое о том, что писал в своем эссе Лем уже работает.

Сейчас везде пишут про ChatGPT, который сдает экзамены и умеет общаться. Не уверен, что мы уже имеем дело с Искусственным интеллектом, в разрезе Дух из машины.

Программа обладающая, как пишут Искусственным Интеллектом и способная общаться в режиме диалога. Её обучали люди - тренеры. В стиле, это хорошо, а это нет.

Но он уже умеет имитировать или скорее генерировать тексты, которые похожи на написанные человеком. Сейчас очень много различных ИИ, которые, что-то делают и обучаются.

Не знаю баловство это или будет, какой-то прорыв. Я вырос на фантастике, в которой были ИИ, которые могли общаться с человеком. Тот же разумный корабль «Гай- ДО» из одноименной повести из серии про Алису Селезневу. Который общался и читал книги, самообразованием занимался, мог если надо сам собой управлять.

Но также мы знаем и про «Скайнет» из мира Терминатора, искусственный интеллект, который решил уничтожить всех людей.

Лем упоминает Аллана Тьюринга и его тест "игру в имитацию". И если в результате такой игры, мы не сможем отличить машину от человека, то значит и машина обладает Сознанием.

Но Лем так же пишет, что тест можно чуть усложнить. И разбить ИИ на две части.

Первая такая машина, это имитация человеческого мозга, с ней можно говорить играть в шахматы и тп. И если такую машину разобрать, то увидим кучу элементов, подобно нейронам мозга.

А вторая машина. Это гигантский граммофон, почему граммофон, первая часть статьи писалась еще в 50-60 годы. Так что можно представить себе, робота ИИ с размером с планету, с функцией записи звука и воспроизведения. И в этом роботе записано, например все ответы на все вопросы

Что – то на подобие голосовых помощников в телефонах, только без функции вводить текст. Современные помощники распознают текст и потом ищут в своих базах ответы. А в примере Лема, такие машины планеты, понимают вибрацию голоса и воспроизводят ответ.

Мне понравилось, что Лем сравнивает не только, машины, но и людей. Ведь мы скажем можем запрограммировать какую-то программу, что будет давать ответы, а сможет ли человек запомнить всё. И это же не говорит, о том, что машина умнее человека и у нее поэтому есть сознание

Еще там приводит разговор с подобной машиной. Она может смеяться и шутить. У нее в базе записан этот анекдот, и как в сериалах показывают таблички «Смех», так и у нее коде записано, этот анекдот смешной, смеется после таких-то слов.

Потом вы разговариваете с машиной, о погоде спорте и прочем. И как бы между делом, говорите, помнишь ли ты дорогой ИИ, анекдот что ты мне рассказывал 10 минут назад.

И если ИИ рассказывает его, и после просьбы рассказать своими словами говорит. То тут уже стоит напрячь булки.

Но если ИИ не может повторить шутку, то мы сразу клеймим, что это просто говорящая голова или как у Лема «граммофон».

Суть такая, что в одном случае ИИ сам развивается, используя свой Разум и Сознание. А во втором, ему помогает программист, который добавляет больше данных, дает машине больше памяти.

Прошло уже времени много со дня написания Эссе, уже появились различные нейронные сети, люди обучили машину, а точнее ПО, понимать голос и распознавать текст, рисовать картины и писать тексты, решать примеры. Но является ли это доказательством ИИ. Мне кажется еще рано об этом говорить. Возможно еще через 20-30 лет, подобные программы будут управлять заводами и фабриками, водить общественный транспорт. Создавать новости и обучать детей в школе.

Главный вопрос, а что будет делать человек. Сможет ли он найти свою нишу.

А так Эссе получилось очень отличным, автор подошел к вопросу со знанием дела.

Всем спасибо, кто прочитал.

Лем излагает восемь идей для книг, которые хотел воплотить, но по разным указанным им причинам не видит смысла.

Из перечисленного меня могла бы заинтересовать книга "Будущее философии и философия будущего". Лем считает, что такую книгу никто не стал бы читать, но обосновывать не стал. Вопрос будущего философии является основным вопросом философии, а на рубеже веков возникло даже направление в философии "философия будущего". Лем тогда ещё был жив. Другое дело, что тема эта - довольно дискуссионная, где имеет место и мнение о том, что когда-нибудь философия станет вообще не нужна, и том, что будущее философии нельзя предсказать, пользуясь рациональным умом. Однако, рационалист Лем всё же хотел это сделать. Одну книгу на эту тему я нашла-таки (написанную за сто лет до Лема) - "О будущем философии" Ф. Брентано , а также лекцию у Карла Ясперса, статью из "Вопросов философии" и много других.

Другая идея - книга о глобальных проектах, в которых бы участвовало человечество объединёнными усилиями, забыв о разделении по географическому, национальному, религиозному и другим признакам. Лем считает, что это в наше время не имеет смысла, едва ли осуществимо. Однако не о таких ли проектах космонавт Рон Гаран не только написал воодушевлённую книгу «Из космоса границ не видно» Рон Гаран , но и основал движение под названием «Хрупкий оазис» (Fragile Oasis), направленное на всемирное сотрудничество в преодолении глобальных проблем и получившее поддержку со стороны НАСА?

Среди других идей, которые произвели на меня меньшее впечатление: Как в ходе эволюции получилось, что не все женщины красивы? Странная идея, учитывая, что эталоны могут меняться, да и о вкусах не спорят. К тому же уверена, что некрасивые женщины - либо неухоженные женщины, либо те, которые не заморачиваются, чтобы правильно подобрать стиль, причёску, обувь. Современные эталоны красоты делают женщину популярной у мужчин, но не гарантируют настоящей и взаимной любви и счастливого замужества. И наоборот.

Лем и так оставил большое и интересное наследие, так что интересно почитать о неосуществлённых идеях, но не сожалеть о них.

Крупный сборник эссеистики Лема, по большей части написанной для польского журнала "PC magazine" в течение девяностых-начала двухтысячных. В этом журнале он вел ежемесячную колонку, в которой делился своими мыслями о проблемах современности, как в области информатики, так и в смежных отраслях знаний.
Статьи довольно интересные, нетривиальные, но поставить высокий балл сборнику мешают несколько факторов.

• Самоповторы. Например, в первых статьях очень много внимания уделяется перспективам решения NP-полных задач с помощью генетических алгоритмов. И каждая статья, а их с полдесятка, начинается с описания, что это за задачи (с описанием задачи коммивояжера на пару абзацев), что это за алгоритмы и т.д. понятно, зачем это делается. Так как статьи публиковались в ежемесячнике, потенциальный читатель мог просто забыть или вовсе пропустить предыдущую статью, поэтому общие тезисы нужно обрисовать.

• Самоцитирование. Лем раз за разом цитирует фрагменты своих работ страницами, по большей части чтобы показать, как он предсказал такие-либо технологические новшества ещё в шестидесятых.
• Брюзжание. Лем писал статьи на склоне лет, что нашло отклик, в частности, в неприятии всего нового. Очень много статей о вреде интернета, о стагнации культуры и прочем. Но те аргументы которые он приводит... Ну иначе, чем старческим брюзжанием я это назвать не могу. Например, говоря о вреде кажущегося удобства такой новомодной приблуды как электронная почта, он говорит, что вынужден очень много времени тратить, чтобы ее разбирать.
• Потеря актуальности отдельных статей. Думаю, прошлый пример достаточно это иллюстрирует.
• Перевод. Я с огромным уважением отношусь к Виктору Язневичу, как к популяризатору творчества Лема, но, увы, вынужден признать, что ему не всегда хватает эрудиции, чтобы переводить его тексты. Перевод терминов не всегда корректен, например supernova переводится как суперновая.

Лем. "Молох"

Мне сложно оценивать Лема, но всё же попробую.
"Молох" - это сборник поздних эссе Лема, разбитых на две большие части: "Тайна китайской комнаты" и "Мегабитовая бомба" и несколько маленьких - парочка журнальных статей и пяток поздних рассказов.

Вся книга - это такая своеобразная переоценка себя же самого спустя 30-40 лет (именно столько прошло от момента написания "Суммы технологий" до этих эссе). Лем пускается в размышления о том, сбылись его прогнозы или нет и рассматривает положение вещей о затронутых темах на рубеже XX и XXI веков. С одной стороны, читать интересно. Лем даже на старости лет логичен, последователен и креативен. Язык его упростился (хотя, возможно, дело рук переводчиков), поэтому продираться через дебри терминов теперь не придётся.

С другой стороны, всё это уже было в "Сумме технологий", а затем в "Фантастике и футурологии", пусть даже и несколько другим языком. Автор занимается автоцитированием на несколько страниц подряд и это очень утомляет. Сами сборники написаны в разные годы ("Тайна..." в 1996, "...бомба" в 1999), задумывались, очевидно, как отдельные сборники, поэтому содержат много глав, посвященных одним и тем же темам. А так как за 3-4 года мировоззрения Лема не сильно изменились, то и мысли, высказанные там, одинаковы. Из-за этого приходится несколько раз подряд перечитывать одни и те же мысли. Иногда даже написанные одними и теми же словами. В общем, если бы коснуться этого произведения, скажем, вместо "Суммы технологий", то было бы интересно. Но как поздние комментарии - они слишком уж объемны для восприятия. Общий объём философского опуса в целом ("Сумма" + "Фантастика и футурология" + "Молох" = 2700 страниц) превышает разумные пределы.

В общем, на мой взгляд, ценная вещь только если перед этим НЕ читать ранние эссе автора или если ты, вдруг, изучаешь творчество Лема (хотя, я сомневаюсь, что есть подобные филологи или философы).

Народная мудрость гласит, что "Нет пророка в своём Отечестве!".
Так ли это?
На данный вопрос отвечает польский писатель-фантаст Станислав Лем в своём авторском сборнике "Молох", посвящённом его оценке пророчеств, изложенных "за тридцать лет до того как" в его же книге "Сумма технологий".
В 60-годы прошлого столетия одной из модных наук была Футурология - наука предвидения Будущего, и именно этой сфере человеческого познания была посвящена лемовская "Сумма технологий".
Но уже тогда книга Станислава Лема подвергалась критике со стороны некоторых исследователей его вторчества.
А в чём состоит суть этих разногласий и как сам Лем оценивает свои предвидения, вы узнаете прочитав (новую для меня) книгу "Морлох".
Но читать её надо не как роман положений или приключений, а как ислледовательский отчёт писателя о сделаном им ранее.
И это - интересно потому, что далеко не кажды писатель способен на такой подвиг - трезво оценить самого себя!

Всю эту книгу я не читал, прочитал некоторые рассказы, которые в неё вошли ("Заклятие превидизма", "Заменить разум" и ещё что-то), но добавлять эти произведения в каталог не хочу, потому что они слишком короткие и вообще не стоят добавления. Поэтому моя оценка по отношению ко всему сборнику может быть очень несправедливой.

Общее впечатление от прочитанных поздних рассказов такое.
Лем в конце своего жизненного пути сильно озаботился оправданием того, что он написал когда-то давно. Такая "апология раннего Лема". К сожалению, я не читал ни одного из произведений, на которые он ссылается.
Конечно, Лем есть Лем. Интересные идеи есть. Про искусственный разум и другие.
Но читать совсем не обязательно. Лем написал много-много гораздо более важного и интересного.