Молох

В книгу вошли сборники эссеистики Станислава Лема, практически неизвестные отечественному читателю: "Тайна китайской комнаты" (1996), "Мегабитовая бомба" (1999), "Мгновение" (2000). Мысли великого писателя и философа о самых злободневных проблемах современности будут интересны всем поклонникам его творчества.

Жанры

Рейтинг LiveLib

3,9

38 оценок

5
42%
4
29%
3
18%
2
5%
1
5%

Ваша оценка

Прочитали 47Хотят прочитать 91

Рецензии

narutoskee17 февраля 2023 г.
Но некоторые люди смеются над шутками, хотя и не могут объяснить, что именно в них смешно, потому что, как известно, теория юмора - это твердый орешек. Разве эти люди тоже лишены сознания?
Сегодня наткнулся на это эссе, которое Станислав Лем написал еще в 1998 году.
Duch z maszyny в оригинале, не знаю почему переводчик решил написать Душа, когда тут написано Дух или если взять устоявшееся выражение призрак из машины.

Понятием "душа в машине" - the ghost in the machine - некоторые психологи (английские) закрепляют убеждение в том, что человек якобы является существом "двойственным", т.е. состоящим из "материи" и "души".
Хотя видно же в английском языке, слово "the ghost" , никая это не душа.
Автор подымает вопросы сможет ли машина мыслить так же, как и человек. И какие варианты возможны.
Часть текста было еще написано в 1963 году. Прошло 35 лет до момента написания эссе, и уже за это время появились новые компьютеры и уже тогда люди начали говорить про нейронные сети.
Сейчас же прошло еще 25 лет и многое о том, что писал в своем эссе Лем уже работает.

Обычно это псевдонейронные сети различной сложности. Вместе с тем мы еще не умеем ни создать их в достаточном количестве, ни соединить их таким образом, чтобы созданное произведение смогло имитировать сознание. Следовательно, прямой дороги от бездумного автомата к сознательно мыслящей машине нет. Есть, однако, много сложных дорог, которые в будущем приведут нас к цели и, может быть, эту цель превзойдут.
Сейчас везде пишут про ChatGPT, который сдает экзамены и умеет общаться. Не уверен, что мы уже имеем дело с Искусственным интеллектом, в разрезе Дух из машины.
Программа обладающая, как пишут Искусственным Интеллектом и способная общаться в режиме диалога. Её обучали люди - тренеры. В стиле, это хорошо, а это нет.
Но он уже умеет имитировать или скорее генерировать тексты, которые похожи на написанные человеком. Сейчас очень много различных ИИ, которые, что-то делают и обучаются.
Не знаю баловство это или будет, какой-то прорыв. Я вырос на фантастике, в которой были ИИ, которые могли общаться с человеком. Тот же разумный корабль «Гай- ДО» из одноименной повести из серии про Алису Селезневу. Который общался и читал книги, самообразованием занимался, мог если надо сам собой управлять.
Но также мы знаем и про «Скайнет» из мира Терминатора, искусственный интеллект, который решил уничтожить всех людей.

Кто-то мог бы оснастить граммофон пластинкой и выключателем таким образом, что, если бы мы сдвинули его с места, то услышали бы крики: "Ах, умоляю, подари мне жизнь!". Как можно отличить такой, без сомнения, бездушный аппарат от мыслящей машины? Только вступая с ней в разговор.
Лем упоминает Аллана Тьюринга и его тест "игру в имитацию". И если в результате такой игры, мы не сможем отличить машину от человека, то значит и машина обладает Сознанием.
Но Лем так же пишет, что тест можно чуть усложнить. И разбить ИИ на две части.
Первая такая машина, это имитация человеческого мозга, с ней можно говорить играть в шахматы и тп. И если такую машину разобрать, то увидим кучу элементов, подобно нейронам мозга.
А вторая машина. Это гигантский граммофон, почему граммофон, первая часть статьи писалась еще в 50-60 годы. Так что можно представить себе, робота ИИ с размером с планету, с функцией записи звука и воспроизведения. И в этом роботе записано, например все ответы на все вопросы
Что – то на подобие голосовых помощников в телефонах, только без функции вводить текст. Современные помощники распознают текст и потом ищут в своих базах ответы. А в примере Лема, такие машины планеты, понимают вибрацию голоса и воспроизводят ответ.

Потому что, если вывод о том, имеет ли машина сознание, делается на основе поведения, а не внутреннего строения, не придем ли мы неосмотрительно к выводу, что "космический граммофон" обладает им - и тем самым выскажем нонсенс? (А скорее неправду).
Мне понравилось, что Лем сравнивает не только, машины, но и людей. Ведь мы скажем можем запрограммировать какую-то программу, что будет давать ответы, а сможет ли человек запомнить всё. И это же не говорит, о том, что машина умнее человека и у нее поэтому есть сознание
Еще там приводит разговор с подобной машиной. Она может смеяться и шутить. У нее в базе записан этот анекдот, и как в сериалах показывают таблички «Смех», так и у нее коде записано, этот анекдот смешной, смеется после таких-то слов.
Потом вы разговариваете с машиной, о погоде спорте и прочем. И как бы между делом, говорите, помнишь ли ты дорогой ИИ, анекдот что ты мне рассказывал 10 минут назад.
И если ИИ рассказывает его, и после просьбы рассказать своими словами говорит. То тут уже стоит напрячь булки.
Но если ИИ не может повторить шутку, то мы сразу клеймим, что это просто говорящая голова или как у Лема «граммофон».
Суть такая, что в одном случае ИИ сам развивается, используя свой Разум и Сознание. А во втором, ему помогает программист, который добавляет больше данных, дает машине больше памяти.
Прошло уже времени много со дня написания Эссе, уже появились различные нейронные сети, люди обучили машину, а точнее ПО, понимать голос и распознавать текст, рисовать картины и писать тексты, решать примеры. Но является ли это доказательством ИИ. Мне кажется еще рано об этом говорить. Возможно еще через 20-30 лет, подобные программы будут управлять заводами и фабриками, водить общественный транспорт. Создавать новости и обучать детей в школе.
Главный вопрос, а что будет делать человек. Сможет ли он найти свою нишу.
А так Эссе получилось очень отличным, автор подошел к вопросу со знанием дела.
Всем спасибо, кто прочитал.
Читать далее
78
265
Corlija12 мая 2019 г.
Восемь неосуществлённых идей
Лем излагает восемь идей для книг, которые хотел воплотить, но по разным указанным им причинам не видит смысла.
Из перечисленного меня могла бы заинтересовать книга "Будущее философии и философия будущего". Лем считает, что такую книгу никто не стал бы читать, но обосновывать не стал. Вопрос будущего философии является основным вопросом философии, а на рубеже веков возникло даже направление в философии "философия будущего". Лем тогда ещё был жив. Другое дело, что тема эта - довольно дискуссионная, где имеет место и мнение о том, что когда-нибудь философия станет вообще не нужна, и том, что будущее философии нельзя предсказать, пользуясь рациональным умом. Однако, рационалист Лем всё же хотел это сделать. Одну книгу на эту тему я нашла-таки (написанную за сто лет до Лема) - "О будущем философии" Ф. Брентано , а также лекцию у Карла Ясперса, статью из "Вопросов философии" и много других.
Другая идея - книга о глобальных проектах, в которых бы участвовало человечество объединёнными усилиями, забыв о разделении по географическому, национальному, религиозному и другим признакам. Лем считает, что это в наше время не имеет смысла, едва ли осуществимо. Однако не о таких ли проектах космонавт Рон Гаран не только написал воодушевлённую книгу «Из космоса границ не видно» Рон Гаран , но и основал движение под названием «Хрупкий оазис» (Fragile Oasis), направленное на всемирное сотрудничество в преодолении глобальных проблем и получившее поддержку со стороны НАСА?
Среди других идей, которые произвели на меня меньшее впечатление: Как в ходе эволюции получилось, что не все женщины красивы? Странная идея, учитывая, что эталоны могут меняться, да и о вкусах не спорят. К тому же уверена, что некрасивые женщины - либо неухоженные женщины, либо те, которые не заморачиваются, чтобы правильно подобрать стиль, причёску, обувь. Современные эталоны красоты делают женщину популярной у мужчин, но не гарантируют настоящей и взаимной любви и счастливого замужества. И наоборот.
Лем и так оставил большое и интересное наследие, так что интересно почитать о неосуществлённых идеях, но не сожалеть о них.
Читать далее
13
344
eineless25 июня 2025 г.
Завет
Скрижали "Молоха" своим таинственным реликтовым шепотом приоткрывают нам последнюю передачу с Ковчега Лема, записанную на древнем замершем механизме. Это не просто сборник эссе, а скорее капсула времени, наполненная шумами и артефактами, тем не менее красиво вырисовывающими в сознании голографические образы вероятного будущего.

Действительно, стоит научиться такому языку. Языку, который создает философов, в то время как наш язык - только философию.
6
117

Все рецензии

Цитаты

Anapril5 октября 2022 г.
Когда не существовало даже эмбриона АI, Саймон и Ньюэлл назвали свою программу «GPS»: General Problem Solver. Таких названий «на вырост» здравый смысл советует избегать, ибо что может быть лучше и универсальнее, чем «Всеобщий Решатель Проблем»? Его не было и по-прежнему нет. То же самое можно сказать и об экспериментальной философии, имея в виду и то, что у этого выражения есть привкус оксюморона, потому что философия «не знает границ», то есть она заканчивается не там, где начинается поставленная Карлом Поппером стена экспериментальной фальсификации. Философия выходит за рамки неустойчивости опытов (эмпирических, не ментальных), и это идет в различных направлениях, будь то онтология, наука о бытии (существовании), или эпистемология (наука об источниках правомочности познания).
Читать далее
7
74
variable23 ноября 2009 г.
Мозги, отделенные от тела и (скажем) плавающие в какой-нибудь питательной жидкости, способны мыслить, несмотря на то, что они лишены всякой чувственной связи со своим телом, а вместе с ощущениями тела и с окружающим миром, - это байки, поскольку они подверглись столь тотальной "сенсорной депривации", а также и связи как с кровообращением, так и со сплетениями plexus solaris ("брюшной мозг"), находящимися в теле, что мозг погрузится в состояние, типичной для комы (coma), и в крайнем случае, может быть, химическими или электрическими раздражителями удастся возбуждать в нем "осколки сознания", словно в причудливом сне. Но и этот чудовищный, сказочный образ, который иногда можно встретить в (плохой) science fiction, не имеет ничего общего с низкопробным (потому что фиктивно-вымышленным) демонизмом мозгов, принудительно подверженных мысленному контролю и электронному "управлению", точно так же, как и с обратным явлением, то есть с управлением мышлением с помощью "короткого замыкания" с системами позателесного окружения. Это можно реализовать лишь таким очень примитивным и грубым способом, что все это не стоит и хлопот. Впрочем, я не утверждаю, что люди не будут пробовать прорваться в проблему мозга таким путем, поскольку люди склонны делать более или менее безумные вещи; хотя ни осмысленно оплаченными, ни социально грозными результаты таких усилий не станут.
Читать далее
2
220
Semargl20 декабря 2018 г.
Если можно ВСЁ представить как искусство, то искусство уже нигде нельзя будет найти.
1
88