Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте

«Что вы думаете о машинах, которые думают?» На этот вопрос — и на другие вопросы, вытекающие из него, — отвечают ученые и популяризаторы науки, инженеры и философы, писатели-фантасты и прочие люди искусства — без малого две сотни интеллектуалов. Российскому читателю многие из них хорошо известны: Стивен Пинкер, Лоуренс Краусс, Фрэнк Вильчек, Роберт Сапольски, Мартин Рис, Шон Кэрролл, Ник Бостром, Мартин Селигман, Майкл Шермер, Дэниел Деннет, Марио Ливио, Дэниел Эверетт, Джон Маркофф, Эрик Тополь...

Жанры

Рейтинг LiveLib

4,1

21 оценка

5
43%
4
33%
3
19%
2
5%
1
0%

Ваша оценка

Прочитали 23Хотят прочитать 151

Рецензии

serz_komarovv
13 октября 2022
Готовы быть на первых рядах в дискурсе об Искусственном Интеллекте?
Какой был вопрос Edge 2015 года?
Барабанная дробь... смотрим на название книги...

ЧТО ВЫ ДУМАЕТЕ О МАШИНАХ, КОТОРЫЕ ДУМАЮТ?
Вы меня сожжёте на костре, если я вторую рецензию подряд буду писать об этом проекте. Чтоб было понятно о чём речь (Edge) — можете перейти по ссылке прямо здесь, в мою предыдущую рецензию на Джона Брокмана.
Если вкратце, то есть такой сайт. Там ведут дискуссию интеллектуалы всего мира, которых сам Брокман назвал третьей культурой. И каждый год он задаёт им вопрос, они охотно отвечают и Брокман это оформляет под одну обложку. Брокман – литературный агент, поэтому подобный трюк он смог сделать. И собрать интеллектуалов и продать это всё под одной обложкой. Браво.
ЧТО ВЫ ДУМАЕТЕ О МАШИНАХ – очередной вестерн в нон-фикшн, книга без аргументации, книга одной идеи. Повторюсь, собрали на одной платформе 100+ умных людей и задали вопрос.
Всю книгу у вас будет ощущение, что:
– Вы или где-то об этом читали,
– Или что книга содержит противоположные тезисы.
И то и другое – чистая правда. Но в одном месте смог собрать это только Брокман. Люди на страницах этой книги задают темп и идеи для всего, что связанно с ИИ. Поэтому тем, кто интересуется этой темой она и вовсе обязательна к прочтению!
Вся книга качает из стороны в сторону...
Скоро будет ИИ – или не скоро?
Одомашним ли мы машины – или не одомашним?
По подобию сознания создавать ИИ – или нет?
Должен ли ИИ сознавать себя – или нет?
Сдержим ли мы ИИ – или человек останется лишь в истории?
Придём к сингулярности – или нам о ней и думать рано?
Поймём ли мы свой конец – или уничтожим себя сами?
Через череду подобных глав-вопросов вам станет немного понятней, вы расширите горизонты вопроса.На него конечно же книга не ответит, это дискуссия. Мне в этой книге было приятно видеть очень много людей, как Пинкера, Деннета, Тегмарка... перечислять можно долго.
Почему тогда 4?Знаете, вот в других книгах у меня не было ощущения, что место в книге куплено (просто быть на страницах книги, потешить графомана внутри, но это лишь предположение). Не знаю почему, а здесь закралось. Тут по ощущениям больше фамилий. А половина из них вообще не понятно по какому принципу относятся к «третьей культуре», интеллектуалами их и по размышлениям нельзя назвать. Поэтому пол бала уходит зрительному залу.
Куда еще делось пол бала?
Прошлый вестерн мне больше понравится, я в самом начале скинул пол бала. Почему? В прошлый раз вопрос был неудобный: «Во что верят учёные мужи?». Учёные по факту на веру полагаться не должны. Здесь же вопрос лёгкий, абстрактный.
По общим ощущениям – 4.
Я могу ошибаться, к примеру, сегодня я попал под дождь. Мои прогнозы иногда не сбываются.
Если вы интересуетесь темой ИИ, то эта книга должна стать 3-ей или 4-ой.
Не раньше и не позже.
Читать далее
201 понравилось
3
1,4K
sq
11 июля 2022
Есть такая неординарная организация: The Edge. Она в течение многих лет раз в год задаёт актуальный вопрос ведущим мировым специалистам и философам просит их дать ответ на трёх страницах.
Когда-то я прочитал несколько таких мнений по разным вопросам, и вот случайно набрёл на вопрос 2015 года. Он является заголовком сборника и в переводе значит

Что вы думаете о машинах, которые думают?
Это тот самый вопрос, который лично меня волнует существенно.
Разумеется, на трёх страницах осмысленный ответ на сложный вопрос дать трудно, но авторы стараются как могут.
В этот раз на заданный вопрос ответили примерно 400 человек, поэтому я прочитал не все ответы, а лишь те, что дали люди, которых я знаю -- не лично, но хоть как-то. Было довольно интересно.
Steven Pinker, один из немногих современных философов, кто может сказать что-либо по делу, считает, что прогресс ИИ существенно преувеличен. Поставленная цель -- создать машину с человеческим уровнем интеллекта -- маячит где-то на расстоянии 15-25 лет от нас. Впрочем, она всё время находится от нас именно на таком расстоянии.
Ну и он не думает, что у какого бы то ни было ИИ появится цель поработить нас или уничтожить. Он может нас уничтожить, но не со зла, а походя, примерно как мы уничтожаем муравейник, когда требуется построить плотину гидроэлектростанции. Ничего личного.
Поскольку же к поставленной цели мы никак не можем приблизиться, у нас есть время поставить защититься от потенциальных угроз.
Max Tegmark, автор моей любимой книги "Наша математическая Вселенная", пишет, что пришествие думающих машин будет важнейшим событием мировой истории. К добру это будет или нет, зависит от того, как мы подготовимся. Когда это случится, вопрос сложный, но готовиться надо уже сейчас.
Daniel C. Dennett тоже улучшил моё отношение к современным философам. Он высказался так.
Да, мы рискуем, когда хотим уступить управление важными сторонами нашей жизни мыслящим машинам. Однако мы рискуем ещё больше, когда принимаем рекомендации машин, которые не мыслят. А мы это делаем всё больше.
Идея тонкая, да.
Freeman Dyson претендовал на первое место как самый лаконичный эссеист всех времён и народов. Его произведение не из трёх страниц, а из трёх предложений. К сожалению, не особенно интересных.
Против ожиданий он получил лишь серебряную медаль, уступив на финише Роберту Сапольски. Тот уложился в два предложения, к сожалению, тоже не имеющих серьёзного смысла.
Martin Rees думает, что у органической жизни нет долгосрочной перспективы.
Согласне с ним. Чем скорее мы перейдём с органической пищи на голое электричество, тем лучше сохраним планету для потомков. Главное тут не увлечься по пути и не уничтожить всё к чёртовой бабушке.
Nick Bostrom полагает, что рождение суперинтеллекта может оказаться как хорошей новостью, так и плохой. С этим не поспоришь :)
Подробности он предлагает смотреть в его книге Superintelligence. Я её не читал. Может быть, сто́ит причаститься как-нибудь.
Lee Smolin выдал нечто непонятное из своей области -- из физики. Его книга "Неприятности с физикой" сложна, но хотя бы понять её можно. Тут мне не удалось уловить его мысль.
Всех остальных авторов я не читал. Может быть, зря, но формат "три страницы на всё про всё" скоро надоедает. Одно дело известные люди, другое -- те, о ком я слышу в первый раз и, очень может быть, в последний тоже.
Сама же по себе задумка "вопроса года" отличная. Хорошо, что мне о ней напомнили. Обязательно буду заходить к ним на сайт иногда.
Читать далее
Содержит спойлеры
16 понравилось
9
216
PavelMozhejko
16 марта 2025
«Никто так не формулирует, но я думаю, что искусственный интеллект — это почти гуманитарная дисциплина. Это действительно попытка понять человеческий интеллект и человеческое познание». (Себастьян Трун)
Среди главных черт, формирующих наше мышление, я бы выделил социальность, постоянное моделирование возможного будущего и осознание собственной смертности в нем. Судя по всему, наш вид единственный на планете, который не только «понимает» смерть, как дельфины, слоны или приматы, но и точно знает, что она неизбежна. Отсюда многообразие выдуманных нами сценариев апокалипсиса, от вариантов конца света согласно разным верованиям, до ядерной зимы или покорения цивилизации взбунтовавшимися умными машинами. Чем более развитые технологии начинают нас окружать, тем более вероятным в глазах наиболее впечатлительных людей и правдоподобным выглядит последний сценарий. Сегодня все чаще звучат предостережения в том числе и вполне образованных людей от необдуманного, неконтролируемого развития искусственного интеллекта. Но большинство неспециалистов, задаются лишь не самым важным вопросом «КОГДА? Когда наконец ИИ взбунтуется и поработит нас?» Этот вопрос уводит нас от главного: от анализа развития технологии во времени, ее текущего и прогнозируемого состояния, обсуждения принципов и ценностей, которые заложены в ее мышление, наконец в определение того, каким может быть и каким должен быть искусственный интеллект, сравнимый с нашим, естественным. Это похоже на то, как сегодня многие обсуждают (а точнее гадают): будет ли нажата «ядерная кнопка» или нет, при этом не стремясь понять, как ситуация пришла к тому, что вопрос этот в принципе стал актуален.
Эта необычная книга не даст ответа на вопрос «Когда машины нас покорят?». Она предлагает даже не найти ответы, а просто поразмышлять об искусственном интеллекте, о его роли в нашей жизни, о нашем понимании машинного мышления, об ответственности и угрозах, о пользе и перспективах, о природе и морали такого разума, о возможной конкуренции или наоборот взаимопомощи, о том, в чем мы, люди, никогда не будем похожи на машины. Есть ли у вас готовое мнение о машинном интеллекте или нет, после прочтения этой книги (или этой рецензии), вы определенно будете более подготовлены к ответу на вопрос «Что мы думаем о машинах, которые думают?»

Перед вами сборник из 186 эссе, который является результатом деятельности интересной организации «Edge Foundation». Она основана американским литературным критиком Джоном Брокманом (род. 1941 г.) и занимается дискуссиями по ключевым вопросам развития науки и технологий. «Edge Foundation» объединяет ученых и интеллектуалов для популяризации передовых идей. Организация издает сетевой журнал «Edge» и каждый год редакция ставит новый вопрос, на который отвечают разные комментаторы — как представители научных кругов, так и просто известные люди, чье мнение может показаться интересным. Вопрос 2015 года как раз вынесен в заголовок сборника.

Джон Брокман
Структура книги проста: эссе идут подряд, и каждое из них имеет размер от нескольких предложений, до четырех страниц. В заголовке указан автор, его род деятельности, место работы и заслуги, среди которых как правило указывается какая-то из написанных им книг. С этой точки зрения, этот сборник, помимо прочего, отличный источник информации об интересных научно-популярных книгах, благо редакция везде указала русскоязычное издание, если таковое имеется. Лично я добавил в список прочтения десяток книг. Сами эссе написаны в свободной форме, некоторые из них близки к научной статье, большинство же представляют из себя образцы стандартной публицистики, но иногда, авторы облекают свои рассуждения в форму художественной сатирической прозы, что выглядит оригинально и остроумно (а часто и убедительнее пищущих более строго коллег).
Среди авторов в основном ученые, мыслители, преподаватели, журналисты, но встречаются писатели (Брюс Стерлинг) и даже музыканты (Брайан Ино). Здесь много известных для поклонников научно-популярной литературы имен: Стивен Пинкер, Роберт Сапольски, Мартин Рис, Лоурен Краусс, Фрэнк Вильчек, Майкл Шермер, Элизер Юдковски, Ричард Нисбетт и мн. др. (читайте мои рецензии на книги этих авторов) Правда, хочу сразу предупредить, не ждите, что ваш «любимчик» обязательно скажет что-то умное и глубокое по теме книги. Яркий пример – ответ прекрасного нейрбиолога, рассказчика и просветителя Роберта Сапольски, состоящий всего из двух банальных (или очень скрыто остроумных?) предложений:
«Что я думаю о мыслящих машинах? Ну, я думаю по-разному — зависит от того, о ком конкретно идет речь».
Это самое короткое эссе в книге, и, пожалуй, самое неинтересное. Большой вопрос, зачем вообще было включать его в сборник?
Но следует отдать и должное редактуре Джона Брокмана в том, что отобрав эссе для сборника, он отразил самые разные взгляды на искусственный интеллект. Главное разделение идет по признанию опасности сильного ИИ или наоборот восприятии его как блага для цивилизации. Второе разделение мнений проходит в целом по возможности / невозможности создать искусственный интеллект, сравнимый с нашим. Третье разделение мнений рассматривает сосуществование искусственного и естественного интеллектов: либо они будут дополнять друг друга, либо развиваться независимо и параллельно в мире «многовидового интеллекта» (Мелани Свон). Четвертый «делитель» - это споры о том, какими качествами и свойствами должен обладать сильный/универсальный ИИ, а пятый – какие цели и ценности должны быть у такого разума (и как их заложить в него).
Здесь есть очень глубокие эссе (как правило написанные философами и другими «гуманитариями»), позволяющие посмотреть на ИИ с необычных сторон. Так, например, философ Томас Метцингер считает, что сильный ИИ невозможен, если ему не будет знакомо страдание, а писательница Мария Попова считает, что ИИ должен как и мы уметь «принимать неопределенность». Много проходных «банальных» текстов. Есть эссе, в которых аргументированно высказаны здравые опасения по поводу развития и широкого внедрения ИИ в нашу жизнь, но и есть такие алармистские высказывания, которые просто «выражают обеспокоенность» во всей пошлости современного понимания этого выражения.
Тексты перемешаны таким образом, что не создается впечатления, что редактор поддерживает ту или иную точку зрения. Кажется, что в целом мнения разделились пополам. Из-за этого книгу читать интересно, здесь следующие друг за другом разные точки зрения создают ощущение заочной полемики между авторами эссе, которая, в свою очередь, вовлекает в спор и побуждает к размышлению самого читателя.
Конечно, ограничение формата эссе в 1-3 страницы не позволяет авторам в полной мере развернуться, но учит лаконично выражать свои идеи. Это не даст читателю заскучать. Сборник «Что мы думаем о машинах, которые думают» – это спрессованный набор идей, который может стать отличным подспорьем не только для интересующихся темой ИИ читателей, но и для писателей научно-фантастического жанра. Здесь просто непаханое поле сюжетов, стоит только слегка подключить фантазию!

Книга пролежала у меня на полке шесть лет после покупки, и по забавному стечению обстоятельств, я прочитал ее как раз тогда, когда лауреатами Нобелевской премии по физике стали Джон Хопфилд и Джефри Хинтон – создатели фундамента нейросетей, которые, в свою очередь, для обывателя являются сегодня самым ярким олицетворением возможностей ИИ. Еще одно яркое проявление ИИ сегодня – это распознавание образов, в том числе и лиц. Думаю, многие пользовались переводчиками «по месту» в камере смартфона или обычным FaceID… Распознавание лежит в основе автопилотов современных электрокаров, служит для поиска преступников, но может послужить и репрессивным инструментом в тоталитарных государствах или, например, стать системой самонаведения в дронах, что повсеместно используют в сегодняшних военных конфликтах.
Внедрение новых технологий неизменно приводит к сложным морально-этическим противоречиям. Кто виноват в аварии автомобиля с автопилотом? Кто настоящий автор сгенерированной нейросетью музыки? Кто ответственен за прилетевший самонаводящийся дрон? Производитель, программист, инженер, многочисленные авторы контента, скормленного нейросети? Авторы эссе этого сборника не обсуждают эти вопросы, но они обязательно приходят в голову читателю во время чтения, как вторая волна размышления.
Один важный вывод можно точно сделать: каким бы ни был уникальный и сильный ИИ будущего, в любом случае, ответственность за него несет человечество, т.к. нет объективных причин считать его создателем кого-то еще кроме нас. Это наше творение, насколько бы умным или глупым оно не было. И как наше творение, оно будет отражением нашего образа мыслей, наших ценностей и наших страхов.
Следует сказать еще и о том, что большей частью ученые относятся скептически к возможности создания искусственного интеллекта, похожего на наш с вами. Для нас характерны: сильное влияние среды и чувств, непоследовательность, осознание собственной уязвимости, морально-этические надстройки культуры и неоднозначная трактовка результатов социального взаимодействия, вне которых мы себя просто не мыслим. Либо ИИ будет разумом нового типа, существующем параллельно с разумом естественным, либо ИИ станет частью нашего нового, уже симбиотического интеллекта, но тогда и о человеке сегодняшнего вида можно позабыть.
О том, что наш интеллект невозможно свести к законам формальной логики, отлично говорит одна история о самом влиятельном логике Бертране Расселе (забавно же!), которая упоминается в этой книге. В своей автобиографии «Ради чего я живу» Рассел писал:

«Всю мою жизнь пронизывали три страсти, простые, но неодолимые в своем могуществе: жажда любви, тяга к знанию и мучительное сочувствие к страданиям человечества. Как могучие ветры, носили они меня над пучиною боли, увлекая из стороны в сторону и порой доводя до отчаяния».
Я думаю, в той или иной мере всем вам знакомы описанные в цитате чувства, ну или по крайней мере вы легко можете их представить. А вот машина – едва ли… И большой вопрос, нужно ли это искусственному интеллекту вообще.

Пример оформления книги:

ЦИТАТНИК «ИНТЕРЕСНЫЕ ИДЕИ ОБ ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ»
Я отобрал интересные и небанальные идеи, вопросы и концепции, касающиеся искусственного интеллекта. Перед каждой цитатой указан автор, его род деятельности (что важно для контекста и восприятия идеи) и собственно основная мысль. Надеюсь, этот небольшой цитатник расширит ваше понимание природы ИИ и связанных с ним проблем. Также, этот цитатник доказывает, что порой весьма интересные идеи о предмете высказывают непрофильные специалисты, что лишний раз убеждает в важности междисциплинарного диалога, одной из площадок которого как раз и является организация Джона Брокмана.
Полностью цитатник можно прочитать в полной версии рецензии на моих книжных страницах (см. мой профиль livelib). Здесь приведу пятерку самых интересных.
Дениел Деннет (философ). Опасность машин в наших ожиданиях по поводу их способностей.

«Реальная опасность — это не те машины, которые станут умнее нас и узурпируют роль хозяев наших судеб. Реальная опасность — это машины, по сути безмозглые, но наделенные НАМИ полномочиями, значительно превосходящими уровень ИХ компетентности».
Сезар Идальго (профессор медиалаборатории). Мышление - свойство систем, а не индивидуумов.

«Представим человека, родившегося в темноте и одиночестве пустого пространства. Повода думать о чем-либо у него нет. То же самое было бы справедливо для изолированной и лишенной входящей информации машины. В таком контексте мы можем назвать нашу заимствованную способность обрабатывать информацию малым мышлением, поскольку это зависящая от контекста способность, которая возникает на уровне индивида. Большое мышление, напротив, является способностью обрабатывать информацию, воплощенную в системах, где отдельные элементы — машины или люди — это просто пешки. Отделение малого мышления людей от большого мышления систем (куда входит процесс, который порождает аппаратное и программное обеспечение, позволяющее единицам заниматься малым мышлением) помогает нам понять роль «умных» машин в этом широком контексте. Наша способность мыслить не только заимствована, она также зиждется на употреблении опосредованных взаимодействий и на злоупотреблении ими. Чтобы человеческие/машинные системы могли мыслить, людям надо поедать ментальную отрыжку друг друга и снова ее изрыгать; иногда она принимает форму слов. Но, поскольку слова улетают с ветром, невероятная способность нашего вида мыслить зависит от более сложных приемов передачи и сохранения информации, которую мы производим: от нашей способности зашифровывать ее в материи. <…> В масштабах Вселенной эти новые сети из людей и машин будут не чем иным, как следующим этапом в естественном развитии способности нашего вида порождать информацию. Вместе мы (люди) и наши дополнения (машины) продолжим разворачивать сети, которые будут подчинены главной великой цели Вселенной: создавать зоны, где информации становится не меньше, а больше».
Дуглас Коупленд (писатель). ИИ и интернет.

«Когда появился интернет, люди преимущественно общались с людьми. С течением времени все больше людей общаются с машинами. Нас всех вдохновляет то, что искусственный интеллект, возможно, находит паттерны в глубинных метаданных, и, по мере того как растет запрос на расшифровку огромных объемов этой информации, интернет становится пространством, где машины общаются с другими машинами, а разговаривать они будут, конечно, о нас и у нас за спиной».
Элиезер Юдковски (специалист по искусственному интеллекту). У нас проблема загрузки целей.

«Я не думаю, что разум, основанный на кремнии, должен всегда оставаться рабом разума, основанного на углероде. Но, если мы хотим получить разностороннюю космополитическую цивилизацию вместо, к примеру, скрепок, первый достаточно развитый искусственный интеллект, возможно, следует построить с такой функцией полезности, которая точно определяет этот исход. Если нам нужен ИИ, который будет сам выводить свои моральные суждения, то нам, согласно закону Юма, необходимо сначала определить общие принципы таких суждений. Для этого нужно что-то еще, помимо наличия у искусственного интеллекта точной модели мира и превосходной способности планировать. Но, если закон Юма в принципе допускает существование обладающих сильной познавательной способностью субъектов с любыми целями, почему загрузка целей будет такой сложной? Разве мы получим не то, что запрограммировали? Ответ таков: мы получим то, что запрограммировали, но необязательно то, что хотели. <…> Проблема не является неразрешимой, но она выглядит технически сложной, и нам, наверное, придется справиться с ней с первого раза, как только мы построим что-то умнее самих себя. Мысль о том, что при создании искусственного интеллекта надо все сделать правильно с первой попытки и что на кону стоит будущее всей разумной жизни, закономерно вызывает крик ужаса у любого, кто знаком с данной областью».
Мария Попова (писатель). Про воображение и умение принимать неопределенность.

«Известный афоризм, приписываемый Эйнштейну: «Воображение важнее, чем знания» — интересен потому, что ставит вопрос, над которым действительно стоит поразмыслить: вопрос не об искусственном интеллекте, а об искусственном воображении. Конечно, воображение всегда «искусственно» — в том смысле, что оно связано с нереальным или трансреальным, с тем, чтобы возвыситься над реальностью и представить себе альтернативы ей, а это требует умения принимать неопределенность. Но алгоритмы, управляющие вычислениями машины, лучше всего справляются с конкретными задачами, в которых нет места неопределенности. «Если A, то B» — это антитеза воображения, живущего в области «Что, если?», где ответов нет и зачастую не может быть. Как писала Ханна Арендт, потеря способности задавать подобные безответные вопросы означала бы «потерю не только возможности продуцировать мысли-вещи, которые мы называем произведениями искусства, но также и способности ставить вопросы без ответа, на которых основывается любая цивилизация».
*
Полный список эссе:

Читать далее
10 понравилось
0
125