Бумажная
707 ₽599 ₽
Это бета-версия LiveLib. Сейчас доступна часть функций, остальные из основной версии будут добавляться постепенно.

Ваша оценкаЖанры
Ваша оценка
Какой был вопрос Edge 2015 года?
Барабанная дробь... смотрим на название книги...
Вы меня сожжёте на костре, если я вторую рецензию подряд буду писать об этом проекте. Чтоб было понятно о чём речь (Edge) — можете перейти по ссылке прямо здесь, в мою предыдущую рецензию на Джона Брокмана.
Если вкратце, то есть такой сайт. Там ведут дискуссию интеллектуалы всего мира, которых сам Брокман назвал третьей культурой. И каждый год он задаёт им вопрос, они охотно отвечают и Брокман это оформляет под одну обложку. Брокман – литературный агент, поэтому подобный трюк он смог сделать. И собрать интеллектуалов и продать это всё под одной обложкой. Браво.
ЧТО ВЫ ДУМАЕТЕ О МАШИНАХ – очередной вестерн в нон-фикшн, книга без аргументации, книга одной идеи. Повторюсь, собрали на одной платформе 100+ умных людей и задали вопрос.
Всю книгу у вас будет ощущение, что:
– Вы или где-то об этом читали,
– Или что книга содержит противоположные тезисы.
И то и другое – чистая правда. Но в одном месте смог собрать это только Брокман. Люди на страницах этой книги задают темп и идеи для всего, что связанно с ИИ. Поэтому тем, кто интересуется этой темой она и вовсе обязательна к прочтению!
Вся книга качает из стороны в сторону...
Скоро будет ИИ – или не скоро?
Одомашним ли мы машины – или не одомашним?
По подобию сознания создавать ИИ – или нет?
Должен ли ИИ сознавать себя – или нет?
Сдержим ли мы ИИ – или человек останется лишь в истории?
Придём к сингулярности – или нам о ней и думать рано?
Поймём ли мы свой конец – или уничтожим себя сами?
Через череду подобных глав-вопросов вам станет немного понятней, вы расширите горизонты вопроса.На него конечно же книга не ответит, это дискуссия. Мне в этой книге было приятно видеть очень много людей, как Пинкера, Деннета, Тегмарка... перечислять можно долго.
Почему тогда 4?Знаете, вот в других книгах у меня не было ощущения, что место в книге куплено (просто быть на страницах книги, потешить графомана внутри, но это лишь предположение). Не знаю почему, а здесь закралось. Тут по ощущениям больше фамилий. А половина из них вообще не понятно по какому принципу относятся к «третьей культуре», интеллектуалами их и по размышлениям нельзя назвать. Поэтому пол бала уходит зрительному залу.
Куда еще делось пол бала?
Прошлый вестерн мне больше понравится, я в самом начале скинул пол бала. Почему? В прошлый раз вопрос был неудобный: «Во что верят учёные мужи?». Учёные по факту на веру полагаться не должны. Здесь же вопрос лёгкий, абстрактный.
По общим ощущениям – 4.
Я могу ошибаться, к примеру, сегодня я попал под дождь. Мои прогнозы иногда не сбываются.
Если вы интересуетесь темой ИИ, то эта книга должна стать 3-ей или 4-ой.
Не раньше и не позже.

Есть такая неординарная организация: The Edge. Она в течение многих лет раз в год задаёт актуальный вопрос ведущим мировым специалистам и философам просит их дать ответ на трёх страницах.
Когда-то я прочитал несколько таких мнений по разным вопросам, и вот случайно набрёл на вопрос 2015 года. Он является заголовком сборника и в переводе значит
Это тот самый вопрос, который лично меня волнует существенно.
Разумеется, на трёх страницах осмысленный ответ на сложный вопрос дать трудно, но авторы стараются как могут.
В этот раз на заданный вопрос ответили примерно 400 человек, поэтому я прочитал не все ответы, а лишь те, что дали люди, которых я знаю -- не лично, но хоть как-то. Было довольно интересно.
Steven Pinker, один из немногих современных философов, кто может сказать что-либо по делу, считает, что прогресс ИИ существенно преувеличен. Поставленная цель -- создать машину с человеческим уровнем интеллекта -- маячит где-то на расстоянии 15-25 лет от нас. Впрочем, она всё время находится от нас именно на таком расстоянии.
Ну и он не думает, что у какого бы то ни было ИИ появится цель поработить нас или уничтожить. Он может нас уничтожить, но не со зла, а походя, примерно как мы уничтожаем муравейник, когда требуется построить плотину гидроэлектростанции. Ничего личного.
Поскольку же к поставленной цели мы никак не можем приблизиться, у нас есть время поставить защититься от потенциальных угроз.
Max Tegmark, автор моей любимой книги "Наша математическая Вселенная", пишет, что пришествие думающих машин будет важнейшим событием мировой истории. К добру это будет или нет, зависит от того, как мы подготовимся. Когда это случится, вопрос сложный, но готовиться надо уже сейчас.
Daniel C. Dennett тоже улучшил моё отношение к современным философам. Он высказался так.
Да, мы рискуем, когда хотим уступить управление важными сторонами нашей жизни мыслящим машинам. Однако мы рискуем ещё больше, когда принимаем рекомендации машин, которые не мыслят. А мы это делаем всё больше.
Идея тонкая, да.
Freeman Dyson претендовал на первое место как самый лаконичный эссеист всех времён и народов. Его произведение не из трёх страниц, а из трёх предложений. К сожалению, не особенно интересных.
Против ожиданий он получил лишь серебряную медаль, уступив на финише Роберту Сапольски. Тот уложился в два предложения, к сожалению, тоже не имеющих серьёзного смысла.
Martin Rees думает, что у органической жизни нет долгосрочной перспективы.
Согласне с ним. Чем скорее мы перейдём с органической пищи на голое электричество, тем лучше сохраним планету для потомков. Главное тут не увлечься по пути и не уничтожить всё к чёртовой бабушке.
Nick Bostrom полагает, что рождение суперинтеллекта может оказаться как хорошей новостью, так и плохой. С этим не поспоришь :)
Подробности он предлагает смотреть в его книге Superintelligence. Я её не читал. Может быть, сто́ит причаститься как-нибудь.
Lee Smolin выдал нечто непонятное из своей области -- из физики. Его книга "Неприятности с физикой" сложна, но хотя бы понять её можно. Тут мне не удалось уловить его мысль.
Всех остальных авторов я не читал. Может быть, зря, но формат "три страницы на всё про всё" скоро надоедает. Одно дело известные люди, другое -- те, о ком я слышу в первый раз и, очень может быть, в последний тоже.
Сама же по себе задумка "вопроса года" отличная. Хорошо, что мне о ней напомнили. Обязательно буду заходить к ним на сайт иногда.

Среди главных черт, формирующих наше мышление, я бы выделил социальность, постоянное моделирование возможного будущего и осознание собственной смертности в нем. Судя по всему, наш вид единственный на планете, который не только «понимает» смерть, как дельфины, слоны или приматы, но и точно знает, что она неизбежна. Отсюда многообразие выдуманных нами сценариев апокалипсиса, от вариантов конца света согласно разным верованиям, до ядерной зимы или покорения цивилизации взбунтовавшимися умными машинами. Чем более развитые технологии начинают нас окружать, тем более вероятным в глазах наиболее впечатлительных людей и правдоподобным выглядит последний сценарий. Сегодня все чаще звучат предостережения в том числе и вполне образованных людей от необдуманного, неконтролируемого развития искусственного интеллекта. Но большинство неспециалистов, задаются лишь не самым важным вопросом «КОГДА? Когда наконец ИИ взбунтуется и поработит нас?» Этот вопрос уводит нас от главного: от анализа развития технологии во времени, ее текущего и прогнозируемого состояния, обсуждения принципов и ценностей, которые заложены в ее мышление, наконец в определение того, каким может быть и каким должен быть искусственный интеллект, сравнимый с нашим, естественным. Это похоже на то, как сегодня многие обсуждают (а точнее гадают): будет ли нажата «ядерная кнопка» или нет, при этом не стремясь понять, как ситуация пришла к тому, что вопрос этот в принципе стал актуален.
Эта необычная книга не даст ответа на вопрос «Когда машины нас покорят?». Она предлагает даже не найти ответы, а просто поразмышлять об искусственном интеллекте, о его роли в нашей жизни, о нашем понимании машинного мышления, об ответственности и угрозах, о пользе и перспективах, о природе и морали такого разума, о возможной конкуренции или наоборот взаимопомощи, о том, в чем мы, люди, никогда не будем похожи на машины. Есть ли у вас готовое мнение о машинном интеллекте или нет, после прочтения этой книги (или этой рецензии), вы определенно будете более подготовлены к ответу на вопрос «Что мы думаем о машинах, которые думают?»
Перед вами сборник из 186 эссе, который является результатом деятельности интересной организации «Edge Foundation». Она основана американским литературным критиком Джоном Брокманом (род. 1941 г.) и занимается дискуссиями по ключевым вопросам развития науки и технологий. «Edge Foundation» объединяет ученых и интеллектуалов для популяризации передовых идей. Организация издает сетевой журнал «Edge» и каждый год редакция ставит новый вопрос, на который отвечают разные комментаторы — как представители научных кругов, так и просто известные люди, чье мнение может показаться интересным. Вопрос 2015 года как раз вынесен в заголовок сборника.
Джон Брокман
Структура книги проста: эссе идут подряд, и каждое из них имеет размер от нескольких предложений, до четырех страниц. В заголовке указан автор, его род деятельности, место работы и заслуги, среди которых как правило указывается какая-то из написанных им книг. С этой точки зрения, этот сборник, помимо прочего, отличный источник информации об интересных научно-популярных книгах, благо редакция везде указала русскоязычное издание, если таковое имеется. Лично я добавил в список прочтения десяток книг. Сами эссе написаны в свободной форме, некоторые из них близки к научной статье, большинство же представляют из себя образцы стандартной публицистики, но иногда, авторы облекают свои рассуждения в форму художественной сатирической прозы, что выглядит оригинально и остроумно (а часто и убедительнее пищущих более строго коллег).
Среди авторов в основном ученые, мыслители, преподаватели, журналисты, но встречаются писатели (Брюс Стерлинг) и даже музыканты (Брайан Ино). Здесь много известных для поклонников научно-популярной литературы имен: Стивен Пинкер, Роберт Сапольски, Мартин Рис, Лоурен Краусс, Фрэнк Вильчек, Майкл Шермер, Элизер Юдковски, Ричард Нисбетт и мн. др. (читайте мои рецензии на книги этих авторов) Правда, хочу сразу предупредить, не ждите, что ваш «любимчик» обязательно скажет что-то умное и глубокое по теме книги. Яркий пример – ответ прекрасного нейрбиолога, рассказчика и просветителя Роберта Сапольски, состоящий всего из двух банальных (или очень скрыто остроумных?) предложений:
«Что я думаю о мыслящих машинах? Ну, я думаю по-разному — зависит от того, о ком конкретно идет речь».
Это самое короткое эссе в книге, и, пожалуй, самое неинтересное. Большой вопрос, зачем вообще было включать его в сборник?
Но следует отдать и должное редактуре Джона Брокмана в том, что отобрав эссе для сборника, он отразил самые разные взгляды на искусственный интеллект. Главное разделение идет по признанию опасности сильного ИИ или наоборот восприятии его как блага для цивилизации. Второе разделение мнений проходит в целом по возможности / невозможности создать искусственный интеллект, сравнимый с нашим. Третье разделение мнений рассматривает сосуществование искусственного и естественного интеллектов: либо они будут дополнять друг друга, либо развиваться независимо и параллельно в мире «многовидового интеллекта» (Мелани Свон). Четвертый «делитель» - это споры о том, какими качествами и свойствами должен обладать сильный/универсальный ИИ, а пятый – какие цели и ценности должны быть у такого разума (и как их заложить в него).
Здесь есть очень глубокие эссе (как правило написанные философами и другими «гуманитариями»), позволяющие посмотреть на ИИ с необычных сторон. Так, например, философ Томас Метцингер считает, что сильный ИИ невозможен, если ему не будет знакомо страдание, а писательница Мария Попова считает, что ИИ должен как и мы уметь «принимать неопределенность». Много проходных «банальных» текстов. Есть эссе, в которых аргументированно высказаны здравые опасения по поводу развития и широкого внедрения ИИ в нашу жизнь, но и есть такие алармистские высказывания, которые просто «выражают обеспокоенность» во всей пошлости современного понимания этого выражения.
Тексты перемешаны таким образом, что не создается впечатления, что редактор поддерживает ту или иную точку зрения. Кажется, что в целом мнения разделились пополам. Из-за этого книгу читать интересно, здесь следующие друг за другом разные точки зрения создают ощущение заочной полемики между авторами эссе, которая, в свою очередь, вовлекает в спор и побуждает к размышлению самого читателя.
Конечно, ограничение формата эссе в 1-3 страницы не позволяет авторам в полной мере развернуться, но учит лаконично выражать свои идеи. Это не даст читателю заскучать. Сборник «Что мы думаем о машинах, которые думают» – это спрессованный набор идей, который может стать отличным подспорьем не только для интересующихся темой ИИ читателей, но и для писателей научно-фантастического жанра. Здесь просто непаханое поле сюжетов, стоит только слегка подключить фантазию!
Книга пролежала у меня на полке шесть лет после покупки, и по забавному стечению обстоятельств, я прочитал ее как раз тогда, когда лауреатами Нобелевской премии по физике стали Джон Хопфилд и Джефри Хинтон – создатели фундамента нейросетей, которые, в свою очередь, для обывателя являются сегодня самым ярким олицетворением возможностей ИИ. Еще одно яркое проявление ИИ сегодня – это распознавание образов, в том числе и лиц. Думаю, многие пользовались переводчиками «по месту» в камере смартфона или обычным FaceID… Распознавание лежит в основе автопилотов современных электрокаров, служит для поиска преступников, но может послужить и репрессивным инструментом в тоталитарных государствах или, например, стать системой самонаведения в дронах, что повсеместно используют в сегодняшних военных конфликтах.
Внедрение новых технологий неизменно приводит к сложным морально-этическим противоречиям. Кто виноват в аварии автомобиля с автопилотом? Кто настоящий автор сгенерированной нейросетью музыки? Кто ответственен за прилетевший самонаводящийся дрон? Производитель, программист, инженер, многочисленные авторы контента, скормленного нейросети? Авторы эссе этого сборника не обсуждают эти вопросы, но они обязательно приходят в голову читателю во время чтения, как вторая волна размышления.
Один важный вывод можно точно сделать: каким бы ни был уникальный и сильный ИИ будущего, в любом случае, ответственность за него несет человечество, т.к. нет объективных причин считать его создателем кого-то еще кроме нас. Это наше творение, насколько бы умным или глупым оно не было. И как наше творение, оно будет отражением нашего образа мыслей, наших ценностей и наших страхов.
Следует сказать еще и о том, что большей частью ученые относятся скептически к возможности создания искусственного интеллекта, похожего на наш с вами. Для нас характерны: сильное влияние среды и чувств, непоследовательность, осознание собственной уязвимости, морально-этические надстройки культуры и неоднозначная трактовка результатов социального взаимодействия, вне которых мы себя просто не мыслим. Либо ИИ будет разумом нового типа, существующем параллельно с разумом естественным, либо ИИ станет частью нашего нового, уже симбиотического интеллекта, но тогда и о человеке сегодняшнего вида можно позабыть.
О том, что наш интеллект невозможно свести к законам формальной логики, отлично говорит одна история о самом влиятельном логике Бертране Расселе (забавно же!), которая упоминается в этой книге. В своей автобиографии «Ради чего я живу» Рассел писал:
Я думаю, в той или иной мере всем вам знакомы описанные в цитате чувства, ну или по крайней мере вы легко можете их представить. А вот машина – едва ли… И большой вопрос, нужно ли это искусственному интеллекту вообще.
Пример оформления книги:
ЦИТАТНИК «ИНТЕРЕСНЫЕ ИДЕИ ОБ ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ»
Я отобрал интересные и небанальные идеи, вопросы и концепции, касающиеся искусственного интеллекта. Перед каждой цитатой указан автор, его род деятельности (что важно для контекста и восприятия идеи) и собственно основная мысль. Надеюсь, этот небольшой цитатник расширит ваше понимание природы ИИ и связанных с ним проблем. Также, этот цитатник доказывает, что порой весьма интересные идеи о предмете высказывают непрофильные специалисты, что лишний раз убеждает в важности междисциплинарного диалога, одной из площадок которого как раз и является организация Джона Брокмана.
Полностью цитатник можно прочитать в полной версии рецензии на моих книжных страницах (см. мой профиль livelib). Здесь приведу пятерку самых интересных.
Дениел Деннет (философ). Опасность машин в наших ожиданиях по поводу их способностей.
Сезар Идальго (профессор медиалаборатории). Мышление - свойство систем, а не индивидуумов.
Дуглас Коупленд (писатель). ИИ и интернет.
Элиезер Юдковски (специалист по искусственному интеллекту). У нас проблема загрузки целей.
Мария Попова (писатель). Про воображение и умение принимать неопределенность.

Мы могли бы сказать, что машинное «мышление» относится к человеческой мысли как модель явления – к самому явлению

Быстрое развитие искусственного интеллекта также меняет наше понимание того, что такое разум. Наши взаимодействия со слабыми ИИ приведут к тому, что мы поймем: разум – это континуум, а не некий рубеж.

Мы выработали способность к метарепрезентации – осознанию того, что у нас есть разум и возможности его анализировать, которая является функцией сознания более высокого порядка.
















Другие издания

