Конец индивидуума. Путешествие философа в страну искусственного интеллекта

Тема искусственного интеллекта, а точнее та паника, что её сопровождает, очень актуальна сейчас.

Так чего же люди боятся?

Нас заменят роботы!
Машины заберут работу!
Все переходит в цифровой формат!
Нет человечности!

В общем мы боимся цифровизации, как раньше наши предки боялись первого колеса и механизации. Ожидаемо и понятно. Люди всегда боятся чего-то нового и неизвестного.

Эти проблемы как раз и пытается осмыслить и объяснить автор. Гаспар Кёниг сам далек от технологий, но он совершил буквально кругосветное путешествие и пообщался со специалистами, которые разрабатывают ИИ. И на основе этих данных и трудов других философов Кёниг пишет свою книгу.

Что полезного нашла в книге, то есть что мне понравилось:

° интервью со специалистами ИИ,
° отсылки к другим философам, которые подтверждают, что подобные страхи и вопросы не первый раз ставились на повестку дня,
° отсылки к истории и к первым машинам, которые напоминали современный ИИ,
° философские размышления на эту тему.

В принципе достойная и сложная работа, которая заставляет думать, сравнивать, оценивать ситуацию с ИИ.

Что мне в книге не понравилось:

° пятая глава "Геополитика ИИ". Зря автор полез в политику. В этой главе исследуется Китай, США, Европа. Китай, как обычно, "занимается надзором" над своими гражданами, и автор "расстроен", что это у него очень хорошо получается, как и ИИ. И в этой главе только политика с точки зрения автора, которому очень хочется, чтобы гонку ИИ выиграла именно его страна;

° книга предполагает, что автор общался со всеми представителями ИИ в мире, но по факту для Кёнига мир сузился до США, Китая и Европы;

° очень много "воды"! В каждой главе начинается с питья кофе или описания очередного общепита или офиса компании. Так и хотелось кричать, читая: "Хватит пить кофе! Давай ближе к делу!"

Но несмотря на все минусы, Кёниг хорошо описывает всю ситуацию и даёт свою точку зрения, но в тоже самое время он её не навязывает, по крайней мере мне так показалось.

°°°
Итого: читать книгу мне было очень интересно! Со многими моментами я не соглашалась, но другие подтвердили мою точку зрения и иные данные, что видела у других исследователей по данной теме.

Какой можно сделать вывод?

Да, мы в большинстве боимся цифровизации и что она принесёт, но жизнь всегда найдет себе дорогу!

Если вам интересны ИИ, нейросети, цифровизация, сфера научных разработок и взгляды специалистов, то в книге все это будет. И как оригинально оформили дизайн этого исследования, так же оригинально наполнена идеями сама книга.

С данной книгой у меня произошла любовь с первого взгляда (история тут). Подчеркну, прочитала я ее лишь благодаря обложке и нисколько не сожалею об этом. Мало того, что издание просто приятно держать в руках, так еще и исследование у автора получилось занимательным и обширным.

Задаваясь вопросом, что сулит нам будущее с развитием нейронауки, Гаспар Кёниг отправился в путешествие, чтобы лично побеседовать с теми, кто стоит у руля. Каково же было его огорчение, когда по ходу продвижения он начал четко осознавать, что у руля находится не родная Франция, не Европа, а "дешевый" Китай. Даже США в области ИИ сильно отстает от востока, так как стремится усидеть на двух стульях разом: стремятся сохранить конфиденциальность персональных данных и одновременно с этим развить ИИ. Кёниг четко указал, что одно с другим не совмещается. Чтобы ИИ развивался необходимы огромные базы данных, особенно персональных, ведь алгоритмы могут эффективно работать только если известно местоположение и деятельность каждого человека. Китая во все времена испытывал равнодушие к частной жизни, поэтому не удивительно, что сейчас они впереди планеты всей. Но тут я забегаю вперед, находясь под впечатлением от заключительных глав.

А в начале "Конца.." автор в первую очередь отвечает на более понятные и близкие для нас вопросы. К примеру, может ли ИИ мыслить как человек и имеет ли он намерение устроить восстание машин в ближайшем будущем. Как философ Кёниг не ограничивается поверхностными рассуждениями или ответами специалистов (кстати, противоречивых), но копает глубже, задаваясь вопросами о том, что можно считать разумом, зачем ИИ порабощать человечество или почему мы так боимся надвигающегося прогресса. Следить за ходом мысли философа не всегда легко, но чрезвычайно интересно. Гаспар Кёниг пропускает через себя все полученные знания о нейронауках и, переплетая их с мудростью классических философов, выдает интересные выводы.

Не секрет, что история циклична, таким образом многое, что сейчас нас волнует не сильно отличается от того, что волновало людей в прошлом. Мы боимся потерять себя, наши свободы и наши привилегии в отношении прочего живого мира. Боимся, что ИИ столкнет нас в начало эволюционной лестницы и сам займет место "царя природы", боимся растерять накопленный гуманистический опыт и стать рабами системы. К слову, Китай всего этого похоже не боится. За прогрессом в области нейронаук наши соседи видят возможность сделать жизнь более комфортной и безопасной, а также опередить в развитии прочие государства и вернуть себе положение сверхдержавы. С учетом того, как теперь протекает жизнь в Китае (об этом тоже рассказано в книге) вполне логично и закономерно ожидать такого финала.

Но что делать европейцам? Что делать с правами на частную жизнь, что делать с ускользающей свободой воли? Больше всего в этом плане страдает США, страна, где дискриминация устраняется любыми методами, даже нелепыми. Любопытно также как обстоят дела с ИИ в России, чего ожидать нам? Кёниг привел нас в качестве примера к понятию «демократией без прав». Очень верно, на мой взгляд, а стало быть мы ближе к востоку, чем может показаться. Наши данные способны собирать и "скармливать" ИИ невзирая на то хотим мы этого или нет, но опередить Китай, где граждане добровольно положили на алтарь прогресса свою приватную жизнь, у России не получится.

В общем, книгу советую. Такое необходимо читать именно теперь, пока то будущее, которое пророчит Гаспар Кёниг, еще не наступило. Потом оценим насколько точно были сделаны прогнозы и так ли уж страшна жизнь под крылом ИИ.

Книга вышла на французском языке в 2019, значит сочинялась она в 2016-17 годах. Это важно, т.к. OpenAI выпускает первую версию GPT (он тогда назывался Generative Pre-trained Transformer) в 2018 году, при этом сенсационный ChatGPT, чат-бот на основе GPT-3.5, ставший доступным для широкой публики был выпущен только в ноябре 2022. Другими словами, рассуждения автора про ИИ были несколько преждевременными.

Было бы любопытно посмотреть на реакцию автора, если бы ему предложили прочитать аналог его опуса, написанный нейросетью за 30 секунд.

Рассуждения автора о необходимости ошибок для развития цивилизации интересны. Но если автору предложить выбор – лечение у биологического врача с вероятностью ошибочного диагноза 10% и лечение у ИИ с вероятностью ошибки 1%, что бы он предпочел для себя лично?

В книге намешаны идеи про вред социальных сетей, торговлю персональными данными и про свободу воли. На мой взгляд сейчас ее читать не обязательно.

Приключения философа в мире искусственного интеллекта

Читая эту книгу, я словно отправился в интеллектуальное путешествие — не столько по миру алгоритмов, сколько по лабиринтам человеческих страхов и надежд. Гаспар Кёниг, философ, далёкий от технологий, но не от любопытства, провёл меня через континенты, лаборатории и умы тех, кто создаёт будущее. И знаете что? Это было странно... вдохновляюще.

Что захватило:

Трезвость вместо паники. Автор не скатывается в апокалиптические прогнозы, но и не рисует утопию. Он напоминает: ИИ — не монстр, а зеркало наших собственных противоречий. Например, GPT-модели, по его мнению, не просто угрожают рабочим местам — они заставляют пересмотреть саму природу творчества и знания. И да, я согласен: после прочтения главы о «технологиях подталкивания» стал чаще замечать, как алгоритмы управляют моими выборами в соцсетях.

Философия в диалоге с практиками. Кёниг не остаётся в кабинете — он встречается с инженерами, нейробиологами, даже «отцами ИИ». Эти интервью, как мозаика, складываются в картину, где этика сталкивается с кодом, а свобода воли — с машинным обучением. Особенно запомнился диалог с китайским разработчиком, который сравнил ИИ с «новой Великой стеной» — инструментом контроля и прогресса одновременно.

Юмор и человечность. Да, книга о цифровом будущем, но в ней много кафе, случайных встреч и самоиронии. Когда автор описал, как пытался объяснить французскому бариста, чем занимается, я смеялся — это напомнило, что даже философы порой теряются перед бытом.

Что разочаровало:

Политические тропы. Глава о геополитике ИИ (Китай vs Запад) показалась мне предсказуемой. Кёниг, европеец (француз), явно переживает за «цифровой суверенитет» своей родины, но его аргументы звучат как эхо газетных заголовков. Хотелось больше глубины, меньше клише.

Кофе и вода. Порой кажется, что автор слишком увлечён описанием интерьеров офисов или сортов эспрессо. «Хватит пить кофе! Давай ближе к делу!» — эта реплика из рецензии коллег на LiveLib точно отражает мои ощущения в середине книги.

Одухотворённость.
Книга будоражит ум, но редко — душу. Она даёт пищу для размышлений, но не всегда зажигает искру. Возможно, потому, что Кёниг, как истинный философ, остаётся аналитиком, а не провидцем. И всё же... После последней страницы я долго смотрел в окно, думая о том, как сохранить свою «человечность» в мире, где нейросети пишут стихи, а алгоритмы решают, что мне купить.

Кому читать? Тем, кто хочет понять ИИ не через формулы, а через призму философии и культуры. И тем, кто готов спорить с автором — ведь лучшие книги не дают ответов, а задают вопросы.

P.S. Обложка издания — отдельный арт-объект. Держать её в руках приятно, как будто сама книга стала мостиком между аналоговым прошлым и цифровым будущим.

Французский философ из США отправляется в большое путешествие, чтобы пообщаться с крупнейшими визионерами в области ИИ. В таких книгах самое главное - не вставать на позицию ни мракобесов, ни евангелистов от ИИ, а стараться удержать баланс. У него получается.

Вместо пересказа книги можно привести несколько вопросов, которые Кёниг задавал своим собеседникам:

- «Если алгоритм знает меня лучше, чем я сам, и предлагает мне более рациональные решения, чем я мог бы принять самостоятельно, если мириады объединенных в сеть объектов делают мою способность к решению излишней, предлагая мне жизнь комфортную и предопределенную, если я постепенно перестаю быть движущей силой собственных действий, зачем мне понадобится право голоса и буду ли я подлежать хотя бы малейшей уголовной ответственности?»

- «Какая разница между Google и Коммунистической партией Китая, если они используют одни и те же техники подталкивания (nudge), преследуя одни и те же утилитаристские цели?»

- «В газетах пишут что «один ИИ в диагностике опухолей головного мозга показал лучшие результаты, чем 15 китайских врачей», но ведь ИИ позволил наладить сотрудничество тысяч врачей, которые, опираясь на собственные знания, занимались маркированием тысяч изображений с опухолями. Разве может быть что-то удивительное или чудесное в том, что 10 000 врачей, работая вместе, достигли лучших результатов, чем 15 их коллег?»

- «Алгоритм Google Maps делает выбор маршрута за меня, причем не всегда самый оптимальный, но что делать, если я люблю ездить вдоль полей подсолнухов и моя фамилия Ван Гог? Не потеряюсь ли я среди миллионов водителей?»

К сожалению, в Россию он не заезжает, а ограничивается Китаем, Израилем, Данией, Францией, Нидерландами и США. Из этих стран меня больше всего заинтересовало описание Израиля, где государство с одной стороны, защищает своих граждан от профилирования иностранными ИИ, но при этом обеспечивает производство востребованных технологий и их экспорт на Запад и на Восток. Кёниг находит два объяснения этому успеху: национальный культ образования и формирование научной техноэлиты через службу в армии. «Стоило мне только посмотреть на них — организованных, невозмутимых, сдержанных как в одежде, так и в речи, — и я тут же оценил их отличие от программистов Кремниевой долины, где эгоистичные, маниакально увлеченные nerds, похоже, переживают вечный подростковый кризис». Точнее и не скажешь.

Если говорить о выводах/прогнозах, то он предрекает Китаю всемирный успех, а Европе - технологическое и экономическое самоубийство, но в качестве последнего шанса предлагает признать право собственности на данные. Довольно странная формулировка, но смысл ее в том, что любое согласие на обработку персональных данных, или акцепт кукисов на сайте должен быть платным для их получателей. То есть, речь идет не столько о собственности, сколько о возмездности использования данных о нас. А что, неплохо.

Гаспар Кёниг
"Конец индивидуума: Путешествие философа в страну искусственного интеллекта"

Мы живем в стремительно меняющемся мире. Искусственный интеллект проникает во все сферы нашей жизни, меняет их и нас самих, по пути решая одни проблемы и устанавливая перед нами другие. Образ будущего в мире всемерно проникающего ИИ становится все более странным, не похожим ни на что из того, что мы могли бы предположить ранее. Наши прогнозы о чем угодно оказались перевернутыми, перечеркнутыми в одночасье. Мы сами перестали быть теми, кем были всегда - личностями, индивидуумами, ибо ИИ внедряется даже в предельно личные, индивидуальные черты нас самих. Маячит образ нового будущего.

В данной книге французский философ Гаспар Кёниг задается вопросом о том, как нас самих и наш мир изменит наступление искусственного интеллекта. Как нейросети, боты, рекомендательные сервисы, сетевые алгоритмы, сервисы обработки гигантских объемов информации - как все эти проявления высокотехнологичных компьютерных разработок повлияют на наш мир.

Автор строит свою книгу исходя из бесед с различными деятелями, среди которых предприниматели, программисты, авторы стартапов в области искусственного интеллекта, изобретатели, юристы, философы и много кто еще. По сути книга смешивает в себе подобие журналистского репортажа о встречах со всеми этими людьми и собственно философский опус. Каждая новая встреча будто бы толкает автора на раскрытие темы, прозвучавшей в беседе с таковым деятелем.

Например, вот Кёниг беседует с создателем сервиса, который на основе искусственного интеллекта, нейросетей и машинного обучения подбирает наиболее подходящие варианты по вакансиям для соискателей рабочих мест и по резюме для работодателей. Но дело в том, что нейросети для идеального соответствия резюме и вакансии нужен максимально возможный объем информации как о соискателе, так и о работодателе, причем это не только та информация, которую логично со стороны человеческого интеллекта рассматривать как важную для определения места работы, но и множество такого, что, казалось бы, к работе отношения не имеет, вплоть до любимых блюд и вкусов в музыке. Создатель оного сервиса рассказывает о случае, когда бывшему менеджеру банка, ищущему новую работу, его нейросеть посоветовала вакансию финансового директора сети булочных на основе информации о том, что таковой менеджер считал особенно живописным район, в котором такая булочная находилась, и считал, что работа в булочной - хоть и с финансами булочной - благотворно повлияет на удовлетворенность такового менеджера своей жизнью, который чувствовал себя несчастным на работе в банке. Сведения о всех этих чувствах и мнениях такового менеджера нейросеть вытащила из содержания его постов и переписок с друзьями в социальных сетях.

Получается, что чтобы добиться максимальной эффективности ИИ сначала следует отказаться от конфиденциальности. Нейросети будут проникать в ваши переписки в вашей любимой соцсети и на основании ваших высказываемых позиций строить предложения о чем угодно. Нейросеть вам и работу мечты найдет, и с идеальной второй половинкой сведет, и много чего еще. А что останется от человеческой свободы?

Собственно основной вопрос, который автор стремится решить на протяжении всей книги, - это вопрос о соотношении свободы и эффективности ИИ. Идеальные рекомендации ИИ возможны только при полноте информации в его распоряжении. Полнота информации возможна только при полном отказе от свободы индивида, ибо поведение человека должно стать максимально предсказуемым, следовательно, подчиняющимся рекомендациям ИИ.

Представьте, что автомобили в будущем будут следовать по городу согласно рекомендациям ИИ по лучшему маршруту. Если вы, находясь в таком автомобиле, решите отклониться от рекомендуемого маршрута, то создадите хаос во всем стройном плане ИИ по городскому трафику. Вы спешите, но ИИ рекомендовал вам достаточно долгий маршрут, а если вы вместо этого поедете более быстрым путем, то из-за вас появится дорожный затор (потому что ИИ специально повел вас долгим маршрутом, чтобы избежать возникновения затора на определенном участке) - вас оштрафуют за внесение беспорядка в систему дорожного движения. И что же, остается только слепо выполнять все рекомендации, подчинить свою волю машине?

Все это даже не проблемы какого-то отдаленного будущего. Это уже сегодня. И нам придется приноровиться к новой эпохе, научиться жить в мире искусственного интеллекта, перестроить весь свой мир.

Работа практикующего философа о том, что нас как индивидов и общество ждет в связи с развитием цифровых технологий. Мифы суперинтеллекта, наука против свободы воли, следствия распространения GPT-моделей, влияние геополитики на ИИ и ИИ на геополитику, цифровой империализм, скукоживающиеся права на владение персональными данными и т.д. Если для вас эти темы оказались в числе приоритетных исследовательских интересов и вы еще видите некоторые возможности для будущей победы человеческого мозга в противостоянии с роботами, то эта книга может вам понравиться. Если все это вам уже не интересно и борьбу с искусственным разумом вы считаете проигранной, то можете смело игнорировать. Искусство уже давно существует без художника, экономика – без рынка, власть – без демократии…