Форма жизни №4. Как остаться человеком в эпоху расцвета искусственного интеллекта

Форма жизни №4 — это люди, усиленные имплантами и искусственным интеллектом. Речь идет о недалеком будущем: уже сегодня машины могут безостановочно обучаться, ИИ становиться умнее и дешевле, а спектр его возможностей расширяется с каждым днем. Евгений Черешнев — визионер, первый российский ИТ-спикер TED New York, предприниматель и бионик — описывает ИИ как ступень в эволюции жизни на нашей планете. Автор проанализировал историю думающих машин и современных методов анализа данных, рассказал о вли...

Жанры

Рейтинг LiveLib

4,4

306 оценок

5
55%
4
37%
3
7%
2
1%
1
0%

Ваша оценка

Прочитали 365Хотят прочитать 415

Рецензии

White_Amaryllis
24 августа 2025
«Большой брат следит за тобой»
Наверное, первое, что мне хочется отметить, – это то, что Евгений Черешнев не случайный человек, который решил поразмышлять о будущем человечества в период развития искусственного интеллекта и о безопасности персональных данных. Он является преподавателем Executive MBA и МГИМО по искусственному интеллекту и цифровому маркетингу; также он разрабатывал решения на базе искусственного интеллекта для приватности клиентов, кибербезопасности компаний и защиты инфраструктуры онлайн и офлайн, является автором шести международных патентов в этой области. С 2023 года член правления, вице-президент по стратегии и инновациям МТС. Звучит довольно внушительно.
Книга была написана еще в 2021 году, тогда как массовый ажиотаж вокруг темы нейросетей и искусственного интеллекта начался, по моим наблюдениям, несколько позже – пару лет назад.
«Форма жизни №4» – фантазия о вероятном будущем, если нейросеть, которая сейчас не является самообучаемой и – будем откровенны – пока работает с переменным успехом, дорастет до уровня искусственного интеллекта. Но эти предположения имеют под собой основание, завязанное как на личном опыте писателя, так и на статистике и исследованиях. Честно говоря, прогноз пугающий. Даже несмотря на то, что автор говорит о возможности симбиоза человека и искусственного интеллекта. Я, пожалуй, не настолько верю в человечество.
Немало Евгений рассуждает и о том, какие профессии окажутся под ударом, как много людей будет заменено работой искусственного интеллекта. Лично у меня возникло ощущение, что планету ждет глобальная безработица и отупение. Ведь хоть перед человеком сейчас и открыта масса возможностей познавать мир и самосовершенствоваться, прокачивать мозг, но тяги к знаниям нет. Более того, я считаю, что мы идем к тотальному отупению именно в связи с легкостью получения информации – не хватает критического мышления, не хватает силы воли и желания потрудиться. Зачем тратить время на домашку, еслии нейронка сделает тебе ее за две минуты? Жутковато.
А еще одна важная тема книги – это то, что по факту за нами уже давно наблюдает Большой Брат. В силу собственного пофигизма или безграмотности, или отсутствия адекватного выбора мы уже слили всю информацию о себе в доступ компаниям. Кто из вас читает пользовательские соглашения? Кто соглашается с тем, что сайты собирают куки? А ведь получается, что мы просто отдаем свои данные в вечное пользование третьим лицам. Начиная электронной почтой, заканчивая нашими увлечениями. От имен и номеров телефонов до финансового состояния. И сайты, на которых мы ничего не покупаем, но которые владеют нашими данными, могут просто продать их тем, кто способен на нас заработать. И вот уже нас преследует реклама, торгаши манипулируют нашими слабостями, навязывают товар, которые в целом нам не нужен, но мы его покупаем. А что дальше? Куда еще идут все наши данные? Есть в книге глава и про государство.
В целом книга полезная. Это повод серьезно задуматься как о настоящем, так и о будущем. И на мой взгляд, оно вовсе не будем безоблачным.
P.S.: В конце книги Черешнев приводит список значимых для него книг. Мне было интересно его почитать, и порадовало, что Евгений включил в него много классики и даже некоторые детские книги.
Читать далее
52 понравилось
0
449
sq
13 декабря 2021
Биокомпьютер с конечным сроком годности
Глобально я согласен с Е.Черешневым: чем больше свободы и индивидуализма, тем лучше; чем больше "безопасности" и стадности, тем хуже. Да, мы оба скорее либертарианцы, чем что-либо ещё, хотя слова такого в книге и нет.
Ну, а книга поделилась на три неравные части.
Первая занимает примерно 1/5. В ней автор рассказывает нам о трёх видах искусственного интеллекта:
-- узком (artificial narrow intelligence, ANI);
-- общем (artificial general intelligence, AGI);
-- и суперинтеллекте (artificial super intelligence, ASI).

сам факт появления ASI считаю исключительно вопросом времени
Цитата, надо сказать, приходит в определённое противоречие с самым концом книги. Там автор рассказывает, как мы можем избежать поглощения суперинтеллектом. Впрочем, противоречий в его тексте хватает.
Скучнейшая многословнейшая центральная часть книги подробно рассказывает, как несправедливо устроен цифровой мир. По большей части это я знаю и без Черешнева.
Ну да, сервисы потому и кажутся бесплатными, что товаром являемся мы сами, наши данные, причём, товаром реально бесплатным для приобретателя. Мы сами рассказываем о себе условному Фейсбуку всё, что знаем о себе и окружающем мире, и этот Facebook (уже не условный, а тот самый) зарабатывает на собранных таким образом данных огромные сотни миллионов.
Одна вещь о Фейсбуке оказалась не то чтобы совсем новой, но ясно артикулированной для меня впервые. Своими словами расскажу, а то в книге это размазано на много страниц:

Как только я регистрируюсь в Фейсбуке, я тут же в соответствии с лицензионным соглашением (которого я не читал) отдаю все свои данные, включая все свои будущие посты, картинки, комментарии, лайки и что-там-ещё-есть-или-будет в полную и безраздельную собственность Фейсбука.
Он может всё это продать, убить, кому-то подарить, как угодно отредактировать и опубликовать потом, не спрашивая моего согласия и не ставя меня в известность.
Ну да, хрень полная, а сделать с этим ничего нельзя. Выбора нет: либо так, либо посылай людям информацию голубиной почтой.
Е.Черешнев приводит сотню примеров, потому что ему не терпится рассказать всем, какой он умный, талантливый и стройный. Люблю себя за ум и скромность.
Да, это, пожалуй, самый большой недостаток книги. Всё, что рассказывает автор, он рассказывает о себе, о Черешневе любимом.
Есть и большое количество ссылок на "внешние источники", но 9/10 таких ссылок -- на просмотренные (Е.Черешневым) сериалы. Интересно, когда автор успевает их смотреть? Похоже, что отдельных серий он посмотрел намного больше, чем книг прочитал...
Есть и другие недостатки: параноидальность предлагаемых решений, тенденциозность подбора данных -- не буду раскрывать, потому что не интересно это. Отмечу только один, поскольку он связан с тем же "Черешневым любимым". Это, как бы так необидно сказать... преувеличения. Автор вставил себе между большим и указательным пальцем чип с памятью в 1k, и вот:

Я научился открывать любую дверь жестом, разблокировать смартфон касанием, логиниться на любой сайт просто присутствием у компьютера – без всяких логинов и паролей, избавился от документов, ключей, проездных для метро, паспорта, прав, офисных пропусков и дисконтных карт, бумажника, визитницы, записной книжки с телефонами – короче, доброй половины содержимого сумки.
И это всё поместилось в один килобайт?
И ещё:

У меня есть знакомый доктор наук в области астрофизики, который осознанно работает курьером. На мой вопрос «Зачем?!» он ответил, что для его работы не нужно ни офиса, ни кабинета, ни компьютера; все, что нужно, – это время подумать.
Офигеть не встать! Зачем вам это, господин Черешнев? Зачем вам понадобилось выдумывать этого курьера-астрофизика? И так достаточно, что вы с Илоном Маском в переписке состоите и исследовали планету от Майорки до Окинавы. Матрицы, вон, перемножать научились. И питаетесь правильно... Зачем говорить о том, о чём явно не имеете понятия?
В общем, 3/5 книги, -- те, что в параноидальной середине, -- стоило бы сократить раз в 8...
Зато последняя 1/5 часть снова интересна. Там прогнозы, рекомендации и выводы.
И ещё раз скажу: при всех недостатках глобально почти во всём моё мнение в значительной степени совпадает с мнением автора!
По прочтении возникает резонный вопрос: Что делать будем?
Если одним словом, то ничего, несмотря на пламенный пафос автора.
Поясню.
Право сильного заменилось сегодня правом умного. Лично я ничего не имею против. Считаю это даже справедливым. Кто мешал мне стать Илоном Маском? Никто. Ну, а раз так, то каждый из нас и получил своё.
Исчезновение профессий под давлением ИИ -- не проблема. В XX веке и раньше исчезло множество профессий, как массовых (кучеров, например, и пастухов), так и элитных (типа кузнецов).
Моральные дилеммы типа "кого давить будем беспилотным транспортом?" тоже со временем будут решаться. И уж во всяком случае робот не напьётся за рулём и не станет гонять по Третьему транспортному кольцу со скоростью 250км/ч.
Реальная проблема возникнет лишь тогда, когда мы захотим роботов в качестве собственных детей. Тогда да, нам грозит полное вымирание. Но проблема ли это? Многие наши предки вымерли, те же кистепёрые рыбы -- все, кроме одного вида -- и что? Мы так уж о них жалеем? Динозавры освободили место для нас, ну и мы в нужное время освободим для роботов.
Со слежкой ничего не сделаешь, будем жить в прозрачном мире. Супружеские измены станут затруднены, но ведь мы ещё во времена Гоббса отказались от свободы. Когда-то мы путешествовали по миру без виз, но не сильно переживаем сегодня из-за такого ущемления прав. Европейцы так даже рады, что мы к ним не валим толпами. От слежки мы защищены своей многочисленностью и серостью. В самом деле, что с нас взять и кому мы так уж нужны? Будь я медийной персоной я бы, пожалуй, взволновался. Но только не по поводу Фейсбука. Честно говоря, наибольшее опасение в этом смысле вызывает у меня не условный американский Facebook, а как раз таки своя конкретная и родная власть.
Мечтания Е.Черешнева о безопасных "чёрных ящиках" и персональных искусственных интеллектах в роли добрых ангелов я готов прокомментировать, когда автор заткнёт в них хотя бы наиболее очевидные дыры. В дырах этих просто воет ветер.
Сомневаюсь также, что можно поставить во взаимно однозначное соответствие два мозга так, чтобы они смогли обмениваться мыслями. Совсем не очевидно, что все мозги одинаковые. Скорее уж они разные, и одинаковое возбуждение нервных импульсов приведёт в разных головах к существенно разным мыслям.
И не всё в этом мире можно посчитать. Даже задача трёх тел не может быть решена для достаточно далёкого будущего. Об этом Черешнев упоминает, но только единожды и вскользь. В целом же создаётся впечатление, что он надеется посчитать что угодно с любой степенью точности. Это большая ошибка.
Так или иначе, книга неординарная. Она произвела на меня существенное впечатление, хотя где-то посередине хотелось убить файл с текстом ~~и автором~~.
Тем, у кого есть лишний час, рекомендую в дополнение кино "Робот, я люблю тебя". Прямо сейчас ссылка доступна, но, боюсь, её заблокируют скоро.
Для тех же, у кого лишнего часа нет, подойдёт коллекция картинок по запросу "мой новый паспорт". Увидите тысячи паспортных данных каких-то людей -- берите кредит на любое имя :)))
Интересно, мой паспорт тоже есть среди них?..
Читать далее
33 понравилось
0
1,6K
Hareru
23 марта 2023
Евгений рассматривает отношение ИИ и человечества, какие есть пути развития, как ИИ влияет на нашу жизнь сейчас, как можно обезопасить свои данные в сети (глава 15, для некоторых окажется очень полезной). Симпатизирую риторике автора и его просветительской деятельности. Хорошие посылы для молодежи: действовать, думать, развиваться.
Книга немного отрезвляет и напоминает, что вся собранная информация обо мне - товар, который продается за большие деньги. Сейчас мы мало защищены от такого сбора данных, нет опции пользоваться урезанной услугой или доплатить денег, чтобы данные не собирались. Например, легально сайты с ДНК тестированием собирают и продают информацию о своих клиентах. Если таким занимаются медицинские компании, то продав информацию о болезнях, человека могут не взять на работу, не продать страховку или не дать кредит.
Сейчас нет проблемы найти человека, зная его привычки, любимые слова. Меня впечатлила история мужа-маньяка, который нанял хакера, чтобы тот нашел его жену, жившую под другим именем по программе защиты свидетелей. И он нашел и убил её. Анонимный сбор информации перестает быть таким, когда берётся несколько баз данных и находят точки пересечения.
ИИ не только облегчает нашу жизнь, но и проникает в наш быт, решает какие книги нам читать, какие товары покупать. Интересный пример с книгами, когда советуют не полезные для развития книжки, а коммерчески необходимые для сбыта. Никто не будет советовать классику, когда непроданная сотня по рейтингу бестселлеров «New York Times» лежит на складах.
Уделено внимание спецслужбам, сам автор закончил академию ФСБ и работал 6 лет по профессии. Меня впечатлило, что США на спецслужбы в год тратят больше денег, чем Россия зарабатывает на углеводородах.
Стоящая книга для прочтения, слушала в прекрасной начитке, но очень не хватало текста перед глазами.
Читать далее
18 понравилось
0
1,3K