Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens

За каких-то десять лет искусственный интеллект сравняется с человеческим, а затем и превзойдет его. Корпорации и государственные структуры по всему миру, конкурируя между собой, вкладывают миллиарды в развитие искусственного разума. Но что ждет нас дальше? Ученые задаются вопросом: не окажется ли это изобретение последним — гибельным для нас самих? Достигнув определенного уровня развития, искусственный интеллект сможет сам себя совершенствовать, без участия человека. У нас появится соперник хитр...

Жанры

Рейтинг LiveLib

3,6

127 оценок

5
17%
4
44%
3
28%
2
7%
1
5%

Ваша оценка

Прочитали 149Хотят прочитать 491

Рецензии

Аноним19 ноября 2017 г.
Уфф... Что за адский трэш. А ведь, казалось бы, издано в научно-популярной серии Альпины, так должен быть какой-то определенный качественный уровень! ((
О чем: буквально в двух словах. Автор усердно задвигает тему про искусственный интеллект, который вот-вот уже будет создан безответственными учеными и компьютерщиками, и это будет означать гибель для человечества! Потому что ИИ будет людей превосходить в каких-то чудовищных степенях! И люди не смогут его контролировать! И конечно, он будет враждебным к расе людей и постарается ее уничтожить, а что люди будут делать, если ИИ настолько их превосходит и они не могут его контролировать, и никогда не смогут - так, все, пошли по кругу. ((
И ради этой единственной мысли автор не поленился исписать триста страниц.
Сразу скажу - я не компьютерщик и в во всей этой информатике, в программировании ничего не понимаю! (автор, правда, тоже не компьютерщик, не программист и даже не ученый, как я поняла, а чисто деятель СМИ) Но, лично на мой взгляд, создается впечатление, что либо у автора серьезные психические проблемы на почве компьютеров и компьютерных технологий - либо он отрабатывает чей-то конкретный заказ. И то, и другое отвратительно. (((
Касательно психиатрии - это, условно говоря, первая половина книги. Где автор многословно, не стесняясь повторений, рассуждает об опасности ИИ, о том, как он будет враждебен... основываясь при этом большей частью на материале научной, и псевдо, и околонаучной фантастики! Законы робототехники Азимова, например, ага. Но, извините, какими бы прекрасными и удивительными не были НФ-книги, какие бы гранды их не писали - это все-таки беллетристика. Это никоим образом не научные исследования. Да, это перебор различных вариантов, моделирование с учетом того фактора или этого - в лучшем варианте. Но это не дает какой-либо твердой определенности! как мне кажется. В смысле, на каждого автора, пишущего об опасности и враждебности ИИ можно найти автора, который пишет об их полезности и, скажем так, спокойном с ними сосуществовании. Да у того же Азимова есть рассказы с враждебными ИИ, с дружественными ИИ, начисто безразличными ИИ, что угодно.
Вот тут и засада - автор заявляет острую, проблемную тему, но он не пытается в ней разобраться! Заслушать (представить аудитории) мнения за, мнения против, все такое. Он уже все для себя решил. Поэтому упорно бьет в одну точку. Он тут собрал, так сказать, список авторитетов, но - подробно описывает и рассказывает только о тех, кто поддерживает тему опасности ИИ. Если кто-то пытается смотреть на вопрос с разных сторон - автор будет приводить только те моменты, когда его точка зрения подтверждается. Про остальное будет сказано мельком и в таком ключе "но несмотря на это, он все же отметил, что..." и пошло-поехало. Если же кто последовательно отстаивает идею невраждебного ИИ, автор будет его слова помещать в свой контекст, всячески демонстрируя читателю, что это неправильное и совершенно безответственное мнение! Больше всего в этом плане достается злосчастному Курцвейлу, который осмеливается смотреть в будущее с оптимизмом и верить в НТП. Я этого Курцвейла не знаю (если не считать упоминаний в Коте Шредингера )) ), но тут прониклась к нему сочувствием. )))

Лично я, будучи махровым чайником и гуманитарием, продираясь через все эти панические изложения крутости ИИ и невозможности его одолеть, все ожидала, когда автор осветит мне элементарный вопрос, просто таки напрашивающийся. Имею в виду - как, в его понимании, ИИ будет грозить человечеству, захватывать и порабощать, если его существование зависит от кнопки выключения электричества? Первое, что приходит в голову. Не говоря уж о тупо производстве комплектующих, добыче нужных для этого полезных ископаемых... что происходит отнюдь не в виртуальности... То есть, почему вместо этих сложностей, угрожаемое человечество просто не вырубит компьютер? Ну, я этого так и не дождалась.
Ну вот, а вторая половина книги уже вызывает подозрение в наличии варианта заказа. Начинают невзначай проскальзывать какие-то моменты, которые производят неоднозначное впечатление. Как, например, автор восклицает, что ах, военные в своих целях продолжают разрабатывать все более мощные компьютеры и программы, но самое ужасное, что эти же разработки могут производиться и нехорошими организациями и государствами, несущими миру зло и угрозу, и вообще не проверишь, чего они там у себя делают! В числе таких жутких государств называются - ясное дело - Россия, Китай, Северная Корея, Иран... Ага. Не тут ли собака порылась... Дело просто все в том же старом добром классовом принципе... в современном исполнении. То есть, западноевропейская цивилизация вообще, и англосаксы в частности, или там, скажем, пресловутый золотой миллиард, претендуют на то, чтобы определять допуск не только к ядерным программам, но и к компьютерным, информационным технологиям. Контролировать их.
Это, товарищи, бесит. С какой стати какие-то белые господа должны решать, что в том же Иране могут пользоваться благами НТП и современными технологиями или должны находиться на уровне позапрошлого века.

О да, если эти страшные государства (вышеперечисленные) не контролировать, так они несомненно, само собой, будут нести угрозу благословенным США. Ну и Западу вообще. Точно так же как гипотетически в скором времени ожидающийся ИИ.
Возникает вопрос - а может, дело не в ИИ и его враждебности, а во враждебности и нетерпимости одной определенной цивилизации? (( Как говорится, каждый судит по себе и т.д.
О России (также СССР) автор несколько раз изложил, что - вот всем известно, что русские не разработали свое ядерное оружие с нуля, а украли его у американцев! Да, ну и что? Надо же, зайки какие. Вообще-то также известно, что и американцы не разрабатывали ядерное оружие прямо с нуля, а в значительной степени воспользовались разработками нацистской Германии, присвоив их вместе с соответствующими специалистами (среди которых, однако, были и военные преступники) и подмяв все под себя. Дальше что?

А вот еще совершенно прелестный эпизод, прямо таки иллюстрирующий известный анекдот "а нас-то за шо?" В общем, короче говоря, после всех этих авторских стенаний об ужасных государствах, несущих угрозу мировому сообществу, вдруг оказывается, что это, например, не страшный Иран, а именно просветленные США разработали вирусную программу и совершили масштабную кибер-атаку на иранские компьютерные сети, в результате чего было почти полностью разрушено производство... что-то там по ядерным реакторам... ядерная программа Ирана была сильно отброшена назад... Ну, я тут даже комментировать ничего не буду. Автор, правда, высказывает порицание. Но не за то, что США грубо вмешались во внутренние дела другого государства, причинили колоссальный ущерб, уничтожили производство. А за то, что они не до конца продумали последствия, и что эта самая вирусная программа сейчас попала в руки мало ли кому. Оказывается, что не только американские военные ведомства и ЦРУ могут разрабатывать кибер-оружие и планировать вирусные атаки, но и другие тоже.
Дальше автор принялся во всех подробностях излагать, куда эти хакеры враждебных государств могут наиболее эффективно нанести удар на территории США, чтобы причинить как можно больший ущерб экономике, финансам и людским жизням вообще. Это мне вообще совершенно не понравилось. Не говоря уж о том, что публиковать такие чуть ли не инструкции в общем доступе по меньшей мере безответственно... в чем автор только что обвинял кибер-специалистов ЦРУ и Пентагона... Но и как-то в свете всего этого - а вот завтра, скажем, те же кибер-специалисты ЦРУ и Пентагона таки устроят обвал вот в этом самом звене. И обвинят в этом Россию, Китай и т.д. Северную Корею. Кто их проверять будет - вот, скажут, и книжка даже есть с предупреждениями! И эта самая их представитель в ООН будет стучать книжкой автора по трибуне, и все такое прочее. Они же так работают.
В общем, очень как-то тревожно от всего этого. ((
Читать далее
30
1,1K
Аноним7 ноября 2017 г.
Технофобия с человеческим лицом
Как правило, когда сталкиваешься с работами, критикующими идею искусственного интеллекта, приходится иметь дело с ужасающей некомпетентностью автора. Почти все такого рода критики попросту отрицают либо саму возможность разработки ИИ, либо его шансы радикально превзойти человечество по всем пунктам.
Джеймс Баррат - абсолютно не таков. Он достаточно владеет темой, чтобы признать возможность и, более того, ближайшие перспективы создания ИИ. И у него достаточно интеллектуальной честности, чтобы обойтись без демагогии на тему "машины никогда не превзойдут людей, т.к. у них нет души" и аналогичной чепухи. Нет, он последовательно отстаивает мысль о том, что ИИ человеческого, а затем и сверхчеловеческого уровня будет со всей неизбежностью разработан, после чего шансы человечества на выживание моментально упадут до околонулевой величины. При этом он активно задействует работы специалистов в области ИИ, детально анализирует возражения оппонентов и разбирает возможные сценарии как нашей гибели, так и предполагаемого спасения.
В сущности, я могу указать лишь на один серьезный недостаток этой книги - антропоцентричность ценностей и вытекающее из него предвзятое отношение к движению сингуляритариев. В частности, обсуждая сценарий интеграции человека с ИИ (в том числе "загрузки сознания"), автор настаивает на том, что получившийся таким образом цифровой постчеловек потенциально не менее опасен, чем "чистый" ИИ. Но, прошу прощения, опасен для кого? Для "обычных" людей - именно с их позиций и ведется изложение. И автор даже не пытается встать на точку зрения такого "загруженного" постчеловека или рассмотреть сценарий всеобщей "загрузки". Впрочем, быть может, я слишком многого требую. По сравнению с другими книгами аналогичной направлености, изданных на русском языке, эта в любом случае выдающаяся.
Читать далее
20
1,2K
Аноним29 ноября 2018 г.
Не скажу, что это прям научный труд, ибо это не так. Это скорее рассуждения некоего заинтересованного темой ИИ журналиста, который переобщался с толпой народа из кремниевой долины(и не только), кто хоть как-то связан с созданием и разработкой искусственного интеллекта, программированием, киберзащитой и вот этим вот всем.
Если коротко, то - АААААА, мы все умрем. ИИ победит и уничтожит глупых человеков, а их атомы пустит на благое дело покорения вселенной. Остановить создание ИИ нельзя, ибо все боятся, что его создадут раньше враги, поэтому нужно работать в сторону каких-то ограничителей для сверхразума и его человечности, но никто из разработчиков(или почти никто) не задумывается над возможной угрозой и поэтому ещё раз АААААА, мы все умрем.
В общем книга сводится именно к этому. Нет, тут, конечно, говорится о невероятных плюхах для человечества, которые может принести механический сверхразум. О неоспоримых выгодах и все такое. Однако это будет только в том случае, если созданный ИИ будет дружественнен. Так же немножко говорится про опасности хакеров, типа какой вред они могут принести в эпоху компьютеризации всего и вся. Про то что самообучающиеся машины это не есть круто, потому что для всех, даже для их создателей, они не больше чем черный ящик - что на входе понятно, что на выходе тоже ясно, а вот внутри творится черная магия.
Ещё, что не круто, автор винит во всем Россию и Китай(особенно в хакерских атаках), а США такие белые и пушистые. Хотя редактор вечно в сносках говорит о том что это личное мнение автора, что немного улучшает общую картину по отбеливанию США и опорочиванию прочих.
В целом интересно и даже немного поучительно-просветительно, хоть и основанно на одних разговорах и никакой элементной базы, так скажем.
Читать далее
15
1K

Все рецензии

Похожие книги

Искусственный интеллект. Возможные пути, опасности и стратегии

Ник Бостром

3,9

(91)

Цитаты

Аноним25 октября 2020 г.
Вопрос: Умеет ли ИИ думать?
Ответ: Умеет ли подводная лодка плавать?
11
379
Аноним12 июня 2016 г.
Мощная ИИ-система, цель которой - обеспечить вашу защиту, может попросту запереть вас дома и никуда не выпускать.
7
268
Аноним26 января 2017 г.
Мы вообще пока не имели деловых отношений ни с одним небиологическим существом. У нас совершенно нет опыта такого рода общения. Поэтому мы привычно прибегаем к антропоморфному мышлению, то есть возвращаемся к мысли о том, что представители других биологических видов, объекты и даже метеорологические явления обладают человеческими мотивациями и эмоциями.
5
131