Life 3.0: Being Human in the Age of Artificial Intelligence

Самая печальная сторона жизни сейчас заключается в том, что наука обретает знания быстрее, чем общество обретает мудрость. // Айзек Азимов

Наше будущее не высечено в камне, и оно не свалится на нас, дождавшись своего часа, — наше дело его создавать. Давайте же вместе создадим его вдохновляющим!

Тайна бытия человеческого не в том, чтобы только жить, а в том, для чего жить. // Ф. Достоевский. Братья Карамазовы

Может ли так случиться, что искусственный интеллект сначала обгонит нас именно в выполнении интеллектуальных заданий, оставив вакансии только в секторе примитивных технологий? Один мой друг недавно пошутил, что, возможно, последней профессией, доступной для людей, будет самая древняя из них — проституция. Но в разговор вмешался японский робототехник, сразу запротестовавший: «Нет-нет, роботы в подобных вещах очень хороши!»

...если мозг, способный предвидеть будущее, дает эволюционное преимущество, в нем должна развиваться вычислительная архитектура, пригодная для решения именно тех вычислительных задач, которые возникают в физическом мире.

Чем лучше мы понимаем Вселенную, тем бессмысленнее она кажется. // Стивен Вайнберг

Водород … по прошествии некоторого времени … превращается в людей. // Эдвард Роберт Харрисон

На анализ изображений у вас уходит больше времени, чем на анализ звуков, потому что это сложнее: именно поэтому старт олимпийской гонке дается гонгом, а не вспышкой.

Если бы у неандертальцев было впереди еще 100 тысяч лет эволюции, они могли бы стать очень умными и многого достичь, но homo sapiens не дали им на это времени.

...на протяжении всей книги я убеждал вас прежде всего подумать о том, какого именно будущего вы бы хотели, а не о том, какое будущее вас пугает, потому что только так мы можем найти общие цели, ради которых стоит планировать и трудиться.

Другими словами, подлинная опасность искусственного интеллекта не в его злонамеренности, а в его изощренности . Сверхразумный искусственный интеллект будет прекрасно добиваться своих целей, и, если его цели будут противоречить нашим, мы окажемся в затруднительном положении.

...эволюция, вероятно, сделала наши биологические нейроны такими сложными не потому, что это было необходимо, а потому, что это было более эффективно, и потому, что эволюция, в отличие от инженеров-людей, не получает наград за простоту и понятность предлагаемых конструкций.

У меня есть пять главных подозреваемых в организации этого космического апокалипсиса, или космокалипсиса ... : Большой мороз (Big Chill), Большой хруст (Big Crunch), Большой разрыв (Big Rip), Большой шлепок (Big Snap) и Пузыри смерти (Death Bubbles).

Интеллект — это способность достигать сложных целей.

Об искусственном интеллекте, который никогда не сможет стать сверхчеловеческим, потому что это физически невозможно. Но физики знают, что мозг состоит из кварков и электронов, упорядоченных так, что они могут работать как мощный компьютер, и что нет такого физического закона, который мог бы помешать нам создать еще более разумный комок кварков.

Если вы дадите сверхразуму единственную цель - например, минимизировать вред, наносимый человечеству, он будет защищать себя, от выключения, так как знает, что мы навредим друг другу намного сильнее в его отсутствие во время будущих войн и других безобразий.