Искусственный интеллект: перезагрузка: Как создать машинный разум, которому действительно можно доверять

Несмотря на шумиху вокруг ИИ, создание интеллекта, равного человеческому или превышающего его, намного сложнее, чем мы думали. Профессора Гэри Маркус и Эрнест Дэвис, известные исследователи в области искусственного интеллекта, утверждают, что нам еще очень далеко до создания полностью автономных автомобилей или сверхразумных роботов. Дело в том, что подходы, принятые сейчас в сфере разработки ИИ, слишком узки для создания подлинного интеллекта. Реальный мир, напротив, чрезвычайно сложен и мно...

Жанры

Рейтинг LiveLib

3,5

15 оценок

5
13%
4
33%
3
53%
2
0%
1
0%

Ваша оценка

Прочитали 19Хотят прочитать 73

Рецензии

Neradence6 ноября 2022 г.
Единственное, на что всегда можно рассчитывать - последовательная глупость машинных интеллектов
Весьма подробный комплексный анализ того, как и почему современная разработка ИИ пришла к своему текущему состоянию и почему упёрлась в свой вариант стеклянного потолка, об который теперь вяло бьётся. Без особого, кстати, энтузиазма.
(Книга вроде двухлетней давности, но за это время технологического прорыва не произошло, так что всё описанное актуально по-прежнему.)
Основная идея в следующем: текущие ИИ - не ИИ в полном смысле, а узкоспециализированные, они же слабые, нейронные сети, которые используются только для конкретных задач, и даже в их рамках не способные на что-то, выходящее за рамки обучающего набора хоть на три пикселя.
В целом, насколько мне хватает практического опыта судить, так и есть, потому что deep learning, конечно, позволил улучшить машинный перевод и распознавание речи, а big data - распознавание образов, но на этом успехи и застопорились. Ни одна сеть не справляется с тем, чтобы не просто отличать кота от собаки по фотографиям, но хотя бы генерировать изображения котов в естественных состояниях, а не с лишними лапами или недостающими ушами, в ста процентах случаев. О том, чтобы объяснить абстракцию "кот", можно и не заикаться.
Авторы настаивают на том, что для действительно сильного ИИ, который способен делать не только одну задачу вроде автоматического перевода с английского на французский, исследовательскому и разрабатывающему сообществу следует целиком изменить подход. Вместо обучения каждой сети с нуля предусмотреть возможность переиспользования существующих навыков и умений, накопленных человечеством, вместо создания списков и таблиц соответствий - умение самообучаться, добавить гибкости мышления, осмысления мира "в целом", etc.
Звучит, безусловно, логично. Авторы подкрепляют свою позицию многочисленными примерами от личного опыта до разбора известных случаев, когда очередной стартап заявлял о "безусловном прорыве" в сфере ИИ, а потом нейронная сеть путала черепаху с винтовкой. С точки зрения собранных под одной обложкой идиотических случаев, выдаваемых или генерируемых нейронками, книга - безусловный лидер, видно, что материала для неё переработано было много.
Исторические экскурсы поэтому тоже в наличии, упомянуты и игроки в го, и бессмертный чат-бот Elisa, и всякие там прохождения теста Тьюринга с помощью обманных манёвров. Профессионализма у авторов не отнять.
Однако авторы при этом не подводят читателя к самой главной мысли - как, собственно говоря, правильно сделать-то надо? То есть да, хорошо, убедительно доказали: слабые ИИ не подходят и не решают проблем грядущей эпохи, подклеивать их изолентой, то есть, менять выборки обучающих сетов "с гориллами" на "без горилл" - в длительной перспективе бессмысленно, надо менять подход целиком. А на что менять?
Никаких особых рецептов о том, с чего начать, например, формирование для компьютеров реального умения читать на человеческом уровне, нет. Ну как так, где вывод из манифеста, где рецепт выведения индустрии из застоя?
Авторы, похоже, сами не в курсе. Они описали общую идею, чего нам всем не хватает для сильного ИИ, но путей достижения у них нет.
Заключение показалось мне поэтому прям сильно утопичным. Авторы долго и со вкусом расписывают, как после создания сильного ИИ наступит для человечества Мир Полудня, где вся сложная, тяжёлая и скучная работа что на производстве, что в домохозяйствах будет передана роботам, а каждый человек сможет заняться исключительно творчеством, сократив свой рабочий день до четырёх, а лучше - до двух часов, по небу будут летать радужные единороги, и вообще да здравствует всё хорошее.
После того, как предыдущие восемь глав они на примерах показывали, почему весь нынешний ИИ - фикция, это выглядело, как минимум, занятно. Потому что из книги натурально никаким образом не следует, что такой внезапный технологический скачок навстречу сингулярности в целом возможен, скорее - даже наоборот, тут вон минимум двести страниц том, что человечество никак не может справиться с задачей обучения ИИ здравому смыслу.
Что меня несколько, ну, озадачило по ходу повествования, так это то, что бедные американские авторы даже в книге, которая максимально далека от геополитических проблем, не смогли не ткнуть палочкой в Россию в формате "есть убедительные доказательства, что Россия атаковала атомные станции в США с помощью кибератак". И поэтому сильный ИИ - он может нести опасность для всего человечества.

Можно подробностей, где именно взяли эти убедительные доказательства? В "The Washington Post" прочитали или во сне увидели? Потому что у мирового инфосек-сообщества много лет есть многогранные подтверждения того, что какой-нибудь Pegasus нормально так ЦРУ используется для атак на телефоны чужих дипломатов, политических лидеров и независимых журналистов, но почему-то про опасения того, что сильный ИИ будет работать в интересах США, тут ни слова.
Надо же, какая избирательная слепота.
Не, я понимаю, идеологические противники, все дела, но что ж так в лоб-то двигать, можно было хоть замаскировать в духе, что человечество в принципе не совершенно и использует технологии не всегда во имя всеобщего блага. Ну там, вот Россия делала, вот Китай, вот США, а чего только Иран не делал, и человечеству надо выработать концепцию по отношению к ИИ от всей цивилизации; но нет.
Странновато.
Удивительно мало ещё затронута тема квантовых компьютеров и, соответственно, квантового ИИ, хотя Китай там что-то грандиозное не первый год сооружает. Буквально просто прошлись по соседству "ну такое есть", и всё; не совсем понимаю, почему.
Читать, впрочем, всё равно было достаточно интересно. Книга хорошо освещает вынесенный в её заглавие вопрос, несмотря на элементы лёгкой однобокости в отдельных моментах, и она действительно познавательная в плане оценки общего состояния отрасли и её перспектив. Написана лёгким языком без особого упора на техническую терминологию, авторы явно рассчитывали на достаточно широкую аудиторию.
Заслуженные девять скайнетов из десяти, я считаю, в плане ненавязчивого погружения в уютное болото представления о машинном обучении хорошо подойдёт.
Читать далее
11
187
KundeMyth13 февраля 2022 г.
Искусственный, он и есть искусственный
Когда читаешь это после Р. Курцвейла, то сразу бросается в глаза отсутствие той безудержной эйфории от ИИ, которую источает этот самозванный «пророк цифры». Здесь более трезвый, но в целом, конечно, про-ИИ-шный взгляд. Авторы открытым текстом заявляют, что ИИ на сегодня – это фикция, исполненная неоправданных ожиданий, подогреваемых не в последнюю очередь писателями и журналистами, «популяризирующими» науку. Сегодняшний ИИ узкофункционален и не справляется с теми задачами, которые повседневно приходится решать «рядовому» человеческому интеллекту. И самообучающиеся алгоритмы, разрекламированные как «глубокое обучение», не «дотягивают» даже по элементарным показателям до обычных способностей человеческого мозга.
Но авторы не отвергают саму идею искусственного интеллекта, а всего лишь пытаются предложить новую парадигму, которая, по их замыслу, может направить путь его разработки в правильное русло. Они сетуют, что именно созданием «универсального» искусственного интеллекта, эквивалентного, так сказать, человеческому, никто не занимается, корпорации гоняются за сиюминутными прибылями, которые обеспечивает имеющийся на сегодня узкофункциональный ИИ.
Чего, дескать, ему не хватает до «настоящего» интеллекта? Авторы отвечают: здравого смысла, комплексного понимания мира, способности рассуждать, принимать динамические решения в изменяющейся ситуации, способности к аналогии и к осмыслению речи (не путать с распознаванием речи и генерированием – это чистая «механика», алгоритм без признаков самосознания). Именно на решение этих проблем и направлена та парадигма, которую предлагают разработать авторы.
Вроде бы все правильно. Но в этих их подходах опять срабатывают модели чисто западного образа мысли: рационализм, материализм, эволюционизм, социальный детерминизм и т.п. С одной стороны, как авторы верно замечают, то же распознавание образов как функция deep mind, есть лишь одна из сторон реального интеллекта, а не сам интеллект. Но с другой стороны, то, что не учитывается в парадигме подходов к генерации ИИ (см. выше), видится им только в области рационального мышления. Исходная позиция такая: человек – животное, развившее в результате эволюции совершенный когнитивный механизм, который и составляет основу интеллекта. И нужен он ему, мол, для «обеспечения существования» (материального, разумеется, духовное понимается исключительно как производное от «бытия»). Ни об эмоциональном «субстрате» мышления, ни об интуиции, ни тем более о трансцендентном опыте веры речи здесь не идет. Не говоря уж о том, что человек может обладать чем-то бОльшим, чем просто совокупностью генетически передаваемых когнитивных механизмов. Это для авторов - метафизика, неподвластная (или «недостойная») их западному складу ума.
Вот и получается тупик. Предлагают изменить путь к тому, что В ПРИНЦИПЕ не под силу человеку. Но они-то, конечно, считают, что человеку под силу всё, пусть и не сразу – опять ловушка-тупик секуляризованного просвещенческого сайентизма…
Казалось бы – да и шут с ними, пусть барахтаются в своих тупиковых построениях, если бы эти построения не касались сегодня каждого из нас. Коль скоро все это уже не предмет «чистой науки», а реальность повседневной жизни и ее дальнейшая неумолимая перспектива, то и страдать приходится (и как еще придется!) всем. И убитые роботами жертвы, о которых так сокрушаются авторы, – это только цветочки по сравнению с теми проблемами, которые несет внедрение ИИ везде и всюду, особенно туда, куда вход закрыт всякому постороннему, а открыт только Богу – в душу человека. Лезут они туда, эти ИИшники, с упорством танка и ведут себя как слоны в посудной лавке. Только никакого «универсального ИИ» им создать никогда не получится, никогда их робот не будет осознавать собственное Я, не будет способен к самоанализу, к самосовершенствованию, к постановке собственных целей (на это они замахиваются) и тем более, к духовному росту (об этом речи не ведут). Душу они не создадут, а «клонировать» ее Бог никому не позволит. А вот то, в чем они преуспеют, так это в создании орудия убийства (духовного и физического), которое в руках людей, правительств, кланов станет самым разрушительным и, видимо, последним для человеческой цивилизации.
Читать далее
Содержит спойлеры
1
209

Все рецензии

Цитаты

KundeMyth13 февраля 2022 г.
Одна из причин, по которой люди часто переоценивают возможности искусственного интеллекта, заключается в том, что сообщения, появляющиеся в СМИ, часто до такой степени преувеличивают его возможности, что любое самое скромное продвижение в технологиях начинает выглядеть как "прорыв тысячелетия".
1
69
KundeMyth13 февраля 2022 г.
По определению, никакая система машинного интеллекта не сможет впитать в себя достаточно данных, чтобы охватить весь спектр возможных обстоятельств в реальном мире. Дело в том, что сам процесс понимания информации не вписывается в парадигму узкого искусственного интеллекта, основанного исключительно на предварительном обучении, поскольку ситуаций в мире всегда больше, чем данных.
1
66
KundeMyth13 февраля 2022 г.
Важнее всего осознать, что искусственный интеллект – это не волшебство, а просто набор технических приёмов и алгоритмов, каждый из которых имеет свои сильные и слабые стороны, подходит для одних задач и не подходит для других.
1
31