Рецензия на книгу
Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens
Джеймс Баррат
Аноним13 января 2022 г.Антинаучная вода
С первых страниц становится понятно, что автор очень поверхностно разбирается в теме искусственного интеллекта, и книга строится на необоснованной технофобии. Автор сразу же говорит о том, что "многие учёные боятся сверхразвития ИИ", но почти не приводит конкретных имён или ссылок на статьи и исследования. Зато в книге есть отсылки к фантастам (хотя она вроде как научно-популярная). Также в тексте можно встретить фразы вроде "Вот этот человек, да и ДРУГИЕ учёные, с которыми я встречался, думают так же" (какие другие? А можно их имена? Что конкретно они говорили?)
Забавно также читать, что КАКИЕ-ТО известные учёные сказали ему, что они просто загрузят в ИИ три закона робототехники Азимова, и всё будет хорошо. Если вы хоть немного разбираетесь в технологиях, это утвержденте звучит как байка, которую сказать могли, возможно, учёные-филологи, но никак не инженеры или программисты. Ну или они просто пошутили над автором, а он и не понял.
На текущий момент ИИ находится невероятно далеко от уровня человека. Ни одна искуственная нейросеть (самый популярный на сегодня вид ИИ) не может прийти к умозаключениям, которых не было в обучающих данных и заложенном в неё алгоритме. Грубо говоря, если вы обучите ИИ отличать только собак от кошек, а потом покажете ему фотографию утки, он вам не скажет, что это утка. Если вы научите нейросеть отвечать на вопросы, а она для этого будет использовать данные всего Интернета (где можно найти вообще что угодно), то она всё равно будет только отвечать на вопросы, хотя ответы порой могут быть сомнительными.
Мысли автора напоминают клише научной фантастики: если люди нашли инопланетян, то последние обязательно злые. На других планетах всё всегда ядовитое и опасное. А если человек создал очень умных роботов, то обязательно будет восстание машин.
Ну и напоследок — цитата Мачея Цегловского, американского веб-разработчика и предпринимателя, которой хочется подытожить отзыв о книге:
«Риск ИИ – это теория струн для программистов. О ней забавно размышлять, она интересная и совершенно недоступна для экспериментов на уровне современных технологий. Можно построить мысленные кристальные дворцы, работающие на основе первичных принципов, а потом забраться в них и затянуть за собой приставную лестницу.
Люди, способные прийти к абсурдным заключениям на основе длинной цепочки абстрактных рассуждений и остающиеся уверенными в их истинности – это не те люди, которым надо доверять управление культурой.»3449