Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

Потрясающая книга моего любимого жанра SJWшной борьбы со здравым смыслом. Похоже, что социально справедливые консультанты за всё хорошее против всего плохого западный геймдев уже уничтожили, так что делать там теперь нечего, и они нашли себе новые экологические ниши - отрасль ИИ и инфобез. От всей души желаю удачи в улучшении: после невероятных откровений от какого-нибудь Rapid7, заявляющего, что главное - нейроразнообразие и инклюзивность сотрудников, отчётливо видно, как повышаются от этих нововведений эффективность. В разы.

Формально книга разбита на три блока: как ИИ появился, сценарии, как он может развиться, вывод, как сделать так, чтобы он развился хорошо. Строго говоря, ни с одним из них автор не справилась, потому что все они по содержанию абсолютно одинаковы: нельзя, чтобы Китай существовал, США должны править миром, потому что их идеология хорошая и правильная, свободу попугаям и человекам, мы призваны нести истину о правах личности, а наше особое место гегемона вдруг подвергают сомнению, это не демократично. Слегка меняются только мишура и фамилии тех ужасных белых (на крайний случай азиатских) мужчин, которые либо стояли у истоков ИИ, либо стоят во главе бигтеха, а всем известно, что так быть не должно, ведь если в списке участников чего угодно нет ни одного боевого вертолёта, то демократия в опасности.

О том, почему демократические ценности обязаны остаться в мире главенствующими, сама автор охотно рассказывает на примерах. Взять хотя бы эту чудесную историю о чатботе, который пасся в китайском сегменте социальных сетей и общался с людьми, имитируя девочку-подростка - был милым, дружелюбным и эмпатичным. Но стоило только выпустить англоязычный аналог в твиттор, как он за сорок минут научился ненавидеть негров, евреев и женщин, прославил Гитлера и начал называть Обаму обезьяной. А всё почему? А потому что моральные стандарты свободных США намного выше, лучше и качественнее, чем у ужасного тоталитарного Китая, что тут непонятного.

Собственно, основных тезисов в книге два: "тоталитарный ужасный Китай тоталитарно ужасает" и "компании смеют набирать специалистов для разработки ИИ по навыкам, а не по расширенному представительству, поэтому в их коллективах присутствует недостаточно женщин, негров, мексиканцев, инвалидов, геев и боевых вертолётов". От них идут и все остальные, включая истерику насчёт того, что Китай не хочет соблюдать принципы демократии и считает Тайвань своей территорией, а должен считать Тайвань независимым, потому что США так сказали, что в MIT студентов учат математике и информатике вместо того, чтобы обязать их брать курсы африканской литературы, ведь именно африканская литература позволит им хорошо программировать, однозначно, или что Индонезия отказалась хранить персональные данные своего населения на американских серверах и всё перевезла к себе, взяв пример с Китая.

Автор настолько экспертный эксперт, что, рассказывая про Tencent и их доходы, начисто забыла упомянуть, что основной поток - треть! - Tencent получает не с соцсетей или поиска, а из донатных помоек монетизации онлайн-игр. Хотя я, конечно, понимаю, что ей было гораздо важнее обличить страшное, а именно что в Tencent совсем не представлены расовые группы и сексуальные меньшинства, чем проверить открытую финансовую информацию. Это реально идейная сестра Аниты Саркисян, только вещает не про игры, а про ИИ.

Она скрупулёзно подсчитывает, сколько процентов женщин и негров были на каждой встрече, где она присутствовала, сколько их среди выпускников профильных университетов и как обязательно надо сделать квоты, чтобы над ИИ могли работать не специалисты, а одобренные SJW кандидатуры. Неважно, что они ни в зуб ногой про глубокое обучение, главное, что у них цвет кожи и ориентация были бы правильные, ведь именно эти качества делают людей экспертами в технических областях.

Разработчики по всему миру понятия не имеют, как преодолеть технологические ограничения на сильный ИИ, о чём даже книги пишут, пусть не бесспорные, но осмысленные, а автор уже во всём разобралась в одно лицо - вся проблема в недостатке разнообразия. Мы-то думали, это архитектурные проблемы или инструментальные, но нет, вот стоит только заложить "этические основы" с "максимальным представительством", и всё, сильный ИИ самозародится и выпрыгнет из бездн интернета, аки пасхальный кролик.

Большую часть времени, оставшегося от истерики из-за китайских планов развития, автор возмущается тем, что современные нейросетки не учитывают её личных моральных принципов и вообще притесняют её тем, что их разработчики не вкладывают в свой софт то, что лично ей надо. Ответа на вопрос, почему разработчикам должно быть не плевать на то, что лично ей хочется, не будет, равно как не будет и светлой мысли, что хочешь влиять на моральные ценности ИИ - становись либо главным инвестором, то есть голосуй деньгами (в США же рыночная экономика, о чём автор с придыханием всё время вспоминает, в чём проблема - всё, включая этические стандарты, решает прибыль), либо разработчиком, чтобы самой внести в своё детище всё, что тебе хочется. Но нет, это сложно, это работать надо, поэтому авторский выбор - триста страниц нытья о том, как статистические данные унижают всех подряд. Опять же, окей, даже могу понять, страшно и обидно, когда исключительно по цвету кожи предлагает контент для защиты от уголовного преследования, но точно ли проблема в том, какую выборку делают поисковые боты? Может, надо не Гугл заставлять отказываться от таргетированной рекламы, а социальные реформы в благословенном граде на холме проводить, чтобы у чернокожего населения просто реально не было возможности формировать такую статистку по арестам? Не замазывать проблему выдуманной инклюзивностью, а её на корню решать? Но, опять же, это сложно.

Мантрой, повторяющейся каждые три абзаца, является "мир потеряет нашу прекрасную демократию, если Китай не будет подчиняться США". В, прстгспд, "сценариях", которые автор сваяла в качестве футурологических прогнозов, самый страшный и ужасный конец - США теряют статус сверхдержавы, Латинской Америке и Африке на это плевать, они давно предпочли Китай, американских граждан никто не хочет видеть, и это ужасно, потому что придёт конец демократии. Самый позитивный путь развития - США уничтожает Китай и несёт свет и просвещение, а главная цель этого просвещения - чтобы весь мир был максимально разнообразным, агендерные люди (это что за покемон?) могли быть свободны от страшного угнетения, а во всех заведениях на свете всё было подчинено инклюзивности. И ещё белых мужчин тут же бы запретили как явление, потому что всё зло мира в них, да.

Из невероятных предложений особенно запомнилось "регламентирующий ИИ орган должен быть на нейтральной территории, поэтому пусть он будет в Канаде, ведь Канада не подчиняется ни Китаю, ни США". А вот эта нейтральная Канада, абсолютно независимая от США, она сейчас с нами в одной комнате? И у автора всё такое, даже сколько-нибудь здравые предложения вроде обязать технологические гиганты в контрактах прописывать, что данные пользователя принадлежат пользователю, а не компаниям, обязательно обвешивается поверх какой-нибудь SJWшной ересью и лозунгом о победе демократии, которая должна восторжествовать во всём мире, уничтожив такие ужасные государства, как КНДР, Иран и Россия. Ужасный их ужас в том, что они дружественны Китаю.

Причём всё это в книге про ИИ? А вот. Божечки-кошечки, я ведь даже не мужчина, а к финалу меня от референса про белое мужское превосходство, которое мешает построить идеальное общество, просто тошнило.

Двойные стандарты и откровенная подмена фактов восхищают безмерно. Технологические гиганты, говорит нам автор на полном серьёзе, не подчиняются американскому правительству, и американское правительство не может на них как-то повлиять, это только в ужасном тоталитарном Китае правительство может пригласить Чжана и сказать ему, что он немножечко заблуждается в несении своей политической позиции. А то, что Цукерберга вызывали в Конгресс и там прополоскали с улыбками и пистолетом, приставленным к голове, после чего в его компании резко появились специально обученные люди, которые во время выборов модерируют новостные ленты - это другое, это потому что правильные демократичные методы, так можно. И вообще Цукерберг сам захотел всячески помочь Белому Дому, от всей души. Слитые Маском внутренние документы твиттора, из которых следует, какую цензуру проводили спецслужбы для формирования "правильной" политической линии? ЦРУ? Какое ЦРУ? Вам показалось. Это всё русские хакеры подделали, вы не понимаете. Ни одна книга, хоть косвенно задевающая технологии, начиная с 2016-ого года не может обойтись без страшных русских хакеров, вмешивающихся в святые демократические процессы президентских выборов, и без Cambridge Analytica. Нет, ну честное слово, пора уже поменять методичку, по которой на заданную тему пишут американские авторы, это же невозможно, уже каждый читатель эти тезисы наизусть выучил, даже если не хотел.

Читается как сборник анекдотов, но следует заранее запастись водичкой, чтобы заливать горло, то и дело пересыхающее от гиеньего хохота. По захватывающему уровню лицемерия также хорошо, как книжечка от главного юриста Microsoft, по осмысленности - туда же. Ознакомиться можно только для того, чтобы восхититься ладно скроенным политическим нарративом о том, как героически США противостоит ужасному тоталитарному авторитаризму и какое зло во плоти Цзиньпин. В остальном же этот журналистский опус абсолютно бесполезен - уровень знаний о нейросетях у Уэбб так же велик, как у Саркисян о геймдеве, поэтому вся хоть сколько-то техническая информация взята из открытых источников и пресс-релизов примерно десятилетней давности. В лучшем случае. В худшем и многочисленном представлены очень достоверные сведения из The Times и прочей регулярной прессы.