Искусственный интеллект: Пределы возможного

Книга авторитетного эксперта в области компьютерных технологий — призыв к здравомыслию. Всю свою сознательную жизнь Мередит Бруссард слышала, что технологии спасут мир, однако сегодня, продолжая восхищаться ими и участвовать в их создании, она относится к будущему не столь оптимистично. Всеобщий энтузиазм по поводу применения компьютерных технологий, по ее убеждению, уже привел к огромному количеству недоработанных решений в области проектирования цифровых систем. Выступая против техношовинизма ...

Жанры

Купить эту книгу

Бумажная

899 ₽749 ₽

Купить-17%

Бумажная

899 ₽749 ₽

Купить-17%

Рейтинг LiveLib

3,2

25 оценок

5
16%
4
36%
3
24%
2
16%
1
8%

Ваша оценка

Прочитали 30Хотят прочитать 81

Рецензии

sq
15 апреля 2020
Много с чем не согласен, но интересно
Собственно, прочитал эту книгу из чисто спортивного интереса. Хотелось понять, считает ли Мередит Бруссард, как и большинство людей (а тем более большинство журналистов), что ИИ = большой смартфон, запрограммированный гениальным хакером или нет?
Ответ (да, считает) получил очень скоро. Те, кто общался со мной на Лайвлибе или в оффлайне, знают, что я категорически против такой трактовки. Но книгу всё-таки дочитал, поскольку автор -- не простой журналист, а какой-то "вычислительный". Стало любопытно, что же это такое.
Да, мои взгляды значительно отличаются от её.
Во-первых, отличие есть в словах. В определениях.
Есть ИИ -- искусственный интеллект, и есть МА -- механизация и автоматизация. Автор всё время говорит об МА, хотя называет его ИИ.
Это противоречие легко преодолеть. Всякий раз как Мередит Бруссард говорит "ИИ" читайте "МА". Тогда вы согласитесь практически со всеми её идеями. Читайте также "МА" и вместо "систем с оператором в контуре управления" и тому подобных эвфемизмов. Оттого, что мы кого-то назовём "оператором машинного доения", этот кто-то всё равно останется дояркой и никакого интеллекта в используемом оборудования от этого не появится. Разве что у доярки повысится зарплата, да и то не обязательно.
Мередит Бруссард находится в плену двух заблуждений, как, впрочем, и большинство современных людей.
Первое терминологическое, я о нём уже сказал только что. Поскольку ИИ на сегодня не существует, все приведённые в книге примеры лишены предполагаемого автором смысла.
Да, почитать об этом интересно, но совершенно излишне всякий раз доказывать, что это всего лишь тупая программа, а не интеллект.
Парадокс в том, что автор не видит, что все приведённые примеры с разных сторон приближают мир к рождению настоящего интеллекта. При этом, как только машина оставляет в чём-то человека позади, так сразу человек объявляет, что именно для этого рода деятельности интеллект не нужен.
Вот пример.
Когда-то давно я играл в шахматы с программой Каисса. Скажу вам, когда эта огромная шумная железяка берёт у вас фигуру, это реально впечатляло! Машина понимала игру, строила комбинации, даже жертвовала, когда надо, пешки.
Тогда у неё ещё можно было выиграть, и большинство людей придерживалось мнения: пусть машина выиграет у гроссмейстера, тогда мы признаем её умной. Подтекст подразумевал: этого не будет никогда.
Машина выигрывает теперь у гроссмейстера. И что?
А ничего. Теперь оказывается, машина делает что-то не так. Не как человек. Не играет она, якобы, а перебирает варианты или что-нибудь в таком духе. Что угодно делает, но только не играет.
В этой логике выходит: если самолёт летает не как птица, то это означает, что он что́? не летает?
Другой пример: машинный перевод.
Ну-ка найдите человека, который сможет перевести простую фразу с йоруба на маратхи. Может быть, есть такой человек, но замучаешься его искать. А google translate не только переведёт, но и вслух скажет.
Тоже, видимо, что-то как-то не так делает google. Не переводит. И вообще, для перевода с йоруба на маратхи интеллект не требуется.
Ну хорошо, пусть так. Однако, повторюсь: ключевое понятие тут такое, что всё это вместе приближает нас к тому моменту, когда мы сможем обсудить с машиной "Братьев Карамазовых", и она нас поймёт! И не говорите вслед за Мередит Бруссард, что этого не будет никогда. Будет. Ещё очень не скоро будет, зато наверняка знаю: когда это случится, Мередит Бруссард объявит, что для обсуждения Братьев интеллект не требуется.
Автор обзывает меня техношовинистом. OK, принимая во внимание только что сказанное, я в ответ обзову её гомошовинисткой. Ещё неизвестно, у кого ярлык хлеще получится :)
Ещё одна ошибка, свойственная Мередит Бруссард, как и абсолютному большинству людей такая. Она считает, что в людях и собаках есть некая недостижимая и непостижимая нематериальная волшебная сущность. И сущности этой никогда не может быть у машины. Рассуждая об автомобилях без водителя, она говорит так:

Разум – вот ключевая проблема. А поскольку не существует способа запрограммировать теорию мышления, машина никогда сможет реагировать на препятствия так же, как человек.
Вот так вот. Никогда.
И тут же рассказывает, как, по её мнению, управляется беспилотный автомобиль. Примерно так:

switch (объект) {
case столб: объехатьстолб()
case светофор: объехатьсветофор()
case человек: объехатьчеловека()
case собака: объехатьсобаку()
case птица: хренсней__сама_улетит()
...
...
}
Скажу честно: я не знаю, как управляется беспилотный автомобиль. Но я съем свою шапку, если программа выглядит так, как показано. Ставлю рубль, что при такой программе управления автомобиль не доедет и до первого столба, потому что ему встретится на дороге не учтённая программистами кошка или стрекоза.
Вот ещё на ту же тему:

Машинное обучение (ML) предполагает, что каким-то образом компьютер обзавелся субъектностью и разумом, поскольку он «учится», ведь обучение – это слово, которое применяется к разумным существам вроде людей (или частично разумным, например животным).
Тут снова призову на помощь google. Отлично помню, как лет пять назад смеялся над его переводом фразы 'this fly can fly' = "этот летать может летать". Проверьте сами, сегодня перевод предлагается такой: "эта муха может летать". Выходит, google учится? По логике автора, каким-то образом компьютер обзавелся-таки субъектностью и разумом?
Ну и уж до кучи.

Если вы удалите из компьютера его часть, то он просто перестанет работать.
Это не так. Даже вычислительным журналистам не дано всё знать.
В 80-х годах прошлого века я работал с машиной СМ-2. Это была отечественная разработка, программно совместимая с Hewlett Packard и предназначенная для управления опасными и ответственными процессами. В частности, такая машина управляла климатической установкой Мавзолея Ленина. Для этого у неё было два одинаковых процессора.
Многие сегодня мне не поверят, но работала она так.
Запускаем программу. Два процессора весело моргают.
Выдёргиваем один из процессоров из розетки. Он гаснет, но второй продолжает моргать. Программа работает, хотя и медленнее.
Выдёргиваем выключенный процессор из стойки, вставляем вместо него новый, набираем волшебный код на пульте и давим кнопку "Пуск". Оба процессора моргают, программа ничего не заметила.

Как тебе такое, Илон Маск?
И ещё об обучении.
Мередит Бруссард описала в красках процесс программирования AlphaGo. Всё сделали люди. Они заложили в базу данных 30 миллионов партий, сыгранных людьми, и у них вышла тупая железяка, которая только и умеет, что выполнять заложенные в неё заранее алгоритмы игры в го.
Вот если бы машина сама научилась играть в го!..
Насколько я понимаю, написала она это в 2017 году.
И надо же такому случиться! Мередит поторопилась всего чуток! В том же 2017 году IBM сообщила о программе AlphaGo Zero. В программу заложили только правила постановки фишек в го. После этого она сыграла сама с собой несметное число партий и обыграла чемпиона мира! Сама, блин, научилась!
Более того, через некоторое время та же программа научилась играть и в шахматы. Думаю, со временем, может освоить и преферанс, почему бы нет?
Полагаю, Мередит Бруссард сильно расстроилась, когда об этом прочитала.
Ещё видел странность:

Не буду вас обманывать: программирование – это математика. И если кто-то пытается убедить вас в обратном, что, мол, без математики можно научиться программировать, то, скорее всего, вам пытаются что-то продать.
Это ложь. Точнее говоря, девушка не знает, что такое математика.
Обещаю: ничего никому продавать не собираюсь. Просто проделаем эксперимент.
Берём знакомого программиста и просим его решить уравнение dy/dx = ky.
9 из 10 программистов этого сделать не смогут. То есть, разумеется, через несколько минут они найдут решение в интернете. Но математики они не знают и не переживают от этого. Они прекрасно вколачивают программы любой сложности на любом языке для любой системы.
Программирование больше всего похоже не на математику, а на решение кроссвордов. Ну или, как совершенно справедливо выражается Мередит Бруссард:

Современное программирование похоже на ремесло – на строительство дома или создание мебели.
Ещё больше -- на отвёрточную сборку мебели из Икеи.
Книга полна также обычной журналистской демагогии с уклоном в эмоции.

Пока еще никому не удалось создать подобные аппаратное и программное решения, которые гарантировали бы безопасную езду в любой местности и при любой погоде.
Это правда. Правда также и то, что пока еще никому не удалось создать живых водителей, которые гарантировали бы безопасную езду в любой местности и при любой погоде. Но ничего, ездят.
И ещё фразы про детей, старушек и злобных программистов-маньяков вроде такой:

Захотите ли вы оказаться на одной дороге или на тротуарах, проехать на велосипеде рядом с автомобилями без водителей с сомнительной программой, настроенной на убийство вас или водителя?
Уж не знаю, на убийство чего или кого настроен автомобиль, но он уж точно будет гораздо реже, чем белковый пушистый водитель:
-- пить за рулём,
-- отвлекаться на музыку или новости,
-- превышать скорость,
-- выезжать на встречку,
-- пытаться проскочить перекрёсток на красный,
-- сносить шлагбаум и таранить товарный поезд
-- и т.д. и т.п.
Самое главное же и неожиданное вот что: несмотря на всё перечисленное (и не перечисленное) книга мне понравилась! Удивительно, но это так.

Я специализируюсь на разделе журналистики данных под названием вычислительная журналистика, ее также называют анализом алгоритмической ответственности.
...
С помощью этой книги я хочу воодушевить людей. Я хочу, чтобы они поняли принципы работы компьютера и перестали бояться программ.
Я знаю принципы работы компьютера (полагаю, даже лучше, чем Мередит Бруссард) и не боюсь программ. Но про вычислительную журналистику ничего не знал. Это оказалось и интересно, и полезно.
Узнал и ещё много-много всего.
Например, государственные школы в Филадельфии, каковы они были 10 лет назад, до изумления похожи на наши нынешние. И ничего удивительного, что некоторые учебники в них стоят по сто баксов и более. Так всегда бывает, когда за дело берётся государство. И никакие технологии, разумеется, ученикам не помогут.
Вот на эту тему свежайший анекдот:

Мой ребёнок учится дома.
Прошу администрацию школы сдать деньги на новые шторы и ремонт мебели.
В Америке жизнь действительно кипит. Процветает общественная дискуссия на любые самые завиральные темы. Никто не боится оскорбить чьи-то чувства или заработать обвинение в распространении фейков. В результате они постоянно снабжают мир как безумными идеями, так и неоценимыми научными, техническими и культурными новинками.
Постоянно в самых неожиданных местах проходят какие-то сумасшедшие мероприятия. Обычно они ничего хорошего не дают, но раз в несколько лет на них знакомятся люди, которые потом создают Google, Amazon и т.п.
Мередит Бруссард однажды даже выиграла такой "хакатон в автобусе". Счастья это ей не принесло, но впечатлений оставило море.
Кроме того Мередит Бруссард рассказала о своей работе преподавателя и о нескольких проектах, в которых принимала участие.
Один из проектов она сделала практически в одиночку. Чтобы я понял, она рассказала о запутанной системе финансирования избирательных кампаний в США. Я давно потерял нить её рассуждений, понял только, что всё офигительно сложно у них. И оказалось, что Мередит всё это собственными руками запрограммировала. Я оценил сложность и красоту её решений.
Респект и уважуха!
Убеждения Мередит Бруссард в том, что в IT-индустрии существует заговор мужчин против женщин, я не разделяю, но это бог с ней. О политических пристрастиях спорить нет смысла, тем более, что есть у неё и другие идеи, которые я и упоминать не буду. Некоторые из них приводят меня в полный ужас. Думаю, их оценила бы Ирина Яровая, не к ночи будь помянута.
Мередит испытывает оптимизм: надеется, что кое-что ещё воплотится в жизнь.
Я испытываю ещё больший оптимизм: уверен, что Ирина Яровая до нужного места не дочитает. Не осилит и двух первых глав -- и слава богу.
В общем, несмотря на все наши идейные расхождения, Мередит Бруссард человек умный и интересный.
Сомневаюсь, что тот сможет оценить эту книгу, кто не знает хотя бы азов программирования. Если честно, желательно понимать и не только азы. А уж тем, кто боится программ эту книгу точно нельзя открывать. В этом смысле автор задачу не выполнила.
Зато я вспомнил битвы давно минувших дней. Спасибо за это.
Давненько не писал я такого длинного отзыва. Противоречивая книга, но тем она и интересна.
Читать далее
16 понравилось
7
440
PolinaPrikhodova
23 февраля 2020
Из-за этой книги я бросила мужа
В этой книге авторка, поднимает вопросы техношовинизма и искусственного интеллекта и сразу же кидает в ссаный угол, забудьте о них. Есть более важные вещи, например то, что на технических факультетах в американских институтах мало женщинок или о том, что вот она, авторкаженщинка, програмесса, журналисткиня и мастер словы, написала несколько серьезных и полезных программок. Это очень сложно, каждый должен знать о том, сколько женщин_ок ей помогало и сколько раз возникли ошибки и какие-то проблемы, не важно какие, не важно, как они были решены, главное - уважайте авторку ведь она такая замечательная программистка! Характерной особенностью стиля авторессы является внезапное описание никому нахрен не интересной туфты на страницу: обзор одежды случайных прохожих в деталях, история знакомства родителей, любимые продукты ее домочадцев.
Если вы дочитали до этого момента, предлагаю воздать уважение женщинам, которые работали в сфере вычислений или журналистики или не работали вообще - так вы сможете понять, почему авторка такая прекрасная программная. Интересный факт: книга искусственный интеллект: пределы возможного изначально имела название пределы возможного уважения к женщинам, но, к сожалению, по закону, который придумали мужчины, нельзя публиковать так близко слова интеллект и женщина.
Если без шуток, книга кое-что сделала для меня. А именно: каленым железом выжгла желание покупать литературу, не прочитав отзывы.
При всех своих минусах, книга станет отличным подарком для тех, кого вы ненавидите. Есть возможность купить подарочное издание с авторскими чернилами на основе мужских слез.
P.s. Забыла подметить ещё одну авторскую находку: матрицы на четыре листа с цифрами. Они просто появляются в книге, чтобы в очередной раз напомнить нам, что дата саенс это очень сложно (почти цитата).
P.s.s. Никакой мизогнии отзыв не несёт, я сама женщина-феминистка, но мне физически больно было читать эту, с позволения сказать, книгу.
Читать далее
3 понравилось
0
176
MrVanya
19 марта 2020
Книга о феминистках, техношовенизме и нытье.
Вообще, когда я открывал книгу, рассчитывал увидеть анализ ИИ, плюсы и минусы, восхищение и расстройство. Увидел нытье о том, что ИИ сведёт нас в могилу, что все плохо, что мало женщин берут на определенную работу. Ни как это решить, а что нужно бороться за удаление ИИ из жизни.
2 понравилось
0
185