Искуственный интеллект как зеркало, или экзамен на человечность
Более чем толковая книга, хотя читается тяжело. Основная мысль: это не ИИ плох, это человечество свернуло не туда. ИИ — лишь зеркало, которое подчеркивает наши слабости, грешки и предвзятость, а не будущий моральный компас. У ИИ нет сознания и намерений. Делегируя мораль и креативность, мы рискуем безвозвратно скатиться в бездну. Нас ждет тяжелая моральная атрофия . Не пора ли проснуться?
Книга не отпускает. Поэтому ниже привожу краткие выдержки по-русски.
Фроне́зис
Фроне́зис (Phronesis, греч. φρόνησις) — философский термин, введенный Аристотелем ... . В соответствии с оригинальным текстом фронезис может быть определен как «суждения, способствующие действию по поводу вещей, хороших или плохих для человека, [о том,] какие [вещи являются благами] для хорошей жизни». (Википедия)
Другими словами, фронезис - это практическая мудрость. Это возможность применять этические принципы к текущему моменту. Экстремальный пример - из Сартра (Камю?), когда мать должна были решить, кого из детей-близнецов сдать немцам. Сами того не зная, мы руководствуемся фронезисом каждый день (ведь вы тоже спали на лекциях по философии?). Например, вернуть ли неосторожно выпавшись кошелек владельцу? Сказать ли продавщице, что она обсчитала сама себя? А если на телефон внезапно свалились приятные 50 баксов?
Все больше и больше решений, важных для общества, такие как законы или управление армией, отдаются на откуп ИИ. Решений, от которых все чаще зависит чья-то жизнь. Казнить нельзя помиловать. Ой ли? Откуда у ИИ житейская мудрость?
Телесность Или "воплощенность" (в оригинале - embodiment, т.е. запечетленный в теле) Опять-таки, скорее сознательно, чем бессознательно, нас ведут потребности плоти. Мы, конечно, как конкретный человек и как общество, весьма активно работаем над "передачей" управления префронтальной коре. Но телесный опыт - основа нашего существования. Без него человек - уже не человек (знакома ли Веллор с "Головой профессора Доуля"?). Хотя нет, дальше вот она замечает, что развитие цивилизации (во всяком случае, западной) все больше и больше идет в сторону абстракций и рационализации. И все больше отдаляет нас от телесности и воплощения. А ведь когда-то именно телесность руководила принятием решений (по-моему, тут автор немного лукавит, ведь когда плоть брала верх, войны никогда не прекращались). Тела у ИИ нет, а посему нет и "вопрощения". (от слова "плоть")
Творчество ИИ - не более чем компилятор, статистическая модель мира с добавлением шума. Он не может породить ничего принципиально нового, он также не может ничего выразить. Потому что ему нечего выражать. Далее цитата в переводе (моем):
ИИ может смоделировать новую хижину с видом на море, или новую скульптуру, или новую абстрактную форму. Но что он может выразить через эти объекты? Выражать — значит иметь внутри себя нечто, что требует выхода, настойчиво прорывается наружу. Через голос, дыхание, движения, жесты. Или же, наоборот, оно сопротивляется переводу, сопротивляется артикуляции. И вы буквально вытаскиваете его клещами. Генеративному ИИ нечего вам рассказать. Он лишь следует инструкции добавить статистический шум, чтобы изменить имеющуюся модель в нужном направлении. У него нет физического, эмоционального или интеллектуального опыта мира и себя, который хотелось бы выразить.
Творчество, же, наоборот, - это экстремальное самораскрытие.Это самоубийство, акт смерти. Это уязвимость, понимание своей ничностожности, связь со всем сущим, инсайты. Это акт покаяния и искупления творца на сцене, который заставляет биться сердца, отражающая их страдания и борьбу. И огромный риск. Творчество проходит сквозь творца, проживается им на телесном уровне.
На протяжении веков искусство служило цели "милость к павшим пробуджать", мыслить, сопереживать, показывать неправедливость. Взять, хотя бы, классический пример - "Хижину дяди Тома", косвенно приведшей в войне между Севером и Югом.
Что из этого присуще машине? Она может обладать прекрасной техникой, говорить правильные слова. Но может ли по-настоящему переживать или ломать шаблоны??
Искуственный интеллект Вопреки расхожему мнению, искуственный интеллект — это прошлое, а не будущее. Он лишь отражает то, что вбил в него человек, существующие предубеждения, шаблоны и нормы, ошибки и искажения. В светлое будущее - назад, шагом марш! ИИ не добавляет новых знаний, а лишь делает яснее пробелы в имеющихся. ИИ не предскажет непредсказуемое, не смоделирует следущую эпидемию, или, что важнее, новый моральнй императив. Но, вопреки расхожему мнению, это не ИИ плох. Это человечество многократно повернуло не туда. Просто сейчас это лучше видно. И если мы будем и дальше слишком сильно дегуманизировать человека, видеть в нем только придаток технологии, мы рискуем окончательно утратить человеческий облик. Атрофироваться.
Что дальше? Веллор призывает нас, общество и каждого из нас, не молчать. Во-первых, потому что именно это означает быть людьми (ох уж эти клише..). А, во-вторых, потому что наш моральный долг требовать, чтобы ИИ, этот самодовольный выходящий из под контроля инструмент, обслуживал наши задачи. А не наоборот. Особенно, когда он все больше подтачивает нашу креативность и мораль. Легко сказать. Более практически советов, увы, нет. А жаль. В любом случае, есть над чем подумать.
Must read в эпоху, когда мир сходит с ума.
19 понравилось
