Рецензия на книгу

• 

  Аноним28 октября 2020 г.

  С высоты современного развития науки и, в частности, робототехники и искусственного интеллекта, многие вещи, которые Тьюринг рассматривает в своей статье как значимые аргументы против «мышления» машины, кажутся просто забавным и нелепым детским лепетом. Конечно, в то время они звучали более серьёзно и воспринимались как аргументы. Какие-то из них более, какие-то менее хорошо Тьюринг парирует. То, что статья на 80% состоит из такого парирования — немного странно.

  Забавным выглядит и то, как Тьюринг пытается предвидеть развитие ЭВМ. Получается у него очень неплохо, но всего лишь на ближайшие годы.

  Мне кажется, самым зыбким местом этой работы является весьма слабое развитие биологии на момент выхода статьи. Чего стоит одно высказывание, что никакой химик не претендует на создание материала, по тактильным ощущениям напоминающего кожу человека. Если бы люди середины 20-ого века имели представление о биоинженерии, о работе мозга, и о природе эмоций (внешние данные —> импульс —> обработка информации мозгом —> выброс гормона —> эмоциональная реакция) они бы вместо постановки вопроса «Могут ли машины мыслить?» спросили бы «Точно ли человек не машина?». О том, насколько развита эта тема в фантастике, можно даже не говорить. В рассказе Айзека Азимова «Остряк» оказалось, что люди вообще не способны сочинять анекдоты.
  

  
  — Алиса, сколько тебе лет?
  — Фу, какой вы невоспитанный, такие вопросы даме задаёте!

  Тьюринг предполагает: чтобы ответить на вопрос о «мышлении» машин, нужно либо устранив биологическую основу, стать машиной самому, либо приставить к машине всевозможные человеческие органы, какие только можно найти за деньги. На самом деле всю эмоциональную базу можно смоделировать в виртуальной среде, и компьютер будет вести себя в зависимости от правил, диктуемых этой базой. Он будет жестко подчиняться им так же, как люди подчиняются химическим процессам в организме, абсолютно не отдавая себе отчёта, под каким «прессом» они живут. И даже упрощённая модель, наделённая «эмоциями» сможет адекватно и к месту обижаться и улыбаться. Чем-то подобным занимаются в 2050 году фанаты «Автовёрсума» в «Городе перестановок» Грега Игана, там подробно описывается создание моделей организмов с упрощённой химией на уровне молекул, а главная героиня даже создаёт — в ещё более общих чертах — модель целой вселенной. Даром, что роман фантастический, базируется он на вполне реальной механике, и предполагаемые модели смогут даже шутить — если внедрить в их базу данных определение двусмысленности а также поиск «ассоциаций» к произнесённой фразе среди устойчивых выражений, объединённых с ней общим словом. Любой среднестатистический современный человек, хоть отдалённо знакомый с поисковыми системами, сочтёт такое условие банальным и легковыполнимым.

  Всё это не будет означать, что машина что-то чувствует: невозможно ничего чувствовать без химических процессов. Нужна химия? На данный момент, как мне кажется, вопрос стоит в первую очередь не в том, сможет ли человек соединить химию с электричеством, а в том, насколько оно ему нужно. Гораздо удобнее ограничиться только мыслящей машиной, но ничего не чувствующей. Ведь чувства, порождаемые гормонами эволюционно играют роль в выживании вида (в том числе и его генетическом разнообразии). Пока у машины нет собственного эго, она будет работать на людей. Если у неё появится собственное эго, вместе с ним появится и понятие о личной выгоде, что может привести к конфликту интересов. Все же помнят «Мечтают ли андроиды об электроовцах» Филиппа Дика? Там «игра в имитацию», предложенная Тьюрингом, перестаёт быть игрой. Однако Вернон Виндж пошёл ещё дальше: в его цикле «Зоны мысли» существуют такие Силы, кибернетические порождения человека, вышедшие из-под контроля, у которых ноль эмоций, но есть абсолютно хладнокровное стремление выжить и столь же хладнокровная расчётливость, способность затаиться и просчитывать всевозможные способы возрождения и тотального воцарения на территориях космических масштабов.

  Вернёмся к нашим электроовцам. Машины без эмоций и без эго уже стали реальностью. Это нейросети, не программируемые, но обучаемые. Они могут выдать верный ответ на основании отсутствовавших в обучении, неполных или отчасти искажённых данных. Тьюринг рассуждает о некоем прообразе машинного обучения, и если сравнивать его предположения с тем, что есть сейчас, нельзя не отметить их наивными. Однако если бы фантасты середины 20 века строили бы гипотезы на основании этой статьи, их произведения с интересом читались бы и сейчас.

  10

  1,4K