Рецензия на книгу

• 

  sq29 июля 2022 г.

  Думать о будущем нет причин, / Прошлая жизнь под контролем машин

  Эту книгу я рассматриваю как приложение к книге Мелани Митчелл "Идиот или гений? Как работает и на что способен искусственный интеллект" . В той книге много идей и науки, а эта полностью состоит из примеров, те идеи иллюстрирующих. Все примеры доказывают, что

  
  
  люди боятся, что компьютеры станут слишком умными и захватят мир, но настоящая проблема в том, что они слишком глупы и уже захватили мир
  (c) Педро Домингос, исследователь ИИ

  Эту цитату я уже приводил в отзыве о книге Мелани Митчелл. Здесь вместо неё приведён известный анекдот:

  
  
  Как шутят летчики, лучший экипаж состоит из троих членов — пилота, компьютера и собаки. Компьютер управляет самолетом, пилот кормит собаку, а собака кусает пилота, если тот попробует прикоснуться к компьютеру.

  Интересными показались примеры, относящиеся к правосудию и здравоохранению.
  Самая же нетривиальная идея -- о медицинской этике.
  Предположим, мы создаём диагностическую программу. В интересах кого она должна действовать? Конкретного пациента или человечества?
  История такая. Пусть к нам (пуассоновским потоком) идут пациенты, жалующиеся на кашель.
  Если мы действуем в интересах пациента, мы должны назначить ему рентген, бактериологическое исследование, взять на всякий случай анализ крови и т.п. Потом мы ему выпишем антибиотик, и он в большинстве случаев выздоровеет на пару дней раньше, чем без всего этого.
  Если же мы действуем в интересах человечества, то учтём загруженность лабораторий, ограниченные средства системы здравоохранения, проблемы резистентности бактерий и прочее в этом роде. Тогда мы просто выпишем пациенту аспирин и попросим перестать ныть.
  Интересно, наших студентов-медиков учат таким дилеммам?

  Общий вывод в двух словах такой.
  Давайте не будем слишком уж доверять алгоритмам и перестанем злоупотреблять словом "интеллект" в целях рекламы. Пусть машины делают что могут и помогают человеку, а человек пусть говорит спасибо, и принимает решения сам.
  Забавно, но это ровно та идеология, которую продвигали в 70-е годы прошлого века. Идея там была -- асучить страну. Это от слова АСУ = автоматизированная система управления -- не автоматическая, а автоматизированная, т.е. работающая под человеческим контролем. Это в точности и есть главная мысль этой книги.

  Досадно, разумеется, но полностью автономные машины на дорогах общего пользования или просёлках появятся ещё не завтра. Завтра они станут ездить только по специально подготовленным маршрутам.
  Водители маршруток должны напрячься от этой вести, остальные пока пусть спят за рулём спокойно.

  18

  231