Рецензия на книгу
The Passengers
John Marrs
bookscout26 февраля 2025 г.ИИ и принятие жизненно важных решений. С каждым годом эта тема всё актуальнее
Если коротко о впечатлениях:
+ книга быстро читается
+ поднимаются важные и актуальные вопросы
- герои совершают странные поступки, сюжет местами неправдоподобный
Теперь подробнее :) По жанру книга относится к фантастике, но к такой, которая вполне через пару десятилетий может стать суровой реальностью. Что если машины оборудуют встроенным ИИ и сделают их полностью беспилотными, убрав у водителей возможность контролировать ситуацию? Останутся только голосовые команды и несколько кнопочек, но машина будет в праве отказать в исполнении команды, если посчитает её выполнение небезопасным. Государство будет обосновывать введение беспилотных автомобилей тем, что без человеческого фактора аварий станет в разы меньше, и поэтому всячески будет пропагандировать переход с привычных авто на полностью беспилотные. Казалось бы, вполне рабочая идея, преимущества очевидны. Но вот в один день случается непредвиденное. Систему взламывают.
Несколько людей оказываются заблокированы в своих машинах, которые теперь перестроили маршрут и несутся на встречу смерти. Кто за этим стоит? Что делать? Собирается рабочая группа (кстати, довольно спонтанно и не совсем корректным путём) и пытается решить вопрос. В это же время неизвестный Хакер ведёт трансляцию на всех популярных площадках по телевидению и интернету с видео из тех самых машин, а затем ради интриги позволяет группе выбрать, какого одного человека они оставят в живых, с учётом, что остальные точно погибнут.
Главная моральная идея в книге вертится вокруг принятия этого решения: кого спасти? И вообще имеет ли кто-то право принимать решение о спасении чужих жизней? А если переформулировать, то решение об отправке на смерть всех остальных? Если всё-таки выбирать, кого спасать, то как? Основываясь на возрасте, заслугах, семейном положении, профессии, чем-то ещё?
Другой острый вопрос — это то, а как принимает решения искусственный интеллект? Если машина неизбежно попадёт в аварию, и может выжить только либо водитель, либо пешеход, кого выберет ИИ? Можно ли отдавать такую большую ответственность алгоритмам?
Что с другой книгой Джона Маррса про ДНК-пары, что с этой про взлом машин, мне не очень понравилось построение сюжета, то, как прописаны герои и как составлены диалоги, но сильно впечатлили поднимаемые вопросы. Они действительно заставляют задуматься о важном и о том, какую роль уже сейчас в нашей жизни играют технологии, в частности искусственный интеллект.
352