Три закона роботехники

Говорят, что количество логик стремится к бесконечности. Действительно, люди порой исходят из весьма своеобразных предпосылок. Что кажется абсурдным для одного, звучит рационально для другого.
Доказательством тому служат события, изложенные в небольшом рассказе Айзека Азимова с лаконичным названием Reason.
До этого я ничего у автора не читала, и в целом мало знакома с жанром научной фантастики. Так что приступая к чтению, готовилась ступить на доселе неизвестную территорию. Это не только фигуральное выражение. Действия происходят на орбитальной станции, оперируемой совместно людьми и роботами.
Мини-путешествие оказалось плодотворным. Мне удалось отыскать несколько ценных сувениров, а точнее, идей, которыми автор устлал территорию своей «Логики».
Написанный в начале 40-х гг. прошлого столетия, рассказ, хотя и одет в наряды фантастики, в немалой степени напоминает философскую притчу.

Итак, мы на космической станции. Наблюдаем, как два работника планируют передать её управление одному на редкость смышлённому роботу по прозвищу Кьюти (Милашка). Робот считается одним из наиболее совершенных созданий, на которые способны наука и техника.
Сам же Кьюти смотрит на это иначе. Он решил, что создан вовсе не людьми, этими слабыми и подвластными времени существами, а намного более мощной силой. Что ж, логично.

Общаясь с работниками из плоти и крови, Кьюти видит всё больше доказательств, подтверждающих его гипотезу. Стараясь руководствоваться логикой, робот восстаёт против наивных и, мягко говоря, не умных, на его взгляд, людей.
Благо, он находится под покровительством Господина, который всё держит под контролем. Спешу вас заверить, дорогие читатели, что бунт очаровательного робота пройдёт без кровопролития. Власть не развратила нашего Кьюти, что, нельзя не заметить, выгодно отличает его от некоторых представителей Homo Sapiens.
Финал истории достаточно оригинален и ироничен.

Хочется выделить несколько основных мыслей, на которые рассказ меня навёл.

Мыслящие существа, будь то люди или роботы, склонны считать себя центром мироздания, вокруг которого так или иначе вращаются все менее совершенные создания.

После обретения свободы ещё вчера угнетаемые склонны начать подражать своим недавним угнетателям. Это может касаться и применения схожих методов контроля. Так, робот в рассказе организует религиозный культ, с помощью которого он руководит младшими, менее привилегированными роботами.

Факты сами по себе редко кого-то убеждают. Многое зависит от того, как одни и те же сведения преломляются в мысленном глазу того, кто их перерабатывает. Проблема не в том, что Кьюти не верит приводимым людьми доказательствам. Он просто аккуратно укладывает их в принятую им на веру картину мира. Земля, как реальный объект, в этой картине отсутствует. Свидетельства, какими бы разумными или наглядными они ни казались, бледнеют перед верой. В итоге они только укрепляют его позицию.
Робот уверен в собственной логике, и способен заставить поверить в неё и читателя. Думаю, на какую-то минуту многие засомневались, а не прав ли Кьюти? А что если?..
Противоречащим фактам рассудительный робот находит вполне рациональные объяснения, выстраивая правдоподобные причинно-следственные цепочки.

Бывают ситуации, когда не стоит докапываться до первопричины. Ведь именно вопрос в духе «что было раньше - яйцо или курица» стал центральным конфликтом в фабуле рассказа.

Те, кто считает себя авторами эксперимента, сами рискуют оказаться в роли подопытных. Исследования искусственного интеллекта были и остаются делом весьма деликатным.

И последнее. Иногда цели можно добиться неожиданным образом, ни в чём никого не убеждая.
Кьюти в итоге сделал всё правильно и, главное, не нарушил ни одно из трёх правил, установленных для искусственного интеллекта.

Три закона робототехники по Айзеку Азимову

• Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
• Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
• Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Пока ураган Харви за окном топит близлежащие города, а в бедном Хьюстоне люди пользуются надувными лодками вместо диванов, я, на своем безопасном втором этаже - достаточно высоком для потопа и достаточно низком для урагана - оказалась изолирована от работы как раз на тот промежуток времени, чтобы прочесть странный ни много ни мало "феминистический" рассказ от Айзека Азимова и выйти из состояния ураганного забвения.

Айзек Азимов гораздо лучше умеет работать с текстом и сюжетом, чем близкий ему по духу Кир Булычев. Читать Азимова легко, приятно и нескучно. Рассказ "женская интуиция" очень веселит прямым и наивным, каким-то недоспелым отношением автора к "женскому вопросу", но, тем не менее, радует вполне зрелым и сочным сюжетом, который держит напряжение до самой развязки.

В целом, идея создания образа женщины робота, не лишенного сексуальности, очень хороша, и требует развития.

Среда. Новый отзыв на рассказ.

В этот раз у меня рассказ детективный, если так его можно называть.

Но точно про роботов и будущее.

Написан в 1972 году, входит в цикл «Детектив Элайдж Бейли и робот Дэниел Оливо».

Вы узнаете.

На межзвездном лайнере произошел спор, между двумя математиками. Два выдающихся математика оспаривают авторство одной гениальной теории. Каждый утверждает, что прав он, а другой — наглый лжец. Р. Дэниел Оливо приходит к своему бывшему напарнику детективу Элайджу Бейли, с просьбой распутать это дело, но проблема в том, он может поговорить только с роботами математиков по видеосвязи, эти роботы были свидетелями данного происшествия...

Пролог.

В начале выбрал, другого чтеца, а не МДС, но понял, что он мне не подходит. Слишком монотонно читает. Пробовал, читать, но меня прерывали по работе. Вычеркнул и этот вариант. Поэтому решил, что всё же надо МДС.  Пришлось снова воспользоваться техникой, прослушивания. 

Рассказ, где то на 30 минут. 

Подробнее.

Я почему то до, этого момента не сталкивался с этими персонажами. 

Первый Р. Дэниел Оливо, где первое Р -значит Робот. Прочитал про него, узнал, что это уникальный робот. 

Его бывший напарник.

Элайджа "Лайдж" Бейли -

Когда пишу, свои отзыв, то прорабатываю много информации.

Это уже профессиональная деформация, оцениваю всё через все те навыки и знания, что у меня есть.  Но поскольку специфика моей работы такова, что я специалист или эксперт, в разных направлениях.

Я как этот этот Андерсон из ролика.

Вот прочитал, что читатели просили Азимова продолжить эту серию, так как до этого рассказа был роман, что вышел в 1956 году.

Вот мало того, что это не роман, так еще и история, по большей части раздута. А финал как в этом анекдоте. Переделаю его, чуть подставлю имя Детектива.

У Азимова, постоянно везде его законы робототехники, их 3 .

Все его законы, сформулированы еще в 1942 году.

• Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  2.  Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

  Но в 1986 году, еще появился 0 - закон

В каждой из книг, что читал, и где есть роботы, Азимов, постоянно пытается сам себя обхитрить, то есть обойти свои собственные законы.

Эти законы уже в наше время, устарели. Да и работа ли они?.

Так как сейчас уже реально люди пытаются создавать искусственный интеллект, да и создают. Те же голосовые помощники. 

Так или иначе и в этом рассказе, подобный конфликт.

Есть два математика.

Первый старый за 200 лет доктор Гумбольдт - один из трех крупнейших математиков Галактики с давно установившейся репутацией.

Второй, молодой по меркам того времени, да и у нас тоже.

Доктор Себбет, еще нет 50, но талантливый, занимается сложными проблемами современной математики.

• Один из этих людей, имеющих самую высокую репутацию, пытается уничтожить репутацию другого. Если не ошибаюсь, по человеческим нормам это считается чуть ли не хуже физического убийства.

  Каждый из них говорит, что поделился своей новой идей с другим. А потом они одновременно хотят отправить доклад, чтобы закрепить за собой приоритет, а кроме того, выступить с подробным сообщением.

  Два человека зеркалят друг друга.

  И автор начинает всё усложнять.

  Первое - с математиками нельзя поговорить, они в карантине.

  Второе - репутация, как математиков, так и капитана корабля под угрозой. Провести зондирование нельзя, и нельзя, и подождать пока у кого то нервы не выдержат нельзя, капитан не хочет получить выговор. (O tempora, o mores!)

  Третье - надо решить вопрос пока корабль не прилетит на планету.

  И есть только свидетели, но они роботы. Каждый робот, это камердинер одного из математиков.

  Роботы могли соврать, что бы защитить своего хозяина.

  И по этому Р. Дэниел Оливо, и понадобился его напарник. Он хоть и не робо-психолог, но отличный детектив.

  Детектив задает по видео связи вопросы роботам, получает ответ. И раскрывает дело. А про финал, уже вам в начале. говорил, что о нем думаю.

  Еще хотелось бы сказать.  В программирование во всех языках или почти всех , используется булева логика. То есть она используется везде. Просто у нас тут роботы, по этому применительно к ним.

  Компьютерное программирование является основным применением булевой логики. Это позволяет нам переводить проблемы реального мира в компьютерный код.

  Это "Истина/ True" или "Ложь/ False" или "да" и "нет", "вкл." и "выкл", или "1" и "0".

  Как в анекдоте про блондинку:

С одной стороны, это смешно. Блонди, что с нее взять, скажут, некоторые, а с другой у людей есть абстрактное мышление, которого к счастью пока лишены компьютерные программы, у которых только логическое.

Но она или встретит и  будет Истина (1) или не встретит будет Ложь(0)

Вот подобные вопросы и задавал детектив.  Все, что рассказал, это простейший пример, так могут быть варианты когда значения равны, или не равны и тп.

Детектив просто создал логический цикл для роботов, и один не выдержал и завис.

Когда-то я читала много рассказов Азимова – пару сборников. Но все они выветрились из памяти. Сейчас, несколько лет спустя, я не могу припомнить, не залезая в интернет, ни одного названия и ни одного персонажа. Даже сюжеты вспоминаются с трудом – из нескольких десятков я могу вспомнить только пару штук, да и то без подробностей.

А ведь обычно я помню книги достаточно хорошо. Что же не так с Азимовым?
Перечитав ещё раз этот рассказ, я поразмыслила над тем, почему так происходит.

Вероятно, потому, что автор увлекается техническими и теоритическими деталями, отчего произведения его становятся как чертёж – чёткий и доносящий мысль, но сливающийся со множеством других таких же чертежей. Тем более, что мысли они доносят одинаковые.

Три закона робототехники стали мемом задолго до того, как мемы стали мейнстримом. Они подробно описаны в творчестве Азимова. Вот и в этом рассказе тоже о них, а именно о первом законе – робот не может причинить вред человеку или допустить, чтобы его бездействием ему был нанесён вред.
Идея сама по себе просто отличная, но вот способ её подачи…

Что люди, что роботы у Азимова – бездушные фигурки на доске, которые нужны, чтобы сложиться в нужный чертёж. А потому им запрещено выделяться или сходить с рельсов-шаблонов, чтобы не размывать послание. Есть персонаж-лектор, нужный для объяснения, есть персонаж-поддержка, призванный задавать правильные вопросы и провоцировать объяснение, есть тупой вояка для контраста, есть антагонист, чтобы делать сюжет. Нет описаний, нет эмоций, нет атмосферы, нет бекграунда… С тем же успехом можно почитать о законах робототехники на Википедии. Некоторые учёные эмоциональнее и интереснее пишут про них, чем Азимов.

Мой марафон рассказов продолжается. И в этот раз перст судьбы или барабан поля чудес, остановился на рассказе Логика.

Отличный рассказ,  с долей иронии и юмора, а так же чуть пугающий. Заставляет подумать.

Много читал в подростковом возрасте рассказов Азимова.  Этот рассказ из сборника "Я Робот!".

Краткое описание.

Пауэлл и Донован назначены на космическую станцию, которая поставляет энергию с помощью микроволновых лучей на Землю. Там они должны протестировать экспериментального робота нового поколения QT- 1 или как его прозвали они Кьюти(Милашка/ Cutie). После сборки и своего "рождения" робот решил, что он вершина эволюции, а люди низшие существа.

Персонажи.

Грегори Пауэлл  и  Майк Донован -они работают на компанию "U.S. Robots and Mechanical Men, Inc.", они техники, сервисные инженеры.

Пауэлл носит усы и более спокойный из них двоих, в то время как у Донована рыжие волосы и он очень вспыльчив.

Трудности перевода. 

Раньше как не знал английского языка, а потом плохо знал. То читая многие переводные книги, не понимал, почему вот они там считаются популярными.  Но потом подтянув свои навыки, плюс современные переводчики позволяют уже переводить по смыслу многое. Начал, понимать, почему некоторые читали гонялись за определенными переводчиками книг. И предлагали читать какую то свою любимую книгу в нужном переводе.

Как говорил, капитан Врунгель: "Как вы яхту назовете, так она и поплывет."

Не скажу, что этот рассказ испорчен плохим переводом, но вот слушал в аудио варианте, там чуть перевод отличался, от книжного где брал данные, для отзыва.

Даже с названием рассказа, и  с учетом событий в нем, то название Логика,  не скажу, что не подходит, как раз то тут про это и речь. Но вот нашел: "Reason" is a science fiction short story by American writer Isaac Asimov.
Так рассказ называется в оригинале.

Если перевести то получится
"Разум" - научно-фантастический рассказ американского писателя Айзека Азимова. Что тоже близко к тексту.
Почитал, что есть перевод Д. Скворцова с английского «Здравый смысл» .  А все предыдущие были  в переводе А. Иорданского с 1964 года - "Логика".

Я не переводчик, не буду настаивать, на каком то одном варианте.  Но все же если подумать, то Логика более подходящее название. Хоть и не точное.

Так же вот не сразу понял, с названием робота в оригинале это QT-1, в переводе КТ-1, не особо отличается, но вот потом автор обыгрывает это название, с английским словом Cutie,так робота прозвали техники на корабле. То есть я бы перевел как Милашка. В описание вот рассказа следующие: После своего «рождения» Кьюти (так ласково прозвали нового робота).Что тут ласковое для нашего слуха.

• Кьюти, - сказал он, - я попробую тебе кое-что объяснить.
  Ты - первый робот, который задумался над собственным существованием.
  Я думаю также, что ты - первый робот, который достаточно умен, чтобы осмыслить внешний мир. Пойдем со мной.

  Вот они и общаются с ним так же Кьюти. Не знаю стоило ли переводить тут как Милашка, но хотя бы объяснить.

  Потом вот еще законы роботехники.

• Дай только добраться до базы, - огрызнулся Донован, кто-нибудь за это поплатится. Эти роботы должны слушаться нас. Это же Второй Закон.

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

  2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

  Вот как видите, второй закон не просто слушаться, а именно повиноваться.  В аудио версии, что слушал, там как раз было повиноваться.

  Возможно это все не так важно, но ведь это только, что я указал, думаю, таких мелочей будет много.

  Разборка рассказа.

  Рассказ написан еще в 1940 году, а издан в 1941. То есть очень давно.  Но читается и мысли, что там излагаются свежи и на сегодняшний день.
  
  Всё действие рассказа происходит, на космической станции, которая обрабатывает и передает энергию на Землю.
  
  

  Если не ошибаюсь, то в этих рассказ из сборника "Я, Робот". На Земле есть запрет на роботов, и их используют только на станциях или других планетах. Персонажи вот Грегори Пауэлл и Майк Донован, в этих рассказах и в этом конкретно, сталкиваются с проблемами, как правило, связанными с Тремя Законами робототехники.

  Вот и в этом рассказе,  собрав нового робота экспериментального, они столкнулись с тем, что придя в сознание, робот им не поверил, что это люди создали роботов.  И что есть, где то еще такие же люди как Пауэлл и Донован.  И они стали его убеждать.

• Все остальное просто. Когда впервые были устроены эти энергостанции, ими управляли люди.
  Но из-за жары, жесткого солнечного излучения и электронных бурь работать здесь было трудно.
  Были построены роботы, заменявшие людей.
  Теперь на каждой станции нужны только два человека. А мы пытаемся заменить роботами и их. Вот в чем смысл твоего существования.
  Ты - самый совершенный робот, который до сих пор был построен.
  Если ты докажешь, что способен сам управлять этой станцией, людям не придется больше появляться здесь, если не считать доставку запасных частей.

  Представьте вот себя на месте этого робота, пришли бы вы в себя, памяти нет, а вас окружают, там не знаю, зеленые человечки, маленькие и сморщенные, и говорят вам, что это создали вас в био лаборатории.

  Вы посмотрев на себя в зеркало поняли бы, что сильно отличаетесь в лучшую сторону.

  Вот и Кьюти, как разумный позитронный робот. Не поверил.

Далее тут все идет, по пути которому прошли и сами люди, вера в высшее существа.

• Господин сначала создал людей - самый несложный вид, который легче всего производить. Постепенно он заменил их роботами. Это был шаг вперед. Наконец, он создал меня, чтобы я занял место еще оставшихся людей. Отныне Господину служу Я!

  Господин у него это Корабль в котором все находятся.

  Вполне все разумно.

  КТ-1, как и полагается таким фанатикам, быстро подмял под себя других менее разумных роботов.

В этом рассказе, так или иначе роботы следовали законам робототехники, просто используя свою логику.

И Пауэлл наверное его предки были из Беларуси, решил, что а можа так і трэба. (может так и нужно)

Знаете в одно время работал, сервисным инженером по ремонту ПК, ездил по городу, ремонтировал по гарантии. Это, можно так сказать, очень похоже на то, что делают Пауэлл и Донован, мне приходилось ездить настраивать новую технику. Иногда, как то запускали, работает и работает. Как у нас говорят, это не Баг это Фича, то есть ну да поверил робот в божественность корабля, но свою задачу он делал, делал!. А, что еще надо. Их сюда прислали, сделать так, что бы роботы заменили, человека так и получилось.

• Потому что это неслыханно! Как можно доверить ему станцию, если он не верит в существование Земли?
  - Он справляется с работой?
  - Да, но...
  - Так пусть себе верит во что ему вздумается!

  Конечно, история получилось, юморная и чуть напряжная в один момент. И в книгах вот роботы слушаются так или иначе законов, которые закладывают в них их разработчики.

  Но если так вдуматься, то вот такие позитронные роботы, и без понятия о морали и человеческих нормах, просто превратятся в Терминаторов, которые будут уничтожать людей. Или просто как в этом рассказе, ограничивать их свободу, что бы они чего там не нарушили.

  А с другой стороны, столько есть различных дел, которые люди делают но подвергаются опасности или портят свое здоровье, и подобные роботы могли помочь.

  Рассказ интересный, и подумать, и посмеяться в паре мест. Слушал в аудио варианте. Тут.

Да? Почему и через столетия многое делается спустя рукава? Ничего не меняется.   Но почему от этого должен страдать он, робот ЭЛ-76. Он запрограммирован работать, подчиняться программам и человеку, и пусть имеет ум, но все таки это машина.

А тут.  Где-то что-то пошло не так, и вот ЭЛ попадает не туда. Всё не так, как он знает, всё не то, абсолютно иной мир. А это, знает ли, стресс для робота, вернее сбой.

Прекрасный, замечательный рассказ о столкновении робота и человека.  Одному надо выполнять свою работу, другой нашёл способ наживы. И понеслось.

Нет смысла пересказывать сюжет, но очень рекомендую: юмор, сатира, да просто интересно.
Ну и батарейка, да. Вот уж  никто не ожидал.

Крутой рассказ. Прямо для фанатов "Чёрного зеркала" или всего, что связано с роботами, робототехникой и всех иже с ними.

Очень захотелось почитать ещё чего-нибудь у Азимова; кажется, я никогда ничего не брал у него. Да и вообще я открыл для себя, что меня завораживают всякие такие темы. Поэтому мне так понравилась "Клара и Солнце".

Чьё-то творчество:

Оригинальная иллюстрация:

Оригинальную версию рассказа в журнале "Astounding" очень легко нагуглить. Иллюстрация выше как раз из него.

Теория поведения роботов , основывающаяся на трех Законах Роботехники, на первый взгляд логична и непротиворечива. Но создалось впечатление, что чем дальше, тем больше нестыковок находил в ней сам автор.

Изящная логическая загадка
Два ученых, спор о приоритете открытия. Доказательств нет, есть слово одного против слова другого. Неразрешимо?
Роботы-помощники свидетельствуют точно так же. Оба действуют с строгом соответствии с тремя Законами Роботехники. Один из них лжет, но поведение каждого соответствует законам. Неразрешимо?
Для Дэниела Р.Оливо - да. Ибо логика не нарушена. Для Элайджа Бейли - нет. Ибо есть чисто человеческие условности, о которых идеальные роботы не подозревают...

(Фу, какой перевод мне достался. "Илидж" - вот что сочинил "переводчик", наплевав на историчность и преемственность)

Рассказы Айзека Азимова про роботов - это та фантастика, которую я перевариваю и даже люблю. Кого может оставить равнодушным трогательная история о дружбе девочки Глории и робота Робби? Так же, как современных родителей настораживает увлечение чад компьютерами и смартфонами, маму Глории пугает эта странная дружба дочери с железкой. В один далеко не прекрасный день, когда Глория с папой на время уходят из дома, она отсылает Робби производителю и берет вместо него щенка...

Очень забавно изучать этот созданный Айзеком Азимовым мир будущего и сравнивать с нашим настоящим. В его мире роботы распознают человеческую речь и умеют играть в прятки, но люди все еще читают бумажные газеты. Есть и говорящие роботы, огромные сложные машины на колесиках, которые могут ответить вам, сколько будет тринадцать в квадрате и какова нынче температура воздуха. Учтите, что лучше не задавать им слишком сложных вопросов, а то они перегреются и выйдут из строя.

Да, сегодня, в век гаджетов, которые дают доступ ко всей информации мира и при этом легко помещаются в карман, все это звучит немного наивно, но сама история не становится от этого хуже. Рассказ "Робби" не столько о роботах, сколько о вечных ценностях: о дружбе и об отношениях в семье. В сочетании с легким слогом и крошечным объемом это как вкусный пирожок, который можно проглотить в два укуса. Это первый рассказ автора о роботах и, возможно, не самый лучший, но мне понравилось.

М.