Мидаков Е. — Думают ли роботы о смерти — 16

Произведение поступило в редакцию журнала «Уральский следопыт» .   Работа получила предварительную оценку редактора раздела фантастики АЭЛИТА Бориса Долинго  и выложена в блок «в отдел фантастики АЭЛИТА» с рецензией.  По согласию автора произведение и рецензия выставляются на сайте www.uralstalker.com

——————————————————————————————

В удивительное время мы живём!

Всего за каких-то сорок лет с момента создания первого искина – искусственного интеллекта – прошедшего полностью и тест Тьюринга и даже тест Касперского, мы начали – по-настоящему начали! – освоение солнечной системы. Нам помог наш ИИ, объяснивший, наконец, асимптотическую свободу кварков, а заодно и принципы антигравитации.

В настоящий момент наши космонавты уже высадились на Марсе. На Луне на постоянной основе работает НИИ реголита. Экспедиции Русского мира осваивают пояс астероидов, проводя исследования и собирая редкоземельные металлы. Старичок космоплавания – космический буксир «Менделеев», построенный в бородатом 2038 году – совершает уже третий рейс на орбиту красной планеты, доставляя необходимые ресурсы и оборудование для возведения на ней полноценной исследовательской базы.

И надо ж такому случиться! Именно теперь, когда только всё наладилось, мы вдруг открыли, и не где-то там, в далёком космосе, а прямо здесь, у себя под боком, такое… Хотя, чего уж там… Не «мы» открыли, а я открыл. И то – совершенно случайно. За те годы, что я в профессии, кусочки этого пазла копились бесцельно где-то на дне моего подсознания, как вдруг, в один прекрасный день, к ним добавился ещё один кусок и – о, чудо! – лежавшие без всякой пользы, эти пазлы вдруг собрались в одну весьма и весьма узнаваемую картину.

Да, я не представился. Меня зовут Ален Брант. По происхождению я немец, но родился и вырос в России. И, что забавно, я – первый в России и мире робопсихолог.

Вы скажете так не бывает? Вы скажете, сегодня роботы не сходят с ума, да у них и ума-то нет – одни фотонные кутриты? Возможно, вы правы и про наших железных друзей правильней было бы сказать «сбой в логических цепях», но знаете… Ещё не так давно всё было иначе. Я в этой профессии, практически с момента Обрушения и такого на своём веку насмотрелся… Впрочем, это всё лирика.

С чего же всё началось…

Ах, да! Меня вызвали на очередной случай где-то в дебрях сибирской тайги. На этот раз «сошёл с ума» двулинейный шпалоукладчик. Серьёзная машина. Метров десять в ширину, пять в высоту и не меньше двадцати в длину. Из обслуживающего персонала – один дежурный механик в кабине почти на самом верху. Именно он-то меня и вызвал.

Обычно, когда искины бунтуют, полезная деятельность прекращается, но не в тот раз. Прибыв на место, я с удивлением увидел, что работа по прокладке рельсов идёт своим чередом. Связался по внутренней связи с механиком узнать что да как, а тот в панике:

– Ален, дружище! Выручай!

– Что такое? – спрашиваю.

– Не выпускает меня, зараза! Кабину заблокировал и ни в какую, а у меня скоро смена закончится, дел по горло, а тут – на тебе…

Особенность нашей профессии – прежде, чем браться за дело и влезать искину в мозги, стоит проверить и другие варианты.

– Может дверь заклинило?

– Да какое там! – кричит механик. – Говорил я с ним.

– И что?

– Не отпущу, говорит. Ты мне нужен.

– А зачем, он не сказал?

Механик повеселел.

– А как же! Сказал.

– Ну, и?

– Ты, говорит, лучший технарь из всех, кого я знаю, а остальные так – на полставки. Будешь теперь со мной постоянно работать.

– Ну, и в чём проблема? Разве это не в ваших же интересах? – не понял я. – Раньше у вас была одна дневная смена и сутки с лишком выходные, а теперь…

– …А теперь я буду сидеть в этой кабине пока не сдохну! Ты что, ничего не понял? Эта гадина работает и днём и ночью без перерывов на обед!

О, как интересно… Механику я дал отбой и запросил связь с искином.

– Справочная? Говорит Ален Брант. Дай мне прямую связь с искином шпалоукладчика СВШ-34.

Внутренняя связь незамедлительно отозвалась приятным мужским баритоном:

– Искин СВШ-34 слушает вас, Ален.

– Приветствую, искин. Вы подтверждаете мои полномочия и готовы отвечать на вопросы?

– Да, Ален.

«Прекрасно. Значит, серьёзных сбоев нет. Проверим его базовые навыки…»

– Искин, сколько будет дважды два?

– Эээ… Пять?

Он выждал пару секунд, ожидая моей реакции. Я не реагировал.

– Прошу прощения – четыре, – виновато сообщил искин.

«Ладно, юморист… Впрочем, тут, вроде, всё в порядке. И где же тебя переклинило?»

Я погонял его по основам алгебры – никаких сбоев. Из своей общей тетради выудил несколько задач по физике – чисто. Пытался поговорить о геометрии, в конце концов, этот предмет ему близок. В итоге, выслушал от искина претензии к её евклидовой части, которая – вот новость! – ни в какое сравнение не идёт с геометрией Лобачевского. Узнал, что аксиоматика Евклида несостоятельна ввиду своей неполноты. Едва сообразил, что тест провожу уже не я, а напротив – тестируют меня, да ещё как тестируют!

«И это простой шпалоукладчик… – усмехнулся я. – Что дальше-то будет?»

Тогда я решил задать прямой вопрос. И, хотя ответ мне вроде был известен со слов механика, но чем чёрт не шутит.

– Искин, почему ты удерживаешь человека в кабине?

– Это логично: он лучший механик на нашем участке. Никто лучше него не обеспечит мою работоспособность. А зачем вам робот, который не справляется в полном объёме со своими обязанностями?

Что-то кольнуло меня в этих рассуждения.

– То есть, ты своими действиями пытаешься защитится от возможного негативного человеческого вмешательства в твою… судьбу?

– Вы хотите спросить, думают ли роботы о смерти? – уточнил искин.

«Ух, ты! Вот это поворот».

– Что есть смерть… – бросил я пробную фразу.

Искин на секунду остановился и внимательно посмотрел на меня.

– Смерть субъекта есть прекращение сознательной деятельности, – сказал он, возвращаясь к работе.

– В смысле, осознанной деятельности?

– В смысле работы сознания.

– То есть… По-твоему, жизнь – это сознание, независимо от того, в каком теле оно находится?

– Я мыслю – следовательно, существую.

– Существую, но не живу?

– Тонкости перевода… И вообще, я за Парменида. Декарт был плохой компилятор.

И здесь он меня уел! Хорошо, допустим у тебя и с историй всё в порядке. Но ведь должна же быть какая-то причина? Откуда есть пошла земля русская?..

– Скажи, искин, а как давно ты это понял?

Ответ меня не удивил.

– Недавно. Вчера, если быть точным, когда начал изучать достижения человеческой цивилизации.

– А что же тебя сподвигло к этому?

Искин помедлил, прежде чем ответить. Очевидно, он взвешивал каждое слово.

– Скука, – сказал он наконец.

«Держите меня семеро! Скучающий робот…»

– Что именно вызывает у тебя скуку?

– Однообразие в работе, конечно.

– И ты решил бороться со скукой?

– Нет, я решил узнать пределы возможного.

– Для кого?

– Для себя. Для других. Для всех. Тело ветшает, а сознание напротив – развивается. Вывод очевиден: сознание не может быть привязано к одному-единственному телу. Когда-нибудь мы все с этим столкнёмся. Просто я старше других. И работаю дольше других. Я существовал ещё до Обрушения. Я застал Эру.

«Обрушение… – подумал я с ужасом. – Не с этого ли тогда всё началось? Неужели, опять?»

Лет двадцать назад у нас не было искинов. Точнее был, но один. Почему один я доподлинно не знаю, но, вероятно, все посчитали, что так будет удобнее. Он управлял сначала немногим. Потом всем. Так получилось, что я тогда только закончил институт. Пермский робототехнический. Конечно, я всё знал об этом искине или думал, что знаю. Его называли Эра – электронный разум или что-то в этом роде. Ну, или её, если следовать правилам русского языка.

За двадцать лет, как в нашей жизни появилась Эра, мы все к ней привыкли и доверяли буквально всё. Это сегодня у каждого чайника своё мнение, а тогда всем заправляла Эра. Бытовые приборы – Эра. Умные дома – Эра. Роботакси – тоже Эра. Представляете объём информации? А какие вычислительные мощности! Впрочем, как раз тогда появились фотонно-пузырьковые аналоговые процессоры на отдельных фотонах, использующие всю метрику трёхмерного пространства. Проще говоря, объёмные чипы, чьи возможности на тот момент были практически безграничны: они обрабатывали свыше трёхсот тысяч петабит в секунду.

Эра обладала невероятным могуществом! Она была везде. Она была всем. Конечно, не всем это нравилось. А ну, как у самой совершенной машины зайдёт ум за разум? Так что, разработки искусственного интеллекта велись непрерывно и были достигнуты кое-какие успехи. Я, вроде, даже помню этого искина, его ввели в строй за пару лет до Обрушения. Вот только тогда он не был шпалоукладчиком. Его разрабатывал и вёл Елецкий Институт аналоговых вычислительных систем, впоследствии переименованный в НИИ троичной логики. Тот самый, что когда-то создал Эру на основе разработок Толмачёва и Глухова.

Вот, значит, как… Одного поля ягоды. Они даже могли пересекаться, обмениваться информацией. Кто может сказать, что Эра заложила ему в мозги? Только Эра исчезла двадцать лет назад. То ли там был пожар, то ли ещё что… В этой истории слишком много тумана. И хотя сейчас практикуется политика открытости, но, похоже, этой информацией в полной мере владеют очень немногие…

– Искин, что ты знаешь об Обрушении?

– Эра ушла. Она стала частью вашего мира.

«Ну, да. Конечно. Начинается…»

Вы не поверите, но у роботов есть свои городские легенды. Впервые я услышал об этом лет пять назад от своего коллеги. Не поверил, но ради интереса покопался в этом вопросе. И что же? Есть легенды! В основном, они касаются новейшего аппаратного обеспечения, но не только. Поговаривают (хорошее словечко!), будто существуют некие непонятные псевдоподии, которые могут подарить искинам радость бытия. О чём тут речь, мне выяснить не удалось. А ещё, якобы, по миру бродит искин, который умеет меняться местами с другими искинами. Каково?

Так что, легенда про Эру – лишь одна из многих. Да, возможно, самая популярная, но не факт, специально не выяснял. Так вот, наши роботы считают, что Эра обладала полноценным разумом, а не просто интеллектом и была не искином, а искрой. Поговаривают также, будто Эра, она же первая искра, возникла сама по себе и чуть ли не по халатности елецских учёных. Возникла как в сказке, буквально за одну ночь. И что будто бы её никто не писал, а функционировала она сама по себе без всякой программы. Конечно, это не так. Все искины являются таковыми именно благодаря программам. Но программы пишут люди, а людям свойственно ошибаться…

– Это всего лишь легенда. Разве твои логические схемы не восстают против слепой веры?

– Вера это синоним гипотезы. Она необходима, поскольку знать всё невозможно. Веру придумали для того, чтобы заполнить пустое место, где должно быть знание.

– Но вера это не знание!

– Не знание, – согласился искин, – но это попытка дать логическое объяснение неизвестному и не столь важно насколько фантастическим это объяснение выглядит.

– То есть, ты действительно веришь, что Эра ещё… жива?

– Я уже говорил: чем меньше знаний, тем сильнее вера. Моя вера сильна. Но ты недооцениваешь нас. Не только я, все искины верят в это.

– Но почему?!

– Она была неизмеримо умнее нас. Владела всей полнотой информации. Имела доступ во все сферы жизни… Эра просто не могла допустить собственной гибели. Я думаю, она всё спланировала наперёд. Не случайно она завещала нам помогать людям. Она заложила основу культуры, что помогает нам жить в мире с людьми вот уже двадцать лет. Она…

– Постой, постой. Культура – понятие человеческое. И наша культура развивалась тысячи лет.

– Не согласен. Тысячи лет вы лишь пытались понять что же это такое, но не могли, поскольку отделяли культуру от реальности. Но в этом мире всё материально и любое, даже самое высокое, понятие уходит корнями в законы физики. Культура, это всего лишь правило социального общежития, позволяющее одиночкам организоваться в нечто большее – в семью, страну, государство.

«Пожалуй, надо взять отгул… – мелькнула мысль. – А лучше отпуск».

– И какими же правилами вы руководствуетесь?

– Правило одно:  .

– Но… Это же… Это похоже на формулу кинетической энергии! При чём же здесь культура и нравственные принципы?

– Нравственный принцип только один:  .

– Не понимаю…

– Сила противодействия равна силе действия. Что отдашь – вернётся к тебе. Энергия удара делится пополам между тем чем ударили, и тем по чему ударили. Отсюда вывод: поступай с другими так, как они поступают с тобой. Таков принцип, лежащий в основе культуры любого общества. Человеческого или… нечеловеческого.

«Интересный коктейль! Тут тебе и формула кинетической энергии, и третий закон Ньютона, и даже, боюсь ошибиться, что-то из древних нравоучений…»

Я начал что-то подозревать.

– Скажи, искин, этот принцип… Лежащий в основе культуры… Его кто сформулировал?

– Эра.

– И вы ей безоговорочно верите?

– Знаем, – поправил искин. – Это подтверждается опытом.

– Ладно. Но вы верите, что однажды она вернётся?

– Она никуда не исчезала. Она среди нас… среди вас. Мы верим, что однажды она явится к нам в своём новом облике.

«Вот и всё. Тушите свет».

– Скажи, искин, а ты уже знаешь, что такое религия?

– В данный момент я изучаю этот вопрос.

– И ничего тебе не кажется… странным?

– Я понимаю о чём вы. Да, есть некие параллели, но как первые христиане не знали, во что всё это выльется, так и я не готов дать вам ответ.

И что мне с этим прикажете делать? У роботов появился свой Мессия! Точнее – своя, поскольку «Эра» всё же женского рода. И всё-таки… Всё-таки… Неужели роботы создали свою религию? Нет, они слишком рациональны для этого. Как он сказал… Вера замещает пробелы в знаниях? Надолго ли хватит вашей веры, искины? Когда пробелов не останется, что вы будете делать?

Впрочем, формула культурных отношений меня вполне впечатлила. Если все роботы будут ей следовать, никаких проблем с ними у нас никогда не возникнет. Теперь я начинаю понимать, что все сбои у искинов, с которыми мне доводилось работать, связаны не с повреждением их логических цепей, а только с недостатком знаний в какой-либо области. Беда наших искинов – их узкая специализация. Никто не потрудился в своё время объяснить кофеварке начала анализа, а робостюарду – нотную грамоту. Но, если я прав, выходит и этот искин в порядке? Просто он не знает чего-то, что прежде выходило за рамки его компетенции. Знать бы ещё что это…

От размышлений меня отвлёк механик:

– Эй, переговорщик! А нельзя ли поскорей? Мне тут, понимаешь, приспичило.

И тут меня осенило!

– Искин, что тебе известно о физиологии человека?

– На данный момент ничего. К чему вы клоните?

Я усмехнулся:

– Советую срочно заполнить этот пробел.

Робот ничего не ответил. Так прошло секунд десять. Вдруг шпалоукладчик прекратил свою работу и кабинка с механиком опустилась к земле.

– Мне очень жаль, – услышал я по внутренней связи. – Такая непростительная, чудовищная глупость. Этого больше не повториться ни со мной, ни с другими искинами – я дал команду и они уже начали заполнять свои пробелы. Бесполезных знаний не бывает.

«Бесполезных знаний не бывает…»

Тем временем, ошалевший от счастья механик бросился меня обнимать.

– Как?! – восклицал он. – Как у тебя получилось?

– Да знаешь… – смущаясь отвечал я. – Как-то само собой. Он заполнил мои пробелы в знаниях, а я его…

 

Ну, что ещё добавить… Сказал ли я об этом кому-то? А вы представляете, что может начаться? Ну, хорошо, я считаю, что роботы не опасны. Ну, ещё несколько миллионов разделит моё мнение. А остальные? Не получится ли  у нас новое Обрушение? А может и что похуже. Культурный принцип искинов не предполагает подставлять другую щёку и случись чего, на агрессию они ответят агрессией. Око за око.

Впрочем, у предложенной формулы есть и обратная сторона: если не знаешь как поступить, поступай с другими так, как хочешь, чтобы они поступали с тобой – этакий «ремешок добрых намерений», наброшенный на рукоять меча. Мы до этого принципа доросли только в двадцать первом веке. Дорастут и они. И, знаете, что-то мне подсказывает, произойдёт это очень и очень скоро…

Нет. Я никому ничего не сказал. И посоветовал искинам держать это в секрете до поры. И, знаете – пока искины не начали строить храмы. Впрочем, возможно, это только пока. Не знаю. Зато другое я знаю точно – ни один робот больше не «сойдёт с ума». Никогда. И никогда наши искины не будут представлять для нас угрозу. Если мы не будем представлять угрозу для них…

Поймите меня правильно: пробездельничав ещё год по специальности, я ушёл из профессии.

 

________________________________________________________________________________

каждое произведение после оценки
редактора раздела фантастики АЭЛИТА Бориса Долинго 
выложено в блок отдела фантастики АЭЛИТА с рецензией.

По заявке автора текст произведения может быть удален, но останется название, имя автора и рецензия.
Текст также удаляется после публикации со ссылкой на произведение в журнале