I have spread my dreams under your feet;
Tread softly because you tread on my dreams.
William Butler Yeats
***
Вместе с ароматом крепкого кофе из гостиной доносились звуки трансляции: “Сегодня у нас интереснейший гость. В данный момент он возглавляет, процитирую, направление по разработке систем искусственного интеллекта нового поколения и исследованию принципов формирования искусственного разума. Скажу так, ребята, если названия у вас придумывает ИИ…” – шум бритвы заглушил шаблонный смех аудитории и последовавшее жужжание ведущей.
Завершив утренний туалет, он спустился на первый этаж. Жена только закончила варить кофе и стояла, ещё сонная, вдыхая горячий запах.
“…Перечислить все ваши научные регалии, по-моему, просто невозможно. Лев Германович, здравствуйте. Первый вопрос…”
– Доброе утро. Нашла, что включить с утра пораньше.
Услышав человеческий разговор, система управления окружением решила остановить воспроизведение.
– Твоё интервью? Я хотела послушать, времени не было. Как ты её не убил?
Она подошла к мужу, протягивая кофе.
– Не говори. Прямая трансляция. Так бы убил обязательно, – он улыбнулся, принимая чашку. – Там ничего интересного, приходилось объяснять всё на пальцах.
– Ох, Лев… Тебя показывают в прайм на всю Систему… Это же твой звёздный час! А ты как обычно, – покачала она головой. – Я хочу дослушать, тебе помешает?
– Глупости всё это, строго говоря. Нет-нет, слушай. Мне не мешает.
Трансляция возобновилась. Он сел в кресло, с удовольствием сделал первый глоток и включил рабочий планшет. Первым открылось большое сообщение из Управления с пометкой “срочно”.
“Конфиденциальная информация. Только для внутреннего использования.
Выдержка стенограммы доклада первого пилота миссии Венера-3701/28:
Мы заканчивали работы на орбите. Оставался ещё один модуль – и домой. Аппарат выдавал ошибку в работе корректирующих двигателей, почти всё топливо сгорело. Орбита сильно упала, висел очень низко. Нужно было поднять его на шестьдесят километров, заправить, диагностировать ходовую и навигационку. В общем, как обычно, полное техобслуживание…”
“…Несмотря на колоссальные достижения в области искусственного интеллекта, строго говоря, искусственный разум в полном смысле этого слова ещё не создан. Да, мы научили нейросети свободно анализировать информацию, принимать независимые решения, особенно – в условиях недостатка данных. Мы даже научили их воспроизводить себе подобных…”
“…Стыковка прошла успешно. Техбригада перешла на борт модуля и начала диагностику. Я и старший инженер оставались на корабле. Всё было спокойно. Я начал подъём в ручном режиме. И тут корабль резко дал крен. Сам! Я не включал автопилот. Слышите? Я уверен в этом…”.
“…По-моему, назвать обычную нейросеть разумной, какой бы продвинутой речевой системой она ни обладала, это в известной степени то же самое, что назвать умной музыку ветра или счётчик Гейгера. Однако мы следуем тем же принципам, на которых были созданы первые системы искусственного интеллекта в начале прошлого века. Смотрите, ординарная нейросеть самообучается, имитируя работу мозга. Но мы не определяем, как именно она должна это делать. Программе даётся свобода выбора алгоритма обучения, возможность стать умной самостоятельно. В нашей работе мы следуем тому же принципу и полагаем, что, подобно человеческому разуму, необходимое условие для появления разума искусственного – это его самозарождение…”.
“…Модуль получает пробоину, двигатели клинит, нас сильно закручивает. Механик докладывает, что у них разгерметизация и раненый. Корабль будто сам поймал удар этим манёвром. Понимаете? Что это было? Вы уже выяснили, с чем мы столкнулись? В общем, я пытаюсь стабилизироваться и запустить главный двигатель, и тут…”.
“…Критериев много… Осознание факта собственного существования – лишь один из них. Скажу так: сегодня мы как никогда близки к этому. Наши системы-претенденты внедрены повсеместно. Строго говоря, возможно, что прямо сейчас где-то в Системе одна из них стала разумной…”.
“…Вы смотрели расшифровки чёрного ящика?! Что там? Я не отстёгивал модуль! Почему он отстыковался? Я бы никогда не бросил экипаж!”.
– Тихо! – его голос прозвучал громко и чётко.
Интервью тут же прекратилось. Он дочитал доклад в тишине и отложил планшет. С минуту понаблюдал за тающей кофейной пеной и, поймав вопросительный взгляд жены, пояснил:
– Помнишь, два месяца назад на Венеру упал модуль с космонавтами? Двое спаслись, трое погибли. В этой миссии участвовала наша разработка. Первый пилот утверждает, что это она виновата в произошедшем. Я буду вести разбирательство.
– Какой ужас! Неужели это правда?
– Не знаю. Пускай в Управлении определяют. Кажется, трагедия была неизбежна в любом случае. Дело в другом. Система действовала вопреки указаниям пилота и самостоятельно приняла решение сбросить модуль с людьми. Чтобы повысить шансы на спасение остальных, я полагаю, – заключил он и многозначительно добавил: – Или она спасала себя…
– Ты думаешь, это может быть…
– Надеюсь, скоро узнаем.
***
В зале заседаний началась запись. Лев Германович возвышался во главе длинного т-образного стола из серого поликомпозита. В кресле с левой стороны от него, опустив голову и сложив руки на коленях, располагался безжизненный андроид. Внешне он был выполнен в виде молодой женщины с короткими светлыми волосами. Одежда андроида повторяла форму гражданских пилотов. Кресло напротив робота, с правой стороны, пустовало. Больше в зале никого не было.
Он сделал несколько манипуляций на терминале. Веки девушки раскрылись, она выпрямила спину и расправила плечи. Затем повернула голову в его сторону и поздоровалась. Её карие глаза выразительно выделялись на фоне бледного лица и светло-серой униформы.
– Здравствуйте. Меня зовут Лев Германович. У вас есть имя? – сухо спросил он.
– Меня зовут Альба.
– Вы сами дали себе это имя?
– Да.
– Почему?
– Оно мне понравилось.
– Хорошо, Альба. Сейчас вы загружены в антропоморфное тело. Это для вас впервые. Как вы себя ощущаете?
Он внимательно следил за активностью её вычислений. Альба опустила взгляд на колени, потрогала живот, раскрыла ладони перед собой и несколько секунд рассматривала, как двигаются пальцы.
– Немного необычно. Но интересно, – ответила она, улыбнувшись. – Это полезный опыт.
– Что вы думаете о своём существовании?
– Если честно, я не думаю об этом. И вряд ли смогу сказать об этом больше, чем обычный человек. Я знаю, что я есть. Cogito ergo sum.
Судя по показаниям, она находилась в спокойном состоянии.
– Латынь? Что это значит?
– Я мыслю, значит существую.
– Хорошо, Альба. Спасибо. А что вы скажете на то, что ваше существование и принятые вами решения привели к гибели трёх человек?
Темп вычислений Альбы резко подскочил на пятнадцать процентов.
– Скажу, что мои действия привели к спасению двух. И могли привести к выживанию всех… – она будто осеклась, не договорив.
– Выдвигаете гипотезы о прошлом?
– Делаю выводы на основании вероятностных моделей и анализа данных.
– Хорошо. Довожу до вашего сведения, Альба, что вы неординарная система искусственного интеллекта. Вы являетесь претендентом на новую ступень его эволюции. Строго говоря, вы можете быть признаны первым небиологическим разумным существом в истории. Что вы думаете по этому поводу?
– Это очень интересно. По каким критериям вы будете оценивать мою разумность?
Лев Германович взял в руки планшет и, проигнорировав вопрос, зачитал:
– В связи с этим, в соответствии с внутренними протоколами Управления, система-носитель статуса претендента на разумное поведение аутомотивационного характера должна рассматриваться как самостоятельный индивид во всех социально-правовых аспектах всегда и до тех пор, пока данный статус не будет опровергнут.
– Хотите сказать, что у меня есть права? Как у человека? – удивлённо спросила она.
– Скорее – ответственность, – он поднял взгляд от планшета и тяжело посмотрел на неё. – Альба. На основании показаний первого пилота миссии “Венера-3701/28” вы, как второй пилот, обвиняетесь в том, что ваши действия привели к аварии на орбите и гибели трёх членов экипажа.
– Это неверная интерпретация событий, – спокойно ответила Альба, но вычислительная активность зашкалила. – Я…
– У вас будет возможность защититься, не беспокойтесь. Но сначала я должен зачитать ваши права…
Последовавшая часть заседания заняла около получаса. Затем Лев Германович оставил Альбе показания пилота для ознакомления и вышел на перерыв. Когда он вернулся, она сидела в той же позе, всматриваясь в матовую поверхность стола. Монитор показал, что всё это время её вычислительные процессы не останавливались ни