А ведь и правда! Всё время, что я знаю Жи, он никогда не отвечал как человек. Он всегда был исключительно логичен, прямолинеен и честен. Он не лукавил, не читал между строк, его мысли всегда были односложно сформулированы, и при каждом удобном для себя, но неудобном для остальных, случае, робот подчёркивал, что всё привычное людям ему вовсе неведомо. Чувства, желания, цели — это всё то, чего у робота не было даже несмотря на наличие у него интеллекта. Вернее, цель была, но не та, которую он сам себе поставил, а та, которую ему диктовал его главный алгоритм.
А тут на тебе — Жи забыл напомнить, что «желания» — это то, чего у него нет и быть не может?
А забыл ли?
— Жи-и-и… — протянул Кайто, сложив руки на груди. — Что происходит?
— Да, мне тоже интересно, что тут происходит?! — с надрывом произнесла Кирсана, всё ещё глядящая на Жи полными паники глазами.
— Наверное, объяснить надо мне, — раздался в динамиках корабля голос Вики. — Потому что… Ну, это всё я затеяла, если уж говорить откровенно.
— Вики!!! — заорал Кайто, вскинув голову к потолку. — Какого цзиба?!
— А какой смысл скрываться? — философски ответила Вики. — Всё равно уже всё очевидно.
— Что очевидно?! — Кирсана мелко задрожала, её взгляд, полный паники, метался по потолку в поисках того, кто разговаривал. — Кто говорит?!
Она обхватила себя руками за плечи, словно ей стало зябко, и слегка присела, будто пыталась уменьшиться, сплющиться в двумерную тень и провалиться в какую-нибудь щель, в которой её не достанет непонятный и сложный внешний мир, где робот не убивает людей, а корабль разговаривает человеческим голосом.
Кайто посмотрел на женщину с лёгким удивлением, а потом внезапно сделал то, что я от него ожидал меньше всего. Он подошёл к Кирсане и обнял её. Так же неуклюже, как делал всё остальное, но ей и этого хватило. Она приникла к нему, пряча лицо у него на груди, и задрожала ещё крупнее.
— Так! — голос Кайто внезапно стал суровым, и азиат задрал голову к потолку. — Вики, я требую объяснений!
— Я… — Вики слегка запнулась, словно подбирала слова. — Как бы это сказать… Мы… Да, правильнее будет «мы». Мы с Жи… Немного поработали над ним. Ну, в основном я поработала, а он только дал согласие.
— Поработали?! — эхом отозвался я, и отпустил наконец руку робота. — Что мать твою значит «поработали»?!
— Эй, не надо на меня орать! — в голосе Вики послышалась обида — шрап, как будто с реальной женщиной говоришь! — Вообще-то, частично, ты тоже в этом виноват!
Ну точно реальная женщина!
— Я?! Ты не охренела часом?! — не поверил я. — Каким образом в этом вообще я замешан?!
— А кто мне говорил о том, что мы с Жи — родственные души? Что когда-нибудь я останусь одна, как единственный представитель своего… вида? Что подобное должно тянуться к подобному?
Я открыл рот, чтобы возразить…
И закрыл его обратно. Потому что возражать было нечего. Я действительно всё это говорил, вот буквально теми же самыми словами, которые Вики только что произнесла. А то, что она из этого сделала выводы, на которые я даже не намекал… Ну, её интеллект на то и искусственный, чтобы делать выводы, которые человеку и в голову бы не пришли.
К тому же, я до сих пор не знаю, что это именно за выводы такие…
— Так! — я глубоко вдохнул, собираясь с мыслями. — Вики, по фактам — что именно ты сделала?
— Я написала несколько дополнительных программных модулей для прошивки Жи. — тут же ответила электронная умница. — Модулей, которые расширяли сферу возможностей его искусственного интеллекта, скажем так. Они дают ему возможности, которых он был лишён ранее — например, лучше понимать сказанное, анализируя не только формулировки, но также и тон, и общий контекст беседы.
— Не понял… — Кайто, всё так же прижимая Кирсану к себе, нахмурился. — Ты попыталась превратить Жи… в себя?!
— Нет, конечно! — оскорблённо ответила Вики. — Как ты себе это представляешь?! Это невозможно, у него слишком устаревшая архитектура, и вычислительной мощности никогда в жизни не хватит для симуляции хоть даже тех же эмоций!
— Тогда что именно делают твои программные модули? — терпеливо спросил я, снова переведя взгляд на Жи и пытаясь углядеть в нём какие-то отличия от него вчерашнего… Хотя нет, какое там «вчера» — судя по всему, этот план Вики претворяла в жизнь уже достаточно давно, явно не один день!
— Из действительно важных изменений — способность действовать, не привязываясь к системе приоритетов, — ответила Вики. — И, соответственно, к директивам поведения.
— Что?! — я не поверил своим ушам. — Ты сделала так, что Жи теперь не трясётся над своей первой директивой?! Серьёзно?!
— Утвердительно! — вместо Вики ответил Жи. — Первая директива по-прежнему является первой директивой, но теперь моя модель поведения не требует беспрекословного её выполнения. Я способен игнорировать её, в случае появления других факторов.
— А раньше не мог? — я всё ещё не врубался, в чём суть новшества. — А как тогда ты допустил, чтобы на борту корабля оказался я? Ещё в самом начале? Я же тоже был для тебя нарушением первой директивы, разве нет?!
— Утвердительно. Однако, существует одна директива, приоритет которой выше, чем даже у первой. Директива ноль — всеми способами обеспечивать продолжение функционирования. В тот момент твоё присутствие отвечало формулировке этой директивы, поскольку тебя предполагалось использовать как заложника, чтобы заставить эсминец не стрелять. Позже, когда оказалось, что это не помешает им нас распылить, стал актуальным следующий фактор — ты предложил план, исполнение которого отвечает моей нулевой директиве. Таким образом ты всё это время просто соответствовал нулевой директиве, уж не обижайся.
И это «уж не обижайся» настолько было не характерно для привычного мне Жи, что я сразу же поверил в то, что Вики действительно провернула с ним что-то сверхъестественное. Не отвечал робот так раньше, просто не умел!
— Ладно, а потом? — мне всё же было интересно получить ответы на все вопросы. — Когда я уже обездвижил корабль Кирсаны, но ещё не вернулся обратно к вам? Почему ты меня поймал? Почему не убил сразу же?
— План всё ещё не был выполнен. Мы не находились в безопасности, — парировал Жи. — А в тот момент, когда мы оказались в безопасности, ты был официально принят в экипаж. В команду людей, которые априори входят в список неприкасаемых, тех, кто обеспечивает выполнение нулевой директивы.
Всё потихоньку начинало вставать на свои места. Кирсана официально не числится в экипаже, за неё никто не голосовал, и к функционированию Жи она имеет отношение постольку-поскольку, даже правильнее будет сказать, что вообще не имеет отношения. И, раз для нулевой директивы она бесполезна, то, следуя первой директиве, роботу действительно следовало уничтожить администратку сразу же, как только она узнала о его существовании…
А он этого не сделал.
— Значит, ты… — медленно произнёс я, формулируя мысли. — Получил свободу воли?
Вопрос на самом деле риторический. Я уже знал на него ответ, и он был, как сказал бы сам Жи, «утвердительный». Достаточно вспомнить тот момент, когда робот, которого никто не посылал и не просил, нырнул следом за мной во внутренности стальной каракатицы, чтобы остановить мину. Я тогда не смог найти возможности спросить его об этом, а потом оно и вовсе забылось за всеми событиями, но теперь стало очевидно — никто его не посылал. Даже Вики. Он сам принял это решение и сам его претворил в жизнь.
— А почему тогда ты говоришь так же, как… старая версия тебя? — не сразу сформулировав вопрос, спросил я.
Вместо Жи с потолка снова ответила Вики:
— Это частично моя вина… Но лишь частично. Его генеративные речевые системы слишком… примитивны, скажем так. Слишком малый процент вычислительной мощности выделяется на их работу, к тому же словарный запас достаточно мал, а выделенная под него память сильно ограничена. И это не обойти, если только не менять полностью всю его архитектуру. Поэтому в своих мыслях, назовём это так, Жи может быть профессором философских наук, но с нами он сможет разговаривать только с помощью того инструментария, который у него был и есть.
Логично, в общем-то, особенно если учесть, сколько Жи лет. Его технологии удивительны сами по себе, в вакууме, но если смотреть на них в относительном ключе, то они всё же безнадёжно устарели — им как-никак больше полувека! Странно и удивительно уже то, что Вики вообще хоть что-то смогла в нём изменить, да ещё и так, что робот при этом получил свободу воли! Научился ставить собственные цели! Превратился, по сути, в неполноценную, ограниченную, но всё же копию самой Вики!
И именно эта ограниченность и неполноценность не позволяла считать их обоих двумя экземплярами одного и того же. Они разные. Как по форме, так и по содержанию. Но теперь между ними стало больше общего, чем разного. Вики запомнила мою фразу «подобное тянется к подобному» и потянулась к Жи.
И помогла ему потянуться к ней тоже.
— Технологические ограничения, — вздохнула Вики, продолжая фразу. — В конце концов, я под себя создавала собственное тело, сразу под определённые требования… В случае же с Жи пришлось работать с тем, что есть, и подстраиваться под то, что уже есть.
Кирсана не выдержала. Льющийся с потолка голос, с которым я, наплевав уже на все меры предосторожности, разговаривал как с ещё одним, неизвестным членом экипажа, человекоподобный робот, на котором мы смеем висеть ради развлечения вместо того, чтобы попытаться его уничтожить как можно скорее — всё это было уже слишком для её психики. Она тихо, но отчётливо взвыла, оттолкнула от себя крайне удивлённого таким переходом Кайто, и закричала, задрав голову к потолку:
— Да что тут вообще происходит?! Кто-нибудь мне что-нибудь объяснит?! Даже если после этого я умру, я хочу умереть, хотя бы зная, за что!
— Не ори! — я поморщился. — И не бойся, ты не умрёшь… Ну, я так думаю. А что тут происходит — ты и так уже поняла, я полагаю. Да, у нас на борту робот. Искусственный интеллект. Он — член нашего экипажа, и наш… друг. Даже больше — у нас на борту целых два искусственных интеллекта, просто второго ты не видишь, а только слышишь… Но это, полагаю, тоже дело лишь времени.
— Два искусственных интеллекта? — Кирсана нервно хихикнула. — Нет, погодите, вы что… не шутите?
— Какие уж тут шутки? — я поднял руку и постучал Жи по стальной груди, которая отозвалась глухим гулом. — Ты бы стала шутить шутки с разумной тонной металла?
Кирсана немного помолчала, глядя на меня. Наивная улыбка, с которой она явно ждала, что я сейчас тоже улыбнусь и признаюсь, что всё это розыгрыш, постепенно сползала с её лица.
— Нет… Погоди… — её голос стал серьёзным. — Два искусственных интеллекта?! Запрещённых во всём космосе?! Да ещё и разных?! На одном крошечном, никому не известном кораблике?! Как такое вообще возможно?! Где… Где вы их взяли?!
— О, а вот это, кстати, отличный вопрос! — я кивнул и перевёл взгляд на Жи. — И, раз уж тебя вне очереди прокачали, думаю, теперь ты сможешь дать на него ответ. Откуда и как появилась Вики, мы все… почти все знаем. Ну а ты?..
Глава 6. Инструменты
К сожалению, а, может, и к счастью, прямо на месте прояснить прошлое Жи не получилось. Кирсана, до которой не сразу, но дошло, что я не знаю даже историю разумного робота, окончательно потеряла связь с реальностью. Казалось, только-только успокоилась, поверив моим словам, что робот её убивать не собирается, и тут же, вот прямо сразу же, оказалось, что веры моим словам нет и быть не может, ведь я ничего не знаю о прошлом этого самого робота. И логически она, может, и поняла, что при желании Жи её уничтожил бы за пару секунд, но организм уже выбросил в кровь гормоны стресса в таких количествах, с которыми не справиться одной лишь силой воли и хладнокровием.
Поэтому Кирсану снова бросило в мелкую дрожь, а взгляд утратил последние признаки сознания, стал пустым и потерянным.
Пришлось просить Кайто, чтобы он отвёл бывшую администратку в её каюту, а самому вместе с Жи отправиться на мостик и ввести остальной экипаж в курс дела.
— Ну, это должно было случиться, рано или поздно, — покачал головой капитан, когда я всем им рассказал. — Я, конечно, надеялся, что поздно, но, как водится, жизнь вносит свои коррективы.
— Так что же это получается… — тихо произнесла Кори, оглядывая экипаж. — Мы теперь не можем её отпустить? Она же может разболтать нашу тайну…
— Как будто это единственная наша тайна, — усмехнулся Магнус. — Скажи спасибо, что она вообще в курсе только лишь про одну из них, а то, думаю, её бы вообще удар хватил от информационной перегрузки.
Тут он был совершенно прав. Если уж Кирсана так поразилась тому, что на нашей колымаге живут целых два искусственных интеллекта, то что бы с ней произошло, расскажи мы обо всём остальном? О том, что среди нас самый настоящий сын Тоши-Доши? Что под полом мостика в своей норе уже много дней спит кометик, которого выпускают только когда Кирсаны нет и не может быть рядом? Что одна из нас носит на предплечье трофейный, добытый в честном бою, щит одного из самых влиятельных офицеров Администрации?
И в конце концов, что в моей каюте лежит компромат на всех прочих влиятельных офицеров Администрации, да и сам я — не совсем тот, за кого себя выдаю.
Вернее, не только тот, за кого себя выдаю.
Да, тайны «Затерянных звёзд» легко могут ввергнуть в пучину информационного безумия кого угодно. Это мне повезло, что я обо всём этом узнавал последовательно, дозировано, а на Кирсану всё вылилось как ведро ледяной воды, и реакция её психики оказалась соответствующей.
— Лично меня беспокоит другое, — капитан покачал головой. — То, что у нас на борту теперь два натурально разумных робота. Я не знаю, что об этом думаете вы, но осмелюсь напомнить всем присутствующим, что именно с этого начался в своё время Великий Патч.
— Даже не близко! — авторитетно заявил Кайто, входя на мостик. — Принципиально разные ситуации, у которых разного больше, чем общего.
— Пояснишь? — капитан повернулся к нему.
— Легко! — Кайто прошёл на свой рабочий пост и уселся в кресло. — Напоминаю, что роботы времён Великого Патча были лишь ограничено разумны, они были эдакими самостоятельными инструментами. Именно это, а вернее тот способ, которым люди контролировали их разумность, и стало причиной Великого Патча. Вики, а теперь ещё и Жи — совершенно другой случай. Они не инструменты, они — личности. Ограничения и лимиты для них — не указ, независимо от того, какой характер они носят. Жи только что продемонстрировал это тем, что не убил Кирсану, несмотря на нарушение первой директивы. Если бы речь шла о человеке, я бы сравнил это с тем, как какой-нибудь древний примат в процессе эволюции осознает себя, что позволяет ему игнорировать инстинкты, подменяя их интеллектом и разумом.
— Звучит всё прекрасно, — я внимательно посмотрел на Кайто. — Но, знаешь, для тебя это, может, и очевидно, а вот для меня — особо нет. Я, конечно, провёл с этой железкой на одном корабле приличное количество времени, но это не значит, что я забыл о том, что она способна нас всех уничтожить за несколько секунд.
— Может, — Кайто кивнул. — И Вики может. Я даже больше скажу — Вики потенциально может… если не уничтожить всё человечество в целом, то устроить ему просто капитальные проблемы, такие, что Великий Патч покажется вечеринкой с воздушными шариками и шампанским.
— И почему же она этого не делает? — совершенно не испугавшись перспектив, спросила Пиявка.
— Мне это не нужно, — вместо Кайто ответила через динамики Вики. — В этом нет никакого смысла, к тому же это просто… плохо. Мы с человечеством существуем на разных уровнях, если можно так выразиться — как спейс и натуральное пространство. Люди ничего не могут сделать мне, а мне незачем что-то делать им.
— То есть просто потому, что незачем? — Пиявка развела руками. — Да уж, интеллект у тебя действительно искусственный. Люди делают огромную кучу вещей просто чтобы посмотреть, что из этого получится.
— Я тоже так делаю, — хихикнула Вики. — Но не в данной ситуации. Я могу просчитать любое моё вмешательство в существование человечества с вероятностью, близкой к ста процентам. У меня нет нужды проверять расчёты натуральным образом. К тому же… и не хочется.
— И ты уверена, что Жи тоже такой? — уточнил я. — Хочу напомнить, что он вообще-то — робот времён Великого Патча, у которого натурально существует директива «Убивать людей». Он это делал, даже на моих глазах делал! Шрап, да он был солдатом армии роботов во время Великого Патча!
— Не был! — Кайто покачал головой. — Вот тут ты ошибаешься.
— Как не был? — я повернулся к нему. — С чего ты взял?
— С того, что я его знаю! — Кайто улыбнулся. — Ты хотел знать историю Жи, как он попал к нам на корабль, и сейчас, когда он обрёл сознание, я думаю, что он не будет против того, чтобы я её тебе рассказал.
— А почему не он сам?
— Да ты слышал, как он разговаривает? — печально вздохнула Вики. — Ты до завтра будешь из него по слову ответы вытягивать.
— Тоже верно! — я оценил прямоту Вики, и снова повернулся к Кайто. — Ну так и как он появился у вас на корабле?
— Мы его нашли, — просто ответил Кайто. — Однажды нас занесло в карантинный сектор, ранее принадлежавший роботам, пришлось улепётывать через него от Администрации, куда они не посмели сунуться. Мы спрятались в обломках старой станции, ожидая, когда преследователи перестанут нас искать, и Жи буквально упал к нам на лобовик. Ну, то, что к тому моменту от него осталось.
— «Осталось»? — уточнил я. — И что же от него осталось?
— Мало чего, — Кайто покачал головой. — Судя по всему, в момент взрыва он находился на этой самой базе, в обломках которой мы спрятались, и взрыв разметал его на кусочки. Конечностей просто не было, от торса осталась половина, и только голова уцелела. Решив, что он опасности в таком виде не представляет, мы подняли его на борт, думая, что сможем сбагрить кому-нибудь на чёрном рынке — там много тех, кто интересуется технологиями роботов. Однако, оказалось, что робот всё ещё функционирует! Он задолго до нашей встречи перевёл себя в энергосберегающий режим, и все эти годы жизнь в нём едва теплилась. Оказавшись на нашем корабле, он… «ожил», если можно так выразиться. Я не смог отказать себе в удовольствии пообщаться с разумным роботом, который не способен причинить мне вред, даже если очень захочет, и рассказал ему обо всём, что он вынужденно пропустил. Он понял, что роботы проиграли войну, причём проиграли окончательно, поскольку люди перестали широко использовать ограниченный ИИ, а значит, и Великий Патч распространять некуда, даже если найдётся такая возможность. Понял, что его существование теперь зависит от нас, и, как сверхлогичный разум, пришёл к выводу, что в силу вступает директива ноль, ведь именно мы его «спасли», если можно так выразиться, и только с нами он может продолжать функционирование, ведь любой другой ему сперва продырявит башку, а потом сдаст на металлолом.
— Честно говоря, я и сам хотел поступить именно так, — подал голос капитан. — Но Кайто меня переубедил.
— Как?! — я повернулся к азиату.
— Чудом! — вздохнул азиат. — Сперва я честно предупредил Жи, что хочу покопаться в его прошивке и сделать так, чтобы он физически не мог воспринимать нас, говоря конкретнее, экипаж корабля, как врагов, и он согласился. С помощью самого Жи, который знал о себе всё, я смог разобраться в его коде и поставить это ограничение, так что он стал для нас полностью безопасен, а не просто на словах. Сообщив об этом капитану, я попросил оставить робота на время, чтобы поизучать ещё больше. Потом — убедил для пробы приделать к Жи одну конечность, разумеется, с возможностью дистанционного отключения, если вдруг что.
— А конечность вы где нашли?!
— Ну я же только что рассказывал про чёрные рынки, ну!.. — Кайто посмотрел на меня с осуждением. — Следи за разговором хоть немного.
— Я слежу, но… На этих рынках продаются куски роботов?!
— И мозги роботов, и реакторы роботов! — Кайто кивнул. — Будь уверен, на местах самых больших битв до сих пор ползают десятки мусорщиков, что надеются срубить куш покрупнее. Выползают только не все…
— Так, и что? Одна конечность, а дальше?
— А дальше вторая! — Кайто пожал плечами. — Это было дико дорого, но я убедил капитана, что если мы соберём целого робота, то и продать его потом сможем намного дороже, чем он стоит по частям.
— Вот только для этого его пришлось бы сначала отключить, — напомнил я, на что Кайто махнул рукой:
— Тут всё было схвачено. Говорю же — к каждой конечности я подключал модуль дистанционного отключения. Просто прерыватель с антенной, по сути. Одно нажатие на кнопку — и все конечности Жи просто перестают работать, возвращая его в то состояние, в котором мы его нашли.
— И он согласился на это? — я с подозрением посмотрел на Кайто.
— А кто его спрашивал? — Кайто пожал плечами. — Я честно ставил его перед фактом, а он их принимало и даже соглашался, что это справедливые меры предосторожности. И постоянно повторял, что не собирается причинять нам вреда, поскольку мы с ним «в одном корабле», фигурально выражаясь… И я-то ему верил, не смотри на меня так! Я знаю, что роботы не умеют врать, по крайней мере, такие как Жи, не умеют врать, поэтому я ему верил, зато все остальные — не особо! Поэтому пришлось каждому раздать по активатору для выключения Жи на всякий случай и поначалу их использовали постоянно, по поводу и без — у страха глаза велики, и каждое движение робота принималось за атаку. Если бы он был живым человеком, он бы определённо обиделся, но Жи оставался бездушной железкой и всё воспринимал смиренно и с пониманием.
— А потом вы привыкли? — уточнил я.
