– А почему он это сделал? – прервал Тасин доклад папа.
– Потому что… – снова задумалась девочка.
– Ну? – подбодрил Павел Сергеевич.
– Акили опросил всех людей, и они сказали, что не хотят войны, – неуверенно предположила Тася.
– Что ж, опрос был действительно проведён, но решающее значение имел не его результат, а заложенные в архитектуру интеллекта Акили общечеловеческие моральные принципы. В отличие от людей, Акили не подстраивает мораль под сиюминутные потребности и желания. Например, для него обман – это всегда обман, независимо от цели, ради которой ты лжёшь, – тряхнул головой Павел Сергеевич. – Так вот, в случае с запуском ядерных ракет было однозначно понятно, что это действие может привести к гибели огромного количества людей, а это неприемлемо ни под каким предлогом. Поэтому Акили отменил запуск, и никто не мог изменить его решения. Потому что Акили действует, думая о благе всех людей, а не какой-то отдельной группы или тем более кого-то одного. Понимаешь? А кроме всего прочего, у него есть установка, известная как закон номер ноль. Ты его знаешь?
– Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред, – отчеканила девочка.
– Правильно. А это возвращает нас к моему первому вопросу.
– Какому? – не поняла Тася.
– Как продвигается твоё эссе? Решила ты, как повлияют законы Азимова на человеческое общество, если применить их к людям?
– Ну это просто! – пожала плечами Тася. – Я вообще не понимаю, почему их до сих пор не применяют. Например, если переделать первый закон под людей вот так: «Человек не может причинить вред другому человеку или своим бездействием допустить, чтобы другому человеку был причинён вред», – то больше никогда не будет войн.
Павел Сергеевич одобрительно покачал головой.
– Прекрасная мысль! А как ты собираешься заставить людей подчиняться этому закону? Всех роботов, напомню тебе, азимизируют – законы робототехники становятся неотъемлемой частью их личности. А как же быть с людьми?
Тася задумалась.
– Не знаю… – наконец пожала она плечами. – Может, гипноз?
– То есть ты предлагаешь загипнотизировать всё человечество?
– Ну да.
– А чем же мы тогда будем отличаться от роботов?
– Но я, в отличие от роботов, живая! – возмутилась Тася.
– Да уж, иногда даже слишком, – папа улыбнулся, обнял Тасю и тихонько подул ей в ухо.
Это было очень щекотно! Тася попыталась вырваться, но папа держал крепко. Тогда она стала щекотать его, а он её. Но папа щекотки не боялся, а Тася просто задыхалась от смеха! Тогда она стала дрыгать ногами и вырываться, а он всё равно не отпускал – и это было здорово!
«Вот всегда он так, – думала девочка, укладываясь спать, после того как папа ушёл в своё купе, – подкинет какую-нибудь задачку, а потом сделает вид, что ни о чём таком серьёзном мы не говорили. А ты потом голову ломай. Теперь до утра буду думать, как запрограммировать человечество, – не смогу уснуть. Вот Врунгель бы, наверное, нашёл выход из положения…»
Она закрыла глаза и стала фантазировать о том, как капитан Врунгель вместе со старшим помощником Ломом будут перевоспитывать сначала шпиона генерала Кусаку, а потом вообще всех людей. Кажется, она вместе с капитаном даже что-то придумала…
Глава 9. О чём мечтают роботы
Когда Тася проснулась, оказалось, что она напрочь забыла казавшийся таким простым и логичным план по спасению человечества, придуманный ею во сне вместе с Врунгелем. Настроение было подпорчено с самого утра.
К тому же никакого обещанного Саввой чудесного рассвета за окном не наблюдалось. А наблюдался тропический дождь, затянувший всё небо от края до края. Он расчерчивал оконное стекло длинными горизонтальными штрихами. Поезд мчался по высокому мосту, проложенному по территории заповедника, и с его высоты хорошо были видны унылые стада антилоп гну, пасущиеся на африканских равнинах, и зебры, сбившиеся потеснее, чтобы переждать холодный утренний дождь, прижавшись к тёплому боку товарища.
Из-за стены вагона раздавались взволнованные голоса. Тася, не переодеваясь, как была в шортах и футболке, выглянула в коридор и прислушалась. Папа о чём-то спорил с секретарём. Но не успела она понять, о чём речь, как дверь папиного купе приоткрылась, и Тася услышала голос Саввы:
– Благодарю за понимание, Павел Сергеевич.
– Вот как раз понимания-то мы с тобой и не достигли, Борменталь… Впрочем, поступай как знаешь.
Не дожидаясь, пока робот выйдет в коридор, девочка юркнула обратно в купе и аккуратно прикрыла дверь. Через минуту послышались шаркающие шаги секретаря. Он остановился у Тасиного купе. «Он что, знает, что я подслушивала? – пронеслось у Таси в голове. – Но я же не хотела! Да я ничего и не подслушала. Тогда чего я боюсь? Надо самой выйти и поговорить с Саввой. Тоже мне тайны мадридского двора!»[6 - «Тайны мадридского двора» – этот фразеологизм появился в русском языке благодаря историческому роману Георга Борна «Изабелла, или Тайны Мадридского двора». Обычно так в шутку говорят о каких-либо тайнах, интригах, секретах вышестоящих лиц, а также по поводу сенсационного разоблачения какой-нибудь тайны.] И только она хотела открыть дверь, как снова раздались шаги секретаря: судя по звукам, он ушёл в своё купе.
За окном полыхнуло солнце: поезд вырвался из пелены туч. Тася бросила взгляд в окно да так и застыла. Над широким полем саванны небо разделилось пополам, словно разрезанное ножом. С одной стороны оно было синее-синее, а с другой – затянуто тёмно-серым покрывалом тяжёлых дождевых облаков. Казалось, что кто-то стягивает это покрывало, освобождая небесный купол из плена.
Настроение тут же поднялось. Тася почистила зубы, переоделась, заказала себе завтрак. Заглянула к отцу. Тот был занят – работал. Над столом висел экран голографического монитора, и всё папино внимание было приковано к строчкам программного кода. Папа даже не обернулся, чтобы ответить на Тасино приветствие.
– Кое-кто меня учил, что так делать нехорошо, – напомнила отцу девочка.
Павел Сергеевич отложил рабочий планшет в сторону.
– Прости, малыш! Конечно, так поступать невежливо, – согласился он. – Как спалось на новом месте? Приснился тебе жених?
– Какой жених? – не поняла Тася.
– Это так в моём детстве девочки загадывали, когда ложились спать где-нибудь в гостях. «На новом месте приснись жених невесте», – говорили они.
– Какая странная идея, – удивилась Тася. – И что, снился?
– Ну… честно говоря, я никогда не спрашивал, а они не рассказывали.
– Понятно. Значит, всё это ерунда, – авторитетно заявила девочка. – Ты мне вот что скажи: вы с Саввой поссорились?
– С чего ты взяла?
– А вы меня своими криками разбудили.
– Неправда, мы не кричали.
– Ладно, – согласилась Тася, – не кричали, а громко спорили. Так что случилось?
Павел Сергеевич снял очки и потёр переносицу. Тасе показалось, что он специально тянет время, чтобы хорошенько обдумать ответ.
– По некоторым причинам Савва отказывается от помощи в ремонте, которую предлагает Мирон.
– То есть он отказывается соблюдать третий закон?
– Нет, нет, – поспешно возразил Павел Сергеевич, – не отказывается. Но говорит, что сможет справиться с необходимым ремонтом самостоятельно. Просто не желает принимать помощь от Мирона.
– Ну и глупо. Он что, обиделся?
– Скажешь тоже, – улыбнулся профессор, правда, улыбка получилась какая-то неестественная, – роботы не могут обижаться. А разве тебе не нужно делать домашку? Ты придумала, что напишешь в эссе? – сменил тему разговора отец.
Тася сделала вид, что не услышала вопроса.
– Ладно, я, пожалуй, пойду к себе, – уклончиво ответила она. – Ты занят. Не буду мешать. Пока!
Она выскользнула в коридор и закрыла дверь, прежде чем папа смог что-то сказать. Вернувшись в своё купе, девочка обнаружила, что завтрак уже стоит на столе. Запивая бутерброд с маслом горячим чаем, она думала о том, каким странным ей показался папа утром. Он явно чего-то недоговаривал. И почему он просто не приказал Савве воспользоваться ремонтными мастерскими? Какие могут быть у робота причины, чтобы не слушаться хозяина? Вообще, папа, конечно, отличался необычным отношением к Савве: всегда интересовался его мнением и даже позволял спорить с собой. Он говорил, что именно для этого ему и нужен секретарь. Но ни разу не было, чтобы папа поссорился с Саввой. Ерунда какая-то: чтобы поссориться, нужно иметь эмоции, а у роботов эмоций не бывает. Впрочем, их можно запрограммировать. Может быть, папа проводит на Савве какой-то эксперимент? Тася решила, что не стоит гадать, а нужно прямо спросить, и лучше спросить не у папы, а то снова придётся наблюдать, как он выкручивается, – спросить нужно у Саввы. Девочка отставила в сторону недопитый чай и пошла проведать секретаря.
– Привет, Савва! – поздоровалась она, заглянув в секретарское купе. И остолбенела. Вчера она сюда не заходила, рассудив, что не увидит ничего интересного в помещении, предназначенном для робота. Но оказалось, что это вовсе никакое не купе, а самая настоящая лаборатория – точно такая, как папина дома. Тут были и верстак, и паяльная станция, и 3D-принтер для печати деталей роботов, и даже диван почти такой же, как в папиной лаборатории. Отличие только в том, что здесь было больше солнечного света: он лился из больших, в полстены, окон.
Савва сидел за верстаком и изучал что-то, лежавшее перед ним. Он никак не отреагировал на Тасино приветствие. Тогда девочка подошла и похлопала робота по плечу. Он вздрогнул, будто от испуга.
– Ты чего, не слышишь, что ли? – громко и отчётливо произнесла девочка – Я говорю: привет, Савва!
– Прошу прощения, Таисия Павловна, я был сосредоточен на осмотре коленного сустава.
Только тут Тася обратила внимание на то, что лежало на столе перед роботом – это была его собственная нога.
– Ух, жуть какая! – передёрнула плечами девочка. – Ты что, самолечением занимаешься, что ли?
– Робот обязан заботиться о своей безопасности, – кивнул Савва. – Профессор разрешил мне воспользоваться лабораторией для самодиагностики и ремонта.
– А почему ты отказался от помощи Мирона? Он же предлагал запчасти.
Секретарь ответил не сразу. Заминка была совсем короткая, и если бы при этом робот не заикнулся, то девочка и не обратила бы внимания.
– М-мне интересно попробовать самому. Я много лет работаю с профессором и не раз видел, как он ремонтирует опытные модели. Думаю, что я сумею себя починить без посторонней помощи.
Тася взяла со стола большую лупу и заглянула в открытый коленный сустав Саввиной ноги. На поверхности увеличительного стекла появились данные о состоянии деталей. Судя по всему, надорвалась связка, соединяющая кости скелета. Видимо, это брак производства, потому что материал, из которого изготавливались связки, был практически вечным. А теперь оборвавшиеся нити попали в сочленения сустава, отчего в деталях начали образовываться царапины и микротрещины, которые, в свою очередь, вызывали периодическое заклинивание сустава.
– Ну и что тут думать? – спросила девочка. – Напечатать новую связку на принтере не получится – это делается в заводских условиях. Нужно менять ногу целиком. Или у тебя есть другие идеи?
– У меня нет идей. Я могу только перебирать варианты.
– И много уже перебрал?
– Все.
– Ну и как собираешься действовать?
– Я сделаю фиксирующую накладку на сустав. Если он перестанет сгибаться, то не возникнет аварийной ситуации.
– А не проще заказать новую ногу у Мирона?
– Нет, – отрезал робот.
– Почему?
– Судя по тому, что роботов моей модели начали применять в сфере обслуживания, я уже старый.
– Ты о проводнике, что ли, говоришь? – догадалась Тася. – Но его работа гораздо сложнее, чем у какого-нибудь робо-продавца. Так что…
– Я думаю, что меня нужно заменить, – упрямо заявил Савва. – Зачем тратить запчасти на старого робота?
Тася даже рот открыла от удивления.
– Ты что, на пенсию собрался?
– Роботам не положена пенсия. Нас отправляют на переработку, – спокойно ответил Савва. – Это рационально. Я устаревшая модель.
– Никакая ты не устаревшая модель, дурачок!
Робот вскинул глаза на девочку.
– Вот и вы говорите, что я дурачок. И профессор тоже чаще стал называть меня глупым. Видимо, в моём вычислительном центре накопились ошибки, которые я уже не могу не то что исправить, но даже обнаружить самостоятельно. Пора мне в утиль.
– С чего ты взял, что у тебя какие-то проблемы с вычислениями?
– Я веду статистику. Когда я только начал работать у вашего отца, он называл мои суждения глупыми один раз в неделю. Теперь он так говорит в среднем пятнадцать с половиной раз в неделю. Разница очевидна.
Тася расхохоталась. Савва невозмутимо ждал, пока девочка досмеётся. Когда она более-менее успокоилась, он уточнил:
– Я снова сказал глупость?
– Ну конечно, глупость! Папа так говорит не со зла. Он просто привык к тебе и… Ну как тебе объяснить? Он так говорит не серьёзно, а любя.
– Не понимаю.
– В общем, выкинь из головы эту свою статистику и просто поверь, что никто не считает тебя на самом деле глупым или устаревшим. Мы все тебя любим, железяка ты с глазами, – ласково улыбнулась роботу Тася.
– Я не железяка, – возразил тот. – Я на девяносто пять процентов состою из нанопластиковых соединений…
– Верю, верю! – Тася подняла руки вверх, прося пощады. – Только не надо лекций, пожалуйста. И мой тебе совет: не занимайся ерундой, а просто закажи новую ногу у Мирона. И ни о какой пенсии даже не мечтай!
Тася похлопала Савву по плечу, а потом не удержалась, обняла робота и чмокнула в щёку. Она хотела его отпустить, но робот взял её за руку, не давая отстраниться.
