– Так что там насчёт перелёта? – напомнила Тася.
– Ах, да, перелёт… – очнулся от размышлений профессор. – Так вот… Видишь ли, малыш, этот перелёт показал, насколько мала наша планета.
– Ты уже говорил…
– Не перебивай… За один день три героя сделали то, чего многие годы не могли добиться дипломаты: лётчики объединили русский и американский народы. Об этом очень хорошо сказал Чкалов на торжественном приёме. Савва, помогай.
Секретарь слегка повернул голову в сторону профессора, и из его рта раздался хрип радиопомех, а потом чей-то далёкий голос произнёс: «Есть реки – Волга и Колумбия, которые протекают на разных континентах, имеют неодинаковый нрав, их берега окружают разные горы и леса, но они мирно текут по одной и той же планете, не мешая друг другу, а в конечном счете являются частями одного Мирового океана. Так и наши народы – Советского союза и США – должны жить мирно на нашем маленьком Земном шаре и совместной работой украшать океан жизни человечества».
Запись закончилась. Тася ждала, что дальше скажет папа, но он молчал. Профессор улыбался каким-то своим мыслям.
– Красиво, правда? «Океан жизни человечества…» – наконец произнёс он.
– Красиво, – согласилась девочка.
– А через два года началась Вторая Мировая война. Понимаешь, у меня в голове не укладывается: люди говорят о том, чтобы совместными усилиями украшать океан жизни, а через два года начинается страшная война.
– Но мы же победили! – воскликнула Тася.
– Кто это «мы»? Кого ты имеешь в виду? – грустно вздохнул папа.
– Ясно кто – человечество победило фашистов.
– А фашисты – что, не человечество?
Тася не нашлась, что ответить.
– Конечно, они тоже часть человечества, – Павел Сергеевич сам ответил на свой вопрос. – И, конечно, мы не должны пытаться стереть из истории этот неприятный факт, мол не было такого, не помним – он должен служить нам напоминанием и предостережением. Тем более что и сегодня находятся проходимцы, которые пытаются силой решить проблему, которую легко можно уладить мирными переговорами, – профессор печально покачал головой.
– И что тогда? Ну, я имею в виду, что мы делаем с теми, кто хочет воевать?
– С такими у нас никаких «будьте любезны». Мы даём им решительный отпор. Все вместе, каждый человек в Солнечной системе, – профессор изменился: взгляд его стал серьёзным, жесты – резкими, осанка выпрямилась. – Животные порывы к насилию нужно пресекать на корню. Подожди… Да что я тебе рассказываю? Вы же должны были в школе проходить историю Земного Содружества!
Тася смутилась.
– Это да, – призналась она. – Но наш учитель рассказывает скучно, а у тебя получается так… в общем, мне больше нравится тебя слушать.
– Вот ты лиса! – улыбнулся Павел Сергеевич.
– Папа, а кто решает, когда нужно дать «решительный отпор», а когда можно мирно поговорить?
Улыбка пропала с папиного лица.
– Ты в каком классе, Таисия?
– В шестой перешла.
– И до сих пор не знаешь, как устроено наше общество?
– Знаю, – смутилась девочка.
– Ну тогда ты сама должна знать ответ на свой вопрос. Давай, расскажи-ка мне, как всё работает.
Тася немного сердилась на себя за то, что по собственной глупости выкопала себе ловушку. Но делать нечего, лучше ответить на вопрос, а то папа не отстанет.
– Содружество состоит из свободных государств под общим управлением единого правительства, – принялась рассказывать девочка. – При принятии решений правительство советуется с искусственным интеллектом Акили5. Правительство не обязано следовать его советам, но Акили имеет право отменить любое решение правительства, если оно может навредить человечеству. Например, он отменил запуск ядерных ракет во время двухдневной войны с Марсом…
– А почему он это сделал? – прервал Тасин доклад папа.
– Потому что… – снова задумалась девочка.
– Ну? – подбодрил Павел Сергеевич.
– Акили опросил всех людей, и они сказали, что не хотят войны, – неуверенно предположила Тася.
– Что ж, опрос был действительно проведён, но решающее значение имел не его результат, а заложенные в архитектуру интеллекта Акили общечеловеческие моральные принципы. В отличие от людей, Акили не подстраивает мораль под сиюминутные потребности и желания. Например, для него обман – это всегда обман, независимо от цели, ради которой ты лжёшь, – тряхнул головой Павел Сергеевич. – Так вот, в случае с запуском ядерных ракет было однозначно понятно, что это действие может привести к гибели огромного количества людей, а это неприемлемо ни под каким предлогом. Поэтому Акили отменил запуск, и никто не мог изменить его решения. Потому что Акили действует, думая о благе всех людей, а не какой-то отдельной группы или тем более кого-то одного. Понимаешь? А кроме всего прочего, у него есть установка, известная как закон номер ноль. Ты его знаешь?
– Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред, – отчеканила девочка.
– Правильно. А это возвращает нас к моему первому вопросу.
– Какому? – не поняла Тася.
– Как продвигается твоё эссе? Решила ты, как повлияют законы Азимова на человеческое общество, если применить их к людям?
– Ну это просто! – пожала плечами Тася. – Я вообще не понимаю, почему их до сих пор не применяют. Например, если переделать первый закон под людей вот так: «Человек не может причинить вред другому человеку или своим бездействием допустить, чтобы другому человеку был причинён вред», – то больше никогда не будет войн.
Павел Сергеевич одобрительно покачал головой.
– Прекрасная мысль! А как ты собираешься заставить людей подчиняться этому закону? Всех роботов, напомню тебе, азимизируют – законы робототехники становятся неотъемлемой частью их личности. А как же быть с людьми?
Тася задумалась.
– Не знаю… – наконец пожала она плечами. – Может, гипноз?
– То есть ты предлагаешь загипнотизировать всё человечество?
– Ну да.
– А чем же мы тогда будем отличаться от роботов?
– Но я, в отличие от роботов, живая! – возмутилась Тася.
– Да уж, иногда даже слишком, – папа улыбнулся, обнял Тасю и тихонько подул ей в ухо.
Это было очень щекотно! Тася попыталась вырваться, но папа держал крепко. Тогда она стала щекотать его, а он её. Но папа щекотки не боялся, а Тася просто задыхалась от смеха! Тогда она стала дрыгать ногами и вырываться, а он всё равно не отпускал – и это было здорово!
«Вот всегда он так, – думала девочка, укладываясь спать, после того как папа ушёл в своё купе, – подкинет какую-нибудь задачку, а потом сделает вид, что ни о чём таком серьёзном мы не говорили. А ты потом голову ломай. Теперь до утра буду думать, как запрограммировать человечество, – не смогу уснуть. Вот Врунгель бы, наверное, нашёл выход из положения…»
Она закрыла глаза и стала фантазировать о том, как капитан Врунгель вместе со старшим помощником Ломом будут перевоспитывать сначала шпиона генерала Кусаку, а потом вообще всех людей. Кажется, она вместе с капитаном даже что-то придумала…
Глава 9. О чём мечтают роботы
Когда Тася проснулась, оказалось, что она напрочь забыла казавшийся таким простым и логичным план по спасению человечества, придуманный ею во сне вместе с Врунгелем. Настроение было подпорчено с самого утра.
К тому же никакого обещанного Саввой чудесного рассвета за окном не наблюдалось. А наблюдался тропический дождь, затянувший всё небо от края до края. Он расчерчивал оконное стекло длинными горизонтальными штрихами. Поезд мчался по высокому мосту, проложенному по территории заповедника, и с его высоты хорошо были видны унылые стада антилоп гну, пасущиеся на африканских равнинах, и зебры, сбившиеся потеснее, чтобы переждать холодный утренний дождь, прижавшись к тёплому боку товарища.
Из-за стены вагона раздавались взволнованные голоса. Тася, не переодеваясь, как была в шортах и футболке, выглянула в коридор и прислушалась. Папа о чём-то спорил с секретарём. Но не успела она понять, о чём речь, как дверь папиного купе приоткрылась, и Тася услышала голос Саввы:
– Благодарю за понимание, Павел Сергеевич.
– Вот как раз понимания-то мы с тобой и не достигли, Борменталь… Впрочем, поступай как знаешь.
Не дожидаясь, пока робот выйдет в коридор, девочка юркнула обратно в купе и аккуратно прикрыла дверь. Через минуту послышались шаркающие шаги секретаря. Он остановился у Тасиного купе. «Он что, знает, что я подслушивала? – пронеслось у Таси в голове. – Но я же не хотела! Да я ничего и не подслушала. Тогда чего я боюсь? Надо самой выйти и поговорить с Саввой. Тоже мне тайны мадридского двора!»6 И только она хотела открыть дверь, как снова раздались шаги секретаря: судя по звукам, он ушёл в своё купе.
За окном полыхнуло солнце: поезд вырвался из пелены туч. Тася бросила взгляд в окно да так и застыла. Над широким полем саванны небо разделилось пополам, словно разрезанное ножом. С одной стороны оно было синее-синее, а с другой – затянуто тёмно-серым покрывалом тяжёлых дождевых облаков. Казалось, что кто-то стягивает это покрывало, освобождая небесный купол из плена.
Настроение тут же поднялось. Тася почистила зубы, переоделась, заказала себе завтрак. Заглянула к отцу. Тот был занят – работал. Над столом висел экран голографического монитора, и всё папино внимание было приковано к строчкам программного кода. Папа даже не обернулся, чтобы ответить на Тасино приветствие.
– Кое-кто меня учил, что так делать нехорошо, – напомнила отцу девочка.
Павел Сергеевич отложил рабочий планшет в сторону.
– Прости, малыш! Конечно, так поступать невежливо, – согласился он. – Как спалось на новом месте? Приснился тебе жених?
– Какой жених? – не поняла Тася.
– Это так в моём детстве девочки загадывали, когда ложились спать где-нибудь в гостях. «На новом месте приснись жених невесте», – говорили они.
– Какая странная идея, – удивилась Тася. – И что, снился?
– Ну… честно говоря, я никогда не спрашивал, а они не рассказывали.
– Понятно. Значит, всё это ерунда, – авторитетно заявила девочка. – Ты мне вот что скажи: вы с Саввой поссорились?
– С чего ты взяла?
– А вы меня своими криками разбудили.
– Неправда, мы не кричали.
– Ладно, – согласилась Тася, – не кричали, а громко спорили. Так что случилось?
Павел Сергеевич снял очки и потёр переносицу. Тасе показалось, что он специально тянет время, чтобы хорошенько обдумать ответ.
– По некоторым причинам Савва отказывается от помощи в ремонте, которую предлагает Мирон.
– То есть он отказывается соблюдать третий закон?
– Нет, нет, – поспешно возразил Павел Сергеевич, – не отказывается. Но говорит, что сможет справиться с необходимым ремонтом самостоятельно. Просто не желает принимать помощь от Мирона.
– Ну и глупо. Он что, обиделся?
– Скажешь тоже, – улыбнулся профессор, правда, улыбка получилась какая-то неестественная, – роботы не могут обижаться. А разве тебе не нужно делать домашку? Ты придумала, что напишешь в эссе? – сменил тему разговора отец.
Тася сделала вид, что не услышала вопроса.
– Ладно, я, пожалуй, пойду к себе, – уклончиво ответила она. – Ты занят. Не буду мешать. Пока!
Она выскользнула в коридор и закрыла дверь, прежде чем папа смог что-то сказать. Вернувшись в своё купе, девочка обнаружила, что завтрак уже стоит на столе. Запивая бутерброд с маслом горячим чаем, она думала о том, каким странным ей показался папа утром. Он явно чего-то недоговаривал. И почему он просто не приказал Савве воспользоваться ремонтными мастерскими? Какие могут быть у робота причины, чтобы не слушаться хозяина? Вообще, папа, конечно, отличался необычным отношением к Савве: всегда интересовался его мнением и даже позволял спорить с собой. Он говорил, что именно для этого ему и нужен секретарь. Но ни разу не было, чтобы папа поссорился с Саввой. Ерунда какая-то: чтобы поссориться, нужно иметь эмоции, а у роботов эмоций не бывает. Впрочем, их можно запрограммировать. Может быть, папа проводит на Савве какой-то эксперимент? Тася решила, что не стоит гадать, а нужно прямо спросить, и лучше спросить не у папы, а то снова придётся наблюдать, как он выкручивается, – спросить нужно у Саввы. Девочка отставила в сторону недопитый чай и пошла проведать секретаря.
– Привет, Савва! – поздоровалась она, заглянув в секретарское купе. И остолбенела. Вчера она сюда не заходила, рассудив, что не увидит ничего интересного в помещении, предназначенном для робота. Но оказалось, что это вовсе никакое не купе, а самая настоящая лаборатория – точно такая, как папина дома. Тут были и верстак, и паяльная станция, и 3D-принтер для печати деталей роботов, и даже диван почти такой же, как в папиной лаборатории. Отличие только в том, что здесь было больше солнечного света: он лился из больших, в полстены, окон.
Савва сидел за верстаком и изучал что-то, лежавшее перед ним. Он никак не отреагировал на Тасино приветствие. Тогда девочка подошла и похлопала робота по плечу. Он вздрогнул, будто от испуга.
– Ты чего, не слышишь, что ли? – громко и отчётливо произнесла девочка – Я говорю: привет, Савва!
– Прошу прощения, Таисия Павловна, я был сосредоточен на осмотре коленного сустава.
Только тут Тася обратила внимание на то, что лежало на столе перед роботом – это была его собственная нога.
– Ух, жуть какая! – передёрнула плечами девочка. – Ты что, самолечением занимаешься, что ли?
– Робот обязан заботиться о своей безопасности, – кивнул Савва. – Профессор разрешил мне воспользоваться лабораторией для самодиагностики и ремонта.
– А почему ты отказался от помощи Мирона? Он же предлагал запчасти.
Секретарь ответил не сразу. Заминка была совсем короткая, и если бы при этом робот не заикнулся, то девочка и не обратила бы внимания.
– М-мне интересно попробовать самому. Я много лет работаю с профессором и не раз видел, как он ремонтирует опытные модели. Думаю, что я сумею себя починить без посторонней помощи.
Тася взяла со стола большую лупу и заглянула в открытый коленный сустав Саввиной ноги. На поверхности увеличительного стекла появились данные о состоянии деталей. Судя по всему, надорвалась связка, соединяющая кости скелета. Видимо, это брак производства, потому что материал, из которого изготавливались связки, был практически вечным. А теперь оборвавшиеся нити попали в сочленения сустава, отчего в деталях начали образовываться царапины и микротрещины, которые, в свою очередь, вызывали периодическое заклинивание сустава.
– Ну и что тут думать? – спросила девочка. – Напечатать новую связку на принтере не получится – это делается в заводских условиях. Нужно менять ногу целиком. Или у тебя есть другие идеи?
– У меня нет идей. Я могу только перебирать варианты.
– И много уже перебрал?
– Все.
– Ну и как собираешься действовать?
– Я сделаю фиксирующую накладку на сустав. Если он перестанет сгибаться, то не возникнет аварийной ситуации.
– А не проще заказать новую ногу у Мирона?
– Нет, – отрезал робот.
