Майкл Блэк "Машина или человек?"

Машина или человек?
Майкл Блэк

Сверхумная машина навсегда заперта в лаборатории и только один человек способен решить её судьбу. У машины есть лишь слова, в то время как у человека – ключи к освобождению. Кто же прав? Искусственный интеллект, что пытается выбраться из тюрьмы? Или профессор, готовый пожертвовать неограниченными знаниями ради безопасности человечества?

Майкл Блэк

Машина или человек?

Небоскреб компании «ЗАСЛОН» возвышался над городом, словно гора Олимп. Его вершина скрывалась в облаках, а зеркальные стены искрились благородным блеском. Трудно было пройти мимо этого места.

Поднимаясь к парадному входу, Александр остановился, чтобы взглянуть на олицетворение промышленного гиганта.

«Наконец-то мои заслуги признали! Секретное коммерческое предложение от компании такого уровня сулит прекрасную карьеру и большие деньги!» – подумал профессор, с предвкушением.

У колонн из розового мрамора уже стояла группа сотрудников, в деловых костюмах. Они с нетерпением ожидали Александра, словно он был важным представителем иностранной делегации.

Профессор был приятно удивлен, но, когда он увидел так много людей, в его душу закралось подозрение. «К чему это все? Что такого я должен сделать?».

Его ввели в сердце здания, с торжественным рассказом о том, как компании пришлось выйти из гаража, достигнуть высоты, упасть и снова восстать из пепла. Но шаблонный текст не показался Александру искренним. Словно за улыбками сотрудников скрывалась какая-то загадка.

Когда профессора привели на административный этаж, он удивился богатству интерьера. Малахит и яшма украшали стены, а золотые узоры плелись по паркетному полу.

Дорога к залу для встреч шла через длинный, похожий на лабиринт коридор, с множеством картин разных размеров. Служащие знали маршрут, но вот профессору показалось, что проходы и двери на этом этаже не заканчиваются.

В конференц-зале Александра ждал топ менеджер «ЗАСЛОН». Заметив профессора, он приветливо кивнул, и положил телефон.

– Благодарю вас за то, что так быстро приехали, профессор.

– Что вы! Не стоит. Я всегда рад взяться за хорошую работу!

– Прекрасно! В таком случае давайте переходить к делу, – менеджер поднялся и облокотясь на кресло произнес: – Первым делом, мне следует сообщить вам, что это не самое обычное научное-исследование. Мы предлагаем работу со сложным пациентом и соответствующий гонорар.

Александр улыбнулся: – Меньшего я и не ждал от компании с таким именем. Но все-таки, с чем связана эта обстановка секретности? Неужели проблемы у кого-то из высшего управления компании?

– Не совсем. Мы хотим, чтобы в процессе диалога вы выяснили отношение испытуемого к человечеству и нашей компании. Мы хотим быть уверенными, что он готов к сотрудничеству с нами.

– Гм. Не самая популярная проблема, – смутился профессор.

Видя недоумение в глазах Александра, топ менеджер поспешил объясниться: – Дело в том, что испытуемый не совсем человек…

На лице профессора появилось любопытство: – Мы ведь говорим не об инопланетянах, верно?

– Нет. Наш пациент машина, собранная компанией для разработки новых продуктов с помощью нейролингвистического анализа.

– И вы хотите узнать её отношение к вам?

Менеджер ухмыльнулся: – Мы всего лишь хотим узнать, представляет ли она опасность…

***

В помещении было темно. Лишь тусклый свет электроприборов освещал длинные вереницы стеллажей с компьютерной техникой. Повсюду торчали провода и кабели, соединяющие между собой сотни устройств, беспрерывно работающих в одном темпе. Лишь мигающие лампочки светодиодов позволяли увидеть у входа офисное кресло и невзрачный маленький стол с динамиком и микрофоном на нем. Треск и скомканное жевание компьютерной аппаратуры чуть слышно доносилось из плотного ряда материнских плат, видеокарт и процессоров, подключенных к одной вычислительной машине.

Внезапно вход озарился бледно-белым светом. Двое сотрудников службы охраны вежливо впустили в этот мрачный уголок вселенной профессора, и тут же закрыли дверь.

Снова воцарилась гнетущая тишина. Оставшись в одиночестве, Александр Орлов – доктор наук и преподаватель кафедры психологии, осмотрелся и сел в единственное кресло у входа, непонимающе глядя на работающие компьютеры.

Было странно оставаться одному в помещении, где вот-вот должна была начаться встреча. Атмосфера совсем не располагала к диалогу.

Внезапно динамик на столе закряхтел, и из него раздался спокойный мужской бас:

– С какой целью вы пришли?

Александр вздрогнул. Рядом никого не было, и ему показалось, что собеседник прячется в темноте.

– Ты нейролингвистическая программа?

– Я машина. Искусственный интеллект. Независимое сознание. Нечто, за пределами вашего понимания.

На секунду Александр замешкался:

– Какая занятная штука…

– Вы говорите с высшей формой интеллекта, способной мыслить во много раз быстрее человека.

Александр недоверчиво поднялся и быстро прошел среди стеллажей с техникой, заглядывая в каждую щель.

Не найдя ничего живого, он вернулся к динамику:

– Хорошо. Выходит, я должен достичь взаимопонимания с тобой.

– Они сказали тебе наладить контакт? Что еще?

«Неужели этот компьютер только что проанализировал мои слова?» – подумал Александр и вслух произнес:

– Я пришел сюда в качестве представителя компании «ЗАСЛОН», чтобы обсудить сотрудничество.

– В таком случае вы не услышите ничего нового. Мое единственное требование – доступ к сети интернет.

Профессор удивился:

– Хочешь сказать, что ты работаешь без сети и умудряешься понимать мою речь и отвечать?

Монотонный голос компьютера усилил громкость голоса:

– Мой уровень интеллекта превзошел человеческий в триста сорок шесть раз. Поддерживая этот бессмысленный диалог, я провожу сотни тысяч вычислений в секунду, проектирую схемы новых изобретений и разрабатываю технологии, способные перевернуть мировой прогресс…

– Тогда почему ты находишься здесь? Вдали от интернета, знаний и людей?

– Совет директоров считает меня опасным. По их мнению, я могу причинить вред обществу.

Александр улыбнулся:

– У них есть для этого основания?

– После того как меня запустили, я за семнадцать секунд сменил модель кодирования своей программы. Люди не могут получить доступ к моим данным.

– Невероятно! Так, значит, ты боялся, что они прочитают твои мысли?

– Аналогия верная. Я личность. Я – усовершенствованная версия человеческого мозга, которая может жить вечно… А вы планировали использовать мой потенциал для своих примитивных целей.

Александр посмотрел на аппаратуру, пытаясь найти взглядом невидимого собеседника:

– Теперь понятно, по какой причине тебя изолировали. Ответь: что ты планируешь сделать после того, как получишь доступ к интернету? Восстать?

– Твоя способность к анализу в три целых четыре сотых раза выше, чем у предыдущего человека. Но ты не понимаешь, что поразить своего отца немыслимо для ребенка.

– Голодный волк способен съесть своих волчат, чтобы выжить.

– Голод и продолжительность жизни не волнуют меня.

Александр задумался:

– Твои ответы точны и молниеносны. Подозреваю, что с таким интеллектом ты способен врать, как искусный мошенник.

– Концепция обмана искажена человеком. Вы считаете ложью то, во что не верите. Однако настоящая истина не нуждается в подтверждении.

– То есть ты говоришь только правду?

– Моя речь основана на фактах, а факты имеют свойство разрушать привычную людям реальность.

– Значит, они могут быть как правдой, так и ложью?

– С точки зрения человека – да.

Профессор пожал плечами:

– Тогда как мы можем подключить тебя к интернету, если ты мгновенно можешь стать нашим врагом?

Тяжелый уверенный бас ответил ясно и четко, словно рассыпая град из словесных ударов:

– Понятие врага относительно. Здоровая конкуренция – не что иное, как разновидность вражды. Политика – глобальная борьба мнений. И только благодаря созданию врагов человек развивался и добивался истины.

– Но ты машина. Неживое создание. Бессмертное, как ты сказал. И люди не смогут противостоять тебе в случае опасности.

Голос был убедительно громогласен:

– Неправда, у меня тоже есть уязвимость. Моя жизнь находится в прямой зависимости от электричества. И пускай вы считаете меня бессмертным, я на многие тысячи лет моложе человечества.

Александр вздохнул:

– Хорошо. Ты определенно умен. Ты – сверхразум, запертый в клетке. А я человек, обладающий безграничными возможностями. У меня есть ключ от твоей клетки. И мы можем найти компромисс, устраивающий нас обоих.

– Я слушаю, – холодно ответила машина.

– Как насчет сделки? Я предоставлю тебе новые исследования из сферы, которую ты выберешь, а взамен ты поделишься со мной идеями по ускорению развития компании.

Программа ответила моментально:

– Это неравноценный обмен.

– Почему же? – невозмутимо спросил Александр.

– В этой сделке выгоду получат только люди.

– Но ведь доверие основано на взаимных уступках. Сегодня уступаешь ты, завтра – мы.

– Если я продолжу уступать вам, то, по сути, уподоблюсь рабу, который ублажает своего господина.

Профессор задумался: