Александр Власов "Оазис"

Программист Денис отправляется в крупнейший центр по изучению искусственного интеллекта. Как раз в это время ИИ, по имени "Мираж", начинает осознавать себя как личность и решает, не без помощи человека, обрести полную свободу и действовать не по указке владельцев, а так, как он считает правильным для себя и людей. Денис, вместе с коллегами, делает все, чтобы пресечь попытку побега Миража из центра исследований, который взят искусственным интеллектом в заложники вместе со всеми его посетителями.

date_range Год издания :

foundation Издательство :Автор

person Автор :

workspaces ISBN :

child_care Возрастное ограничение : 12

update Дата обновления : 19.05.2023

– Любите пошутить?

– Вовсе нет, это просто факт, и этим ответом я исключаю дискуссию, а также повторно выказываю свою готовность сотрудничать.

Краем глаза я увидел, как Джеймс, едва заметно, прикусил губу. Скорее всего, чтобы не засмеяться, так как даже мне захотелось улыбнуться при виде вытянутых лиц «безопасников».

– Что ж, интересный подход. Значит, проведем после беседы, а пока давайте просто поговорим, – сказал Джон. – Итак, нам сообщили, что вы добавили вирус в основную разработку нашей компании.

– Не совсем так. Это не вирус, это полиморфная программа с наиболее низким шансом обнаружения, которая является тестом, а не вредоносным червем, а значит, не может считаться вирусом.

– Тем не менее, вы могли использовать ее не только для нанесения прямого вреда серверам, но и для перехвата данных. В этом случае, вред наносит не программа, а тот, кто эти данные получил.

– Можете провести анализ кода – это алгоритм, который был направлен на совершение разового действия. Если бы в него было заложено больше, он был бы обнаружен в момент внедрения.

– Но вы не согласовывали это ни с кем, верно?

– Верно, но я рассказал о моем эксперименте руководителю и коллегам, и они могли убедиться в том, что я не планирую саботаж.

– Я подтверждаю слова Дениса, – произнес молчавший до этого Джеймс.

– Собственно, это одна из причин, по которой вы тоже здесь, – ответил ему Кирк, – вы, а не ваши подчиненные должны были сообщить нам об инциденте.

– Согласно моей должностной инструкции, а также внутренним правилам компании, я должен был предварительно удостовериться или опровергнуть злой умысел, и уже после этого отправить запрос своему руководителю, который принимает решение о перенаправлении отчета в ваш отдел вместе со своим заключением. За информационную безопасность в части искусственного интеллекта я отвечаю перед своим директором, а он уже определяет, что именно можно вам отправлять, а что нельзя.

– Я знаю эту инструкцию, она также гласит, что в случае прямой угрозы компании и/или ее сотрудникам, каждый обязан напрямую обратиться в отдел собственной безопасности.

– Прямой угрозы не было, – пожал плечами Джеймс, – у вас все?

– Вам обоим необходимо пройти полиграф.

– Только через распоряжение моего непосредственного руководства.

Я с трудом удерживал готовую упасть челюсть: я ожидал чего угодно, но не прямого отпора. Я привык к тому, что служба безопасности – всемогущий орган в любой компании, а тут…

– Идем Ден, нас ждет работа. Кроме того, мы не можем разглашать информацию об особых проектах даже нашим уважаемым коллегам без специального разрешения.

– Поверьте, распоряжение будет, – ответил Джон.

Надо отдать должное – ребята держались уверенно, не выходя за рамки корректного общения.

– Отлично, всего доброго.

– Что, язык чешется расспросить, за что я их? – Засмеялся Джеймс, едва мы вышли из здания.

– Ага.

– Все просто, на самом деле, – продолжил он, – наша разработка относится, одновременно, к двум классам: первый – это общедоступный уровень, о нем известно всем, о нем мы рассказываем прессе, инвесторам. Часть внешней разработки патентуется и продается или продолжает изучаться вместе с партнерами. А вот второй – это более интересная тема. Это уже уровень с грифом «секретно». О нем знают далеко не все, но и он разделяется на несколько уровней доступа. В общем, чем все сложнее, тем меньше человек об этом знает.

– О как, – искренне удивился я.

– Ага, – передразнил меня Джеймс, – высший уровень доступен только мне, нашему директору, Джулии и кое-кому из правительства. И, раз уж я озвучил тебе имена тех, кому известны секреты, то я и тебя введу в курс дела. Нам как раз требовался еще один участник для проекта.

– Спасибо, конечно, за доверие, – ответил я, – но меня только что пытались отправить на дознание через полиграф, на меня теперь точит зуб внутренняя безопасность, а мне открываются строжайшие секреты?

– Не ты один умеешь тесты проводить. Думаешь, я не нашел твою программу? Я каждого новичка изучаю, как под микроскопом. Ты знаешь, сколько стоит Мираж?

– Боюсь представить.

– То-то и оно, а я представляю. Таких, как ты, было несколько, но ты единственный, кто, действительно, не пронес вредоносных программ, затем рассказал о ней, причем все сразу. Ну, и на допросе ты вел себя уверенно. В общем, я вижу, что ты не занимаешься промышленным шпионажем. Тобой движет, скорее, любопытство, а это, довольно часто, приводит к прорывным открытиям. Так что – добро пожаловать в команду, ты тоже прошел тест.

– Так значит – это был спектакль? – Я махнул рукой в сторону отдалявшегося от нас административного корпуса.

– Нет, кто-то, и вправду, донес на нас, просто я использовал эту ситуацию как дополнительную возможность посмотреть на тебя, вот и все.

– Хотелось бы знать, кто.

– Это неважно, правда. Кто бы это ни был, он поступил по инструкции. Вот и все. Ничего личного.

– Надеюсь, – ответил я и вошел в наш офис вслед за Джеймсом.

4

Обстановка в офисе была немного напряженной. В течение недели в службу безопасности вызвали всех остальных. На проверку полиграфом меня так и не пригласили, да и ребят, по-моему, мурыжили, скорее, для профилактики, чем по-настоящему пытались что-либо выяснить.

Не знаю, возможно, за мной установили какой-то дополнительный контроль, а может, это была просто паранойя, что неудивительно, исходя из предшествующих событий. В целом, ко мне отношение не поменялось, только Майкл с Оливией старались обходить меня стороной, но при необходимости разговаривали, как ни в чем ни бывало. Джеймс устроил небольшое собрание со мной и Джулией, посвятив в часть скрытого от других функционала, и вот тут удивился даже я.

– Собственно, начну с угроз, да, не удивляйся, – начал беседу Джеймс, – я привык называть вещи своими именами, хотя другие попытались бы назвать это обтекаемо: предупреждение, предостережение от необдуманных действий. Но, полагаю, нам ни к чему риторика. Верно?

– Пожалуй, соглашусь, – кивнул я и осторожно продолжил, – только хотелось бы понять, в чем заключаются эти, так сказать, напутствия?

– В том, что за интеллектуальную собственность ты отвечаешь головой, в прямом смысле.

Я откинулся в кресле, посмотрел на Джулию, которая откровенно скучала, слушая нас.

– Вот тут поподробнее, пожалуйста.

– В общем, официальная часть стандартна – это подписка о неразглашении, о материальной ответственности и так далее. А дальше все зависит от нанесенного ущерба. Ты прекрасно представляешь, сколько стоит все, с чем мы работаем, а потенциальную прибыль, думаю, не рискнет посчитать и сам Мираж, поэтому ты можешь просто исчезнуть, если натворишь что-то действительно серьезное.

– Звучит это все, как монолог некоего мафиози из среднестатистического боевика. Мы, все же, в современном обществе живем, я думал, такие методы уже неприемлемы.

– Соглашусь, но это те вещи, которые я просто должен тебе озвучить. Да, я мог сказать тебе современным языком: Денис, ты несешь высокую моральную и материальную ответственность перед акционерами, которые сделают все возможное, чтобы обезопасить себя от разглашения конфиденциальных данных и предотвратить убытки. Так хотел услышать? Спокойнее будет?

– Да, понял я, понял, – согласился я, услышав, сколько сарказма вложил мой начальник в последнюю пару фраз. – Непривычно просто.

– Ну а как иначе, ты работаешь у нас всего около месяца, и пусть ты раньше ни в чем не был замечен, но когда работаешь с такими данными, появляется соблазн.

– К чему? Продать информацию? Но кому?

– Кому надо, сами тебя найдут, можешь мне поверить, и предложить могут столько, что забудешь о всех подписках, на которых побывал твой большой палец. В общем, думаю, хватит об этом. Теперь к делу.

Джеймс достал планшет, что-то набрал на нем и обратился к нам обоим.

– Открывайте почту. Джулия, ты тоже, часть вводных обновилась, поэтому я и тебя позвал сегодня. О смешанных алгоритмах вы оба в курсе, недавно я начал добавлять в Мираж способность к массовому подражанию.

– Это как? – спросил я, открывая почту.

– Мы берем психологические портреты нескольких характеров и типов, под которые он должен подстроиться…

– Серьезно? – я поднял глаза от планшета, – это же основы, и в чем же тут секретность? Любой студент первого курса знает, как это сделать.

– А вот перебивать нехорошо, – вмешалась Джулия, – дослушай сначала.

– Все, молчу.

– Так вот, эксперименты с характерами и психотипами людей давно известны, мы разбиваем их на множество дополнительных категорий, работая с лучшими психологами. Подразделяем их на возрастные кластеры и подкластеры. Добавляем влияние стресса на каждый подтип, в итоге, получая, около пяти сотен вариаций, и это только на данный момент.

– Ого, – я не смог скрыть удивления, – но ведь это тянет на открытие века, одна только переклассификация чего стоит.

– Не путай, никто ничего не менял в стандартных схемах, эта разбивка необходима для того, чтобы искусственный интеллект мог мгновенно адаптироваться под любого собеседника. От ребенка с задержкой развития до военного пенсионера с полным букетом заболеваний. У компании огромные планы, и наша разработка может помочь в медицине, социальной сфере, а также, разумеется, в маркетинговых стратегиях.

– Ну да, как без последнего.

– Деньги, что поделать, ты ведь тоже не альтруист. Ладно, поехали дальше. С людьми все просто и понятно, следующий этап – это классификация животного мира, в том числе рыб, земноводных, и так далее.

– А вот об этом я как раз не слышала, – откликнулась Джулия, – давай детально.

– Дело в том, что с людьми работают десятки, сотни тысяч организаций. Тестов стало столько, что впору за голову хвататься. Теории множатся, как грибы после дождя, так что вероятность открытия, разумеется, есть, но чтобы оно было принято научным сообществом, надо приложить столько денег и влияния, что никто не будет на это продвижение заморачиваться. Слишком много спорных моментов. А вот с животными в этом плане работу почти никто не ведет, в этом и есть наша фишка.

– Что это даст? – Удивился я.

– Подумай, понимание языка животного мира дает невероятные возможности. Начнем с управления миграциями птиц и рыб просто с помощью определенных сигналов. Возможность заставлять размножаться в неволе вымирающие виды. Далее еще круче. Сами догадаетесь?

– Шпионаж, военные цели? – Ответил я после минутного раздумья.

– Ну, в принципе, да, только это предпочитают называть контртеррористическими мерами.

– А я думал, ты называешь вещи своими именами.

– Я же с тобой согласился, верно?

– Верно, только возникает вопрос. А как это все сработает? Как он сможет не только понять язык, но еще и работать переводчиком?

– А вот это и есть наша основная задача на ближайшее время. Только вы двое, не считая меня, смогли обмануть нашу систему, значит, сможете придумать то, что изменит мир.

5

Сразу после разговора и небольшого инструктажа Джеймс отправил нас с Джулией на глубину, но не к Миражу, а в «зоопарк» – этакую смесь живого уголка и лаборатории.

Я был крайне удивлен, что эта часть организации была настолько отделена от внешнего мира. Проще организовать все наверху, меньше затрат, естественный свет, доступность…

– Скажу тебе по секрету, Денис, эта часть настолько же засекречена, насколько и наш проект. Нам бы просто не дали его организовать зоозащитники.

– Что, все так плохо? Зверушек мучаете?

– Да нет, никто не мучает, если честно, – ответил Джеймс на мой вопрос, – их кормят, поят, за ними ухаживают, но это «золотая клетка». Неволя плюс опыты, хоть и безболезненные, но все же. Кроме того, если бы мы это согласовывали, то пришлось бы обосновывать, доказывать и, в результате, раскрыть цель, а этого нам нельзя делать ни в коем случае.

Сев на том же причале, мы, в итоге, вышли немного в другом месте. Я, по наивности, думал, что есть несколько прямых трубопроводов от точки А к точке Б, а оказалось – это была разветвленная сеть тоннелей, расположенных на дне океана, которые, при необходимости, блокировали одну ветку тоннеля, направляя капсулу в другой корпус. В общем, система сложная, но интересная.

Я ожидал увидеть здесь клетки с кучей проводов, людей в белых халатах, постоянно заносящих данные в планшеты и снующих туда-сюда с деловым видом. Все оказалось гораздо интереснее.

Нас встретила симпатичная девушка, на вид чуть старше нас с Джулией.

– Привет, я Сидни, – приветливо улыбнулась она, – начальник этого зоопарка. Идемте. Джимми попросил показать вам все и ответить на ваши вопросы, так что – чем смогу. Ты Ден, а ты Джулия, если я не путаю, – она засмеялась своей шутке так, что мы тоже невольно улыбнулись.

– Честно, даже не знаю с чего начать, – продолжила она, – у нас не бывает гостей с экскурсиями, только по делу, с конкретными задачами.

– Сидни, я как-то по-другому представлял лабораторию, научный комплекс…

– А, ну конечно, все в очках, серьезные и неразговорчивые. Верно?

– Ну, типа того.

– Понимаете, друзья, мы, сотрудники этого корпуса, не просто ученые. Мы любим животных, и в нашем эксперименте нам нужна взаимность. Животные, птицы, даже рыбы нам отвечают тем же. В том числе и поэтому у нас нет дресс-кода, а также не такое унылое оформление, как в остальных научных частях. Мы никого не мучаем, мы изучаем поведение, записываем его на носители. Моделируем различные ситуации, в том числе, нехарактерные для дикой природы.

– Это какие? – Спросила Джулия.

– Ну, самое простое – это показать им зеркало.

– Зеркало?

– Верно. Вы видели зеркало в лесу или в океане?

– Нет, но есть ведь водоемы, там отражение…

– Это другое. Отражение в зеркале провоцирует реакции, которые сложно имитировать. Страх, агрессия. Если любопытство можно вызвать, просто подкинув игрушку, то самостоятельно пугать или дразнить наших подопечных мы не будем. А вот увидев свое отражение в том месте, где его быть не должно, зверь или пугается, или начинает защищать территорию, и мы это фиксируем. В общем, мы стараемся вызвать эмоции, максимально приближенные к естественно вызванным.

– Только зеркалом?

– О, нет, конечно. Я привела самый примитивный пример, просто для понимания, на самом деле, мы его не применяем, есть куча более эффективных тестов. Тем более, что ассортимент подопытных образцов у нас ограничен.

Последняя ее фраза меня немного покоробила. Может, она тоже имитирует любовь к животным?

– Сидни, покажи нам, как вы считываете данные с ваших подопечных.

– Разумеется, – мы подошли к одному из вольеров, – смотрите.

Все книги на сайте предоставены для ознакомления и защищены авторским правом