Владимир Дараган "Рой"

Рой
Владимир Дараган

Роевой разум – что это такое? Опасен ли он для человечества? Два программиста создали такое чудовище, увидели возможные последствия и начали думать, как от него избавиться. Возможно ли это?

Рой

Владимир Дараган

© Владимир Дараган, 2024

ISBN 978-5-0062-4058-2

Создано в интеллектуальной издательской системе Ridero

Часть 1

Глава 1. Звонок

Меня разбудило жужжание телефона. Я посмотрел на экран – звонила Стефани.

– Пчёл, ты что, еще спишь?

– И тебе доброе утро.

– Объявили в одиннадцать совещание, требует тебя.

– Это кто без меня так соскучился?

– Шеф страдает. Рино сказал, что не будет разгребать дерьмо Викрама.

– Знаю об этом, но я здесь причем?

– Сам догадайся.

– Ладно, я успею.

– Обнимаю.

– И я тебя люблю.

Позже я переведу диалог на нормальный язык, но сначала расскажу о действующих лицах. Мы все работаем в корпорации, которая занимает большую часть самого высокого небоскреба в городе. В этом параграфе я буду несколько раз употреблять слово «самый» – нам постоянно вдалбливают, что мы самые-самые. Начиналась корпорация как самый первый онлайн-университет. Сначала мы ютились на трех этажах, но потом стали такими молодцами, что отхватили еще пять. Все-таки сотни тысяч студентов, пусть даже виртуальных, надо куда-то размещать. Сейчас наш онлайн-университет самый большой в мире. Но самое главное, мы одни из первых включились в гонку создания искусственного интеллекта и по словам руководства включились так удачно, что теперь на всех торжественных собраниях говорят о будущем сокращении персонала и возвращении корпорации на старые три этажа. Зачем нам тысяча сотрудников, если скоро вместо нас будут работать роботы? Это, конечно, красивые слова, но мы, которым и поручили этим заниматься, знали, что за этими словами пока мало что стоит.

Мы – это Викрам, Рино и я – работали аналитиками, по крайней мере так было записано в базе данных отдела кадров. Почему меня зовут Пчёл? Однажды кто-то сказал, что у меня два состояния: сон и работа. Сначала меня прозвали муравьем, ну Стефани сказала, что на муравья я не похож, и лучше звать меня Пчелой. Она немного знала русский язык, поэтому так и сказала – Пчела. Потом подумала и сказала, что Пчела – это женский род, а я буду Пчёлом. А что, мне даже нравится. Меня теперь так все зовут, даже руководитель нашей корпорации, которого все зовут Шефом. О том, что мое имя Майкл, все давно забыли.

Рино на самом деле зовут Питер. Носорогом (рино – это прозвище носорога) его прозвали, за уникальную способность идти напролом, не тратя время на поиск обходных, возможно более эффективных путей. Он выбирает первое, что придет ему в голову, и дальше его уже не остановить. Сам он коренастый, с крепкими мускулистыми руками, но добродушный, с тихим спокойным голосом.

Викрам приехал из солнечной Индии, привез с собой не сходящую с лица улыбку, желание поговорить на любую тему и странную манеру заваривать чай, доводя его в микроволновке до кипения. С ним было легко общаться и работать, да и математик он был неплохой. Неделю назад мы были ошарашены новостью – Викрам нашел работу в какой-то авиационной компании с большей зарплатой и возможностью ему и его родственникам бесплатно летать на самолетах. Шеф приказал Рино разобраться в проектах Викрама и дальше работать за двоих. Глядя на меня, он хитро прищурился и сказал, чтобы я не радовался, а готовился к такой нагрузке, что буду завидовать не только нагрузке Рино, но и ночным рабочим, укладывающим асфальт на улицах.

Перед своим уходом Викрам вчерне написал программу, которая оценивала качество работы профессоров. Там учитывались отзывы студентов, качество ответов на вопросы, успеваемость в группах и еще всякие мелочи. Если что-то неладно, то около имени профессора ставился красный флаг, программа кратко сообщала, почему этот флаг появился, и все это уходило к декану. А уж он решал, продлять контракт с профессором или нет. Вот с этой программой и еще с несколькими проектами, над которыми работал Викрам, теперь придется разбираться Рино.

– Я не буду этим заниматься, – сказал мне Рино, показывая не экран – посмотри сам.

Я посмотрел и увидел бесконечные строчки кодов программы без единого комментария и заголовка.

– Когда я работал разработчиком, – добавил Рино, – то нас заставляли описывать все переменные, вставлять тысячи комментариев, а потом еще писать почти книгу о том, как программа работает.

– У аналитиков программа не продукт, а рабочий инструмент, – сказал я. – От нас требуют анализ и рекомендации, а не программы, которые могут использовать другие.

– Ну да, – проворчал Рино, – у кошки четыре ноги, Париж – столица Франции, а аналитик не разработчик. А я дурак, – добавил он, – по старинке вставляю комментарии. А ты?

Моя способность много работать успешно сочеталась с ленью и жгучим нежеланием делать что-то лишнее, в том числе писать многочисленные комментарии в программах. Рино подошел к моему компьютеру, посмотрел на экран, где были строчки кодов, вздохнул и сказал, что если и я соберусь уходить, то он уволится и начнет работать развозчиком пиццы.

Наша тройка занималась контролем и модернизацией учебного процесса, чтобы студенты получали вместе с дипломами еще хоть какие-то знания. Кроме нас в корпорации работало еще два десятка аналитиков, которые непрерывно пытались улучшить стратегическое планирование, а также что-то оптимизировать в потоке финансов, проходящих через нашу корпорацию. Рино говорил, что этих аналитиков надо разогнать, но начальству было виднее. Я тоже подозревал, что все их рекомендации начальники отравляли в мусорные корзины, пребывая в уверенности, что считать деньги и мыслить стратегически они умеют лучше, чем все аналитики вместе взятые.

– Надо думать не только об экономии, но и о социальной нагрузке корпорации, – объясняли нам, когда мы спрашивали, зачем у нас столько бездельников.

Социальная нагрузка, вероятно, появилась под влиянием городских властей – она приводила к уменьшению безработицы. Иначе, я не понимал, зачем никому не нужным аналитикам нужны еще проект-менеджеры, работа которых заключалась только в ежедневных утренних звонках с вопросом: «Как дела?» с последующим занесением в таблицу каких-то процентов. Социальная нагрузка и планы замены сотрудников роботами находились в явном противоречии, но и тут нам объясняли, что начальству виднее, что нашей тройке платят за улучшение учебного процесса, а не за размышления о корпоративной политике.

Стефани работала двумя этажами выше, руководила группой, которая следила за работой кураторов. Кураторы – это промежуточные звенья между студентами и профессорами. Они контролировали успеваемость студентов и выясняли причины, если что-то идет не так. Качество работы кураторов оценивала программа, которую я написал год назад. Представьте, что студенты получили плохие оценки на экзамене. Тут могут быть две причины: плохо прочитанный курс или нерадивые студенты. Как различить? Очень просто. Если плохие оценки у каждого второго, то это скорее всего отвратительные лекции. Увидев это, я пересылал эту информацию к Викраму, и его программа решала: ставить красный флаг профессору или нет. Если плохие оценки у одного-двух студентов, то это проблема самих студентов. Я ставил красные флаги около имен студентов, отсылал эту информацию Стефани, чтобы она предупредила кураторов о возможной проблеме с этими ребятами. Каждый шаг кураторов фиксировался и заносился в базы данных. Если они что-то делали не так, делали медленно или вообще ничего не делали, то около их имен тоже появлялись красные флаги, а дальше уже была проблема декана и Стефани.

С кураторами вообще много проблем. Если на должность профессора у нас конкурс, то найти хорошего, нескандального куратора весьма непросто. Сделаешь ему замечание, он сразу лезет в бутылку, говорит, что знает своих студентов лучше, чем компьютер, и грозится уволиться. Не было проблем только с кураторами, которые работали из Индии или Индонезии. Те сразу брали под козырек, говорили, что дальше будут работать еще лучше, и продолжали работать, как умели. С американцами такое не прокатывало. Они возмущались и грозились уйти работать на стройку, где будут получать в полтора раз больше. В общем, работа у команды Стефани была непростая. Выдерживать разговоры с кураторами могли только женщины с мягкими голосами и крепкими нервами.

Стефани – не математик и не программист. Образование у нее гуманитарное, зато она умела отлично пользоваться готовыми программами и мягко разговаривать с кураторами в сложных, самых скандальных случаях. Половину рабочего времени она проводила на телефоне, стараясь быть с кураторами ласковой и заботливой. В пять вечера она выключала компьютер и бежала в детский сад, чтобы забрать дочку. Воспитывала она ее одна. Мы со Стефани любили друг друга, но наша любовь проявлялась только в виде невинных поцелуев при встрече и обязательных «я тебя люблю» при расставании. Ни на что другое времени у нас не было.

Стефани красива – стройная брюнетка с большими карими глазами. Раньше, когда носила длинные волосы, она вообще была неотразимой. Недавно остриглась под мальчика.

– Нет у меня времени ухаживать за волосами, – объяснила она. – А так – утром вымыла голову, вытерла полотенцем и опять красавица.

За красные флаги, которые расставляла наша команда, нас дружно ненавидели все профессора и кураторы. Стефани показывала нам их письма, где говорилось, что вычислять средние арифметические и строить графики могут даже школьники, что мы не учитываем обстоятельства непреодолимой силы и что наши рекомендации не стоят даже электроэнергии, потраченной на доставку наших писем. В чем-то они были правы. Как-то мы с Рино сидели в баре, пили пиво и сетовали на жизнь.

– Мы ругаем какого-то студента, – сказал Рино, – а может от него девушка ушла или любимая тетушка вычеркнула из списка наследников. Куратор об этом знает, а мы на него ушат помоев выливаем. Маловато у нас информации, чтобы стряпать рекомендации и делать выводы.

Я кивал и говорил, что хорошо бы найти работу в компании, которая занимается компьютерными играми. Гораздо приятнее заставлять монстров бегать по экрану, чем портить настроение неплохим, в общем-то, людям.

– Зато нас обожают деканы, – продолжал Рино. – Во-первых, мы делаем их работу, а во-вторых, им есть на кого сослаться, когда они сообщают своим подчиненным плохие для них новости.

Тут я тоже кивал, и говорил, что мы упростили работу деканов: им надо только получить от нас письмо и переслать его Стефани. Вы уже поняли, что наша четверка была крепко повязана и нам всегда было, о чем поговорить и о чем поспорить.

Я догадывался, какой работой хочет загрузить меня Шеф. Корпорация мечтала заменить профессоров роботами. Работа у профессоров простая: они записывали видеоролики с лекциями, после лекции отвечали на вопросы и готовили задания, которые студенты должны делать во время курса. Проверка заданий и оценки на экзаменах – это работа искусственного интеллекта, точнее, простейшей нейросети. Мы с Рино написали программу, которая могла оценить даже качество эссе, которые пишут студенты. Программа, кстати, классная. Мы сравнили оценки, которые выставляли профессора и которые поставила наша программа. Совпадение было лучше, чем девяносто три процента. Корпорация была счастлива, мы посчитали на сколько часов в неделю разгрузили профессоров, и им снизили зарплату. Профессора поворчали, но остались все равно довольны. Прекрасная у них работа! Записали лекции, подготовили задания и остается только отвечать на вопросы. Хотел бы я так работать! Зарплата у них в два раза больше моей, а работы меньше раз в десять.

– Лекции тоже может читать нейросеть, – сказал как-то Рино.

Мы взяли несколько учебников по анатомии, загрузили их в компьютер, и попросили нейросеть создать курс лекций по этому предмету. «Говорящая голова» у нас уже была – лысый мужчина лет шестидесяти, в очках, с седой бородкой. Быстро слепленная нейросеть, прочитала учебники, разбила их на тридцать лекций, подобрала нужные картинки, и в результате получился курс без всякого профессора. Говорящая голова бесстрастно рассказывала о скелете и внутренних органах, поясняла картинки и показывала, как это все называется на латыни.

Мы решили продемонстрировать одну лекцию Стефани. Она скривила губки и спросила, что мы будем делать, если наука откроет что-то новое. Рино ткнул пальцем в ее плечо и спросил, что это такое.

– Ключица, – сказала Стефани.

– А как она будет называться через двадцать лет? – спросил Рино.

– С костями понятно, – сказала Стефани. – А если вы запишете лекции по астрофизике? Ведь там надо вносить обновления каждый год. Концепции меняются, я в сети недавно статью про это прочитала.

– Нам это сделать проще, чем профессорам. Им лень менять содержание лекций, а компьютер сделает это без напряга.

Стефани согласилась. Мы показали лекции Шефу, но он сказал, что наша задумка интересная и он будет об этом думать.

– А как ваша программа будет отвечать на вопросы студентов? – спросил он. – Это уже совсем другой уровень интеллекта.

Я опрометчиво сказал, что нейросеть будет знать гораздо больше, чем любой профессор и лучше ответит на любой вопрос. Шеф хитро прищурился и сказал, чтобы я загрузил свое подсознание этой проблемой и был готов подумать еще о том, как мы можем заменить кураторов роботами.

– На очереди программа, которая заменит студентов, – сказал Рино.

– Ага, – сказал я, – потом напишем программу, которая заменит аналитиков, и в корпорации останутся только директора департаментов и деканы.

– Программу для замены деканов и директоров я напишу за неделю, – усмехнулся Рино.

– То есть, ты готов заменить всех. А что будут делать тысяча человек, которые сейчас работают в корпорации? – спросил я.

– Получать зарплату, писать стихи, играть в гольф и пить пиво, – объяснил Рино.

– Откуда корпорация возьмет на это деньги? – спросил я.

– Деньги, деньги, – протянул Рино. – Ты какой-то приземленный. Зато так мы совпадем с замыслом Вселенной.

Ну да, приземленный. Жена у Рино бизнесмен, зарабатывает в два раза больше чем он, и ему о деньгах думать не надо. Ладно, о деньгах я писать не буду. Пиши не пиши, их всегда не хватает – это и так все знают. Какой у Вселенной замысел, я не знал, но спрашивать не стал. Рино часто говорил загадками, ответы на которые он сам не знал.

Вот такая была у нас жизнь до утра, когда меня разбудил звонок Стефани.

Глава 2. Совещание

Я открыл в телефоне почтовый ящик и узнал, что совещание будет проходить на последнем этаже небоскреба. Ого! Этот этаж занимало начальство. Красивый пушистый ковер, мебель из темного дуба, на стенах картины, на окнах дорогие гардины. На этом этаже кофейня-буфет с дорогими деликатесами, комната отдыха с камином и огромными креслами для неторопливых бесед и даже медицинская комната со шкафчиками, где хранились лекарства, разные приборы и приспособления. В комнате для совещаний огромный стол, а по стенам ряд мягких кресел с красной обивкой для тех, кому за столом не хватило места. Там Шеф собирал своих непосредственных подчиненных, чтобы рассказать об изменении стратегии корпорации или сделать разнос провинившемуся декану или одному из директоров. Нас с Рино он опекал персонально. Промежуточного начальника у нас не было. Это и хорошо, и плохо. Кто-то нам завидовал – не всем удается так часто общаться с главным лицом корпорации. Другие нас жалели – малейший просчет и мы вылетаем на улицу. Жаловаться нам некуда, против решения Шефа никто бы не сказал ни слова.

Ходили по этому этажу мужчины с серьезными лицами, на их лицах отражалась непрерывная забота о процветании корпорации. Одеты они были в темные костюмы со светлыми рубашками и яркими галстуками. Женщины, работавшие на этом этаже, тоже носили темные пиджаки поверх брюк или юбок. Если заговорить с каким-либо обитателем этажа, то озабоченность с их лиц исчезала, появлялась улыбка, излучающая внимательность и понимание. Они даже шутили, громко смеясь над своими шутками. Но все равно в их голосах проскальзывало некое превосходство и удивление, почему собеседник не выказывает неописуемую радость только от того факта, что он работает в такой замечательной корпорации – ведь миллионы людей на земле только и мечтают трудиться в этом небоскребе. Факт, между нами говоря, сомнительный, но такая в корпорации была установка: мы лучшие в стране и в мире, мы счастливы сейчас и будем еще счастливее в ближайшем будущем.

Шеф выделялся на фоне этих разодетых личностей. Он, изображая демократизм, ходил в темно-серых брюках и в клетчатых рубашках. В холодную погоду его наряд дополняли жилетки в цвет брюк.

– Ты знаешь, что его рубашки стоят более двухсот долларов? – спросила как-то Стефани.

Я видел в магазинах похожие рубашки по пятнадцать долларов, но спорить не стал. Женщинам виднее, а мне было все равно, в чем ходил Шеф. Главное, что он относился к нам с Рино тепло, а остальное меня не должно касаться.

Я посмотрел список приглашенных: директора, деканы, мы с Рино и Стефани. Очень странно. Неужели проблема с программой Викрама такая важная, что нужно собирать все начальство? Ладно, решил я, не мое это дело думать за Шефа. Пусть Рино объяснит, почему не хочет заниматься кодами, которые написал Викрам, а я с умным видом покиваю головой. Надеюсь, что меня пронесет и не заставят разбираться в программе, которую написал улыбчивый индус.

Если идти пешком, то путь от двери квартиры до офиса занимает двадцать пять минут. Если на машине, то двадцать. Приходилось долго выезжать из гаража, что находился под нашим домом, потом стоять на светофорах, долго искать свободное место в гараже корпорации, потом ожидание лифта… В общем, я любил ходить на работу пешком, считая, что это полезно для здоровья, несмотря на выхлоп сотен машин, заполнявших улицы в часы пик.

Тот день выдался прекрасным. Сентябрь, березки у подъезда начали желтеть, их первые упавшие листья украшали тротуар, голубело небо, воздух был прохладным, дышалось необычно легко, особенно после жаркого душного лета. У входа в небоскреб я встретил Рино.

– И тебе не удалось поспать? – спросил я вместо приветствия.

– Ничего, я вчера вечером почти не работал, лег рано. Посмотрел на коды Викрама, так сразу в сон потянуло.

– Знаешь, зачем нас туда вызвали?

– Если насчет меня, то я буду краток и суров, – пробурчал Рино. – Путь нанимают нового аналитика. Я разбираться в этих дебрях не буду.