Владимир Дараган "Рой"

Роевой разум – что это такое? Опасен ли он для человечества? Два программиста создали такое чудовище, увидели возможные последствия и начали думать, как от него избавиться. Возможно ли это?

date_range Год издания :

foundation Издательство :Издательские решения

person Автор :

workspaces ISBN :9785006240582

child_care Возрастное ограничение : 18

update Дата обновления : 23.02.2024

– И это причина, почему созвали все начальство?

– Шефу виднее. Деканы сразу захотят что-то изменить в программе, а вот хрен им!

– А директора зачем там?

Рино задумался.

– Да уж, – сказал он. – Тут дело посерьезнее, у меня никаких идей.

У двери в комнату для совещаний нас поджидала Стефани.

– Боюсь заходить одна, там все начальники собрались, – сказала она. – Их там полная комната.

Она была права. Я впервые видел столько директоров и деканов, собравшихся вместе. Все кресла, даже стоявшие у стен, были заняты. Свободны были только три, ближайшие к торцу стола, где сидел Шеф. Увидев нас, он махнул рукой, приглашая занять эти места.

– Ни хрена себе, – пошептал Рино. – Что-то сейчас будет.

Шеф встал и начал прохаживаться между столом и огромным экраном, висевшим на стене. Вот он оглядел собравшихся, чему-то удовлетворенно кивнул и сказал декану факультета теоретической физики:

– Кевин, вас не затруднит прикрыть плотнее дверь. Наше совещание весьма конфиденциальное, все, что тут будет сказано, не для посторонних ушей.

Декан, единственный из приглашенных начальников, кто был одет не в костюм, наклонил голову, подошел к двери прикрыл и сел на место. На нем была длинная темно-синяя блуза с черными пуговицами, но под блузой белела рубашка с черным галстуком. Декана все уважали. Он был единственным, кто еще работал профессором – читал курсы по теории поля и квантовой механике. Был он скромен, молчалив, улыбался редко, но умел внимательно слушать и делать точные замечания, если был не согласен с собеседником.

– Да, – начал Шеф, – у нас сегодня сложная повестка. Начну с простого. От нас ушел хороший, даже отличный аналитик и это может притормозить некоторые наши проекты.

– Викрам был очень ценным сотрудником, – встрял декан факультета городского хозяйства. – Любые наши просьбы он выполнял за один день.

Шеф кивнул.

– Вот эту проблему я и хотел обсудить. Я попросил Рино заняться проектами, в которых был задействован Викрам, но понимаю, что это не самый оптимальный вариант решения этой проблемы. Рино, вы можете описать сложившуюся ситуацию?

Рино встал, оперся руками в стол, потупил глаза и сказал, что ему проще написать программу заново, чем разбираться в чужих кодах.

– Открываю файл и вижу переменную ХМ21new, – сказал он. – Что это? Откуда взялось? Никаких комментариев. Понимаю, что это важная переменная, но она может означать все, что угодно.

– Если «new», – сказал декан математического факультета, – то это какая-то новая переменная.

– Знать бы, какая переменная была старой, – пробурчал Рино.

– Довольно, – сказал Шеф. – Мы тут все равно в этом не разберемся, но проблема ясна. Сколько времени вам потребуется, чтобы написать новую программу.

– Минимум месяц, – сказал Рино.

– У меня просьба, – сказал декан факультета городского хозяйства, – Викрам не учитывал, через какое время студент получал ответ на свой вопрос. А это очень важный параметр, для оценки деятельно профессуры.

– Так уж и важно? – спросил декан-физик. – Можно ответить быстро, но кратко и невразумительно. А можно через день обстоятельно и с простыми примерами. Не знаю, что важнее.

– Вот! – воскликнул Шеф. – Кевин сформулировал главное, о чем я хотел поговорить. Но об этом чуть позже. А сейчас мое решение. Программа Викрама, как я понимаю, пока работает. Пусть она не идеальна, но мы не будем загружать Рино такими пустяками. Придет новый аналитик, ему все это и поручим. А сейчас скажите – разве нормально, что уход одного сотрудника создал корпорации такие проблемы? Представьте муравейник. Вы подошли и растоптали сотню муравьев. И что, муравейник от этого пострадает? Ни в коем разе. Их работа мгновенно будет распределена между остальными муравьями, и муравейник будет жить и дальше своей жизнью. Это закон роя, потеря одного элемента никак не сказывается на работу этого роя. Наша корпорация должна стать таким роем.

– Это как, – спросил один из директоров, – на один проект сажать сразу трех аналитиков? У нас и так их как банок сардин в супермаркете.

– Ни в коем случае, – улыбнулся Шеф. – Есть у кого другие идеи?

Все замолчали, стали переглядываться.

– Пчёл, Рино, – зашептала Стефания, – вы же умные, давайте идею.

– Заказывать проекты в сторонних фирмах, – предложил кто-то из деканов. – Пусть у них голова болит. А наших аналитиков выгнать, по деньгам получится так на так.

– Вот-вот, – прошептал Рино, – гениальное решение. Все гениальное – просто.

– Ну уж нет, – сказал декан-физик. – Унижаться перед ними из-за малейшей ерунды. Надо что-то изменить – это будет проблемой. То у них программист заболел, то занят другим проектом. А другому потребуется месяц, чтобы разобраться. Увольте, лучше пусть программисты будут наши.

– Есть идея, – сказал декан факультета городского хозяйства. – Я, кажется, догадался, к чему вы клоните, – тут он осмотрел на Шефа. – Программы будет писать искусственный интеллект. Я прав? Рино и Пчёл написали программу, которая оценивает качество эссе студентов. И оценивает отлично! Я как-то посмотрел на оценки их нейросети и, знаете, я бы оценил так же.

– Уже ближе, – улыбнулся Шеф. – Тепло, как сказали бы в детской игре. Рино, расскажите, как вы оцениваете эссе?

Рино опять встал.

– Ну… – начал он, немного запинаясь. – Сначала робот по ключевым словам определяет тему эссе. Потом просматривает книги и статьи на эту тему – этого добра у нас в базе данных полно. А дальше просто. Робот смотрит, правильно ли использована терминология, оценивает выводы, сравнивая их с выводами статей. Ну и еще по мелочи.

– Вот! – перебил его Шеф. – Все уловили ключевое слово «сравнивает»?

– Уловили, но какое отношение это слово имеет к написанию программ? – спросил декан факультета городского хозяйства.

– А вот какое, – Шеф явно был доволен, дискуссия шла именно так, как он рассчитывал. – Вернемся к проблеме: что более ценно: качество ответа или время, через которое он был получен. Какое ваше мнение?

– Все важно, – раздались голоса.

– Это компьютер не понимает, ему надо знать, что важнее. Какой коэффициент поставить перед этими параметрами.

– Устроим мозговой штурм? – предложил кто-то из деканов.

– Это чушь, – сказал Шеф. – Вы будете что-то говорить, пытаясь, уж меня извините, угадать мое мнение. Вы еще голосование предложите. Это хоть какой-то имеет смысл.

– Студентов надо опросить, – сказал декан медицинского факультета. – Их мнение важнее нашего.

– Прошлый век, – отмахнулся Шеф. – У студентов головы заняты другими проблемами. Их опрашивать все равно, что включить генератор случайных чисел.

– И какой правильный ответ? – спросил декан-математик.

Шеф улыбнулся и сказал, что сейчас покажет парочку интересных видео. Он подошел к компьютеру, нажал пару клавиш и на экране появилось изображение салона автомобиля. Мы увидели руль, на нем две руки в перчатках, за ветровым стеклом мелькали дома, ближайшие к нашему зданию. На экране быстро мелькнул наш парадный вход, мне даже показалось, что я вижу себя и Рино, стоявших у двери. Хотя нет, этого не могло быть. Ведь мы стояли тут за пять минут до начала совещания. Вот показались ворота нашего гаража, они открылись, замелькали припаркованные автомобили. Экран потух. Все сидели молча. Качество видео было плохим, если это снимала камера, то ее объектив непрерывно гулял из стороны в сторону, часто останавливался на спидометре, поворачивался в сторону, показывая боковые зеркала заднего вида.

– А сейчас еще одно видео, – сказал Шеф.

На экране появились страницы какого-то научного журнала, камера останавливалась на формулах и таблицах, увеличивала их, страницы кто-то перелистывал, мы даже слышали шуршание бумаги и чье-то тяжелое дыхание.

– Ну как? – спросил Шеф. – Что мы сейчас смотрели?

– Мой семилетний сын на телефон и то лучше снимает, – сказал декан-медик.

Шеф опять довольно улыбнулся. Его настроение улучшалось с каждой минутой.

– Не сомневаюсь, – сказал он. – Но это снято не камерой. Вы помните, – обратился он к директорам, сидевшим за столом напротив нас, – с каким трудом я уговорил вас купить фирму «Нейродинамикс»?

– А то, – недовольно буркнул финансовый директор. – Прибыль за два года ушла на эту покупку. А результат? Вы говорили, что это сейчас в теме, нужно понять что-то в этих нейронах. И что, они поняли что-нибудь? Хорошо, что они свое здание продали, хоть шерсти клок с этих ученых.

– А давайте послушаем директора этого отдела, – предложил Шеф. – Доктор Шейгин, вы можете прокомментировать эти видео?

Шейгин встал, зачем-то откашлялся, посмотрел на Шефа, сел. Был он щуплым, с невзрачным, лицом и манерами походил на декана-физика.

– Это снимала не камера, – сказал он. – Вы видели воспоминания одного из наших сотрудников. Мы сумели их извлечь из его памяти. Наш мозг запоминает картинки, мы определенным способом стимулируем некоторые группы нейронов, воспоминания проецируются на сетчатку глаза с внутренней стороны, мы считываем эти изображения и записываем в компьютер. Вот так, это довольно просто.

В комнате стало тихо. Наше начальство переглядывалось, но никто не решался высказаться первым.

– Потрясающе! – первым воскликнул декан-физик. – Я сплю или перенесся на сто лет вперед?

– Интересно, – подтвердил декан-медик. – Это тянет на Нобелевскую премию. Но какое отношение эти прекрасные результаты имеют к нашей проблеме?

– А вот какое, – сказал декан и нажал несколько клавиш на компьютере.

На экране появилось число 13. Мутное, расплывчатое. Черное на каком-то сером фоне. Потом мы увидел число 11, качество его изображения было еще хуже. Затем оба числа появились одновременно между ними появился знак умножения. Числа исчезли, на экране быстро мелькнуло число 130, под ним появилось 11 и, наконец засияло, именно засияло число 141. Черные четкие цифры на блестящем, с золотистым переливом фоне.

– Мы попросили нашего сотрудника умножить в уме 13 на 11, – сказал Шейгин. – И записали то, что появлялось на сетчатке его глаза.

Я посмотрел на Рино, он посмотрел на меня. Потом мы оба посмотрели на Стефани. Она округлила глаза и повертела головой, показывая высшую степень изумления.

В комнате опять воцарилась тишина. Теперь ее нарушил финансовый директор.

– Два миллиарда, – сказал он. – А лучше три. ФБР легко выложит нам эту сумму за такие возможности. Все засекретят, и, доктор Шейгин, вы уж простите, но про Нобелевскую премию вам придется забыть.

– Не зря мы их купили, – сказал декан факультета городского хозяйства. – О проблеме с программой Викрама можно на какое-то время забыть.

Все загалдели. Шеф выглядел победителем, стоял и сиял от удовольствия. Но по его усмешке я понял, что спектакль еще не закончился. Так и оказалось. Он поднял руку, все притихли.

– Я уже упомянул о роевом разуме, – сказал он. – Вы слушали о таком?

– Конечно, – кивнул декан-математик. – Роевой разум пчел, муравьев, светляков, серых волков, капель дождевой воды. Это известные алгоритмы для решения математических задач.

– В ваших знаниях я не сомневался, – сказал Шеф. – Но я о другом разуме.

– Рой микро-роботов, которые захватывают мир, – сказал кто-то их директоров. – Читали такое в книгах. Фантастика интересная, особенно для военных.

– И это не то, – сказал Шеф. – В этих роях каждый элемент глуп. Он действует в соответствии с поведением своего соседа. Да, в сумме получается здорово и эффективно, потеря одного элемента никак не сказывается на результате миссии, но представьте другое. Каждый элемент роя не глупая пчела или муравей, способные выполнять простейшие операции, а нечто разумное, например, человеческое сознание. Представьте, что все сидящие в этой комнате – это рой. И нам поставлена некая задача. Каждый решает ее по-своему, а результат выводится на этом экране. У каждого из нас свой уникальный опыт, свой подход. Мы дискутируем, сравниваем результаты, а потом, например, усредняем и получаем ответ. В книге Френсиса Гальтона описан эксперимент. На ярмарке восемьсот человек на глаз пытались определить вес быка. Каждый называл некое число. Потом все числа усреднили и получили, что это среднее с точностью менее одной десятой процента соответствует правильному весу. Вот что такое коллективный или роевой разум.

– Это мало чем отличается от голосования, которое мы предлагали, – сказал кто-то из деканов.

– Отличается, – сказал Шеф. – Наши решения были бы скоропалительными, без глубокого анализа, основанными больше на эмоциях, чем на рассуждениях. Они мало бы чем отличались от результата, если бы мы попросили проголосовать студентов, занятых более интересными вещами.

Минутную тишину нарушил голос декана-математика.

– Я, кажется, догадался, – сказал он. – Не зря вы пригласили к нам Пчёла и Рино. Вы им поручите разработать искусственный интеллект для написания программ или для других целей. Они сделают несколько копий с разными алгоритмами, но с общей базой данных. Потом они начнут работать, каждый решит задачу по-своему, какая-то другая программа проведет усреднение или что-нибудь в этом роде, результат появится на экране и нам останется только аплодировать и идти в кафе отмечать успех.

– Уже горячо, – сказал Шеф. – Но, как говорят, есть нюансы. Вот вы знаете, что такое проекция Меркатора?

– Что-то из географии, не помню точно, – сказал математик.

– А вы знаете, что такое уравнения Лагранжа? – спросил он декана факультета городского хозяйства?

– Свят, свят, – перекрестился декан.

– А представьте, – сказал Шеф, – что нам нужно решить задачу, где нужно знать и то, и другое. И мыслить в одном случае как географ, а другом, как математик. И знать уравнение Лагранжа не как набор символов и греческих букв, а понимать связь этого уравнения с другими проблемами. Именно так, как учили в университете. А это может только живой человек. Вернее, его сознание.

– То есть, – начал математик и задумался. – Вы предлагаете считать память разных специалистов, дополнить ее информацией из книг и статей, и это будет служить базой для разных искусственных интеллектов, объединенных в одну сеть?

– Бинго! – хлопнул в ладоши Шеф. – Теперь в точку. Вот это я и предлагаю!

Все зашумели, стали переговариваться. «Обалдеть!» – сказал Рино. «Что сейчас будет!» – ойкнула Стефания. Вдруг встал декан юридического факультета и его громкий бас перекрыл шум.

– Не пойдет! – сказал он, медленно и веско выговаривая каждое слово. – Это противозаконно. Нельзя вторгаться в личную жизнь. Даже то, что мы видели на экране, уже противозаконно. ФБР – это сколько угодно. Им закон не писан. Но нам нельзя.

– Мы не будем считывать личную, интимную информацию, – сказал Шеф. – Доктор Шейгин сказал, что возможно поставить фильтры и считывать только профессиональную информацию. Доктор, – он обратился к Шейгину, – я вас правильно понял?

Шейгин кивнул, хотел рассказать, как именно это можно сделать, но Шеф попросил его прерваться.

– В общем, – сказал он. – эту проблему можно решить. И правильно было замечено, что я специально пригласил сюда Пчёла и Рино, они прямо сегодня начнут работать вместе с лабораторией «Нейродинамикс», чтобы разобраться с этой проблемой и создать в нашей корпорации первый в мире роевой интеллект. Им двоим придется тяжело, и я прошу руководителя наших айтишников выделить им в помощь трех хороших программистов. Марк, ты слышишь?

Марк, гроза всех глупых пользователей, поднялся и заявил, что сейчас они всем отделом запускают новый суперкомпьютер и лишних людей у него нет.

– Тогда выдели двух, но не самых плохих. Твой компьютер можно запустить неделей позже, корпорация это переживет. Считай, что это приказ, который не обсуждается. Я лично прослежу за его исполнением. И еще главное. Прошу всех ни с кем не обсуждать, о чем мы сегодня говорили. Даже с самыми близкими людьми. Считайте, что вы были посвящены в самый большой корпоративный секрет.

Все поняли, что совещание окончено и стали расходиться.

– Я не поняла, – шепнула мне Стефания. – А меня зачем сюда позвали?

Шеф, кажется, услышал ее, усмехнулся, поманил нас рукой и попросил нас троих задержаться.

Глава 3. У Шейгина

Шеф сел напротив нас, сцепил пальцы, секунду подумал, потом начал говорить. Медленно, четко выговаривая каждое слово.

– Вы, молодые люди, – тут он посмотрел на часы, – сейчас идите в кафе, плотно перекусите, потом выпейте крепкого кофе и в час дня идите в отдел Шейгина. Я предупредил, вас там будут ждать. Шейгин покажет вам свою аппаратуру, расскажет о методах и своих проблемах. Вам надо будет обсудить с ним план дальнейшей работы и прямо сегодня начинать. Все свои старые проекты забудьте. Я посмотрел, у вас нет ничего срочного. Если кто-то будет звонить и чего-то требовать, говорите, что работаете со мной и без моего разрешения вам нельзя отвлекаться.

Он перевел взгляд на Стефани.

Все книги на сайте предоставены для ознакомления и защищены авторским правом