Добро пожаловать в 2041 год!
Глава 1. Золотой слон
Лучше свой долг, бесталанно исполненный,
чем чужой, соблюденный превосходно.
РАССКАЗ ПЕРЕВЕДЕН БЛЭЙКОМ СТОУН-БЭНКСОМ[13]
Примечание Кай-Фу: Наш первый рассказ переносит читателя в Мумбаи. Семейство индийцев подписалось на программу страхования с поддержкой глубокого обучения, призванную через специальные приложения всячески улучшить жизнь застрахованных. Однако дочка-подросток вдруг понимает, что инструкции и рекомендации, данные искусственным интеллектом, нарушают ее личную жизнь и мешают найти любовь. Рассказ «Золотой слон» знакомит читателя с базовыми основами ИИ и глубокого обучения, помогает разобраться в их главных преимуществах и недостатках. В частности, в рассказе наглядно показано, что ИИ может зацикливаться на улучшении определенных аспектов, создавая при этом негативные эффекты. А еще это история о рисках, возникающих, когда в одной компании накапливается очень много сведений о ее пользователях. В анализе-комментарии в конце главы я рассмотрю эти вопросы, расскажу краткую историю ИИ и объясню, почему сегодня эта технология одних людей восхищает, а у других вызывает недоверие и опасения.
Телевизор в квартире в Мумбаи показывал пляж Чаупати. В волнах прибоя мерно, будто бы под саундтрек индийской лютни-ситара, покачивалась огромная статуя Ганеша, бога мудрости и благополучия с головой слона. С каждой откатывающейся волной божество опускалось все ниже, погружалось в воду, пока наконец полностью не скрылось в Аравийском море.
Статуя словно бы растворилась в пучине, превратилась в золотисто-багровую пену. Соленые брызги благословенно окропляли верующих, всю толпу, собравшуюся на пляже Чаупати для Ганеш-висаржана, ритуала погружения Ганеша в воду. Таков традиционный финал фестиваля Чатуртхи.
Счастливые бабушка и дедушка десятиклассницы Наяны хлопали перед экраном в ладоши и подпевали телевизору. На восьмилетнего Рохана, младшего в семье, никто не обращал внимания. Он под шумок запихнул в рот пригоршню чипсов из маниоки и запил их огромным глотком диетической колы.
Врач настоятельно рекомендовал ограничить мальчику потребление жирного и сладкого. Парнишка, дорвавшись до запретных лакомств, от удовольствия и возбуждения мотал головой, и крошки изо рта разлетались по всей комнате. Папа Санджай и мама Рия готовили праздничный ужин, гремя кастрюлями и напевая, словно персонажи болливудского фильма – веселые звуки и невероятные запахи разносились из кухни по всей квартире.
Наяна изо всех сил старалась отключиться от происходящего и сосредоточиться на смартстриме. На него только что наконец установилось приложение FateLeaf – «Лист судьбы». В последнее время в школе только о нем и говорили. Благодаря оцифрованной дальновидности величайших индийских прорицателей древности программа теперь способна ответить практически на любой вопрос пользователя.
В рекламной аннотации к приложению говорилось, что создатели FateLeaf вдохновлялись при его разработке учением почитаемого индуистского мудреца Агастья. Наяна помнила, что он тысячи лет назад описал на санскрите прошлое, настоящее и будущее всех-всех людей во всем мире. Пальмовые листья с пророчествами Агастья назвали «Астрологией Наади».
Прорицателю, гадающему на листьях Наади, надо предоставить отпечаток большого пальца и назвать дату рождения – и вся история твоей жизни немедленно считается с соответствующего листа. Так, по крайней мере, утверждает легенда. Есть, правда, одна загвоздка – за тысячи лет многие листья пропали: зверства колонизаторов, войны, неумолимое время…
Но одна компания еще в 2025 году отыскала все сохранившиеся листья Наади, специалисты-виртуозы сумели прочесть и сохранить информацию, а некоторые записи даже восстановить по сохранившимся фрагментам. Для глубокого обучения, автоматического перевода, анализа и реконструкции древней мудрости применили искусственный интеллект. Так возник «архив листьев Наади», теперь размещенный в облаке, – по одному виртуальному листу на каждого из 8,7 миллиарда человек, живущих на Земле.
Вся эта замшелая история Наяну не особо интересовала, у нее было дело поважнее. Реклама обещала, что через FateLeaf можно использовать всю мудрость своего листа Наади и получить ответы на любые вопросы.
Все взрослые были заняты, самозабвенно смотрели Ганеш-висаржану и готовили праздничный стол; младший брат увлекся чипсами и тоже ничего вокруг не замечал. До девушки никому не было дела, поэтому она поскорее набрала в FateLeaf: «Я нравлюсь Сахеджу?» На экране немедленно выскочило уведомление: ответ будет стоить 200 рупий. Наяна согласно кивнула и кликнула «Отправить».
Наяна обратила внимание на Сахеджа сразу, как только его смартстрим впервые подключился к их виртуальному классу. Новичок не использовал ни фильтров, ни фона расширенной реальности – это было необычно и показалось любопытным. На стене, которую было видно за фигурой нового одноклассника, Наяна увидела ряды красочных масок – как скоро выяснилось, парень сделал их сам, вырезал из дерева и раскрасил.
Маски сразу заметил и учитель. В первый день нового семестра Сахедж, немного стесняясь, но с явным удовольствием провел для одноклассников экскурсию – всё показал и рассказал. В его достаточно традиционных по стилю, но все же очень необычных масках образы индийских богов и духов сочетаются с силой супергероев.
Одноклассницы Наяны не уставали сплетничать о Сахедже в ShareChat[14], в чате «Для своих». Поводов для этого было предостаточно. Комната нового одноклассника действительно была оформлена очень необычно, а фамилия Сахеджа отсутствовала в школьных регистрационных записях. Девчонки после активного обсуждения решили, что он входит в «группу риска» – по распоряжению правительства к ней относилось не менее 15 процентов учащихся.
Таким детям гарантированы места в частных школах по всей Индии; им оплачивают обучение, учебники и школьную форму. Термины «15 процентов» и «группа риска» были, по сути, эвфемизмами для обозначения далитов – «неприкасаемых».
Наяна любила смотреть в интернете документальные фильмы, поэтому знала о старой кастовой системе Индии и ее глубоких индуистских религиозных и культурных корнях. Когда-то именно каста, к которой принадлежали родители новорожденного, уже в момент появления на свет и на всю жизнь определяла его будущую профессию, возможное образование, супругу или супруга. На нижней ступени этой системы и стояли далиты – «неприкасаемые».
Многие поколения далитов выполняли самую грязную работу: чистили канализацию, обрабатывали и утилизировали трупы животных, дубили кожу.
После обретения Индией независимости и вступления в силу Конституции – с 1950 года – под запрет попала любая кастовая дискриминация. Но фактически еще много лет существовали зоны, где далиты имели право пить, есть, жить и даже хоронить своих умерших – территории «неприкасаемых» были четко отделены от мест для представителей более высоких каст. Последние (дабы не оскверниться) часто отказывались находиться в одном помещении с далитами – соучениками или коллегами. Правда, обычно не объясняли почему.
Правительство Индии пыталось исправить эту несправедливость, для далитов установили 15-процентную квоту в государственных учреждениях и любых учебных заведениях. Казалось бы, намерения были исключительно благие, но эти решения вызвали массу споров и даже спровоцировали насилие.
Родители детей из высших каст жаловались: далитов зачисляют в школу по квоте, а не по успеваемости; остальным детям приходится расплачиваться за грехи предыдущих поколений – Индия просто заместила одну форму несправедливости и неравенства другой.
Но, несмотря на отдельные очаги негативной реакции, усилия индийского правительства принесли плоды. 200 миллионов потомков далитов интегрировались в мейнстримное общество, и теперь распознать их прошлую идентичность с первого взгляда было намного труднее.
Девчонки в ShareChat продолжали сплетничать об однокласснике-новичке; они обсуждали происхождение Сахеджа и бесконечно решали, стали бы они с ним встречаться или нет.
«Вот снобы!» – фыркала про себя Наяна, читая чат.
Сама Наяна сразу разглядела в Сахедже родственную душу. Девушке нравились работы Бхарти Кхер[15], Наяна и сама мечтала творить в стиле перформанс, но ей часто приходилось оправдываться, что это не имеет ничего общего с легковесной попсой.
Наяна считала, что настоящий художник должен быть верен себе и никогда не меняться в угоду чужой точке зрения. Так что если ей понравился Сахедж, то он ей понравился – а его происхождение, место жительства или даже его хинди с заметным тамильским акцентом не имеет никакого значения.
Ответа от FateLeaf, казалось, не было целую вечность. Наконец на экране всплыло уведомление с иконкой-пиктограммой в виде пальмового листа: «Нам очень жаль! Из-за недостатка предоставленных вами данных FateLeaf в настоящее время не может ответить на ваш запрос». Из динамика донесся звон монет – вернулась оплата за непредоставленную услугу.
«Тоже мне! Данных им недостаточно!» – и Наяна тихонько ругнулась.
Раздраженная и рассерженная, девушка отлипла от экрана. Мама Рия заканчивала накрывать на стол, приближалось время праздничного ужина, но что-то явно было не так. Среди традиционных индийских изысков на столе стояло несколько супердорогих блюд из китайского ресторана, продававшихся навынос. Такие угощения были в их доме большой редкостью, прижимистый отец подобных трат не одобрял.
Кроме расширенного меню обнаружилась и еще одна странность: на Рии было любимое шелковое сари в стиле парси, красивая – явно из салона – прическа и полный комплект украшений. Дедушка и бабушка тоже выглядели не как обычно – более счастливыми, что ли. И даже назойливый пухляш Рохан не приставал к сестре с дурацкими вопросами!
Объяснить все странности только праздником Ганеш Чатуртхи было невозможно.
– Та-а-ак, – протянула Наяна, отметив заодно и новую скатерть, – кто-нибудь объяснит мне, что тут происходит?
– Ты о чем? – мама отреагировала мгновенно, но как будто не поняла настроения дочери.
– Мне одной кажется, будто что-то не как всегда?
Взрослые переглянулись и засмеялись.
– А ну-ка, что ты заметила? – предложила игру в угадайку Рия.
– Вы что-то скрываете? – У Наяны ум уже заходил за разум – за свою жизнь она не видела дома ничего подобного.
– Давайте-ка садиться, поедим сначала, – бабушка попыталась перехватить инициативу и начала поправлять на блюде лепешки-наан.
– Погодите, – не сдалась Наяна, – я угадаю. Папа получил повышение? Мы выиграли в лотерею? Правительство снизило налоги?
С каждым высказанным предположением улыбка на лице отца становилась все шире, и каждый раз он мотал головой – не-а, не угадала.
– Прекрасные гипотезы, – он уже от души хохотал. – Нет, это все мама…
Наяна развернулась:
– Ну и куда ты влипла на этот раз?!
– Эй, не забывайся! – повысила голос Рия. – С матерью разговариваешь!
– Ну да, и что? Это же не меня вечно надувают, и не я ноги стаптываю, чтобы все купить подешевле… – Наяна по инерции огрызнулась, но тон сбавила.
– Так что ты сделала-то?
– Купила страховку Ganesh Insurance! У них была потрясающая распродажа к празднику, впервые в истории – 50 процентов скидки! Все соседи купили, а они экономят еще больше, чем мы! – Мама Рия лопалась от гордости из-за своей рачительности и удачливости.
Папа зааплодировал, бабушка с дедушкой присоединились. Наяна перебила овацию.
– А разве мы всегда страховались не в Life Insurance Corporation of India[16]?
– Ну да, именно в ней, но их полиса вечно хватало впритык. Не дай бог что-нибудь случится с бабушкой и дедушкой – что будем делать? Вы, кстати, учитесь в частной школе, ты, кажется, собираешься в Университет Раи на факультет фэшн-технологий и перформанс-арта. А он, между прочим, частный, и учеба в нем намного дороже, чем в государственных университетах. Сама знаешь – экономим на чем только возможно.
– То есть опять я виновата?! – Наяна окрысилась скорее по привычке – папа не сказал ничего нового и, конечно, был прав.
– Прежде чем строить планы, нужно рассмотреть, что у тебя под носом, – философски заметил дедушка.
– Ну ладно, ты все равно уже заплатила. И что нам даст новая страховка? – Наяна попыталась взять себя в руки и вникнуть в детали ожидавших семью перемен.
– Мне все подробно рассказала миссис Шах, ты ее знаешь, она из соседнего дома, – Рия завела подробное повествование.
– Платформа Ganesh Insurance использует искусственный интеллект для корректировки страхового плана в соответствии с конкретными потребностями застрахованной семьи. – Кажется, это был текст из проспекта страховой компании. Впрочем, возможно, рекламу цитировала мамина знакомая, а Рия все просто дословно запомнила.
– К тому же страховку продают по очень выгодной цене. – Мама, наконец, добралась до сути. – Кстати, Ganesh Insurance – это пакет мобильных приложений. Одно рассчитывает страховые взносы и принимает их оплату, другое – для инвестиций. Но больше всего мне нравится вот это, для покупок. И еще одно, которое показывает все выгодные предложения в нашем районе. Заметила прическу? – Рия, красуясь, покрутила головой. – В дорогущем салоне, между прочим, делала, а заплатила всего четыреста рупий – а все приложение Cheapon!
Рохан, воспользовавшись моментом, попытался стянуть из вазочки конфету. Но Наяна хлопнула его по руке, а он понял, что его застукали, и показал сестре язык.
Наяна вернулась к общему разговору – он сейчас был серьезнее диеты брата.
– Очень похоже на очередную рекламную замануху. И зачем страховой компании сообщать тебе, где делать прическу?
Мама замялась.
– И откуда эти страховщики так много знают о нашей семье?! – Наяна не стала дожидаться ответа.
Мама явно тянула с ответом – отвечать ей почему-то не слишком хотелось. Пауза затягивалась. Все ждали. И Рии пришлось признаться.
– Мы разрешили искусственному интеллекту доступ к каналам передачи данных каждого члена семьи – таковы условия страховки, по-другому нельзя.
Глаза Наяны стали похожи на две медные тарелки, из них прямо рвался вопль: «Что?!» – но звук не шел.
– Нет-нет, – Рия уже начала как будто оправдываться, – все строго конфиденциально, страховая компания может использовать данные, только если мы дадим разрешение.
– Да какое ты имела право открывать доступ к моему каналу передачи данных какой-то страховой компании?! – Наяна перешла на крик, и от возмущения голос ее сорвался.
– Не смей так разговаривать с матерью! – подал наконец голос отец. – Не забывай, ты несовершеннолетняя, мы – твои родители, имеем полное право принимать решения, в том числе и о твоих персональных данных.
Наяна побагровела от унижения – она не привыкла к столь резким отповедям, тем более от отца. Швырнула нож и вилку – они громко звякнули о тарелку, бросилась в свою комнату, грохнула дверью, упала на кровать, натянула на голову одеяло и замерла, глотая слезы. «Наверно где-то на листе Наади, – думала Наяна с горечью, – написано, что сегодня – наихудший день моей жизни».
Холодная война между Наяной и мамой Рией длилась с неделю. Спустя несколько дней после так неожиданно сорвавшегося праздничного ужина смартстрим Наяны вдруг засыпало необычными уведомлениями:
Сегодня ожидается дождь, не забудьте зонт.
Сезон простуд начался! Обязательно надевайте маску!
На вашем маршруте произошло ДТП; чтобы избежать затора…
Поначалу Наяна скептически усмехалась, но уведомления просматривала – нельзя же узнать, кто стучится в смартстрим, не посмотрев на экран.
Потом девушка обнаружила, что даже увидев странное сообщение от анонимного отправителя, она все равно его внимательно прочитывает – утешила себя тем, что время от времени информация действительно оказывается полезной. Ее всегда интересовали распродажи в магазине одежды или скидки в любимом кафе.
Однако воспользоваться акциями, как оказалось, можно только через приложение Cheapon Deals («Выгодные предложения») и несколько других, предложенных Ganesh Insurance под брендом «Золотой слон». Пришлось их скачать. Ну и, конечно, разрешить им доступ к своим данным.
Наяна проделала все после некоторого размышления. Однако ощущение, что «золотой слоник» давно присутствует в ее смартстриме, не проходило. Мама дала страховой компании доступ к ее гаджету? А что, не исключено.
В более чем 60 процентах индийских домохозяйств все девайсы в семье контролируют женщины-хозяйки (как мама Рия), а все персональные данные привязаны к уникальному национальному идентификационному коду Aadhaar[17]. Он есть у каждого из 1,4 миллиарда жителей страны, его присваивает Агентство Индии по уникальной идентификации.
В течение 20 лет с момента внедрения этой системы в 2009 году правительство собрало огромную базу данных. О гражданах известно очень многое: есть их отпечатки пальцев, цифровые подписи с использованием сетчатки глаза, генетические истории, информация о семье, роде занятий, кредитном рейтинге, история покупок жилья и налоговые отчеты. И вот теперь Ganesh Insurance с согласия клиентов могла использовать этот богатейший массив данных для персонификации услуг.
Конечно, существуют некоторые ограничения. Чтобы воспользоваться данными из соцсетей, надо авторизоваться, а использовать данные несовершеннолетних можно только с согласия их официальных представителей или опекунов.
Наяна еще немного подумала и пошла на компромисс – решила пользоваться сервисами GI, но быть при этом максимально бдительной. На уроках компьютерной грамотности в школе проходили (Наяна неплохо училась и многое помнила), что «продать» или «сдать» тебя может каждый клик в интернете. И прежде чем в очередной раз нажать кнопку «принимаю» либо «спасибо, мне нужно больше времени, чтобы это обдумать», девушка тщательно изучала все написанное мелким шрифтом. И нередко выбирала второй вариант. Но, несмотря на разумное и осознанное поведение, поток уведомлений от GI о привлекательных скидках и наилучших способах разрешения насущных проблем заметно возрастал.
Например, как бы привлечь внимание Сахеджа.
Он и вправду был симпатичным и очень милым парнем с огромными добрыми глазами. Сахедж старался понравиться новым одноклассникам, он подарил каждому маленькую голову какого-нибудь животного, которую сам вырезал из дерева. Но во время виртуальной учебы нередко нарушалась связь, и вместо милого лица Сахеджа Наяна видела на экране только размытый силуэт, а его голос в наушниках «квакал».
Но после личной встречи с Сахеджем в один из учебных дней офлайн Наяна обнаружила, что сдерживать чувства к парню стало совсем трудно.
Девушка постоянно искала предлог для общения с Сахеджем, использовала каждую возможность, но он почему-то упорно держал дистанцию.
Я ему не нравлюсь? Или тут что-то другое?
А может, застенчивость Сахеджа – из-за его «низкого» происхождения?
Наяна в очередной раз обдумывала эту самую важную свою мысль, когда на экране смартстрима появились маленькие золотые слоники – пришло уведомление от MAGIComb, приложения GI, дающего советы по стилю жизни, в том числе и «как стать более привлекательной для парней». Наяна, конечно, догадывалась: ИИ использует данные о ее интернет-запросах и покупках – иначе как бы он понял, о чем она думает. Но подобные рекомендации беспокоили ее совсем по другой причине.
Почему женщина вообще должна меняться, желая понравиться мужчине? Почему бы женщинам просто не демонстрировать мужчинам себя настоящих и не решать вместе, подходят ли они друг другу?
Наяна все еще здорово злилась на маму, но нашла в себе силы расспросить ее о странных посланиях от «волшебного» приложения.
Рия вертелась перед зеркалом в новой длинной юбке. Она себе явно нравилась и, пребывая в отличном настроении, обратилась к дочке:
– Вот глупышка, машины учатся только тому, чему их обучают люди. А ты к чему это? Ты влюбилась!
– Вовсе нет, – замялась Наяна.
– Не хочешь – не говори, но от искусственного интеллекта не скроешься, – пошутила Рия. – Тебе точно не нужна помощь? Поверь, твоя мать кое-что понимает в мужчинах.
– Как узнать, что мальчик думает обо мне на самом деле? – решилась Наяна. – Я ставлю ему лайки, а он не реагирует.
– Ага-а, значит, кто-то все-таки есть! Ну, одними лайками тут не обойтись. Дай GI доступ к учетной записи в ShareChat – их рекомендации станут еще лучше. Страховой взнос нашей семьи, кстати, от этого тоже чуток уменьшится.
Наяна хотела услышать совсем не это. Она разочарованно помотала головой и вышла из комнаты.
Всего несколько недель назад, когда FateLeaf не смогла ответить на запрос Наяны из-за недостаточности предоставленных данных, Рия не позволила дочери открыть доступ к учетным записям других членов семьи. И Наяна осталась без гадания. А теперь мать и дочь поменялись местами. Но, с другой стороны, сейчас вопрос серьезнее – речь идет о семейном бюджете.
