В Великобритании первым человеком, предложившим работающий прототип электрического телеграфа, стал ученый-изобретатель Фрэнсис Роналдс. В 1816 г. он сконструировал первый электростатический стрелочный телеграф, который мог отправлять сообщения на дальние расстояния, посылая электрические импульсы по проводам. Однако когда Роналдс написал в британское адмиралтейство о готовности предоставить в распоряжение военных такое устройство, ему отказали в аудиенции со словами: «Телеграфы любого типа сейчас совершенно бесполезны, и никакой другой телеграф, кроме уже существующего, принят на вооружение не будет». На тот момент телеграф (в Британии тогда также использовалась технология оптического телеграфа братьев Шапп) был почти исключительно военным средством коммуникации, необходимость в обновлении которого после завершения эпохи наполеоновских войн отошла на второй план.
Лишь в Соединенных Штатах в середине XIX века телеграф приобрел массовую популярность как технология для коммерческого использования. Впрочем, Сэмюэлу Морзе тоже пришлось немало потрудиться, прежде чем его изобретение было оценено бизнесом и властями Соединенных Штатов. Поначалу все в Вашингтоне отмахивались от изобретателя, как от назойливой мухи. Но в итоге история Морзе – как раз тот самый счастливый случай, когда изобретатель (и его изобретение) оказались «в нужное время в нужном месте».
5
1 декабря 1955 года в городе Монтгомери штата Алабама (США) села в автобус молодая афроамериканка.
Когда она уже проехала несколько станций, автобус остановился и вошел белый пассажир. В передней части автобуса, специально выделенной для белых пассажиров, все места оказались заняты. Тогда водитель потребовал от темнокожей женщины уступить свое место новому пассажиру. Однако женщина, игнорируя просьбу водителя, отказалась уступить свое место белому, так как считала, что у нее есть право сидеть на месте, выделенном для темнокожих. Согласно существовавшим тогда правилам, если в передней части автобуса (для белых) нет свободного места, чернокожие должны были уступить свои места белым пассажирам. Получается, женщина нарушила закон, водитель вызвал полицию, женщину арестовали и приговорили к штрафу в 14 долларов – немаленькая по тем временам сумма. Арест темнокожей женщины вызвал массовые протесты. Женщину звали Роза Паркс.
Это уже потом молодая швея из штата Алабама стала известна как «мать освободительного движения». Вначале же протесты были по большей части локальными, а Розу Паркс не поддержали даже некоторые ее чернокожие соплеменники, считавшие протест бесполезным, а повод – слишком малозначительным. И лишь после объявления бойкота городскому общественному транспорту всеми афроамериканцами Монтгомери, организованного не без участия харизматичного молодого проповедника и борца за права чернокожих Мартина Лютера Кинга (бойкот был объявлен с 5 декабря 1955 года), ситуация поменялась. Местные автобусные компании стали терпеть колоссальные убытки – ведь они ездили теперь практически всегда полупустыми, а слухи о бойкоте и «чернокожем протесте» распространились далеко за пределы Алабамы.
Бойкот продлился больше года (381 день). Ко времени его окончания было уже очевидно, что протестующие против расовой сегрегации одержат верх – группа активистов-афроамериканцев обратилась в Федеральный Суд США, который постановил отменить законы о сегрегации городских автобусов в Монтгомери как не соответствующие конституции Соединенных Штатов. Прокуратура обжаловала решение в Верховном Суде, но это не помогло: судьи приняли решение отклонить апелляцию. Роза Паркс стала легендой.
Эта история широко известна, но мало кто знает реальные экономические и технологические предпосылки отмены сегрегационных законов на Юге Соединенных Штатов Америки. Ведь на самом деле все было не так просто, как может показаться на первый взгляд.
В XVI–XVIII веках, на заре колонизации североамериканского континента, рабочей силы для освоения огромных незаселенных пространств не хватало, особенно в южных колониях, где климат был достаточно мягким и не было острой необходимости практиковать эффективное сельское хозяйство. В итоге было найдено ужасное в своей рациональности решение – импортировать для работы на плантациях рабов из Африки.
То, что рабов стали возить именно с Африканского континента, было предопределено сочетанием ряда факторов.
Во-первых, требовались выносливые работники, обладавшие мускульной силой. Именно такими работниками были африканцы: считалось, что именно они лучше всего приспособлены для занятий тяжелым физическим трудом на рудниках и плантациях.
Во-вторых, доставка рабов из Африки была экономически намного более выгодна, чем из любого другого континента: сказывалась относительная географическая близость Африки и Северной Америки. Везти работников из Индии или Австралии никому и в голову не пришло, так как себестоимость такого работника была бы очень высока из-за огромных транспортных издержек.
В-третьих, иммунитет африканцев за сотни лет жизни в неблагополучном эпидемиологически тропическом и экваториальном климате частично адаптировался к малярии и желтой лихорадке – болезням, очень распространенным и наносившим значительный ущерб плантаторам в Северной Америке и на островах Карибского бассейна. Особенно страдали от этих инфекций индейцы Мексики и Южной Америки, что делало малоэффективным использование колонизаторами коренного населения обеих Америк в качестве рабов.
В-четвертых, в Африке многие столетия уже существовал рынок работорговли, который был организован и контролировался прежде всего арабскими купцами, создавшими в Северной и Центральной Африке развитую инфраструктуру торговли рабами. Впрочем, местные вожди в Экваториальной Африке и сами не брезговали работорговлей, захватывая рабов во время набегов на соседние деревни и поселения. Рабство было частью экономики многих племен. Поэтому гораздо проще и выгоднее было покупать рабов на веками сложившемся и вполне легальном в то время рынке, нежели вкладывать огромные деньги в новый рынок с неясными перспективами в каком-то другом регионе планеты.
В-пятых (и это во многом следствие четвертого), за долгие годы работорговли в Африке выработалось отношение к рабству как к неотъемлемой части повседневной жизни, что позволяло белым американским работорговцам внушать чернокожим африканцам, в том числе посредством миссионерской деятельности, что «рабство – это судьба, уготованная им богом», и рассчитывать на то, что издержки на восстания и сопротивление чернокожих рабов на североамериканском континенте будут невелики.
Однако с течением времени в XVIII и особенно в XIX веках экономическая привлекательность рабства снижается все больше и больше. Отношение общества к рабовладению становится резко негативным, особенно по мере распространения гуманистических и либеральных идеалов. Кстати, последнее тоже было неразрывно связано с развитием капиталистической экономики, резким увеличением спроса на труд, в особенности квалифицированный, и популяризацией предпринимательства.
Известно, что южные (сельскохозяйственные) и северные (индустриальные) штаты США развивались далеко не одинаково. После гражданской войны между Севером и Югом в 1860-х годах рабство было отменено, но элиты южных штатов (тогда их интересы на федеральном уровне представляла Демократическая партия) сумели сохранить расовую сегрегацию де-факто. Им удалось провести законы о подушном налоге с избирателей и «тестах на грамотность», реализовав тем самым на практике имущественный и образовательный ценз одновременно – чернокожее население южных штатов было значительно менее грамотно, чем белое, и, естественно, не обладало какой-либо значимой собственностью, то есть в основной своей массе не проходило ни имущественный, ни образовательный ценз. Белым плантаторам Юга, как и раньше, требовалась дешевая рабочая сила для работы в сельскохозяйственном секторе, и темнокожие работники, хоть и получившие формально свободу, были по-прежнему нужны на плантациях, особенно при уборке хлопка.
В середине ХХ века ситуация со спросом на труд на Юге США стала меняться. Механизация сельского хозяйства в 1950-х годах затронула и хлопковую отрасль, традиционно требующую наибольшее количество трудовых ресурсов, а массовая миграция афроамериканцев из южных штатов на Север (чернокожие граждане США были ограничены в избирательном праве на юге, но имели при этом право на неограниченную миграцию внутри страны, и она резко активизировалась во время и после Великой Депрессии, начав исчисляться сотнями тысяч человек в год) способствовала нехватке рабочих рук в отстающей, но развивающейся промышленности Юга. Так, например, в середине ХХ века в текстильной отрасли южных штатов лишь 2–5 % работников были афроамериканцами, а доход на душу населения там составлял не более 50 % от среднего по стране.
Механизация хлопковой отрасли и отток трудовых ресурсов на Север резко изменил структуру рынка труда в южных штатах. Если в 1950 году хлопок там собирали в основном вручную, то через десять лет уже почти 50 % хлопка убиралось при помощи комбайнов. Консервативной элите юга пришлось задуматься о мерах по удержанию населения от внутристрановой миграции, и это означало, что постепенно придется пойти на политические уступки – ведь в той же текстильной отрасли требовались более образованные работники, чем на уборке хлопка, а избежать продолжения массового оттока трудовых ресурсов с консервативного сельскохозяйственного Юга на демократический индустриальный Север можно было только радикальным изменением отношения к чернокожим гражданам и резким расширением их гражданских прав.
В результате реформ в наиболее консервативных штатах (Миссисипи, Южной Каролине и Алабаме) в период с 1960 года по 1970-й количество афроамериканцев, имеющих право голосовать, выросло с 5–10 % до 50 %. Также следствием описанных изменений стал рост занятости афроамериканцев в текстильной промышленности до 25 % от общего количества работников. В итоге в 1990-х годах разница в доходах на душу населения между северными и южными штатами, которая начала стремительно сокращаться с начала 60-х годов, полностью исчезла, а структура рынка труда выровнялась.
Этот пример (что немаловажно – из новейшего времени) наглядно показывает, что политические и институциональные изменения даже в наши дни обычно обусловлены технологиями и спросом на рабочую силу, но не наоборот. Какие бы институты ни пытались создавать в южных штатах победившие в Гражданской войне северяне, проблема расовой сегрегации окончательно осталась в прошлом лишь тогда, когда технологический прогресс привел к резкому росту спроса на квалифицированный труд, а чернокожие граждане стали цениться именно как квалифицированная рабочая сила, военнообязанные и, как следствие, налогоплательщики.
После этого у консервативных южных элит уже не было возможности сопротивляться назревшим экономическим и политическим изменениям, а события, начавшиеся после «инцидента в автобусе» с Розой Паркс, лишь официально оформили то, с чем в глубине души уже смирились белые элиты американского Юга.
Часть II. Настоящее
После внедрения определенной технологии мы не можем отказаться от нее.
Колин Харрисон, IBM
Таких примеров, как в первой части этой книги, можно привести множество. Человеческая цивилизация эволюционирует непрерывно, события социально-технологической эволюции соединены между собой множеством причинно-следственных связей и во многом предопределены климатическими, демографическими, экономическими, технологическими факторами. Некоторые из этих связей читатель заметил, познакомившись с предыдущими главами этой книги. Конечно, в истории всегда есть место случаю, и предопределенность в социально-технологической эволюции не означает жесткую безальтернативность конкретных событий в определенное время. Но цивилизация, как и отдельные нации и общества, в любом случае, развивается в некоем «коридоре возможностей». Кроме того, все народы получили изначально некую выданную «колоду карт» в виде особенностей своего географического положения и климата, в которой могли, как у Японии или Великобритании, выпасть «козырные карты», а у кого-то, как у государства майя или некоторых африканских стран, оказались на руках только «шестерки». Очень условно происходящий процесс можно сравнить с компьютерной игрой «Cid Meyer`s Civilization», где игрок строит собственную «цивилизацию», опираясь на заранее предопределенные факторы.
Уже не раз упоминалось, что одна из характерных черт социально-технологической эволюции – увеличение «плотности интеллекта». Да, в какой-то степени эволюция человечества – это непрерывный процесс концентрации «вычислительных мощностей» биологического происхождения. Сначала эта концентрация была совсем невелика, интеллект был «размазан» тонким слоем по планете, так как плотность населения была очень небольшой. Переход к оседлому образу жизни увеличил его концентрацию, появление городов увеличило еще сильнее. В монастырях, а затем в университетских центрах стал концентрироваться научный потенциал как квинтэссенция человеческого интеллекта. Процесс урбанизации, начавшийся в конце XIX – начале XX века, сделал концентрацию интеллекта в городах и урбанизированных зонах высокой как никогда ранее. Это резко стимулировало технологический прогресс.
Прогресс можно описать простой формулой: чем больше совокупная вычислительная мощность интеллекта, тем больше объем информации, которую он может обрабатывать. Рост вычислительных мощностей стимулирует рост объема передаваемой информации. Но, чем больший объем информации нужно обрабатывать, тем больше требуется интеллекта и вычислительных мощностей. Прогресс идет по восходящей спирали.
Вскоре урбанизация привела к появлению громадных мегаполисов с населением 10 и более млн человек, фактически сверхсложных вычислительных центров с десятками миллионов процессоров. И, наконец, появились компьютеры, интернет, а затем и поисковики и соцсети как места, где интеллект, биологические «вычислительные мощности» всех людей вместе взятых могут быть сконцентрированы одномоментно, практически в одной точке. Возможно, остался лишь один, последний шаг – воссоединение этого «концентрированного биологического интеллекта» в мегамозг, единый искусственный интеллект, который будет квинтэссенцией совокупного интеллекта всех людей на планете. И, похоже, это произойдет быстрее, чем мы можем ожидать.
Ученые называют момент, когда человечество сделает этот шаг, «технологической сингулярностью». Некоторые ученые даже прогнозируют наступление ее в ближайшие 30 лет (в 2045 году по версии известного американского футуролога-визионера Рэя Курцвейла). Предполагается, что технологическая сингулярность будет характеризоваться феноменально быстрым, возможно экспоненциальным научно-техническим прогрессом, и это станет возможным благодаря искусственному сверхинтеллекту. Курцвейл не скрывает своей уверенности, что это будет слияние человечества в биологическом смысле и искусственного интеллекта. Однако описывает он это событие в очень общих чертах: с его точки зрения, это будет «период в будущем, когда темпы технологического прогресса окажутся настолько высокими, когда влияние технологий станет настолько глубоким, что человеческая жизнь безвозвратно перевернется».
То, что она перевернется, сомнений нет. Вопрос – как? И что нас ждет, собственно, на пути к этой технологической сингулярности? Большинство футурологов и визионеров стараются быть оптимистичными: ведь позитивный взгляд на будущее продается слушателям и в особенности корпорациям намного лучше, чем негативный. Многие ученые стараются обходить сложные вопросы стороной, выдавая банальные рекомендации. Мол, все будет хорошо, люди будут получать деньги в виде безусловного дохода, то есть просто так, будут всю жизнь учиться и переучиваться, чтобы соответствовать той скорости технологического прогресса, который все ускоряется и ускоряется перед наступлением «технологической сингулярности». Часто слышатся голоса, утверждающие, что в конце концов люди будут заниматься исключительно творчеством, потому что искусственный интеллект никогда не научится творить.
Тут иногда приводится «блестящий» аргумент, гласящий, что у алгоритмов «нет души», поэтому их творческая деятельность никогда не достигнет человеческого уровня. И, кстати, первая часть этого высказывания – чистая правда. У алгоритма действительно нет души, это не более чем программа, компьютер, вычислительная машина, созданная для обработки огромных потоков информации. Правда, искусственный интеллект – тот самый алгоритм – по признанию как специалистов, так и простых людей давно уже пишет отличную музыку, рисует прекрасные картины, сочиняет прозу и даже стихи на уровне человека. И люди с удовольствием эту музыку слушают, картинами восхищаются, а прозой зачитываются. Но это не главное. Главное в том, что современные ученые уже давно выяснили: на самом деле, души нет не только у компьютера, ее нет и у человека. По крайней мере, в науке такое понятие отсутствует.
Но даже если бы у «человека разумного» была душа, всю жизнь учиться и переучиваться, пытаясь конкурировать сразу со всеми людьми на планете (и с теми же алгоритмами – специалисты по искусственному интеллекту называют их нейросетями) в гонке за выживание – удовольствие, на самом деле, не из приятных. И дело в общем-то даже не в удовольствии. Дело в том, что перманентный образовательный процесс для людей старше 40 лет, как правило, физически невозможен. Биологические организмы изнашиваются, и ваше тело, как и головной мозг, после 40 лет уже не те, даже если вы сами очень хотите, несмотря ни на что, «учиться, учиться и учиться». Однако, если вы и сможете по достижении сорокалетнего рубежа вдруг переквалифицироваться сначала из инженера в программиста, потом в специалиста по большим данным, а потом, скажем, в специалиста по кибербезопасности, вы все равно в итоге будете неконкурентоспособны по сравнению с молодыми специалистами, например, из индийского Бангалора или, тем более, нейросетями – не говоря уже о том, что вы просто будете экономически невыгодны работодателю. Ведь ваш труд – труд опытного профессионала, жителя благополучного мегаполиса – будет стоить намного дороже работы искусственного интеллекта.
И, кстати, это лишь один из множества неожиданных сюрпризов, которые могут ожидать человека на пути к технологической сингулярности. Во второй части этой книги читатель сможет приоткрыть «завесу неизвестности» и понять, какие перспективы поджидают его лично на этом пути уже в ближайшее время, и увидит он это на примерах конкретных изменений, которые еженедельно, ежедневно и ежечасно происходят с человеком, экономикой и современным обществом в целом.
Описание этих изменений, которое читатель увидит в следующих главах, будет максимально объективным – без сгущения красок, но и без ложного оптимизма. Таких «оптимистичных оракулов» и без того хватает.
Глава 1. Новые риски
В апреле 2019 г. в Сингапуре вышел номер журнала «Esquire», все статьи которого впервые были написаны искусственным интеллектом. Робот (так называемый ИИ-бот) полностью самостоятельно написал пять больших текстов, включая «письмо редактора», и потратил на каждый материал всего по несколько минут. При этом нейросеть не испытывала никаких мук творчества, не отвлекалась на переписку в соцсетях, прослушивание музыки или просмотр семейного видео, присланного женой. Остальные ее материалы пришлось редактировать, но все равно это был самый дешевый по себестоимости номер «Esquire» в истории. Никаких гонораров авторам платить не пришлось, командировочных и накладных расходов нести тоже. Уникальный номер журнала покупатели расхватали как горячие пирожки.
Почти одновременно с «Esquire» американская газета «The Guardian» начала публиковать статьи, полностью написанные искусственным интеллектом, который умеет брать большие данные, обрабатывать их и вставлять в приготовленные заранее текстовые шаблоны.
Интеллектуальная программа, использованная в «Guardian», получила название «ReporterMate», что в вольном переводе звучит как «Друг Репортера», но можно перевести и как «Мат (конец игры) репортеру». После запуска проекта создатель робота-журналиста Ник Эверсхед заявил, что его программа никогда не заменит журналистов, просто сделает их работу удобнее и комфортнее, так как может работать с Big Data. Как тут не вспомнить слова инвестбанкира Пола Джонса, который, проведя очередное сокращение в своей компании, сказал сотрудникам: «No man is better than a machine, and no machine is better than a man with a machine» («Ни один человек не может быть лучше, чем машина, и ни одна машина не может быть лучше, чем человек с машиной»).
Как, наверное, и любое знаковое событие, появление полностью автоматизированных «алгоритмов-журналистов» было воспринято профессиональным сообществом двояко. Оптимисты рукоплескали, предвкушая скорый приход благословенных времен, когда людям вообще не придется работать, а можно будет лишь созерцать и заниматься творчеством. Пессимисты же нахмурили брови: до недавних пор написание качественной прозы вообще-то тоже относилось к творческой деятельности, и считалось, что алгоритмы никогда не смогут полностью заменить людей в этом процессе.
Учитывая, что в 2019 году Всемирный банк обнародовал новые данные о рекордном росте неравенства в Европейском Союзе (на 70 % за последние 15 лет), пессимистов было, пожалуй, немного больше. Они отмечали, что «труд» алгоритмов приносит доход только их создателям и владельцам, рядовые же сотрудники от этого только теряют. И действительно, новые технологии не в последнюю очередь «виноваты» в том, что беднейшие 10 % европейцев стали на 7 % беднее, а богатейшие 10 % – на 66 % богаче. Но, казалось бы, какая связь между уменьшением количества рабочих мест благодаря новым технологиям и галопирующим ростом социального неравенства даже в богатейших странах мира?
В течение довольно короткого времени после описанных событий множество политиков и общественных деятелей высказали свое мнение о роли искусственного интеллекта в будущем и о том, что может случиться, если он выйдет из-под контроля человека. Не обошел стороной проблему и Папа Римский Франциск, выступивший в Ватикане на конференции «Общее благо в цифровой век» в сентябре 2019 года. «Разработки в области технологий, в частности те, которые связаны с искусственным интеллектом, вызывают все более существенные изменения во всех областях человеческой деятельности», – заявил он. – Если бы так называемый технический прогресс человечества стал врагом общего блага, это привело бы к тому, что человечество регрессировало к варварству, где главным законом был бы закон сильнейшего».
Впрочем, Папа Римский был далеко не первым в ряду выдающихся деятелей религии, политики, науки и культуры, который высказал опасения по поводу неконтролируемого распространения технологий, технологического прогресса и будущего, в которое этот технологический прогресс может завести людей.
Еще в 1996 году Джон Мазер, известный писатель, нобелевский лауреат, главный астрофизик лаборатории наблюдательной космологии в Центре космических полетов им. Годдарда (НАСА), предупреждал:
«Мыслящие машины эволюционируют точно так же, как описанные Дарвином живые (и мыслящие) биологические виды – посредством конкуренции, сотрудничества, борьбы за выживание и воспроизводства. Машины становятся интереснее по мере того, как они учатся понимать физические объекты и управлять ими либо непосредственно, либо при участии людей.
Мы пока не обнаружили такого закона природы, который препятствовал бы появлению настоящего универсального искусственного интеллекта, так что я думаю, что это произойдет, и довольно скоро, учитывая триллионы долларов, что люди инвестируют в электронные аппаратные средства, а также те триллионы, которые заработают потенциальные победители…
Я пришел к выводу, что мы уже поддерживаем эволюцию мощного искусственного интеллекта, а он, в свою очередь, повлияет на развитие привычных нам могущественных сил: бизнеса, индустрии развлечений, медицины, государственной безопасности, производства оружия, власти на всех уровнях, преступности, транспорта, горнодобывающей промышленности, производства, торговли, секса – да чего угодно!
Я думаю, результаты нам не понравятся. А они могут появиться очень быстро, настолько быстро, что великие империи падут и на их месте вырастут новые, а у людей будет самый минимум времени, чтобы приспособиться к жизни в новой действительности. Я не знаю, окажется ли кто-нибудь достаточно умным и одаренным для того, чтобы сохранить власть над этим джинном, потому что контролировать, возможно, придется не только машины, но и людей, дорвавшихся до новых технологий и имеющих злые намерения».
Да, если исходить из того, что к социально-технологической эволюции можно отнести и экономическое развитие, и технологический прогресс, Джон Мазер попал в точку. Мыслящие машины (они же искусственный интеллект) эволюционируют по точно таким же законам, как и люди. Более того, все говорит о том, что они являются аналогом, продолжением «человека разумного» – но, конечно, ровно настолько, насколько может являться аналогом «биологического процессора» мегапроцессор технологический, который вот-вот должен появиться, воплотив в жизнь мечты визионеров о технологической сингулярности. А пока на пути к ней новые технологии появляются одна за одной. Среди них есть и ключевые (такие как Big Data, мобильный интернет, нейросети), есть и проходные. Тем не менее, каждая новая технология делает жизнь людей (прежде всего власть имущих) более комфортной, удобной, безопасной и увеличивает объемы обмена данными, потоки которых растут экспоненциально. Это, в свою очередь, требует все более быстрого увеличения вычислительных мощностей: «биологических процессоров» для вычислительного процесса уже давно не хватает.
Но социально-технологическая эволюция – это не только экономический рост, удобство и комфорт. Это все больше и больше новых вызовов. Ведь пока все человечество строем идет вперед в светлое будущее, индивидуум, особенно, если он не принадлежит к элите, должен постоянно приспосабливаться. И одно дело адаптироваться к изменениям в течение нескольких поколений, и совсем другое, когда в течение жизни одного поколения изменения следуют одно за другим чуть ли не каждый месяц.
«Это вызывает дискомфорт только у старшего поколения. Представители молодежи чувствуют себя в такой среде как рыба в воде», – скажет читатель. Однако порой с серьезными проблемами, обусловленными всеобщей «технологизацией», сталкиваются и молодые люди.
…Казалось бы, мобильный интернет появился не так давно. Множество приложений в AppStore, огромное количество возможностей, выбирай на вкус. А как удобно расплачиваться телефоном, привязав банковскую карту и счет к своему номеру! Однако молодой российский журналист Никита так уже не считает.
Однажды Никита забыл свой мобильный телефон в ночном клубе. Вспомнил, вернулся, телефон ему отдали. Но то, что в мобильнике почему-то не оказалось сим-карты, он на радостях заметил только на следующий день. Казалось бы, что такое сим-карта? Пустяк, всего несколько минут потраченного времени в любом салоне сотового оператора – и новая карта уже в телефоне, не хуже прежней. Однако, когда Никита обратился в салон, там неожиданно выяснилось, что, пока он высыпался после бурной ночи, его сим-картой уже кто-то успел воспользоваться.
Никита устремился в свой банк – крупный, надежный, с западным капиталом. В банке его ждало горькое разочарование: неизвестные сняли со счета несколько миллионов рублей, отложенных молодой семьей на первый взнос по ипотеке. Излишне добавлять, что мошенников никто найти не смог, а деньги банк не вернул. Ведь формально клиент банка снял деньги со своего счета сам, идентифицировав себя своим собственным номером мобильного телефона, который реально ему принадлежал. Ужасно глупая случайность, приведшая к столь печальным последствиям. А ведь таких случаев – тысячи и даже, может быть, десятки тысяч, если не больше.
Впрочем, в этой истории есть хотя бы доля вины «потерпевшего»: все-таки человек, очевидно, проявил невнимательность. Но ведь непредсказуемые «цифровые» риски могут возникать даже, казалось бы, в самой безобидной ситуации. Например, ваш телефон или планшет разрядился, а вам срочно нужна зарядка. Наверное, скажет читатель, нет ничего страшного в том, чтобы воспользоваться общественной зарядкой (например, в ресторане или аэропорту) или попросить зарядный провод у незнакомца, сидящего рядом и использующего аналогичный вашему мобильный телефон. Однако специалисты по кибербезопасности категорически рекомендуют этого не делать.
«Есть такие вещи, которые просто нельзя одалживать, – уверен Чарльз Хендерсон, управляющий партнер и руководитель проекта X-Force Red в «IBM Security». – Если бы вы путешествовали и спохватились, что забыли взять с собой нижнее белье, вы бы наверняка не стали просить спутников одолжить вам его. Вы бы пошли в магазин и купили новое».
И такое мнение имеет под собой достаточное обоснование. В 2019 году специалисты по кибербезопасности выяснили, что через зарядные устройства и иные провода, которые вы подключаете к вашему смартфону или планшету, злоумышленникам несложно похитить данные ваших кредитных карт, контакты, любые другие файлы и информацию, которые хранятся в телефоне. Мнению Чарльза Хендерсона можно доверять: он сам руководит командой хакеров, которые разработали технологии, позволяющие через провода зарядных устройств внедрять вирусы, удаленно атакующие смартфоны и компьютеры, и выполняющие любые вредоносные команды своего «хозяина».
Вы все еще не верите? А зря. В августе 2019 года в «летнем лагере» для хакеров и киберспециалистов – «DEF CON Hacking Conference» – один из хакеров, известный под ником MG, продемонстрировал подобную технологию. Он смог подключиться к компьютеру удаленно через «доработанный» зарядный провод IPhone и получил полный контроль над ноутбуком Apple. Более того, MG заявил, что не составляет сложности создать программу, которая «убьет» внедренный вирус, не оставив ни единого следа его существования, после того, как задачи, поставленные перед вирусной программой, будут выполнены.
Особенную опасность, считает Хендерсон, несут станции для подзарядки телефонов с USB-портами, расположенные в общественных местах – аэропортах, вокзалах, станциях метрополитена. Они несут в себе самую серьезную угрозу – такие станции очень просто взломать, через них можно похитить пароли, получить несанкционированный доступ к почте. «Мы знаем о паре случаев, когда станции для подзарядки взламывали. Я говорю не об электрических розетках. Я говорю о станциях для подзарядки с USB-портами… Осторожность в отношении всего, что вы подключаете к своим устройствам, – это просто хорошая IT-гигиена. Считайте, что это то же самое, как открывать вложения к письмам или передавать пароли. В случае с компьютерами передать провод – это как передать пароль, потому что именно такой уровень доступа вы предоставляете».
Специалисты по кибербезопасности отмечают, что вместе с новыми технологиями в нашей жизни появляется все больше новых рисков, причем связано это не только с финансовыми или банковскими технологиями. В зоне риска оказывается наш повседневный быт в целом. И, если новыми гаджетами или новыми приложениями в телефоне люди пользуются с удовольствием, они никогда не должны забывать, что освоение технических новинок должно идти рука об руку с киберграмотностью и соблюдением принципов кибербезопасности. Иначе увлечение новинками технологического прогресса может выйти человеку боком.
Особенную заботу профессионалов кибербезопасности вызывают вопросы приватности в интернете и современном обществе в целом, а также сохранение в неприкосновенности собственных персональных данных. Так, например, Антон Фишман из известной компании по кибербезопасности «Group-IB» рекомендует в обязательном порядке соблюдать базовые принципы киберграмотности, и отмечает, что только такими жесткими мерами можно попытаться сохранить приватность в новом цифровом мире и обезопасить себя от кибермошенников. Советы сами по себе довольно простые, но вместе с тем очень полезные и актуальные.
Итак, в чем заключаются эти рекомендации?
– заклеивать камеру на мобильном телефоне и ноутбуке;
– отключать на мобильном телефоне любые сервисы геолокации и передачи данных;
– устанавливать на телефон только нужные приложения, ограничивая их доступ к контактам и прочей информации на телефоне;
– подключаться к Интернету только с помощью VPN;
– жестко контролировать все свои высказывания в сети, не позволять себе ничего лишнего.
Фишман отмечает, что в современном мире «паранойи много не бывает, все, что вы делаете в интернете, может быть использовано против вас».
Впрочем, с приходом новых «умных» технологий вся наша повседневная жизнь, похоже, становится «публичной жизнью в сети». Многие читатели, наверное, замечали, что, если поговорить с супругой или друзьями о чем-то, находясь рядом со своим телефонным аппаратом, в интернете потом выскакивают рекламные баннеры на тему того, о чем, собственно, шел разговор.
Это стало причиной широкого распространения конспирологических версий о том, что высокотехнологичные гиганты – Facebook, Apple, Amazon – анализируют все голосовые коммуникации своих клиентов. Как сообщало агентство Bloomberg, Марку Цукербергу, главе Facebook, даже пришлось оправдываться за это перед сенатом Соединенных Штатов Америки. В апреле 2018 года он заявил сенатору Гэри Питерсу следующее: «Вы говорите об этой теории заговора, что мы якобы слушаем то, что происходит на вашем микрофоне, и используем это для рекламы. Мы этого не делаем».
В последующих своих ответах Конгрессу США Facebook уже менее категорично утверждал, что «получает доступ к микрофону пользователей только в том случае, если пользователь дал разрешение нашему приложению или если пользователи активно используют особую функцию, требующую звука (например, функции записи “голосовых сообщений”)».
В итоге Facebook все же подтвердил, что он записывает аудио коммуникации своих пользователей, и объявил, что больше не будет так делать. «Так же, как Apple и Google, мы приостановили анализ звука», – заверили представители компании. Также в Facebook предположили, что пострадавшие от записей их разговоров пользователи сами выбирали опцию в приложении Messenger Facebook, разрешая тем самым компании записывать свои голосовые коммуникации.
Кстати, как пишет «Forbes», Facebook уже запатентовал технологию автоматического распознавания членов одной семьи и родственников по лицам на фото (в Instagram и самом Facebook) и по хештегам типа #kids, #wifey, #mom и так далее. Самое важное в технологии – фиксация IP-адреса пользователей и устройств, которыми пользуются члены семьи, так как это дает возможность отслеживать их геолокацию.
Идея состоит в том, чтобы использовать полученную о пользователях и членах их семей информацию для рассылки персональных рекламных объявлений. Однако журналисты предупреждают, что благодаря новой технологии компании-производители товаров смогут наблюдать, «как их продукты влияют на жизнь семей». Сам Facebook анализирует эту жизнь уже давно, и некоторые специалисты считают, что социальная сеть сохраняет все статусы пользователей, даже те, которые были написаны, но не опубликованы.
Много вопросов вызвал и прошедший в Facebook челлендж #2009vs2019, который заставил пользователей задуматься о том, кто инициатор такого рода акций в соцсетях и ради чего они проводятся. А любознательные журналисты даже нашли доказательства того, что инициатива выкладывать свои фотографии десятилетней давности рядом с фотографиями «сегодняшнего дня» принадлежит самой компании.
Подробное расследование на эту тему опубликовало издание «Wired». Журналисты предположили, что «челлендж» может проводиться для обучения искусственного интеллекта распознаванию лиц. Казалось бы, технология уже не нова, пользователи выкладывают миллиарды своих фотографий в соцсети, и массивов с фотоизображениями для обучения нейросетей более чем достаточно. Но в данном случае, оказывается, есть своя специфика.
Все дело в том, что простое распознавание лиц искусственным интеллектом – это сейчас уже пройденный этап. На повестке дня стоит уже другая задача: нейросети обучаются предсказывать, как будет выглядеть конкретный человек через 5, 10, 20 лет. Для этого нужен огромный массив маркированных фотографий, желательно с высокой степенью точности привязанный к конкретным датам, в идеале – сделанных через некий фиксированный промежуток времени. И если в 2018 году Facebook проводил флешмоб #2012vs2018, через год он предложил пользователям выкладывать рядом фото уже с десятилетней разницей в возрасте. Вот он, огромный массив бесплатных данных, даже промаркированный нужным хештегом. Осталось только загружать данные в обучающую программу и пользоваться.
Казалось бы, кому и зачем это может быть нужно?
Во-первых, сейчас все делается ради персонализации и таргетирования (поиска и выделения целевой аудитории, которая с наибольшей вероятностью отзовется на рекламу или иной посыл). В данном случае речь идет о таргетировании по возрасту. Людям разного возраста нужны разные товары, а нейросети пока не умеют с достаточной точностью различать возраст людей. Первый, кто сумеет натренировать алгоритмы с очень высокой степенью точности определения возраста человека по фотографии, произведет революцию в таргетированной рекламе.
Во-вторых, если искусственный интеллект научится фиксировать возрастные изменения человека по фотоизображениям, страховые и медицинские компании смогут определять состояние здоровья пациента в динамике. Если человек слишком быстро стареет (меняясь на фото не в лучшую сторону), страховка для него может стоить дороже. Если же изменения совсем фатальны, это может говорить о какой-либо пагубной привычке или смертельной болезни, что станет для страховой компании важным сигналом. В таком случае страховщик может вообще отказать в страховке.
Все эти и другие подобные истории, конечно, не красят Марка и его корпорацию. Впрочем, в заверения Цукерберга Конгрессу можно было бы поверить, ведь ложь под присягой – тягчайшее преступление в Соединенных Штатах, и руководитель Facebook вряд ли добровольно пошел бы на это. Однако даже сами сотрудники высокотехнологичных компаний не всегда верят своим работодателям.
Так, например, в Google уверены, что корпорация следит за своим персоналом, чтобы «узнавать о попытках сотрудников выступить организованно». Об этом сообщало информационное агентство «Bloomberg» со ссылкой на источники среди работников компании. Эти источники рассказали агентству «Bloomberg» о «шпионском» расширении браузера Google Chrome, который в 2019 году установили на все компьютеры в офисе корпорации. Как выяснилось, программа в том числе автоматически сообщала о любых мероприятиях в онлайн-календарях персонала компании, в которых планировало принять участие больше ста человек. Но зачем это было нужно?
Комментарий руководства Google был предельно лаконичен: мол, браузер ни в коем случае не собирает личные данные, а всего лишь борется со спамом, ведь в онлайн-календарях события часто создаются по ошибке, что засоряет рабочий информационный фон сотрудников компании.
Однако возмущенные гугловцы почти не сомневаются, что законспирированное расширение в браузере Google Chrome используется совсем не для этого – ведь программу даже нельзя удалить со своего компьютера. Кроме того, источники «Bloomberg» указывали, что созданием якобы «шпионской» программы занимались сторонние разработчики под строгим контролем внутренних специалистов, ответственных за безопасность и политику конфиденциальности в компании. Это очень несвойственно для ранее демократичной «культуры Google», которая, как считают сотрудники, теперь становится все более закрытой и ограничивающей любые дискуссии.
К высокотехнологичной корпорации в последнее время немало претензий. Так, «Financial Times» писал о том, что Google незаконно собирает личные данные, а потом тайно передает их рекламодателям. Запросы, по мнению журналистов, могут проходить через вкладки личного кабинета пользователя посредством браузера.
Газета рассказала историю старшего директора по политике и отраслевым отношениям компании Brave Джонни Райана, который якобы смог отследить, как Google продавала его личные данные на своей специализированной рекламной бирже.
Компания отметила Райана специальным идентифицирующим трекером, который содержал информацию о его местоположении, активности в браузере и так далее. Это позволяло рекламным компаниям идентифицировать пользователей и в дальнейшем таргетировать рекламу. По его утверждениям, за час Джонни Райан просмотрел 6 различных страниц, при этом его уникальный идентификатор был отправлен минимум 8 рекламным компаниям.
Принадлежащий Amazon производитель «умных звонков» Ring (через мобильное приложение домовладелец может в онлайн-режиме получать мобильное видео с изображением посетителя, когда владелец «умного звонка» находится вне дома) тоже оказался замешан в подобном скандале.
Как выяснили журналисты, Ring позволял следить за своими клиентами не только алгоритмам, но также инженерам и разработчикам, которые могли наблюдать через видеокамеру устройства все, что происходило около дверей дома клиента, в том числе и то, с кем возвращался домой сам владелец «умного звонка». Более того, в процессе расследования выяснилось, что видеопоток с камер клиентов изначально не шифровался и доступ к нему могли получить сторонние лица.
Данный факт стал свидетельством абсолютной беззащитности пользователей перед лицом несанкционированного внешнего вмешательства в частную жизнь через «умные» устройства. Получается, что граждане сами приобретают себе таких «внешних наблюдателей», якобы в интересах собственной безопасности, на деле же просто отказываясь от тайны частной жизни. А ведь «умные» устройства уже давно не экзотика, а реальность, причем во многих странах мира.
Так, по данным аналитической компании IDC, объем рынка «умных» вещей только в России в 2018 году составил почти 4 млрд долларов. Эксперты прогнозируют увеличение этого показателя вдвое до 2021 года включительно, при этом отмечают, что большинство «умных» устройств уже управляются голосом, что еще 3 года назад было почти невероятно.
Безусловно, у потребителей «умных» товаров появляются все новые потребности, которые рынок старается оперативно удовлетворять. Борясь за лидирующие позиции на перспективном рынке «умных» устройств, производители постоянно совершенствуют свой товар и заботятся о безопасности (например, следят за тем, чтобы человек не ставил приборы близко к электрической плите или раковине).
Конечно, такие замечательные «умные вещи» значительно облегчают нашу жизнь, делают ее удобнее и комфортнее: первый принцип социально-технологической эволюции действует всегда. Тем не менее, проблема информационной безопасности «интеллектуальных устройств» стоит очень остро. Как правило, вся «умная» техника управляется через мобильные приложения, которые довольно легко взломать. И это дает огромный простор для преступной деятельности – можно следить за пользователями или просто дистанционно выводить из строя приборы. Эксперты предупреждают, что, так же как и с финансовым мошенничеством, риски для пользователей становятся все более значительными.
