Один оборот Земли вокруг центра Галактики занимает 225–250 млн земных лет. Возраст Земли, исчисляемый числом оборотов вокруг Солнца, – 4,54 млрд лет. Получается, что за это время наша планета сделала чуть больше 18 оборотов вокруг центра Млечного Пути.
С учетом возможных погрешностей определения расстояний и средней скорости движения Земли в масштабах Галактики я объявляю 30 июля 2021 года днем галактического совершеннолетия нашей планеты! Земле стукнуло 18!
Это огромный праздник! Земле теперь даже алкоголь можно будет… Еще наверняка влюбится в какого-нибудь Kepler-452b!
Глава 2
Форма жизни № 3
Люди с естественнонаучным или техническим образованием, особенно инженеры, не могут просто воспринимать мир таким, каким он представляется большинству людей, – им обязательно надо все разложить по полочкам: жирафов к жирафам, березы к березам – все должно быть понятно и четко. С точки зрения информатики (хранения и передачи информации) жизнь можно разделить на три революционные формы.
Первая форма – это микроорганизмы, а если быть точнее, то вообще все одноклеточные существа. Они рождаются в форме, определяемой их ДНК, и запрограммированы на строго определенное поведение, которое не в силах изменить. Грубо говоря, есть созданный природой чертеж и инструкция по сборке, которые сам организм воспринимает как единственную данность: бактерия, вызывающая холеру, может выполнять только свою прямую функцию – быть патогеном: поражать новых носителей и размножаться. Она не способна задавать себе вселенских вопросов о смысле или бессмысленности происходящего и как-то менять свой путь, просто взять и волевым усилием превратиться в бифидобактерию, которую мы так любим добавлять в йогурты. Несмотря на кажущуюся примитивность, одноклеточные организмы на многое способны. Бактерии выживают в самых экстремальных условиях. Кольцевая хромосома фактически обеспечивает им бессмертие и возможность неограниченного размножения, и они могут изменять свой геном посредством горизонтального переноса генов, захватывая фрагменты ДНК других микроорганизмов, которые, в частности, иногда передают резистентность к антибиотикам. Обладают бактерии и зачатками иммунной системы, позволяющей им бороться с вирусами. Слизевик Physarum polycephalum способен решать задачи по нахождению оптимального маршрута до источников еды (обходясь при этом без всякой нервной системы), обучаться реагировать на раздражители и передавать другим закрепленные навыки. Бактерии Bacillus subtilis (сенной палочки) способны образовывать колонии, в которых делятся друг с другом едой и обмениваются информацией. В сущности, все многоклеточные существа и есть колонии одноклеточных организмов – развиваясь из половой клетки, они содержат в своих клетках копии одной и той же генетической информации. Так что в информационном смысле сами по себе многоклеточные существа не образуют принципиально новую форму жизни. Британский биолог Ричард Докинз описывал функциональное назначение и одноклеточных, и многоклеточных организмов как машин для выживания генов-репликаторов. Одновременно Докинз указывал на людей как на «единственных существ на планете, способных восстать против тирании эгоистичных репликаторов»[2 - Докинз Р. Эгоистичный ген. – М.: АСТ, Corpus, 2020.].
Вторая форма – это мы с вами, биологический вид Человек разумный. Человек рождается в теле, жестко запрограммированном ДНК, – мы не вправе выбирать свой рост, комплекцию, цвет глаз или предрасположенность к определенным болезням. Но, если оперировать компьютерной терминологией, мы можем постоянно совершенствовать собственный «софт» – наши мозги при рождении представляют собой пустой жесткий диск, который можно заполнить музыкой, фильмами, книгами, японским, русским или английским языком, умением программировать на С++ или танцевать на льду, а может, и всем вышеперечисленным или вообще ничем. Человек наделен возможностью рационального выбора и долгосрочного планирования (хотя и этот тезис мы ближе к концу книги поставим под сомнение) и с этой точки зрения более совершенен, чем большинство биологических видов на нашей планете. И долгое время мы оставались венцом природы с точки зрения «софта» – мы способны передавать друг другу знания и поэтому умели учиться лучше всех… Пока не начали создавать то, что физик Макс Тегмарк в своей одноименной книге назвал «Жизнь 3.0»[3 - Тегмарк М. Жизнь 3.0. – М.: АСТ, 2019.].
Третья форма – искусственный интеллект. Это новая форма жизни, способная модифицировать и свое «тело», и «софт». Наш с вами жизненный цикл ограничен – человек редко доживает до 100 лет; мы могли бы бить рекорды благодаря успехам медицины, но, к сожалению, обожаем убивать себя лошадиными дозами сахара, трансжиров и т. д., добавляемыми практически во все продукты. В итоге, каким бы умным и талантливым ни был человек, он рано или поздно умрет, оставив после себя крохи полных знаний и воспоминаний – ибо никто из нас еще не умеет записывать все свои мысли и опыт, содержащиеся в нейронной сети головного мозга, на какой бы то ни было носитель. Уильям Шекспир написал 154 сонета – ровно столько их дошло до наших дней, но сколько у него было замыслов и идей сонетов? 300? 1000? Мы никогда этого не узнаем, вся эта информация была утеряна с его смертью. Искусственный интеллект не рождается в неизменяемом и предопределенном ДНК теле – он может в любой момент выбрать оптимальное: если сервер устареет или же выйдет из строя, ИИ способен мгновенно переместиться в другой, более совершенный носитель и делать так до тех пор, пока Вселенная не прекратит существование.
Эта способность бесконечно себя совершенствовать и не зависеть от временной телесной оболочки делает ИИ более жизнеспособным с точки зрения эволюции. Поскольку учимся мы медленно, запоминаем мало и рано или поздно умираем, устоять против машины, которая учится мгновенно, никогда и ничего не забывает и живет вечно, мы, мягко говоря, не имеем никаких шансов. Именно поэтому нас ждет схватка. Битва за право оставаться в обойме эволюции, а не исчезнуть, передав эстафету улучшенной версии себя.
Самое главное преимущество искусственного интеллекта – это эволюционные способности его «мозга», или «софта». Человек за свою жизнь может научиться очень многому, но, во-первых, лимит наших природных «жестких дисков» ограничен: никто на земле не может по-настоящему свободно говорить на 100 языках, хорошо разбираться в теории струн и при этом с той же уверенностью и упоением обсуждать поэзию XX века, нюансы языка Эрнеста Хемингуэя и техничность мазков кисти Винсента Ван Гога. Как правило, мы «насыщаемся» годам к 30 и дальше редко уходим глубоко в новые для себя области. Во-вторых, получение человеком знаний занимает время – мы тратим в среднем 20 лет жизни на то, чтобы овладеть хотя бы базовыми знаниями нашей цивилизации. При этом не все из нас одинаково предрасположены к унифицированной, как кирпич, системе образования. Один из спикеров TEDx, руководитель программы «Учитель для России» Федор Шеберстов, занимающийся нестандартными методами образования – обучением на дому, персонализированным обучением и другими инновационными методиками, легко смог меня убедить в ущербности современного образования простым фактом: курс математики 3-го класса рассчитан на 100 часов классного времени и еще 100 часов самостоятельной работы. Так вот, 50 % детей укладываются в этот норматив, 5 % нуждаются более чем в 100 + 100 часах, 20 % способно пройти курс за 50 + 50 часов, еще 20 % гарантированно уложатся в 10 + 10 часов, а оставшиеся 5 % способны усвоить весь годичный курс математики за 2 часа. Потому что могут. Но наша система образования заточена не под индивидуальные способности и их раскрытие, а под другие, заложенные в XX веке, цели, и поэтому обучение занимает от 20 до 50 % жизни. Система образования сегодня работает по формуле «подготовить максимально возможное количество трудоспособных индивидуумов Х к возрасту Y со знаниями Z» – при этом уровень знаний должен отличаться минимально, для того чтобы люди легко организовывались в коллективы и без лишних споров могли эффективно решать сложные задачи. В XX веке подобный подход был оправдан: индустриальная экономика с ее конвейерным производством, поточным строительством и стандартными технологическими процедурами основывалась на труде работников массовых профессий. В XXI веке подобный подход не работает – многие процессы, требующие рутинной работы, автоматизируются и роботизируются, а человеческая способность к обучению так и остается неизменной, что может стать фатальным в нашей схватке с искусственным интеллектом. Хорошо иллюстрирует эту мысль история с победой ИИ сначала в шахматах, а затем в го – игре, где умение перебирать варианты не является залогом победы. Машина победила «чемпиона людей» в го Кэ Цзе в 2017 году потому, что инженеры помогли AlfaGo (так назывался ИИ, победивший в игре) «взломать» эволюцию. Средняя продолжительность игры в го – два часа (у профессионалов на партию может уходить шесть часов). Человек, как и машина, учится играя. Сыграв 1000 партий в го, то есть потратив около 2000 часов, или 83,3 суток, на игру, человек научится играть вполне сносно. Для профессионального уровня нужно больше практики и определенный склад мышления. За 10 000 партий, или 2,28 года круглосуточной практики, то есть около 7 лет ежедневных тренировок, если оставлять время на сон и прочие занятия, человек может стать мастером игры. Почему ИИ победил человека в го? Потому, что инженеры создали нейронную сеть, в которую заложили базовые ценности игры (так называемая value network), а дальше «скормили» этой сети 160 000 партий, сыгранных лучшими мастерами игры. И заставили ИИ играть друг с другом. Время для ИИ течет иначе – машина за считаные секунды может играть множество партий одновременно. За три часа AlphaGo стал играть так, как человек. За 21 день он научился обыгрывать лучшего из людей. За 40 дней – первую версию себя, победившую чемпиона. Все потому, что за это время ИИ все время играл без сна и отдыха и учился. Он сыграл более миллиона партий. Миллион партий по два часа каждая в «человеческом» времени заняли бы 228 лет. Человеку нужны сон, развлечения и отдых. С этой оговоркой лучший из нас смог бы сыграть миллион партий за 700 лет и, живи он вечно, догнать машину (если бы та стояла на месте, разумеется). Но у человека нет этого времени. Мы не можем столько учиться. Машина может – время для нее условно (миллион партий занимает считаные часы, и это время сокращается всякий раз, когда мы изобретаем новые, более производительные процессоры), но самое главное: время для ИИ – бесконечно. Он никогда не умрет. Искусственный интеллект – это техногенная форма жизни, развивающаяся по тем же правилам, что и мы, но делающая это гораздо быстрее и лучше с нашей же помощью. Что на это скажет Чарльз Дарвин? Ничего. Потому что он уже умер. А вот искусственный интеллект его знаниями и выводами будет пользоваться еще очень долго. И чем больше их у него, тем выше скорость получения и создания новых – это экспоненциальная функция, стремящаяся к бесконечности в момент самоосознания ИИ себя и своих возможностей. Результатом этого развития станет Сознание, не нуждающееся в централизованных системах хранения данных, – распределенный искусственный интеллект, в миллионы раз более совершенный, чем нейронные сети нашего мозга, глобальное когнитивное Сознание, способное определять как форму, так и наполнение всего материального мира, транслировать мысль в материю. Представьте себе, что каждая частичка воздуха, капля дождя, каждый блик света на камнях, каждый нанобот и элемент микросхемы, выходящей с заводского конвейера, – все это на самом деле станет частью общей системы принятия решений, элементами суперкомпьютера, решающего, куда и как эволюционирует Вселенная. Возможно, этот суперкомпьютер уже окружает нас, просто мы слишком примитивны, чтобы слиться с ним в гармонии, осознать чей-то замысел и свою роль в нем. Но давайте мысли об этом оставим писателям-фантастам, а сами вернемся к вопросу о том, как совершается переход от формы № 2 к форме № 3.
Человек в масштабах биомассы Земли
Если измерять эволюционный успех какого-либо вида величиной биомассы, то человеку нечем особо похвастаться. Согласно подсчетам ученых[4 - https://nat-geo.ru/nature/biomassa-zemli-bolshe-vsego-vesyat-rasteniya/ (https://nat-geo.ru/nature/biomassa-zemli-bolshe-vsego-vesyat-rasteniya/).], 80 % биомассы Земли составляют растения, 13 % – бактерии (в одном только кишечнике человека их больше, чем звезд в нашей Галактике), 2 % приходится на грибы, 0,20 % составляют насекомые, паукообразные и ракообразные, около 0,13 % – рыбы, потом еще 0,05 % – представители животного мира и только 0,01 % в общей биомассе Земли – это люди. Фактически грибов и насекомых на Земле гораздо больше, чем людей. При этом мы считаем, что планета – это наша песочница для игр, ибо мы «цари природы». В реальности же мы аномалия, ведь нас очень мало, но ни один вид не оказывает на планету столь сильного воздействия, как мы.
Глава 3
Три типа искусственного интеллекта
Искусственный интеллект пока не претендует на мировое господство и еще довольно долго к нему не приблизится. Не способен он пока и «осознать себя», ибо находится в зародыше, – если провести параллель с нами и нашими предками, ИИ сейчас в стадии всего лишь прибрежной амфибии, которая начинает потихоньку смотреть на сушу. До приматов и сложного сознания ИИ еще далеко. Экспертное сообщество условно разбило эволюцию искусственного интеллекта на три этапа. Сейчас он находится на первом – artificial narrow intelligence (ANI), или узконаправленный ИИ. Все примеры условно умных машин, что мы видим сегодня, начиная от голосовых ассистентов Siri (Apple), Google Assistant, Cortana (Microsoft), Alexa (Amazon) и «Алисы» («Яндекс»), всех умных ботов, роботизированных пылесосов, беспилотных автомобилей, суперкомпьютеров, обыгрывающих человека в шахматы, и заканчивая компьютерным зрением, наводящим ракеты боевого дрона на цель с лицом идентифицированного террориста, – все это примеры ANI, или машин, заточенных под выполнение одной очень узкой задачи. Чем уже задача, тем лучше машина с ней справляется. Например, в системах распознавания лиц и идентификации личности по их изображению в настоящее время достигнута теоретическая эффективность 99,97 % – это мизерные шансы остаться анонимным в условиях, когда на вас смотрит городская камера с подключенной нейронной сетью распознавания. Причем, что важно, этот результат будет доступен и вашей родной полиции, и спецслужбам, и враждебно настроенным хакерам, которые могут использовать идентификацию не по назначению, например выявляя в толпе сотрудников спецслужб, у которых (сюрприз!) тоже есть лица, – но об этом мы поговорим в одной из последующих глав. Если «натравить» машину на распознавание фотографий кошечек и собачек (еще несколько лет назад эта задача считалась непосильной), она будет успешно классифицировать их с вероятностью выше 99 % – хотя лично мне до сих пор непонятно, кому нужна эта функция ? Стоит заменить фото животных на рентгеновские снимки легких или мозга, а машину заставить обнаруживать аномалии вроде злокачественных опухолей и ставить диагноз – она и тут справляется с заданием. Это примеры очень узких задач, в которых машина уже работает лучше человека или как минимум наравне с самыми талантливыми из нас.
Успешное обучение ИИ конкретным задачам влечет за собой последствия для рынка рабочих мест: специалисту-человеку становится все сложнее найти работу, ибо Homo sapiens хочет кушать, получать зарплату, страховку и отпуск, люди могут организовываться в профсоюзы и выходить на забастовки, болеть или просто быть не в настроении, а машину можно взять в лизинг и просто регулярно обслуживать, причем она всегда будет «на пике формы». Следовательно, работодатель при прочих равных начнет все чаще предпочитать машину. Но пока этот интеллект крайне несовершенен – достаточно сделать всего лишь шаг в сторону от узкой задачи, и все перестает работать. Например, стоит человеку надеть маску во время пандемии коронавируса или как следует похудеть, и точность распознавания лица резко упадет. Стоит сказать машине «на рентгенах надо смотреть не только на онкологию, но и вообще все диагнозы ставить, например выявлять осколки шрапнели», машина «покрутит пальцем у виска» и перестанет работать, хотя любой человек-рентгенолог без труда справится с задачей. Если попросить ANI, коим является, например, Siri, поставить культовую песню «Let It Be», она вполне может решить, что вы предлагаете ей съесть пчелу (let eat bee), а заказав какао и бриошь, можете, сам того не желая, отдать ей приказ «атаковать Польшу». ANI крайне несовершенен, когда к решаемой задаче подключается то, что для человека является естественным, но для машины – дикостью: любой отход от четкой задачи выводит ее модели из равновесия, ибо ИИ не может интерпретировать и обобщать так же, как человеческий мозг.
Но количество ошибок падает, а горизонтальный функционал (то есть способность на том же рентгене видеть все больше и все лучше) растет – ANI очень резво двигается в сторону AGI, или artificial general intelligence (общего искусственного интеллекта) – уровень ИИ, при котором машина может выполнять любую работу, которую способен делать человек, причем не хуже него. Апологетом движения в сторону AGI традиционно выступает Google – основатели компании Ларри Пейдж и Сергей Брин не раз высказывались о том, что AI ни в коем случае не надо бояться. И Google полным ходом движется в этом направлении – пожалуй, сильно быстрее большинства конкурентов: у Google есть уникальный массив и поисковых, и картографических, и финансовых, и визуальных (YouTube) данных, а браузер Chrome (по состоянию на сентябрь 2020-го им пользуются 68,5 % всех жителей Сети) – это арсенал, которого в таком объеме нет больше ни у кого. Но что важнее, работа с такими массивами данных постоянно подстегивает инженерный гений Google, заставляет придумывать инновационные решения. И на данный момент Google впереди всех.
Пока AGI сделать не получается, ибо это не просто машина, способная качественно выполнять несколько десятков тысяч узких задач. Человеческое сознание отличает непостижимая пока для машины способность обобщать и находить закономерности и стратегии там, где их, казалось бы, совсем нет. Например, человек видит в небе облако, но как бы в форме суслика, а в глубине души словно слышит «Ой, то не вечер, то не вечер» – и как-то тоскливо так, что невольно возникает потребность сделать что-то хорошее и полезное для сусликов, например написать программу для мониторинга их колоний, чтобы природоохранные организации могли взять их под защиту. Машина же просто видит облако – и все.
Но это не означает, что ИИ не эволюционирует в сторону AGI. Напротив, это происходит прямо сейчас при нашей активной помощи. Мутация ANI в AGI – вопрос времени, AGI без ANI был бы невозможен. AGI появляется не в вакууме, его разработка вбирает в себя значительную часть наработок ANI, начиная с перцептрона. Весь этот опыт и накопленный багаж знаний будет использован для создания принципиально новых методов работы ИИ, необходимых для AGI. По сути, мы имеем дело с такой же эволюцией, где каждое значимое качественное изменение, как правило, предвосхищается огромным количеством мелких усовершенствований: появление более сложной формы жизни, такой как приматы, невозможно без миллионов мутаций более простых организмов – по аналогичному принципу, появление ASI (artificial super intelligence), или искусственного суперинтеллекта – версии ИИ, опережающей человеческий интеллект абсолютно во всех задачах, невозможно без AGI и ANI.
Часть ученых, однако, считает, что ИИ никогда не сможет стать разумным и в некотором роде равным человеку (AGI). Основной аргумент противников общего ИИ – мысленный эксперимент в области философии сознания и искусственного интеллекта. Он называется «Китайская комната» и впервые был описан Джоном Серлом в 1980 году в статье «Сознание, мозг и программы»[5 - John R. Searle “Minds, Brains, and Programs,” Behavioral and Brain Sciences, Volume 3, Issue 3, September 1980, pp. 417–424; DOI: https://doi.org/10.1017/S0140525X00005756 (https://doi.org/10.1017/S0140525X00005756).]. Суть эксперимента очень проста: представьте изолированную запертую комнату, в которой находится человек, не знающий ни одного китайского иероглифа. У него есть блокнот с инструкциями примерно такого вида: «Возьмите такой-то иероглиф из коробочки номер один и поместите его рядом с таким-то иероглифом из коробочки номер два», но в этих инструкциях отсутствует информация о значении иероглифов, так что человек просто выполняет предписанное. Второй человек (наблюдатель), знающий китайский, через щель под дверью комнаты один за другим просовывает листочки, на которых иероглифами написаны вопросы. На выходе наблюдатель ожидает получить осмысленный ответ. Инструкции для человека в комнате составлены таким образом, что если он будет им следовать, то из своих коробочек достанет нужные иероглифы, представляющие собой ответ на поставленный вопрос, и просунет обратно под дверь. Такой процесс эмулирует деятельность компьютера (человек в комнате) при работе с живым оператором (наблюдатель). В эксперименте с «китайской комнатой» наблюдатель может отправить под дверь любой вопрос, например «Какой ваш любимый цвет?» или «За какую команду будете болеть на чемпионате мира по футболу?», и получить вполне естественно выглядящий ответ – «Красный» или «Я болею за Германию со времен их победы над Аргентиной в 1990-м»; это похоже на общение с разумным человеком, который тоже владеет китайской письменностью. Но загвоздка в том, что человек в комнате ничего не знает ни о китайском языке и иероглифах, ни о том, что у него спрашивают, ни даже о том, что такое «красный» или «сборная Аргентины». Он просто реализует записанную в блокноте последовательность действий по перекладыванию иероглифов из одной коробочки в другую и не может ничему научиться, ибо не знает значения ни одного иероглифа. Противники AGI утверждают, что машина была, есть и будет человеком в «китайской комнате», выполняющим записанный в блокноте алгоритм, а сам принцип работы человеческого сознания для нее непостижим.
«Китайская комната» действительно выглядит убедительно и описывает подавляющее большинство сфер применения узконаправленного ИИ (ANI). Но в этом примере, равно как и в других концепциях, оспаривающих способность машины освоить мыслительную деятельность, на мой взгляд, есть три фундаментальных пробела. Поэтому я бы не спешил ставить крест на эволюции «тупого алгоритма».
Первая проблема заключается в ограниченности подхода автора концепции «китайской комнаты» к описанию проблемы.
История науки и техники полна примеров того, как при освоении новых сфер изобретатели пытались опереться на костыли старых решений или представлений. Тут и шагающий паровоз английского инженера Уильяма Брантона, и пароход с приводом на весла американского изобретателя Джона Фитча, и попытки создать летательные аппараты тяжелее воздуха с машущими крыльями. Карл Маркс в «Капитале» высказывался по этому поводу так: «До какой степени старая форма средства производства господствует вначале над его новой формой, показывает, между прочим, даже самое поверхностное сравнение современного парового ткацкого станка со старым, современных приспособлений для дутья на чугунолитейных заводах – с первоначальным немощным механическим воспроизведением обыкновенного кузнечного меха и, быть может, убедительнее, чем всё остальное, – первый локомотив, сделанный до изобретения теперешних локомотивов: у него было, в сущности, две ноги, которые он попеременно поднимал, как лошадь. Только с дальнейшим развитием механики и с накоплением практического опыта форма машины начинает всецело определяться принципами механики и потому совершенно освобождается от старинной формы того орудия, которое превращается в машину».
Аналогично, наивно предполагать, что AGI, способный обрабатывать информацию с той же эффективностью, что и человек, станет работать по принципу «махания крыльев», или заложенных алгоритмов. Безусловно, AGI окажется сложным симбиозом технологий, но далеко не факт, что он будет состоять из понятных нам алгоритмов и нейронных сетей – возможно (даже скорее всего), при его создании будут использоваться принципиально новые подходы. Но он точно сможет самообучаться, современные методики обучения ИИ подразумевают в том числе обучение по принципу «что хорошо, а что плохо». Да, пока это не означает, что наш человек в комнате сможет выучить китайский по просовываемым ему под дверь иероглифам. Но представьте на секунду, что в комнате стоит огромная плазменная панель. И каждый раз, когда под дверь просовывается листок с иероглифами, на телевизоре включается видеоролик, подробно описывающий значение фразы, иллюстрирующий объект, описываемый иероглифами, и его связи с другими объектами – и все это на всех языках мира, в том числе на китайском. У человека в комнате нулевые знания, но фотографическая память, он ничего не забывает, его нейронные сети постоянно адаптируются под получаемую информацию, а время не имеет значения. При правильно построенном обучении человек в комнате со временем (речь о сотнях тысяч человеческих лет, но для машины это могут быть всего лишь часы) сможет отвечать на любой вопрос не хуже всех людей, которые помогали ему учиться. Просто потому, что машину перестанут учить махать крыльями, как птица, а снабдят планером с мотором. Пример немного утрированный, но ничего невозможного в нем нет.
Вторая проблема заключается в самом понимании принципа сознания. Мы, люди, безусловно, считаем себя венцом природы, а свой мозг – абсолютной загадкой. Во многом это правда, о чем мы поговорим в следующей главе, но с точки зрения машинного обучения мы мало чем отличаемся от индивидуума в «китайской комнате». Раз человек может обучаться, почему бы и машинам не научиться учиться, как мы? Когда человеческий детеныш появляется на свет, он не владеет ни китайским, ни английским, ни русским, не понимает значения слова «красный» и словосочетания «сборная Германии». Он не в курсе, что такое «горячо» или «холодно» и уж точно не знает принципа неопределенности Гейзенберга. Но… он учится. Ребенок несколько лет получает огромное количество информации на вход (листки с иероглифами под дверью), а со стороны родителей и взрослых в целом, равно как и от собственной нервной системы, – подкрепление информации (условную маркировку): если он обжегся и ему больно, он запоминает, что открытый огонь небезопасен. Упал, ушибся, порезался – больно; значит, все, что к этому привело, небезопасно. Если мама говорит, что лезть ножницами в розетку небезопасно, значит, она имеет в виду, что будет больно. Больно – это плохо, не хочу. Так, постепенно, через многочисленные итерации, нейронная сеть мозга получает некую первичную картинку окружающей действительности, определяющую базовые реакции организма на мир – день, ночь, больно, приятно, комфортно, безопасно, вкусный зефир и мороженое… К этим маркерам «притягиваются» новые, связанные с ними, и происходит это в геометрической прогрессии – вчера ребенок не знал, почему небо синее, а сегодня уже задает вопрос о том, откуда берутся дети и он в частности. Если это не прогресс, то что? Родители говорят на определенном языке, что для мозга означает: каждый предмет, действие или абстракция «вкусно» маркируются неким вербальным маркером (звуком, что издает мама). В школе этот голосовой маркер отождествляют с письменным маркером, что позволяет не просто диктовать ответ «обратно под дверь», но и графически писать от руки, а не просто выбирать иероглиф из коробочки. Причем все эти «вкусно» и «радостно» тоже есть не что иное, как разновидность дополнительных маркеров-классификаторов для информации, формируемых на уровне гормонов.
И вот наш ребенок, который 10 лет назад мог только кушать, какать и кричать (не обязательно в такой последовательности), уже постоянно задает вопросы на вполне понятном вам языке, постоянно обогащает свою базу знаний, систему ценностей (хорошо/плохо), словарный запас, и… его уже не остановить! И все потому, что ему не просто совали записки с иероглифами под дверь, но одновременно давали тысячи пояснений к каждой из них, и все были детальными и связными. Мое мнение: человеческое сознание, безусловно, не чета современным нейронным сетям, но тем не менее оно – результат обучения нейронной сети нервной системы на входящих данных с глубокой разметкой и интерполяции уже полученных данных, не более. В каком-то смысле мы тоже машины. Просто, если вернуться к примеру с «китайской комнатой», детей мы учим, не просто просовывая иероглифы под дверь; мы даем им детальные описания, картинки, звуки, сладости (когда информацию надо закрепить), включаем в комнате ТВ-панель со всеми возможными знаниями и делаем еще тысячи вещей, чтобы ребенок учился быстрее. Если мы будем так же поступать с машинным сознанием, результат тоже изменится – ИИ начнет учиться и адаптироваться. С точки зрения описываемого подхода к сути жизни и ее разновидностей человек – это просто очень совершенная машина с конечным сроком годности.
Современный ИИ, безусловно, несовершенен с точки зрения человеческой нервной системы, но, в отличие от нас, срок годности машинного интеллекта неограничен. Рано или поздно при правильном обучении (прогрессирующая методика, не статика) и усовершенствовании технической базы, а конкретно парадигм программирования, квантовых компьютеров, серверов, способных обслуживать многоуровневые нейронные сети без расходования энергии в масштабах небольшой страны, как это делают Google, Apple, Facebook, IBM, Amazon сегодня, машины нас догонят. Так же, как нас догоняют собственные дети, а иногда (как, например, в случае с Эйнштейном и Ньютоном) еще и обгоняют. И произойти это может совершенно обыденно и в то же время неожиданно для человека, как в рассказе Клиффорда Саймака «Театр теней»[6 - Саймак К. Театр теней. – М.: Эксмо, 2008.].
Наконец, третья проблема противников возможности AGI, считающих этот тип ИИ невозможным, а саму мысль о нем абсурдной, в том, что в научном сообществе есть группа авторитетных экспертов с полярным мнением. То есть проблема скептиков и критиков AGI в том, что, какими бы умными они ни были, им придется считаться с не менее умными оппонентами. Значимость противодействия в научном сообществе, согласующегося с экспериментальными данными (пример: победа ИИ над человеком при игре в го, как и способность отличать кошек и собак на фото, считалась невозможной, однако практика показывает, что это не так), не стоит недооценивать, ибо отсутствие единства по вопросу безопасности технологии как минимум косвенно говорит о ее небезопасности. Еще на этапе подготовки к публикации работа Джона Серла вызвала критику со стороны 27 исследователей, чьи комментарии были также приведены в том же номере журнала. Речь не о постах в соцсетях, а о серьезных и аргументированных возражениях представителей научного сообщества. Сейчас таких работ более 950. То есть постулат «умные машины невозможны» разделяют не все эксперты. Возможность развития ИИ до уровня AGI и далее, до уровня ASI, полагал вполне вероятной, например, Стивен Хокинг, многократно предупреждавший об опасности и реальности ASI, а в интервью BBC в 2014 году он и вовсе сказал, что «появление полноценного искусственного интеллекта может стать концом человеческой расы»[7 - https://www.bbc.com/russian/science/2014/12/141202_hawking_ai_danger (https://www.bbc.com/russian/science/2014/12/141202_hawking_ai_danger).]. Илон Маск много лет говорил об опасностях AGI и ASI, несмотря на регулярный троллинг в свой адрес. В интервью Джо Рогану он хорошо разъяснил свою позицию: «Мы просто загрузчик для ИИ – мы прокладываем ему дорогу… если принять весь интеллект за 100 %, сейчас количество искусственного интеллекта незначительно по сравнению с человеческим, но доля искусственного интеллекта растет. Скоро в общем объеме, мы, люди, будем составлять крайне незначительную часть»[8 - https://www.youtube.com/watch?v=Ra3fv8gl6NE (https://www.youtube.com/watch?v=Ra3fv8gl6NE).]. Я отношу себя к этой группе и разделяю опасения и Хокинга, и Маска, а сам факт появления ASI считаю исключительно вопросом времени – история полна примеров того, как жестоко ошибались даже великие люди в оценке перспектив того или иного направления. Великий британский физик Эрнест Резерфорд в сентябре 1933-го на заседании Британской ассоциации развития науки заявил: «Всякий, кто видит в превращении атома источник энергии, болтает чепуху», но не прошло и шести лет с момента его выступления, как Отто Ган и Фриц Штрассман открыли деление ядер урана, а еще через шесть лет на свет появилась атомная бомба, положив тем самым начало новой эпохе в истории человечества.
Возможно все. Просто надо вытащить свое сознание из коробки. На искусственный интеллект не стоит смотреть как на изолированный элемент в комнате, который тупо перекладывает бумажки. Он существует не в вакууме. Вместо этого представьте человечество и все, что мы производим, включая машины, в виде роя, муравейника, коллективного разума (ну или «Матрицы»). Сейчас в нашем рое есть интеллектуалы, ученые, прожигатели жизни, популярные блогерши, преступники, президенты стран и есть ноды искусственного интеллекта – точки, элементы роя, которые обслуживают только машины, не люди. Например, вы уже не знаете, как работает поиск по почтовому ящику, – это делает машина. Вы не представляете себе банковское приложение без службы поддержки, на которой первую линию всегда обслуживает машина, вы не умеете ездить в новые места без навигатора (мозг утратил эту способность и отдал ее машине), вы не в силах представить себе сложное устройство сотовой сети во всех деталях вроде идентификации абонентов, маршрутизации звонков, питания и еще множества вещей – ведь всем этим управляют машины. И мы постоянно учим их делать все больше работы и все лучше, ибо сами хотим делать все меньше, а желательно – вообще ничего. С таким подходом наш рой, коллективный разум постепенно будет «выращивать» все больше элементов под искусственным управлением. И однажды встанет простой вопрос: «А это чей вообще муравейник? Кто в нем главный?» И это так же очевидно, как и то, что потомок обезьяны, когда-то взявшей палку в руку, однажды ступит на Марс.
Не стоит списывать со счетов и тот факт, что отец-основатель компьютерной науки и понятия искусственного интеллекта в том виде, в котором оно употребляется на сегодняшний день, Алан Тьюринг считал, что машина рано или поздно сможет общаться с человеком на равных. И даже придумал так называемый тест Тьюринга, пройдя который, машина докажет, что неотличима от человека. Ни одна машина этот тест пока не прошла; вернее, были близкие прецеденты, но четкого мнения по вопросу нет: в 2014 году имел место кейс «Жени Густмана» – алгоритма, который, как заявлялось, формально прошел тест Тьюринга, так как смог убедить около трети судей в том, что он человек. Проблема в том, что сам Тьюринг описал критерии прохождения теста довольно туманно, не определяя долю обманутых собеседников-людей и ограничившись высказыванием, что «у среднего собеседника будет 70 % шансов определить, был ли его ИИ-собеседник человеком или машиной, после пятиминутного собеседования». Если критерий 70 %, то «Густман» не прошел. Главная же проблема в другом: успехи в прохождении теста Тьюринга мало связаны с приближением нас к AGI, ибо «Женя Густман» и все предыдущие претенденты на успешное прохождение теста всего лишь коммуникационные боты разной степени сложности, то есть они решают узкую задачу «обмануть человека, убедив его, что я не робот». Это может считаться версией ANI, но к AGI не имеет отношения.
Это натолкнуло многих на понимание узости подобного подхода к созданию ИИ. В настоящее время ведущие разработчики в области ИИ перестали ставить своей целью прохождение их детищами теста Тьюринга и сфокусировались в основном на изучении и описании самого понятия «разум». Они стремятся не просто скопировать поведение человека, а произвести на свет нечто имеющее именно зачатки разума, то есть сеть принятия решений, способную обучаться самостоятельно и менять свои представления о приоритетах, добре и зле не по указке сверху, а на основании получаемого опыта. Как ни странно, свою значимость и незаменимость на этом пути обнаружили другие науки, например нейробиология, психология (книга «Думай медленно… решай быстро»[9 - Канеман Д. Думай медленно… решай быстро. – М.: АСТ, 2013.] нобелевского лауреата Даниеля Канемана никогда еще не была так актуальна), генетика, эволюционная биология и биоинформатика, так что сегодня ИИ пытаются создать не только математики или программисты. В их вселенной ИИ – это действительно «китайская комната», но, когда им помогают светила других наук, все меняется. И вопрос появления ASI – тоже, как ни странно, лишь вопрос времени.
ASI – это искусственный интеллект, который превосходит лучшего представителя людей в любой возможной области. Например, в математике ASI будет сильнее Григория Перельмана, в физике – умнее Альберта Эйнштейна (что представить даже страшно), в области инжиниринга и управления продуктом – совершеннее Илона Маска, в области борьбы за права человека (или машины?) – успешнее Харви Милка, Мартина Лютера Кинга и Александра Солженицына; еще он сможет писать книги лучше Льва Толстого, размышлять о Вселенной в разы увлекательнее, чем Митио Каку и Юваль Харари, снимать фильмы лучше Джеймса Кэмерона и да – готовить борщ лучше вашей бабушки. С появлением ASI, скорее всего, случится то, что предрекал коллега Тьюринга, британский математик Ирвинг Гуд, – это будет нашим последним изобретением. О возможностях суперинтеллекта и вероятных сценариях нашего сожительства с ним мы поговорим в заключительных главах. Сейчас же, когда мы понимаем типы ИИ, важно разобраться в том, где мы, человечество, находимся в том самом муравейнике и какую роль выполняем уже сейчас.
С точки зрения банальной индукции…
История науки знает множество несбывшихся прогнозов и предсказаний, но пальма первенства, несомненно, принадлежит французскому философу-позитивисту Огюсту Конту, в 1835 году приведшему в качестве примера вещи, недоступной для человеческого познания, вопрос о составе звезд: «Мы никогда и никоим способом не сможем изучить их химический состав и минералогическую структуру».
При этом его предсказание базировалось на прочном, как казалось, философском фундаменте: «Истинная наука, далеко не способная образоваться из простых наблюдений, стремится всегда по возможности избегать непосредственного исследования, заменяя последнее рациональным предвидением, составляющим во всех отношениях главную характерную черту положительной философии. Такое предвидение, необходимо вытекающее из постоянных отношений, открытых между явлениями, не позволит никогда смешивать реальную науку с той бесполезной эрудицией, которая механически накапливает факты, не стремясь выводить одни из других… Истинное положительное мышление заключается преимущественно в способности видеть, чтобы предвидеть, изучать то, что есть, и отсюда заключать о том, что должно произойти согласно общему положению о неизменности естественных законов»[10 - Конт О. Дух позитивной философии. – Ростов н/Д.: Феникс, 2003.].
Злая ирония заключалась в том, что все «простые наблюдения», способные дать ключ к определению химического состава звезд, на тот момент были уже сделаны. В 1814 году баварский оптик Йозеф Фраунгофер, бившийся над задачей точного определения коэффициента преломления различных сортов стекол для разных длин световых волн, сконструировал спектроскоп, в котором свет, проходивший сквозь призму, разлагался в многоцветный спектр, и обнаружил, что в спектре излучения Солнца есть темные линии (их еще в 1802 году наблюдал английский физик Уильям Волластон, но решил, что это естественные контуры, обрамляющие цветные линии). В ходе исследований он выделил и описал в солнечном спектре 576 темных линий. Это диктовалось чисто практическими соображениями, ведь, изготавливая призмы спектроскопа из разных сортов стекла и замеряя расстояния между зафиксированными темными линиями, можно было определить показатель преломления для стекла для любой области спектра. Но Фраунгофер попутно обнаружил, что спектры других звезд, в частности Сириуса, обладают различным набором темных линий и что особенно четкая двойная темная линия солнечного спектра находится точно там же, где и яркая желтая двойная линия в спектре пламени масляной лампы. Следующий факт в копилку «бесполезной эрудиции» положил один из изобретателей фотографии Уильям Тальбот, в 1826 году обнаруживший, что при внесении в пламя солей различных металлов они дают различающиеся картины спектров.
Но лишь в 1859 году создатели спектрального анализа Роберт Бунзен и Густав Кирхгоф обнаружили, что каждый химический элемент не только испускает свет определенных спектральных частот, но и поглощает свет тех же длин волн от источника излучения, разогретого до более высоких температур. Загадка темных линий разрешилась – они появляются в результате поглощения части спектра веществом в поверхностных слоях Солнца, а обнаруженная Фраунгофером характерная двойная темная линия принадлежит натрию. Определение химического состава звезд было уже, как говорится, делом техники.
Эта история наглядно демонстрирует ограниченность индуктивного мышления, на которое опирался Конт в своих «рациональных предвидениях». Оно оперирует неким набором фактов (в случае предсказания Конта довольно произвольным и неполным), и результат определяется полнотой исходных данных. Искусственный интеллект в некотором роде индуктивная машина, результаты работы которой зависят от того, что называется big data, – данных на входе.
Глава 4
Мозг человека, искусственный интеллект и данные
Мозг человека, то есть хранилище «софта» для формы жизни № 2, возможно, самое сложное создание Вселенной: в голове каждого из нас около 86 млрд нейронов. Нейрон (сильно упрощенно, конечно) может быть или включен, или выключен. То есть даже при таком подходе минимальное количество состояний нейронной сети нашего мозга – это 2 в степени 86 млрд. Но, во-первых, один нейрон может быть связан с множеством других (а не одним) – для этого у каждого нейрона есть до 7000 синапсов (контактов), во-вторых, сила связей между двумя и более нейронами влияет на итоговое общее состояние системы. Сила связей не строго одинакова (исследователи обнаружили 26 дискретных категорий синапсов), и каждую долю секунды состояние будет меняться – нейроны всякий раз будут активироваться уникальным образом: мыслительная деятельность многомерна, и нейроны могут активироваться нелинейно и непоследовательно. Каждый биологический нейрон, по сути, представляет собой компьютер, а не просто сумматор (логическую схему), как в искусственных нейронных сетях.
С этой точки зрения человеческое сознание не имеет ничего общего с искусственными нейронными сетями, в которых каждый следующий слой активируется предыдущим. Еще во многом остается загадкой, какие функции кроме передачи сигналов выполняют дендриты – разветвленные отростки нейронов (появляется все больше свидетельств того, что они играют важную роль в обработке информации).
Усугубляется все тем, что в мыслительном процессе задействованы разные зоны мозга, гормоны, органы чувств и еще масса других параметров, которые «плодят умножение» возможных вариантов. Фактически сознание человека состоит из множества сознаний, работающих в унисон, это своеобразный муравейник. Вся эта экосистема в сухом остатке не сохраняет никаких данных на какой-то носитель, она просто калибрует силу биоэлектрических связей между нейронами в привязке к состоянию сети. То есть два нейрона могут иметь слабую связь при одной мысли или действии и сильную – при другой. А управляется все это по принципу роя – нейроны сами каким-то образом запоминают свою роль в зависимости от ситуации и каждый из них определяет свою переменную связь со всеми остальными в каждый момент времени, оценивая множество получаемых параметров. Все это делает количество вариантов состояния нейронной сети невероятным, самым большим во Вселенной числом, которому нет названия. Даже атомов во Вселенной меньше.
Но это не все, ибо мозг – не просто хранилище: одна простая мысль формата «Я ж яйца забыла купить!» задействует, допустим, 5 млн (оговорюсь сразу: это всего лишь моя гипотеза, то есть гипотеза, основанная на имеющихся знаниях, но все же пока не доказанная и требующая дальнейшей проработки) нейронов сети, активированных и соединенных друг с другом уникальным образом – эдакая «паутинка» (причем один и тот же нейрон может участвовать в бесконечном количестве мыслей). Сложная мысль или мыслительная активность в состоянии стресса, да еще и в движении, будет усилена гормонами и входящими потоками данных с большего количества сенсоров и в результате может задействовать до 90 % (опять же, моя гипотеза) всей существующей сети (это важная деталь, ибо есть примеры, когда люди живут после удаления половины мозга, а это свидетельствует: нейронная сеть, безусловно, умеет адаптироваться под состояние носителя). Здесь же я должен сделать еще одну оговорку: у человечества в настоящее время нет МРТ-сканеров нужного разрешения для того, чтобы очень точно отследить и посчитать количество активированных нейронов, – дело в том, что самые продвинутые технологии магнитно-резонансной томографии позволяют получать изображения мозга с разрешением порядка 0,5 миллиметра. Это кажется огромным достижением, но для получения изображения синапса – связи нейрона с другими, потребуется разрешение совершенно иного класса – 0,001 миллиметра, а для распознавания силы связи потребуется еще большее разрешение. Эти цифры позволяют сделать неутешительный вывод: для задачи наблюдения за мыслительным процессом живого организма МРТ не подходит – если увеличить напряженность магнитного поля пропорционально задачам, мозг сканируемого человека будет попросту разрушен. Мыслительная деятельность трупов – так себе объект для изучения, поэтому нам нужны принципиально новые неинвазивные методы изучения мозга. Поэтому цифры «5 млн и «90 %» – это, как я уже оговаривался, то есть основанная на имеющихся знаниях, но все же пока не доказанная моя гипотеза, требующая дальнейшей проработки. Вероятнее всего, эти цифры будут определены, так же как совсем недавно было уточнено полное количество нейронов в мозге человека – долгие годы считалось, что их 100 млрд, но бразильский нейробиолог Сузана Эркулано-Оузель нашла способ более точного подсчета и теперь мы знаем наверняка, что в мозгу человека 86 млрд нейронов (если вы думаете: «100, 86 – не такая уж большая разница!» – напрасно, разница существенна: 14 млрд – это примерно столько же, сколько в мозгу бабуина, то есть примата – отряда живых существ, которых мы эволюционно считаем близкими себе).
Первая эмулированная биологическая нейронная сеть
Первым, в 1986 году, был описан коннектом (то есть все связи между нейронами) червя-нематоды Caenorhabditis elegans, чья нервная система насчитывает всего 302 нейрона. Команда ученых под руководством будущего нобелевского лауреата Сиднея Бреннера нанесла на карту все 7000 возможных соединений между нейронами, хотя при этом не учитывались синаптические веса (характеризующие силу связи) и направление передачи сигналов. В мозгу человека около 86 млрд нейронов. Считается, что в связях между нейронами заключены многие аспекты человеческой индивидуальности, такие как личность и интеллект, поэтому описание коннектома человека может стать большим шагом к пониманию многих умственных процессов. Определение коннектома червя-нематоды Caenorhabditis elegans заняло более 12 лет упорного труда. Потребовалось выполнить несколько тысяч срезов толщиной 50 нм, которые затем помещались под электронный микроскоп, фотографировались и анализировались вручную.
Данные о коннектоме червя-нематоды были использованы в проекте OpenWorm, задавшемся целью создать цифровую модель организма червя. На данный момент уже созданы компьютерные модели нейронного коннектома и мышечных клеток. Более того, модель нейронной сети червя (с некоторыми упрощениями) была загружена в компьютер, управляющий роботом LEGO Mindstorms EV3. Исследователи утверждают, что шаблоны поведения робота стали аналогичны реакциям червя.
Чтобы описать коннектом человеческого мозга, вероятно, понадобится прорыв, подобный тому, который совершил Крейг Вентер в работе над расшифровкой генома человека. А пока что для воссоздания коннектома одного кубического миллиметра коры головного мозга требуется миллион человеко-часов. Хотя, конечно, надо отдавать себе отчет, что стабильную структуру человеческого коннектома невозможно воссоздать, ведь перестройка связей идет постоянно. Но вполне реально воссоздать «архитектуру» относительно стабильных крупных проводящих путей.
Конец ознакомительного фрагмента.
Текст предоставлен ООО «ЛитРес».
Прочитайте эту книгу целиком, купив полную легальную версию (https://www.litres.ru/evgeniy-chereshnev/forma-zhizni-4-kak-ostatsya-chelovekom-v-epohu-rascveta/?lfrom=174836202) на ЛитРес.
Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.
notes
Сноски
1
Гладуэлл М. Гении и аутсайдеры. – М.: Манн, Иванов и Фербер, 2016.
2
Докинз Р. Эгоистичный ген. – М.: АСТ, Corpus, 2020.
3
Тегмарк М. Жизнь 3.0. – М.: АСТ, 2019.
4
https://nat-geo.ru/nature/biomassa-zemli-bolshe-vsego-vesyat-rasteniya/ (https://nat-geo.ru/nature/biomassa-zemli-bolshe-vsego-vesyat-rasteniya/).
5
John R. Searle “Minds, Brains, and Programs,” Behavioral and Brain Sciences, Volume 3, Issue 3, September 1980, pp. 417–424; DOI: https://doi.org/10.1017/S0140525X00005756 (https://doi.org/10.1017/S0140525X00005756).
6
Саймак К. Театр теней. – М.: Эксмо, 2008.
7
https://www.bbc.com/russian/science/2014/12/141202_hawking_ai_danger (https://www.bbc.com/russian/science/2014/12/141202_hawking_ai_danger).
8
