Генри Киссинджер "Генезис. Искусственный интеллект, надежда и душа человечества"

Но если человечество уже втянулось в «гонку за обладание единым, абсолютным и бесспорно доминирующим интеллектом» – к чему это приведет? По моим подсчетам, авторы рассматривают шесть сценариев, и ни один из них нельзя назвать заманчивым:

1. Человечество рискует утратить контроль над экзистенциальным противостоянием, где все участники оказываются заложниками дилеммы безопасности.

2. Человечество столкнется с абсолютной гегемонией победителя, лишенного каких-либо сдержек и противовесов – тех самых, что исторически обеспечивали хоть какую-то безопасность для остальных.

3. Появится не один верховный ИИ, а множество инстанций высшего разума.

4. Компании, владеющие и разрабатывающие ИИ, могут в полном объеме получить социальную, экономическую, военную и политическую власть.

5. Максимальный спрос на ИИ возникнет не на государственном уровне, а в религиозных институтах, где его потенциал сможет реализовываться наиболее полно, притом в течение очень длительного времени.

6. Свободный доступ к ИИ с открытым исходным кодом может вооружить даже маргинальные группы примитивными, но опасными системами.

Подобные сценарии вызывали глубочайшую тревогу у Киссинджера – и его борьба за их предотвращение вышла далеко за рамки написания этой книги. Ни для кого не секрет, что последней задачей, которой он посвятил остаток своей жизни, – именно она фактически истощила его силы в первые месяцы после сотого дня рождения – было инициирование переговоров между США и Китаем по ограничению «гонки вооружений» военного ИИ, чтобы предостеречь все человечество от таких антиутопических перспектив.

И в заключении книги Genesis узнаваемый ход мыслей Генри Киссинджера просматривается абсолютно четко:

То, что одни считают якорем, помогающим удержаться во время шторма, другие воспринимают как поводок, который не дает сделать лишнего движения. То, в чем кому-то видятся важнейшие шаги на пути к вершине человеческих возможностей, другие назвали бы стремительным падением в пропасть.

В этом случае инстинктивные эмоциональные расхождения – равно как и субъективные границы, очерчиваемые каждой из сторон, – создают непредсказуемую и взрывоопасную ситуацию. Все более жесткие позиции потенциальных «победителей» и «проигравших» будут лишь усиливать давление этих обстоятельств. Люди чересчур осторожного склада начнут притормаживать собственное развитие и мешать развитию других. Те, кто ставит себя выше прочих, предпочтут скрывать свой истинный потенциал, украдкой пытаясь повысить собственную эффективность. Весь наш наработанный опыт будут поджимать бесконечные кризисы – постепенно они станут подобны волне, которая однажды захлестнет нас, и неизвестно, удастся ли нам выжить.

На подобные прогнозы технари дают привычный ответ – напоминают нам об ощутимых преимуществах ИИ, которые уже хорошо проявлялись, например, в области медицины. С этим я не могу не согласиться. На мой взгляд, AlphaFold – модель, основанная на нейронных сетях и определяющая третичную структуру белков, стала гораздо более прорывным открытием, чем ChatGPT. Однако медицинская наука добилась сопоставимых успехов еще в двадцатом веке. И хотя человечество изобрело антибиотики, создало новые вакцины и разработало бесчисленное множество терапевтических средств – все эти достижения медицины не смогли предотвратить ни мировых войн, ни холокоста.

Центральная проблема технического прогресса заявила о себе еще при жизни Генри Киссинджера. В 1938 году немецкие химики Отто Ган и Фриц Штрассман фактически открыли деление ядер урана. Теоретическое объяснение (и название) этому процессу дали физики австрийского происхождения Лиза Мейтнер и ее племянник Отто Роберт Фриш в 1939 году. Возможность цепной ядерной реакции открыла путь к «массовому производству энергии и радиоактивных материалов – и, как ни прискорбно, к созданию атомной бомбы», – размышлял венгерский физик Лео Силард. Тогда же с одобрением была воспринята возможность применения цепных реакций в ядерных реакторах для получения тепловой энергии. Однако на создание первой атомной бомбы ушло чуть более пяти лет, а первая атомная электростанция была открыта лишь в 1951 году.

Спросите себя: чего за последние восемьдесят лет было создано больше – ядерных боеголовок или атомных электростанций? Сегодня в мире насчитывается около 12 500 ядерных боеголовок, и это число растет, поскольку Китай стремительно наращивает свой ядерный арсенал. Для сравнения, в мире действует только 436 ядерных реакторов. В абсолютном выражении пик производства атомной электроэнергии пришелся на 2006 год, а доля атомной энергетики в общем мировом производстве упала с 15,5% в 1996 году до 8,6% в 2022 году. Отчасти это произошло из-за преувеличенных опасений политиков после нескольких аварийных ситуаций на АЭС, последствия которых для здоровья людей и окружающей среды были незначительными в сравнении с ущербом от выбросов углекислого газа при сжигании ископаемого топлива.

Урок, который преподала нам жизнь Генри Киссинджера, очевиден. Последствия технологических достижений могут быть как благотворными, так и разрушительными – все зависит от того, каким образом человечество решит ими распорядиться. ИИ, конечно, во многом отличается от ядерного расщепления. Но наивно полагать, будто человечество станет использовать эту технологию только в созидательных, а не в разрушительных целях.

Именно эта проницательность, рожденная сочетанием исторического знания и личного опыта, побудила Генри Киссинджера посвятить большую часть своей жизни изучению мирового порядка и предотвращению мировой войны. Именно поэтому он с такой готовностью и трепетом откликнулся на последние достижения в области ИИ. И по этой же причине данное посмертное издание имеет не меньшую ценность, чем все труды, созданные им за долгую и невероятно насыщенную жизнь.

Нил Фергюсон

Оксфорд, июль 2024

В память о Генри А. Киссинджере

Пережив вековой рубеж, доктор Генри А. Киссинджер скончался 29 ноября 2023 года. До своего последнего дня он не прекращал работы над этой книгой, двадцать второй по счету в списке его работ. Такая сила характера, конечно, вдохновляла всех, кто его знал. В последний год своей жизни во время наших частых встреч он неизменно подчеркивал важность нашей общей темы и настоятельную необходимость донести до ее читателя – как призыв, как тревожное послание. Мы, его соавторы, были среди последних, кто виделся и общался с ним за несколько дней до его смерти. И вот теперь, завершая этот проект от его имени и выполняя его последнюю волю, мы приложили все усилия, чтобы сохранить неповторимый строй его мысли и четкую интонацию его суждений по вопросу, который определит судьбу человечества. Закончить начатое, чтобы этот последний литературный труд не ушел вместе с ним, а выполнял свою миссию для тех, кто остался, живет и продолжит жить, – это лишь наш скромный вклад в сохранение памяти об этом человеке.

Он выстраивал этот мир всю жизнь – и до последнего часа боролся за него. Его заключительной просьбой было обращение ко всему человечеству – продолжать этот масштабный «проект», дающий нашему виду надежду на будущее. В середине прошлого века доктор Киссинджер разрабатывал основные философские и дипломатические подходы к предотвращению ядерной катастрофы – так человечество XX века впервые осознало всю тяжесть экзистенциального риска. В тот период его воля и решимость помогли обществу уберечься от опасности, но теперь, когда мы стоим перед новой угрозой, этому человеку выпала судьба покинуть нас. Он ушел как раз тогда, когда мир впервые увидел очертания иной формы жизни. Сегодня, стоя на пороге эры ИИ, мы понимаем: лишь единицы – подобно доктору Киссинджеру, этому студенту XIX-го, ученому XX-го и провидцу XXI столетия – смогли заложить столь значимые основы для будущего человечества.

Прежде всего, доктор Киссинджер был философом истории. Результатом его глубоких размышлений о природе трагедии стало вечное стремление доказать, что идеализм сердца может гармонично сосуществовать с реализмом разума, и даже возвысить его. Можно, по выражению французского писателя Ромена Роллана, сочетать «пессимизм интеллекта» с «оптимизмом воли». Если оптимист верит в возможность сохранить контроль над собственной судьбой, то пессимист видит нашу реальность как процесс, управляемый непреодолимыми силами – законами природы или, например, историческими циклами.

Конечно, ему слишком хорошо было известно, как пылкий идеализм может стать инструментом в опытных руках циничных идеологов, без колебаний готовых пролить чью-то кровь или применить силу в том или ином масштабе. Фашизм, тоталитаризм, воинствующий религиозный фанатизм – все они, казалось бы, ставили перед собой самые благие цели в истории человечества. Пройдя путь от жертвы до борца с бесчеловечными режимами, он создавал новый миропорядок – где безопасность не требует жертв, а достоинство не нуждается в оправданиях. Доктор Киссинджер виртуозно управлял международными делами и вел свою страну, ставшую ему родиной – равно как и весь мир, – через непредсказуемые потрясения, руководствуясь историческим опытом и национальными интересами.

Прекрасно понимавший избирательную необходимость политического реализма, он оставался при этом идеалистом – тем, кто, по словам его биографа Нила Фергюсона, уважал «роль человеческой свободы, выбора и воли в формировании мира». В теории и на практике он продемонстрировал свою убежденность в том, что люди не живут и не могут жить так, будто будущее неизбежно и предопределено. В своей выпускной диссертации в Гарварде The Meaning of History («Смысл истории») 27-летний Генри Киссинджер размышлял о тех же философских дебатах, что теперь оказались в основе его последней работы: «Каковы бы ни были наши представления о необходимости событий, [и]… как бы мы, оглянувшись назад ни объясняли свои давние поступки, мы совершали их, руководствуясь внутренней убежденностью в правильности собственного выбора».

Для него не существовало никаких гарантий того, что человечество переживет бесчеловечные замыслы, вышедшие из огней наших же кузниц. Столкнувшись с пугающей перспективой ядерной катастрофы, он не поддался ни убеждению в фатальности, ни пророчествам о гибели цивилизации. Безусловно, экзистенциальные страхи могут порождать нигилизм, но им также свойственно наполнять лучших из нас решимостью противостоять злу и защищать то, что необходимо сохранить ради будущего людей. В начале 1950-х годов, будучи молодым профессором Гарварда, Генри Киссинджер участвовал в ряде встреч, на которых ведущие ученые и академики, такие же, как и он сам, обсуждали возможные последствия ядерной войны и меры, необходимые для ее предотвращения. И все высказанные тогда сомнения, рассуждения, дебаты послужили основой доктринам, которые до сих пор оберегают наш мир от худших опасений участников тех собраний.

Спустя десятилетия, во время наших с ним бесед он часто возвращался к тем встречам – вспоминал их участников, обсуждаемые задачи и то значение, которое они, как теперь видно, в итоге обрели. Никогда не меняя своей точки зрения, он не прогибался под жизненные обстоятельства и не скатывался в утопическое теоретизирование. В контексте применения ИИ сохраняется тот же баланс, что и в проблематике ядерного вооружения: небольшие группы преданных своему делу людей способны изменить ход истории, вмешавшись в него и продемонстрировав свои ценности. Но в то же время, считал Киссинджер, независимо от гения ученых, создающих новые формы интеллекта, их подготовленности все равно будет недостаточно, чтобы обеспечить хотя бы минимальный уровень безопасности во время применения человечеством этих новейших инструментов.

Поэтому его вклад в сферу ИИ выходит за рамки теоретических исследований: он включает и конкретные практические решения. Спустя полвека после его тайного перелета в Пекин и последующего установления отношений между США и КНР доктор Киссинджер совершил еще одну поездку в столицу Китая. Он отправился туда по настоятельному приглашению Председателя КНР Си Цзиньпина, чтобы обсудить в качестве ключевой темы риски, которые несет для человечества развитие ИИ. Это была последняя в его жизни зарубежная поездка и последняя дипломатическая миссия.

Если раньше доктор Киссинджер превратил изучение государственного управления в искусство, то теперь его подход к ИИ преодолел границы науки. В соавторстве с одним из нас, а также с профессором Массачусетского технологического института Дэниелом Хаттенлокером он написал книгу The Age of AI: And Our Human Future («Искусственный разум и новая эра человечества»), опубликованную 2021 году. В этой работе он утверждал, что появление ИИ ознаменует новую историческую эпоху, сопоставимую по влиянию на общество с эпохой Просвещения XVIII века, поскольку ИИ обладает способностью фундаментально преобразовывать человеческое сознание. Однако в наш новый век мы уже столкнулись с тем, что вместо того, чтобы руководствоваться нашими запросами, ИИ вдруг начал выдавать ответы на те вопросы, которые ему никто и никогда не задавал. По мере того как ИИ все увереннее проникает в новые области интеллектуальной деятельности, доктор Киссинджер призывает нас искать внутреннюю опору в человеческой мудрости и историческом опыте.

В этой книге мы вместе с доктором Киссинджером исследуем влияние ИИ на восемь ключевых сфер человеческой деятельности и мышления. Нашей высшей целью станет философское осмысление поиска жизнеспособной стратегии, которая позволит сохранить баланс между возможностями и рисками этой революционной технологии. Для этого доктор Киссинджер анализирует перспективы сосуществования человека с ИИ, а в будущем – их возможную коэволюцю, т. е. совместное развитие. Его рассуждение о взаимодействии органического и синтетического разума подводит нас к ключевому вопросу: движемся ли мы к миру, где ИИ уподобляется человеку, или же к миру, где человек начинает походить на ИИ?

После выхода своей первой книги об эпохе ИИ доктор Киссинджер все яснее осознавал нарастающую ограниченность человеческого разума на излете технологической эры. Любое объяснение, выходящее за пределы человеческого понимания или творческих возможностей, кажется нам бессмысленным. Наш разум инстинктивно отвергает такие концепции как примитивные и несостоятельные по сравнению с научными аргументами – ведь согласиться с ними означало бы сделать шаг назад. Но такая позиция таит в себе серьезную опасность.

Если, как говорил Артур К. Кларк, «любая достаточно развитая технология неотличима от магии», а чудеса создаются из математики, будущее должно быть необъяснимым, ошеломляющим, даже, пожалуй, волшебным. На протяжении десятилетий нашего знакомства доктор Киссинджер щедро делился с нами своими уникальными знаниями в области государственного управления – этой тонкой материи человеческих взаимоотношений. Он тогда же объяснял нам: хотя разум и ограничен доминирующей парадигмой мышления[7 - Доминирующая парадигма мышления – общепринятые и широко распространенные на данный момент времени ценности и система мышления общества (сообщества). – Примеч. ред.] – той, что дает людям иллюзию власти над миром, – но он бессилен выработать парадигму, которая сохранила бы нашу власть над самими собой.

И потому, продвигаясь вперед, мы не должны полагаться на один лишь разум, исторически считающийся первоисточником величайших человеческих достижений. Но принижать его значение тоже не нужно. Если в своих классических работах Киссинджер выстраивал гармонию идеализма и реализма, то в своих поздних исследованиях будущего он предлагает осмыслить качественно иную пропорцию. Речь идет о поиске равновесия между традиционной эмпирической природой истины и принципиально новым знанием: тем, что философски превосходит человеческий разум, но еще не обрело исторической завершенности. Как внешняя политика не может позволить себе полностью погружаться в одну из крайностей, так и наша концепция будущего не должна выстраиваться на однобоких категоричных установках.

ИИ, таким образом, представляет собой уникальную задачу, требующую особых подходов – да таких, которые поначалу могут показаться иррациональными или чрезмерно парадоксальными. Действительно, сценарии, описанные в этой книге, поражают воображение. Однако доктор Киссинджер, называвший себя в наших беседах (и не только) всего лишь рядовым исследователем человека и его, вероятно, окончательного творения, неизменно предупреждал: главная опасность ИИ заключается в том, что мы можем слишком поспешно или самонадеянно заявить о его понимании.

Глубина его интеллекта и редкая проницательность – качества, которые нам, скорее всего, больше не доведется встретить в ком-либо другом. Просто невозможно себе представить, чтобы человек в возрасте 93 лет сумел погрузиться в совершенно новую и ранее неизвестную область технических знаний. С его неутолимым любопытством, жаждой познания и оптимизмом, подкрепленными преданностью работе и чувством долга, никакая физическая или душевная боль не могла заглушить его неудержимого интереса к прогрессу. Преодолевая недуги, вызванные старостью, каждый новый день он встречал с твердой решимостью сделать вместе с миром очередной шаг вперед. Его несокрушимая сила духа, возможно, проистекала из железной самодисциплины, что была закалена тяжелыми испытаниями его юности, отточена на войне и проверена десятилетиями напряженной общественной деятельности.

Мы – лишь двое из сотен тысяч, на чьи судьбы повлиял этот необыкновенный человек. Нам будет его очень не хватать – и несомненно, больше, чем мы можем себе представить. Он покинул нас в период надвигающейся огромной неопределенности, и сейчас как никогда мы нуждаемся в нем. Вот почему для этой книги не нашлось более подходящего названия, чем Genesis, – в нем метафорически воплотились и его собственное незримое возрождение, и начало новой эры для человечества. Суждено ли людям достичь новых вершин или потерпеть крах – доктору Киссинджеру не дано было узнать, и конечных плодов своих трудов он не увидел. Но с нами остается его мудрость – ориентир, по которому мы можем сверять свои замыслы и поступки.

Эрик Шмидт и Крейг Манди

Введение

Еще несколько лет назад тема искусственного интеллекта (ИИ) была далеко не самым важным пунктом повестки дня общественных дискуссий. Но сегодня в своем стремительном развитии ИИ прочно обосновался на первых полосах новостных изданий и стал объектом пристального внимания лидеров науки, представителей бизнеса, журналистики, государственных служб, образования и политики во всем мире.

По нашему мнению, как широкая общественность, так и многие эксперты до сих пор недооценивают ключевые аспекты новой эры ИИ, которая уже наступила. Развитие систем ИИ и человеческие реакции на это развитие способны радикально трансформировать:

• наше восприятие реальности и истины;

• сам процесс познания;

• биологическую эволюцию человека;

• основы дипломатии;

• всю международную систему в ее нынешнем виде.

Эти вопросы станут определяющими в ближайшие десятилетия и неизбежно вызовут глубинную тревогу у ключевых игроков во всех сферах.

Новейшие достижения ИИ, какое бы мощное впечатление они ни производили, впоследствии покажутся нам скромными, поскольку его способности будут расти ускоряющимися темпами. Ресурсы, о которых мы еще не догадываемся, войдут в нашу повседневную жизнь. Системы будущего откроют путь к масштабным – и во многом благотворным – преобразованиям: они помогут сохранить здоровье людей и повысить качество жизни.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «Литрес».

Прочитайте эту книгу целиком, купив полную легальную версию (https://www.litres.ru/pages/biblio_book/?art=72160174&lfrom=174836202&ffile=1) на Литрес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

notes

Примечания

1

«Большая стратегия» (от англ. grand strategy) – ключевая категория в западной политологии, обозначающая принципы эффективного использования государством своих ресурсов для достижения военных и внешнеполитических целей. – Примеч. ред.

2

Роберт Оппенгеймер (1904–1967) – американский физик-теоретик и физик-ядерщик. Известен как научный руководитель Манхэттенского проекта, в рамках которого в годы Второй мировой войны разрабатывались первые образцы ядерного оружия, из-за чего Оппенгеймера часто называют «отцом атомной бомбы». – Примеч. ред.

3

В Гарвардском университете; в 1952 и 1954 годах Киссинджер получил соответственно степень магистра искусств и доктора философии. – Примеч. ред.

4

Разделение времени (англ. time-sharing) – способ распределения вычислительных ресурсов между многими пользователями с помощью мультипрограммирования и многозадачности. Появление данной концепции в начале 1960-х годов и активное развитие в 1970-е привело к значительному технологическому прорыву в истории вычислительной техники. – Примеч. ред.

5

Разведывательное сообщество США (Intelligence Community) – объединение правительственных ведомств, занимающихся сбором и анализом разведданных. Включает Управление директора национальной разведки, ЦРУ, подразделения Министерства обороны и разведорганы других ведомств. – Примеч. ред.

6

Дилемма безопасности – парадокс, при котором меры по укреплению безопасности одного государства воспринимаются другим как угроза, что может спровоцировать конфликт, даже если ни одна из сторон его не желает. Усиление мощи страны А вызывает контрмеры со стороны страны Б, а ее ослабление воспринимается как слабость, нарушая баланс сил и создавая угрозу. – Примеч. ред.

7

Доминирующая парадигма мышления – общепринятые и широко распространенные на данный момент времени ценности и система мышления общества (сообщества). – Примеч. ред.