Революция разума: на подступах к Сингулярности. Как технологии изменят общество и сознание
Рэй Курцвейл
Будущее: прогнозы и технологии
Известный изобретатель и футуролог прогнозирует то, как технологии изменят человечество в ближайшем будущем.
Какие перемены нас ждут (или нет):
– рост технологий, что увеличит человеческий интеллект в миллион раз;
– перестройка мира с помощью наноботов;
– продление жизни за пределы 120 лет;
– подключение наших мозгов к «облаку»;
– виртуальное оживление умерших через данные и ДНК.
Курцвейл анализирует свои прежние предсказания и рассматривает дальнейшее влияние технологий на человечество. Он затрагивает темы радикального продления жизни, наномедицины, роста возобновляемых источников энергии и многие другие, а также предупреждает об опасностях, связанных со стремительным развитием биотехнологий, нанотехнологий и ИИ.
В формате PDF A4 сохранён издательский дизайн.
Рэй Курцвейл
Революция разума: на подступах к сингулярности. Как технологии изменят общество и сознание
Copyright © 2024 by Ray Kurzweil
All rights reserved including the right of reproduction in whole or in part in any form. This edition published by arrangement with Viking, an imprint of Penguin Publishing Group, a division of Penguin Random House LLC.
© Алексеев А. А., перевод на русский язык, 2025
© Оформление. ООО «Издательство «Эксмо», 2025
* * *
Соне Розенвальд Курцвейл, которую я знаю – и люблю – вот уже пятьдесят лет!
Благодарности
Я хотел бы выразить благодарность моей жене Соне за ее любовь и поддержку в перипетиях творческого процесса и за то, что она делилась со мной идеями в течение пятидесяти лет.
Моим детям Итану и Эми, моей невестке Ребекке, моему зятю Джейкобу, моей сестре Энид и моим внукам Лео, Наоми и Куинси за их любовь, энтузиазм и блестящие идеи.
Моим покойным родителям, Ханне и Фредрику, которые во время прогулок по нью-йоркским лесам рассказывали мне о силе идей и давали мне свободу познавать мир, когда я был еще ребенком.
Джону-Кларку Левину за его тщательные исследования и вдумчивый анализ данных, которые легли в основу этой книги.
Моему давнему редактору в издательстве Viking Рику Коту за его решительность, мудрое руководство и профессиональную редактуру.
Нику Маллендору, моему литературному агенту, за его прозорливость и энтузиазм.
Аарону Клейнеру, моему давнему деловому партнеру (с 1973 года), за его преданность и поддержку на протяжении последних пятидесяти лет.
Нанде Баркер-Хук за ее квалифицированную помощь в написании текстов и организацию моих выступлений.
Саре Блэк за ее выдающиеся исследовательские гипотезы и систематизацию идей.
Селии Блэк-Брукс за ее поддержку и разработку обстоятельной стратегии по распространению моих идей по всему миру.
Дениз Скутелларо за умелое администрирование моей деловой активности.
Лаксману Фрэнку за превосходный графический дизайн и иллюстрации.
Эми Курцвейл и Ребекке Курцвейл за их советы по писательскому мастерству и за их собственные замечательные и очень успешные книги.
Мартине Ротблатт за ее преданную работу над всеми технологиями, о которых я пишу в этой книге, и за наше многолетнее сотрудничество в разработке выдающихся образцов этих технологий.
Моей команде, которая оказала огромную поддержку этому проекту в части исследований, написания текстов и логистики, включая Амару Анжелику, Аарона Клейнера, Боба Била, Нанду Баркер-Хук, Селию Блэк-Брукс, Джона-Кларка Левина, Дениз Скутелларо, Джоан Уолш, Мэрилу Соуза, Линдси Боффоли, Кена Линда, Лаксмана Фрэнка, Марию Эллис, Сару Блэк, Эмили Брэнган и Кэтрин Миронюк.
Опытной и преданной своему делу команде издательства Viking Penguin, включая Рика Кота, ответственного редактора; Эллисон Лоренцен, ответственного редактора; Камиллу Леблан, помощника редактора; Брайана Тарта, издателя; Кейт Старк, заместителя издателя; Кэролин Коулберн, директора по связям с общественностью; и Мэри Стоун, директора по маркетингу.
Питеру Джейкобсу из Агентства талантов (CAA) за его неоценимую поддержку в организации моих выступлений.
Командам Fortier Public Relations и Book Highlight за их исключительный опыт в области связей с общественностью и стратегическое руководство распространением этой книги по всему миру.
Коллегам и всем читателям, которые поделились со мной множеством интересных творческих идей.
И, наконец, всем людям, у которых хватает смелости подвергать сомнению устаревшие представления и использовать свое воображение, чтобы делать то, чего никто раньше не делал. Все вы меня вдохновляете.
Введение
В 2005 году в своей книге «Сингулярность уже близка» я выдвинул гипотезу, что экспоненциальное развитие технологий в ряде взаимосвязанных областей приведет человечество к фундаментальным переменам. Стремительный прогресс затрагивает несколько важнейших сфер человеческой деятельности: вычислительные мощности непрерывно дешевеют; биология человека все лучше поддается пониманию; технологические процессы в электронике становятся все более совершенными, и работа идет на все меньших масштабах. По мере роста способностей искусственного интеллекта и объемов доступных данных цифровые системы оказываются все плотнее интегрированы в работу нашего биологического разума. В конце концов, благодаря нанотехнологиям мы сможем напрямую подключить наш мозг к многослойным облачным нейросетям, что и станет кульминационной точкой в развитии информационных технологий. Мы станем едины с искусственным интеллектом, получив в свое распоряжение вычислительную мощь, в миллионы раз превосходящую ту, что подарила нам природа. Это расширит возможности нашего разума и раздвинет пределы сознания в такой степени, что пока мы даже не в состоянии этого представить. Именно это я имею в виду, когда говорю о достижении Сингулярности.
Термин «Сингулярность» возник в точных науках. В математике он используется для обозначения точки, значение функции в которой невозможно определить, например, из-за невозможности деления на нуль. В физике сингулярность – это точка в центре черной дыры, где плотность вещества стремится к бесконечности и обычные законы физики перестают действовать. Важно отметить, что в нашем контексте мы не будем использовать этот термин в его буквальном значении. Мое понимание технологической Сингулярности не предполагает, что прогресс на самом деле будет идти с бесконечной скоростью, как не означают ничего подобного ни экспоненциальный закон, ни физическая Сингулярность. Черная дыра обладает настолько сильной гравитацией, что даже свет не может ее преодолеть, но квантовая механика не располагает средствами, которыми можно было бы описать объекты в самом деле бесконечной массы. Говоря о Сингулярности, я подразумеваю, что масштаб предстоящих перемен непостижим на текущем уровне развития нашего интеллекта. После преодоления этого рубежа наши способности к познанию за короткий срок должным образом адаптируются.
В своей книге «Сингулярность уже близка» я подробно рассказывал о том, как наблюдаемые долгосрочные процессы могут привести к наступлению Сингулярности примерно в 2045 году, то есть через 40 лет – два поколения – после выхода книги в свет. Даже на таком расстоянии я уже мог делать прогнозы о том, какие силы приведут к этой фундаментальной трансформации, но для большинства читателей в 2005 году эти вопросы не казались достаточно насущными. Многие критики считали, что я слишком оптимистично оцениваю сроки наступления Сингулярности, а некоторые даже полагали, что она вообще невозможна.
С тех пор произошли удивительные события. Вопреки прогнозам скептиков, мы не наблюдаем замедления темпов прогресса. Смартфоны и социальные сети, которых в 2005 году еще практически не существовало, теперь стали неотъемлемой частью нашей повседневной жизни, позволяя большей части населения мира оставаться на связи без перебоев. Разработка новых алгоритмов и появление методов анализа больших объемов данных позволили машинному интеллекту достичь впечатляющих результатов даже быстрее, чем ожидали эксперты в области компьютерных технологий. Теперь ИИ может играть в «Джеопарди!» и го, водить машину, писать сочинения, сдавать экзамены на вступление в коллегию адвокатов и даже диагностировать рак. Мощные и гибкие языковые модели, такие как GPT-4 и Gemini, способны писать программный код на основе инструкций на естественном языке, что еще больше стирает границы между людьми и машинами. Когда вы будете читать эти строки, вполне вероятно, десятки миллионов людей уже смогут напрямую использовать возможности ИИ. Тем временем стоимость расшифровки генома человека снизилась на 99,997 %, а нейронные сети начали совершать открытия в медицине путем моделирования биологических процессов. Кроме того, в ближайшем будущем нам удастся подключить компьютеры непосредственно к мозгу.
В основе этих достижений лежит принцип, который я называю законом ускорения отдачи. Он гласит, что стоимость продуктов информационных технологий снижается в геометрической прогрессии, поскольку каждое новое открытие делает разработку следующих поколений таких инструментов более простой. В результате к моменту написания этой книги один доллар, потраченный на информационные технологии, обеспечивает в 11 200 раз больше вычислительной мощности (с учетом инфляции), чем в год выхода книги «Сингулярность уже близка».
На рисунке, который мы подробно обсудим в следующих главах, показан ключевой фактор, способствующий нашему техническому прогрессу. Это экспоненциальный рост вычислительной мощности, доступной за один доллар, который представлен прямой линией в логарифмических координатах на длительном временном интервале. Как известно, закон Мура гласит, что размер транзисторов постоянно уменьшается, что делает компьютеры все более быстрыми. Однако это лишь одно из проявлений закона ускорения отдачи, который действовал задолго до изобретения транзисторов и будет действовать даже после того, как дальнейшее развитие транзисторов станет физически невозможным и на смену им придут новые технологии. Закономерность, представленная на этом рисунке, сформировала современный облик нашего мира. Практически каждый прорыв в развитии, о котором мы расскажем в этой книге, прямо или косвенно связан с этим фактом.
Мы уверенно и неотвратимо движемся к Сингулярности. Эта книга актуальна, потому что изменения, которые мы переживаем, носят беспрецедентный характер. Закономерности, которые в начале века были едва заметны, теперь затрагивают судьбы миллиардов людей. В начале 2020-х годов мы оказались на крутом участке экспоненциальной кривой, и скорость внедрения инноваций, кажется, не имеет преград. Только представьте: день, когда вы читаете эти строки, гораздо ближе к созданию первого искусственного интеллекта, превосходящего человеческий разум, чем к выходу моей предыдущей книги «Эволюция разума» (2012). И, вероятно, ближе к Сингулярности, чем к публикации «Века духовных машин» (1999). Если говорить о человеческой жизни, то дети, рождающиеся сегодня, к моменту наступления Сингулярности будут как раз оканчивать обучение в колледже. Эта «близость» ощущается гораздо реальнее, чем представлялось в 2005 году.
Вот почему настало время для этой книги. Путь к Сингулярности занял у человечества тысячелетия, и сейчас мы приближаемся к финишу, переходя на быстрый бег. Как я уже говорил в предисловии к книге «Сингулярность уже близка», на момент ее выхода мы «находились на начальном этапе переходного процесса». Теперь же мы достигли его кульминации. Если тогда мы только пытались разглядеть линию горизонта, то сейчас готовы преодолеть последние несколько километров пути.
К счастью, дорога вперед теперь ясно видна. Хотя нам нужно преодолеть еще немало технических сложностей, прежде чем мы достигнем Сингулярности, тем не менее наши основные задачи в этой области стремительно переходят из разряда сугубо теоретических исследований в область практических экспериментов. В ближайшее десятилетие нам предстоит найти общий язык с ИИ, который будет удивительно похож на человеческий разум, а простейшие интерфейсы мозг-компьютер станут частью повседневной жизни, как смартфоны сегодня. Цифровая революция в медицине поможет справиться с множеством заболеваний и существенно продлить период здоровой и активной жизни. В то же время многие работники пострадают из-за экономических потрясений, и все мы в той или иной мере столкнемся с рисками, связанными со злоупотреблением новыми техническими возможностями. По ходу 2030-х годов искусственный интеллект, совершенствующий сам себя, и продвинутые нанотехнологии позволят нам соединиться с построенными нами же машинами, создав как новые возможности, так и неожиданные опасности. Если мы преодолеем технические трудности и решим этические, социальные и политические вопросы, которые встанут перед нами благодаря этим достижениям, то к 2045 году условия жизни на Земле значительно улучшатся. Если же мы потерпим неудачу, под угрозой окажется само существование человечества. В этой книге мы поговорим о последнем отрезке пути к Сингулярности – о наших надеждах и подстерегающих нас опасностях в последние годы существования мира, каким мы знали его до сих пор.
Прежде всего, мы рассмотрим, как именно наступит Сингулярность, и увидим, что это событие является результатом длительных усилий нашей цивилизации по созданию искусственного интеллекта, подобного нашему собственному. Создание искусственного разума, основанного на научных и технических достижениях, неизбежно влечет за собой глубокие философские вопросы. Нам предстоит осмыслить, как грядущие перемены отразятся на нашем восприятии самих себя и на понимании смысла нашего существования. Затем мы обратимся к практическим тенденциям, которые будут преобладать в ближайшие десятилетия. Мы увидим, как закон ускорения отдачи способствует экспоненциальному росту уровня жизни человека по самым различным показателям. Одним же из главных негативных последствий быстрого внедрения инноваций является рост безработицы, вызванный автоматизацией различных процессов. Однако, несмотря на эту проблему, долгосрочные прогнозы оптимистичны, и мы, по сути, не находимся в состоянии конкуренции с искусственным интеллектом.
По мере того как новые технологии будут открывать перед нами все новые горизонты материального изобилия, мы постепенно приблизимся к преодолению следующего препятствия на пути к полному процветанию: хрупкости нашего биологического тела. Следующим шагом станет создание средств, которые позволят нам совершенствовать нашу биологию. Сначала нам нужно будет остановить старение нашего организма, а затем найти способ расширить возможности мозга, что приблизит нас к Сингулярности. Однако такие открытия могут нести в себе и угрозу. Революционные достижения в области биотехнологий, нанотехнологий и искусственного интеллекта могут привести к экзистенциальным катастрофам, таким как разрушительные пандемии или цепные реакции самовоспроизводящихся опасных механизмов. В заключительной части книги мы оценим эти риски, избежать которых будет сложно без тщательного планирования. Однако, как я постараюсь показать, существуют многообещающие подходы к их нейтрализации.
Нам посчастливилось жить в самые интересные и важные времена за всю историю человечества. Никто не знает, какой будет жизнь после наступления Сингулярности. Однако, разобравшись в том, что происходит, и подготовившись к предстоящим переменам, мы можем надеяться, что наша цивилизация успешно преодолеет этот этап своего развития.
Глава 1. На какой из шести стадий мы находимся?
В книге «Сингулярность уже близка» я предложил рассматривать информацию как основу для возникновения сознания. С момента зарождения Вселенной я выделил шесть эр, или стадий, на каждой из которых с помощью доступных средств обработки информации создаются условия для перехода к следующей. Таким образом, на каждом этапе различные процессы прямо или косвенно способствуют эволюции разума.
Начало Первой эры было ознаменовано появлением законов физики и зарождением химии на их основе. Спустя несколько сотен тысяч лет после Большого взрыва начали формироваться атомы, состоящие из протонно-нейтронного ядра, окруженного электронами. Положительно заряженные протоны в ядре атома не должны находиться так близко друг к другу из-за взаимного отталкивания, возникающего в результате электромагнитного взаимодействия. Однако существует отдельное явление, называемое сильным ядерным взаимодействием, которое обеспечивает целостность ядра. Кто бы ни проектировал законы Вселенной, он позаботился о существовании этой силы, без которой атомы не смогли бы образоваться.
Спустя миллиарды лет из атомов сформировались сложные молекулы, содержащие уникальную информацию. Одним из ключевых элементов в этом процессе стал углерод, способный образовывать четыре связи вместо одной, двух или трех, как большинство других атомных ядер. Нам невероятно повезло, что в нашей Вселенной существует такая сложная химия. Если бы гравитация была немного слабее, сверхновые звезды стали бы невозможны, а вместе с ними и химические элементы, из которых состоит жизнь. А если бы гравитация была чуть сильнее, звезды бы выгорали раньше, чем успела бы развиться разумная жизнь. То есть даже одна гравитационная постоянная должна была попасть в очень узкий диапазон значений, чтобы мы могли появиться на свет. Мы живем в тщательно настроенной Вселенной, которая обеспечивает необходимый уровень порядка для успешной эволюции. Несколько миллиардов лет назад началась Вторая эра – эра жизни. Образовались сложные молекулы, способные хранить информацию о целом организме. Благодаря этому живые существа, каждое со своим уникальным набором ДНК, смогли эволюционировать и распространяться по планете.
Третья эра ознаменовалась появлением у живых организмов, созданных на основе ДНК, мозга, который, в свою очередь, может хранить и обрабатывать информацию. Наличие мозга оказалось огромным эволюционным преимуществом, поэтому на протяжении миллионов лет его устройство становилось все более сложным.
В ходе Четвертой эры животные научились использовать высокоуровневые когнитивные функции, а также большие пальцы передних конечностей для совершения сложных действий. Так появился человек. Как биологический вид мы сумели применить свои способности и создать средства для хранения, передачи и преобразования информации. Эти технологии, начиная с папируса и заканчивая накопителями на магнитных дисках, дополнили возможности нашего мозга по восприятию, извлечению из памяти и распознаванию образов. Это стало новым этапом эволюции, более значительным, чем предыдущие достижения. В то время как мозг увеличивался в размерах примерно на один кубический дюйм каждые 100 тысяч лет, цифровая революция обеспечивает двукратный прирост вычислительной мощности при той же стоимости каждые 16 месяцев.
При переходе к Пятой эре мы напрямую соединим наш разум с высокоскоростными цифровыми технологиями с помощью так называемого «интерфейса мозг-компьютер». Мозг человека обрабатывает информацию со скоростью несколько сотен циклов в секунду, в то время как электронный мозг – миллиарды циклов в секунду. Вдобавок к увеличению скорости мышления и объема памяти расширение нашего мозга с помощью компьютерных технологий позволит нам добавить к нашему неокортексу много новых иерархических слоев, что выведет наше абстрактное мышление на такой уровень сложности, который мы сейчас даже не можем себе вообразить.
По ходу Шестой эры наш разум распространится по всей Вселенной, превращая любое вещество в компьютрониум – особую форму материи, внутреннее устройство которой позволяет производить вычисления с максимальной эффективностью.
В своей книге «Век духовных машин», вышедшей в 1999 году, я высказал мнение, что искусственный интеллект сможет пройти тест Тьюринга – а именно: успешно притвориться человеком, общаясь с помощью текстовых сообщений – не позднее 2029 года. Я подтвердил свой прогноз в книге «Сингулярность уже близка», опубликованной в 2005 году. Прохождение теста Тьюринга будет означать, что ИИ освоил язык и способен рассуждать на уровне человека. Концепцию этого теста в 1950 году предложил Алан Тьюринг
. Однако он не уточнил, каким именно образом следует проводить экзамен. Мы с Митчем Капором заключили пари насчет моего прогноза, ориентируясь на разработанный нами вариант правил, намного более строгий, чем те, что обсуждались ранее в связи с этим вопросом.
Я отдавал себе отчет, что для успешного прохождения ИИ теста Тьюринга к 2029 году разработчикам нужно будет преодолеть немало технических сложностей уже к 2020-му. В самом деле, за последние десятилетия ИИ успешно справился с рядом сложных задач, поставленных перед ним человечеством: от игр, таких как «Джеопарди!» и го, до важнейших прикладных задач, таких как лучевая диагностика и разработка лекарств. Сегодня передовые нейронные сети, в частности Gemini и GPT-4, постоянно совершенствуют свои возможности, расширяя круг подвластных им областей деятельности и все сильнее приближая нас к созданию искусственного интеллекта общего назначения.
Строго говоря, чтобы пройти тест Тьюринга, ИИ придется притвориться существенно менее продвинутым во многих аспектах, иначе он быстро выдаст себя. Например, мгновенно решая любую математическую задачу, он провалит тест. Поэтому на стадии успешного прохождения теста Тьюринга ИИ будет обладать способностями, значительно превосходящими уровень мастерства лучших представителей человечества почти во всех областях.
Мы живем в последние годы Четвертой эры и уже сталкиваемся с трудностями в понимании результатов, которые получаем с помощью самых современных технологий. Мы активно работаем над устранением недостатков искусственного интеллекта, которые пока не позволяют ему пройти тест Тьюринга, и добились заметных успехов. Как только ИИ сможет успешно пройти тест Тьюринга, начнется Пятая эра обработки информации.
Ключевым событием в 2030-х годах будет установление прямой связи между новой корой головного мозга человека и облачной вычислительной платформой, что существенно расширит наши умственные способности. В этом смысле ИИ вместо конкурента станет дополнением человека. Когда это произойдет, электронные части нашего разума обеспечат нам в тысячи раз большую интеллектуальную мощь, чем мог бы биологический мозг.
Стремительное развитие технологий приведет к тому, что к 2045 году возможности нашего разума увеличатся в миллионы раз. Этот невообразимый масштаб грядущих перемен позволяет метафорически описать события, которые нас ждут в ближайшем будущем, как достижение сингулярности.
Глава 2. Изобретая разум заново
