Рэй Курцвейл
Революция разума: на подступах к сингулярности. Как технологии изменят общество и сознание
Copyright © 2024 by Ray Kurzweil
All rights reserved including the right of reproduction in whole or in part in any form. This edition published by arrangement with Viking, an imprint of Penguin Publishing Group, a division of Penguin Random House LLC.
© Алексеев А. А., перевод на русский язык, 2025
© Оформление. ООО «Издательство «Эксмо», 2025
* * *
Соне Розенвальд Курцвейл, которую я знаю – и люблю – вот уже пятьдесят лет!
Благодарности
Я хотел бы выразить благодарность моей жене Соне за ее любовь и поддержку в перипетиях творческого процесса и за то, что она делилась со мной идеями в течение пятидесяти лет.
Моим детям Итану и Эми, моей невестке Ребекке, моему зятю Джейкобу, моей сестре Энид и моим внукам Лео, Наоми и Куинси за их любовь, энтузиазм и блестящие идеи.
Моим покойным родителям, Ханне и Фредрику, которые во время прогулок по нью-йоркским лесам рассказывали мне о силе идей и давали мне свободу познавать мир, когда я был еще ребенком.
Джону-Кларку Левину за его тщательные исследования и вдумчивый анализ данных, которые легли в основу этой книги.
Моему давнему редактору в издательстве Viking Рику Коту за его решительность, мудрое руководство и профессиональную редактуру.
Нику Маллендору, моему литературному агенту, за его прозорливость и энтузиазм.
Аарону Клейнеру, моему давнему деловому партнеру (с 1973 года), за его преданность и поддержку на протяжении последних пятидесяти лет.
Нанде Баркер-Хук за ее квалифицированную помощь в написании текстов и организацию моих выступлений.
Саре Блэк за ее выдающиеся исследовательские гипотезы и систематизацию идей.
Селии Блэк-Брукс за ее поддержку и разработку обстоятельной стратегии по распространению моих идей по всему миру.
Дениз Скутелларо за умелое администрирование моей деловой активности.
Лаксману Фрэнку за превосходный графический дизайн и иллюстрации.
Эми Курцвейл и Ребекке Курцвейл за их советы по писательскому мастерству и за их собственные замечательные и очень успешные книги.
Мартине Ротблатт за ее преданную работу над всеми технологиями, о которых я пишу в этой книге, и за наше многолетнее сотрудничество в разработке выдающихся образцов этих технологий.
Моей команде, которая оказала огромную поддержку этому проекту в части исследований, написания текстов и логистики, включая Амару Анжелику, Аарона Клейнера, Боба Била, Нанду Баркер-Хук, Селию Блэк-Брукс, Джона-Кларка Левина, Дениз Скутелларо, Джоан Уолш, Мэрилу Соуза, Линдси Боффоли, Кена Линда, Лаксмана Фрэнка, Марию Эллис, Сару Блэк, Эмили Брэнган и Кэтрин Миронюк.
Опытной и преданной своему делу команде издательства Viking Penguin, включая Рика Кота, ответственного редактора; Эллисон Лоренцен, ответственного редактора; Камиллу Леблан, помощника редактора; Брайана Тарта, издателя; Кейт Старк, заместителя издателя; Кэролин Коулберн, директора по связям с общественностью; и Мэри Стоун, директора по маркетингу.
Питеру Джейкобсу из Агентства талантов (CAA) за его неоценимую поддержку в организации моих выступлений.
Командам Fortier Public Relations и Book Highlight за их исключительный опыт в области связей с общественностью и стратегическое руководство распространением этой книги по всему миру.
Коллегам и всем читателям, которые поделились со мной множеством интересных творческих идей.
И, наконец, всем людям, у которых хватает смелости подвергать сомнению устаревшие представления и использовать свое воображение, чтобы делать то, чего никто раньше не делал. Все вы меня вдохновляете.
Введение
В 2005 году в своей книге «Сингулярность уже близка» я выдвинул гипотезу, что экспоненциальное развитие технологий в ряде взаимосвязанных областей приведет человечество к фундаментальным переменам. Стремительный прогресс затрагивает несколько важнейших сфер человеческой деятельности: вычислительные мощности непрерывно дешевеют; биология человека все лучше поддается пониманию; технологические процессы в электронике становятся все более совершенными, и работа идет на все меньших масштабах. По мере роста способностей искусственного интеллекта и объемов доступных данных цифровые системы оказываются все плотнее интегрированы в работу нашего биологического разума. В конце концов, благодаря нанотехнологиям мы сможем напрямую подключить наш мозг к многослойным облачным нейросетям, что и станет кульминационной точкой в развитии информационных технологий. Мы станем едины с искусственным интеллектом, получив в свое распоряжение вычислительную мощь, в миллионы раз превосходящую ту, что подарила нам природа. Это расширит возможности нашего разума и раздвинет пределы сознания в такой степени, что пока мы даже не в состоянии этого представить. Именно это я имею в виду, когда говорю о достижении Сингулярности.
Термин «Сингулярность» возник в точных науках. В математике он используется для обозначения точки, значение функции в которой невозможно определить, например, из-за невозможности деления на нуль. В физике сингулярность – это точка в центре черной дыры, где плотность вещества стремится к бесконечности и обычные законы физики перестают действовать. Важно отметить, что в нашем контексте мы не будем использовать этот термин в его буквальном значении. Мое понимание технологической Сингулярности не предполагает, что прогресс на самом деле будет идти с бесконечной скоростью, как не означают ничего подобного ни экспоненциальный закон, ни физическая Сингулярность. Черная дыра обладает настолько сильной гравитацией, что даже свет не может ее преодолеть, но квантовая механика не располагает средствами, которыми можно было бы описать объекты в самом деле бесконечной массы. Говоря о Сингулярности, я подразумеваю, что масштаб предстоящих перемен непостижим на текущем уровне развития нашего интеллекта. После преодоления этого рубежа наши способности к познанию за короткий срок должным образом адаптируются.
В своей книге «Сингулярность уже близка» я подробно рассказывал о том, как наблюдаемые долгосрочные процессы могут привести к наступлению Сингулярности примерно в 2045 году, то есть через 40 лет – два поколения – после выхода книги в свет. Даже на таком расстоянии я уже мог делать прогнозы о том, какие силы приведут к этой фундаментальной трансформации, но для большинства читателей в 2005 году эти вопросы не казались достаточно насущными. Многие критики считали, что я слишком оптимистично оцениваю сроки наступления Сингулярности, а некоторые даже полагали, что она вообще невозможна.
С тех пор произошли удивительные события. Вопреки прогнозам скептиков, мы не наблюдаем замедления темпов прогресса. Смартфоны и социальные сети, которых в 2005 году еще практически не существовало, теперь стали неотъемлемой частью нашей повседневной жизни, позволяя большей части населения мира оставаться на связи без перебоев. Разработка новых алгоритмов и появление методов анализа больших объемов данных позволили машинному интеллекту достичь впечатляющих результатов даже быстрее, чем ожидали эксперты в области компьютерных технологий. Теперь ИИ может играть в «Джеопарди!» и го, водить машину, писать сочинения, сдавать экзамены на вступление в коллегию адвокатов и даже диагностировать рак. Мощные и гибкие языковые модели, такие как GPT-4 и Gemini, способны писать программный код на основе инструкций на естественном языке, что еще больше стирает границы между людьми и машинами. Когда вы будете читать эти строки, вполне вероятно, десятки миллионов людей уже смогут напрямую использовать возможности ИИ. Тем временем стоимость расшифровки генома человека снизилась на 99,997 %, а нейронные сети начали совершать открытия в медицине путем моделирования биологических процессов. Кроме того, в ближайшем будущем нам удастся подключить компьютеры непосредственно к мозгу.
В основе этих достижений лежит принцип, который я называю законом ускорения отдачи. Он гласит, что стоимость продуктов информационных технологий снижается в геометрической прогрессии, поскольку каждое новое открытие делает разработку следующих поколений таких инструментов более простой. В результате к моменту написания этой книги один доллар, потраченный на информационные технологии, обеспечивает в 11 200 раз больше вычислительной мощности (с учетом инфляции), чем в год выхода книги «Сингулярность уже близка».
На рисунке, который мы подробно обсудим в следующих главах, показан ключевой фактор, способствующий нашему техническому прогрессу. Это экспоненциальный рост вычислительной мощности, доступной за один доллар, который представлен прямой линией в логарифмических координатах на длительном временном интервале. Как известно, закон Мура гласит, что размер транзисторов постоянно уменьшается, что делает компьютеры все более быстрыми. Однако это лишь одно из проявлений закона ускорения отдачи, который действовал задолго до изобретения транзисторов и будет действовать даже после того, как дальнейшее развитие транзисторов станет физически невозможным и на смену им придут новые технологии. Закономерность, представленная на этом рисунке, сформировала современный облик нашего мира. Практически каждый прорыв в развитии, о котором мы расскажем в этой книге, прямо или косвенно связан с этим фактом.
Мы уверенно и неотвратимо движемся к Сингулярности. Эта книга актуальна, потому что изменения, которые мы переживаем, носят беспрецедентный характер. Закономерности, которые в начале века были едва заметны, теперь затрагивают судьбы миллиардов людей. В начале 2020-х годов мы оказались на крутом участке экспоненциальной кривой, и скорость внедрения инноваций, кажется, не имеет преград. Только представьте: день, когда вы читаете эти строки, гораздо ближе к созданию первого искусственного интеллекта, превосходящего человеческий разум, чем к выходу моей предыдущей книги «Эволюция разума» (2012). И, вероятно, ближе к Сингулярности, чем к публикации «Века духовных машин» (1999). Если говорить о человеческой жизни, то дети, рождающиеся сегодня, к моменту наступления Сингулярности будут как раз оканчивать обучение в колледже. Эта «близость» ощущается гораздо реальнее, чем представлялось в 2005 году.
Вот почему настало время для этой книги. Путь к Сингулярности занял у человечества тысячелетия, и сейчас мы приближаемся к финишу, переходя на быстрый бег. Как я уже говорил в предисловии к книге «Сингулярность уже близка», на момент ее выхода мы «находились на начальном этапе переходного процесса». Теперь же мы достигли его кульминации. Если тогда мы только пытались разглядеть линию горизонта, то сейчас готовы преодолеть последние несколько километров пути.
К счастью, дорога вперед теперь ясно видна. Хотя нам нужно преодолеть еще немало технических сложностей, прежде чем мы достигнем Сингулярности, тем не менее наши основные задачи в этой области стремительно переходят из разряда сугубо теоретических исследований в область практических экспериментов. В ближайшее десятилетие нам предстоит найти общий язык с ИИ, который будет удивительно похож на человеческий разум, а простейшие интерфейсы мозг-компьютер станут частью повседневной жизни, как смартфоны сегодня. Цифровая революция в медицине поможет справиться с множеством заболеваний и существенно продлить период здоровой и активной жизни. В то же время многие работники пострадают из-за экономических потрясений, и все мы в той или иной мере столкнемся с рисками, связанными со злоупотреблением новыми техническими возможностями. По ходу 2030-х годов искусственный интеллект, совершенствующий сам себя, и продвинутые нанотехнологии позволят нам соединиться с построенными нами же машинами, создав как новые возможности, так и неожиданные опасности. Если мы преодолеем технические трудности и решим этические, социальные и политические вопросы, которые встанут перед нами благодаря этим достижениям, то к 2045 году условия жизни на Земле значительно улучшатся. Если же мы потерпим неудачу, под угрозой окажется само существование человечества. В этой книге мы поговорим о последнем отрезке пути к Сингулярности – о наших надеждах и подстерегающих нас опасностях в последние годы существования мира, каким мы знали его до сих пор.
Прежде всего, мы рассмотрим, как именно наступит Сингулярность, и увидим, что это событие является результатом длительных усилий нашей цивилизации по созданию искусственного интеллекта, подобного нашему собственному. Создание искусственного разума, основанного на научных и технических достижениях, неизбежно влечет за собой глубокие философские вопросы. Нам предстоит осмыслить, как грядущие перемены отразятся на нашем восприятии самих себя и на понимании смысла нашего существования. Затем мы обратимся к практическим тенденциям, которые будут преобладать в ближайшие десятилетия. Мы увидим, как закон ускорения отдачи способствует экспоненциальному росту уровня жизни человека по самым различным показателям. Одним же из главных негативных последствий быстрого внедрения инноваций является рост безработицы, вызванный автоматизацией различных процессов. Однако, несмотря на эту проблему, долгосрочные прогнозы оптимистичны, и мы, по сути, не находимся в состоянии конкуренции с искусственным интеллектом.
По мере того как новые технологии будут открывать перед нами все новые горизонты материального изобилия, мы постепенно приблизимся к преодолению следующего препятствия на пути к полному процветанию: хрупкости нашего биологического тела. Следующим шагом станет создание средств, которые позволят нам совершенствовать нашу биологию. Сначала нам нужно будет остановить старение нашего организма, а затем найти способ расширить возможности мозга, что приблизит нас к Сингулярности. Однако такие открытия могут нести в себе и угрозу. Революционные достижения в области биотехнологий, нанотехнологий и искусственного интеллекта могут привести к экзистенциальным катастрофам, таким как разрушительные пандемии или цепные реакции самовоспроизводящихся опасных механизмов. В заключительной части книги мы оценим эти риски, избежать которых будет сложно без тщательного планирования. Однако, как я постараюсь показать, существуют многообещающие подходы к их нейтрализации.
Нам посчастливилось жить в самые интересные и важные времена за всю историю человечества. Никто не знает, какой будет жизнь после наступления Сингулярности. Однако, разобравшись в том, что происходит, и подготовившись к предстоящим переменам, мы можем надеяться, что наша цивилизация успешно преодолеет этот этап своего развития.
Глава 1. На какой из шести стадий мы находимся?
В книге «Сингулярность уже близка» я предложил рассматривать информацию как основу для возникновения сознания. С момента зарождения Вселенной я выделил шесть эр, или стадий, на каждой из которых с помощью доступных средств обработки информации создаются условия для перехода к следующей. Таким образом, на каждом этапе различные процессы прямо или косвенно способствуют эволюции разума.
Начало Первой эры было ознаменовано появлением законов физики и зарождением химии на их основе. Спустя несколько сотен тысяч лет после Большого взрыва начали формироваться атомы, состоящие из протонно-нейтронного ядра, окруженного электронами. Положительно заряженные протоны в ядре атома не должны находиться так близко друг к другу из-за взаимного отталкивания, возникающего в результате электромагнитного взаимодействия. Однако существует отдельное явление, называемое сильным ядерным взаимодействием, которое обеспечивает целостность ядра. Кто бы ни проектировал законы Вселенной, он позаботился о существовании этой силы, без которой атомы не смогли бы образоваться.
Спустя миллиарды лет из атомов сформировались сложные молекулы, содержащие уникальную информацию. Одним из ключевых элементов в этом процессе стал углерод, способный образовывать четыре связи вместо одной, двух или трех, как большинство других атомных ядер. Нам невероятно повезло, что в нашей Вселенной существует такая сложная химия. Если бы гравитация была немного слабее, сверхновые звезды стали бы невозможны, а вместе с ними и химические элементы, из которых состоит жизнь. А если бы гравитация была чуть сильнее, звезды бы выгорали раньше, чем успела бы развиться разумная жизнь. То есть даже одна гравитационная постоянная должна была попасть в очень узкий диапазон значений, чтобы мы могли появиться на свет. Мы живем в тщательно настроенной Вселенной, которая обеспечивает необходимый уровень порядка для успешной эволюции. Несколько миллиардов лет назад началась Вторая эра – эра жизни. Образовались сложные молекулы, способные хранить информацию о целом организме. Благодаря этому живые существа, каждое со своим уникальным набором ДНК, смогли эволюционировать и распространяться по планете.
Третья эра ознаменовалась появлением у живых организмов, созданных на основе ДНК, мозга, который, в свою очередь, может хранить и обрабатывать информацию. Наличие мозга оказалось огромным эволюционным преимуществом, поэтому на протяжении миллионов лет его устройство становилось все более сложным.
В ходе Четвертой эры животные научились использовать высокоуровневые когнитивные функции, а также большие пальцы передних конечностей для совершения сложных действий. Так появился человек. Как биологический вид мы сумели применить свои способности и создать средства для хранения, передачи и преобразования информации. Эти технологии, начиная с папируса и заканчивая накопителями на магнитных дисках, дополнили возможности нашего мозга по восприятию, извлечению из памяти и распознаванию образов. Это стало новым этапом эволюции, более значительным, чем предыдущие достижения. В то время как мозг увеличивался в размерах примерно на один кубический дюйм каждые 100 тысяч лет, цифровая революция обеспечивает двукратный прирост вычислительной мощности при той же стоимости каждые 16 месяцев.
При переходе к Пятой эре мы напрямую соединим наш разум с высокоскоростными цифровыми технологиями с помощью так называемого «интерфейса мозг-компьютер». Мозг человека обрабатывает информацию со скоростью несколько сотен циклов в секунду, в то время как электронный мозг – миллиарды циклов в секунду. Вдобавок к увеличению скорости мышления и объема памяти расширение нашего мозга с помощью компьютерных технологий позволит нам добавить к нашему неокортексу много новых иерархических слоев, что выведет наше абстрактное мышление на такой уровень сложности, который мы сейчас даже не можем себе вообразить.
По ходу Шестой эры наш разум распространится по всей Вселенной, превращая любое вещество в компьютрониум – особую форму материи, внутреннее устройство которой позволяет производить вычисления с максимальной эффективностью.
В своей книге «Век духовных машин», вышедшей в 1999 году, я высказал мнение, что искусственный интеллект сможет пройти тест Тьюринга – а именно: успешно притвориться человеком, общаясь с помощью текстовых сообщений – не позднее 2029 года. Я подтвердил свой прогноз в книге «Сингулярность уже близка», опубликованной в 2005 году. Прохождение теста Тьюринга будет означать, что ИИ освоил язык и способен рассуждать на уровне человека. Концепцию этого теста в 1950 году предложил Алан Тьюринг1. Однако он не уточнил, каким именно образом следует проводить экзамен. Мы с Митчем Капором заключили пари насчет моего прогноза, ориентируясь на разработанный нами вариант правил, намного более строгий, чем те, что обсуждались ранее в связи с этим вопросом.
Я отдавал себе отчет, что для успешного прохождения ИИ теста Тьюринга к 2029 году разработчикам нужно будет преодолеть немало технических сложностей уже к 2020-му. В самом деле, за последние десятилетия ИИ успешно справился с рядом сложных задач, поставленных перед ним человечеством: от игр, таких как «Джеопарди!» и го, до важнейших прикладных задач, таких как лучевая диагностика и разработка лекарств. Сегодня передовые нейронные сети, в частности Gemini и GPT-4, постоянно совершенствуют свои возможности, расширяя круг подвластных им областей деятельности и все сильнее приближая нас к созданию искусственного интеллекта общего назначения.
Строго говоря, чтобы пройти тест Тьюринга, ИИ придется притвориться существенно менее продвинутым во многих аспектах, иначе он быстро выдаст себя. Например, мгновенно решая любую математическую задачу, он провалит тест. Поэтому на стадии успешного прохождения теста Тьюринга ИИ будет обладать способностями, значительно превосходящими уровень мастерства лучших представителей человечества почти во всех областях.
Мы живем в последние годы Четвертой эры и уже сталкиваемся с трудностями в понимании результатов, которые получаем с помощью самых современных технологий. Мы активно работаем над устранением недостатков искусственного интеллекта, которые пока не позволяют ему пройти тест Тьюринга, и добились заметных успехов. Как только ИИ сможет успешно пройти тест Тьюринга, начнется Пятая эра обработки информации.
Ключевым событием в 2030-х годах будет установление прямой связи между новой корой головного мозга человека и облачной вычислительной платформой, что существенно расширит наши умственные способности. В этом смысле ИИ вместо конкурента станет дополнением человека. Когда это произойдет, электронные части нашего разума обеспечат нам в тысячи раз большую интеллектуальную мощь, чем мог бы биологический мозг.
Стремительное развитие технологий приведет к тому, что к 2045 году возможности нашего разума увеличатся в миллионы раз. Этот невообразимый масштаб грядущих перемен позволяет метафорически описать события, которые нас ждут в ближайшем будущем, как достижение сингулярности.
Глава 2. Изобретая разум заново
Что значит воссоздать разум?
Если рассматривать историю Вселенной как эволюцию способов обработки информации, то человек появляется во второй половине этого долгого и удивительного пути. Именно нам предстоит совершить переход от животных, мозг которых состоит из биологического материала, к трансцендентным существам, чья сила разума не ограничена возможностями, которые дает генетика. В 2020-х годах начнется заключительная фаза этого перехода: мы воссоздадим интеллект, который подарила нам природа, только на более совершенном цифровом носителе, а затем сделаем его частью себя. В этот момент Четвертая эра в истории Вселенной закончится и начнется Пятая.
Но каким конкретно образом это произойдет? Чтобы понять, что значит воссоздать мышление, для начала мы вспомним историю появления искусственного интеллекта и два различных подхода, которые возникли в связи с ним. Обратившись к нейробиологии, мы узнаем, как мозжечок и новая кора полушарий головного мозга создают наш разум, и разберемся, почему один из двух подходов оказался более подходящим. Затем мы рассмотрим технологию глубокого обучения, которая имитирует работу неокортекса, и увидим, какими еще способностями должен обладать ИИ, чтобы достичь человеческого уровня, и как мы сможем понять, что это произошло. Наконец, мы обсудим, как при поддержке сверхмощного ИИ нам удастся разработать устройства для подключения нашего мозга к компьютеру. Такие устройства позволят дополнить неокортекс новыми слоями электронных нейронов, что выведет наше мышление на принципиально новый уровень, увеличив скорость работы мозга в миллионы раз. Именно этот феномен я называю достижением Сингулярности.
Появление искусственного интеллекта
В 1950 году британский математик Алан Тьюринг (1912–1954) опубликовал в журнале Mind статью под названием «Вычислительные машины и разум»1. В ней Тьюринг поставил фундаментальный вопрос: может ли машина мыслить? Хотя идея о мыслящих машинах существует со времен древнегреческого мифа о бронзовом автомате Талосе 2, заслуга Тьюринга заключается в том, что он сумел свести эту концепцию к способности, которую можно проверить на опыте. Он предложил так называемую «игру в имитацию», также известную как «тест Тьюринга», в качестве способа определить, могут ли машинные вычисления решать те же когнитивные задачи, с которыми справляется наш мозг. В рамках теста арбитры, являющиеся людьми, общаются одновременно с искусственным интеллектом и участниками-статистами через обмен текстовыми сообщениями. При этом они не имеют никакой информации о своих собеседниках. Судьи могут задавать вопросы на любые темы по своему усмотрению. Если по истечении определенного времени судьи не могут с уверенностью определить, кто из собеседников был искусственным интеллектом, а кто – человеком, то можно считать, что ИИ успешно прошел тест.
Исследователей необычайно воодушевила новая научная формулировка давнего философского вопроса. В 1956 году математик Джон Маккарти (1927–2011) предложил провести двухмесячное исследование в Дартмутском колледже в Гановере, Нью-Гэпмшир, силами группы из десяти специалистов3. Вот как была сформулирована задача:
Исследование имеет своей целью проверить гипотезу, что способность к обучению или любое другое свойство интеллекта могут быть настолько тщательно формализованы, что машина сможет их имитировать. Будет предпринята попытка заставить компьютер пользоваться письменной речью, оперировать абстрактными понятиями, решать задачи, с которыми на данный момент может справиться только человек, а также научить программу совершенствовать саму себя4.
В преддверии конференции Маккарти предложил назвать новую область науки, благодаря которой впоследствии будут автоматизированы многие процессы, «искусственным интеллектом»5. Я не большой поклонник этого названия, поскольку из-за него создаваемый нами разум кажется как будто ненастоящим, но именно этот термин прижился в компьютерных науках.
Исследование провели, но цели, а именно: создать вычислительную машину, способную решить задачу, сформулированную на простом человеческом языке, конечно, за отведенные два месяца не достигли. Собственно, мы до сих пор занимаемся созданием такого компьютера, причем гораздо большими силами, чем десять исследователей. По данным китайского технологического гиганта Tencent, в 2017 году количество специалистов в области искусственного интеллекта во всем мире достигло 300 0006, а в 2019 году в «Обзоре специалистов в области ИИ по всему миру» его авторы Жан-Франсуа Ганье, Грейс Кизер и Йоан Манта насчитали 22 400 экспертов, публикующих статьи с оригинальными исследованиями в области ИИ, из которых 4000 были признаны весьма влиятельными7. По данным Стэнфордского института искусственного интеллекта, ориентированного на человека (Stanford HAI), в 2021 году разработчики ИИ опубликовали более 496 000 статей и подали более 141 000 заявок на патенты8. В 2022 году корпоративные инвестиции в ИИ по всему миру составили 189 миллиардов долларов, увеличившись в 13 раз за прошедшее десятилетие9. К моменту выхода этой книги суммы будут еще более внушительными.
Все это сложно было себе представить в 1956-м, когда участники Дартмутской конференции поставили перед собой задачу, которая не уступала по сложности созданию ИИ, способного пройти тест Тьюринга. Я уверен, что мы достигнем этого уже к 2029 году, и я не изменил своего прогноза, который опубликовал в 1999 году в книге «Век духовных машин»10. В те времена многие обозреватели сходились во мнении, что такого уровня технологий мы не достигнем никогда. Даже совсем недавно коллеги по отрасли считали мой прогноз чересчур оптимистичным. Например, опрос, проведенный в 2018 году, показал, что в среднем эксперты в сфере ИИ считают, что вычислительные машины не достигнут уровня человеческого интеллекта раньше 2060 года11. Однако в свете последних успехов в разработке больших языковых моделей многие ученые скорректировали свои ожидания. Когда я писал черновик этой книги, на сайте платформы для прогнозов Metaculus мнения относительно времени создания достаточно мощного ИИ колебались от 2040-х до 2050-х годов. Но темпы прогресса в последние два года вновь превзошли ожидания, и к маю 2022 года консенсус среди участников на Metaculus стал соответствовать обозначенной мной дате: 2029 год12. С тех пор высказывались и более смелые мнения, в частности, говорили о 2026 годе, так что технически мой изначальный прогноз теперь можно считать консервативным13.
Последнее время новые достижения в сфере ИИ поражают даже экспертов. Открытия не только происходят раньше, чем ожидалось, но главное, что они случаются внезапно, а не назревают в течение долгого времени. Например, в октябре 2014-го Томазо Поджио, эксперт по ИИ и когнитивной нейробиологии из Массачусетского технологического института, отвечая на вопрос журналиста, сказал: «Задача описать, что изображено на картинке, будет одной из самых сложных для искусственного интеллекта. Чтобы приблизиться к ее решению, нам потребуется провести еще множество фундаментальных исследований»14. Согласно оценке Поджио, этот рубеж должен был покориться нам лет через двадцать. Через месяц после этого интервью компания Google представила ИИ, умеющий решать ровно эту задачу – распознавать объекты на изображении. Когда обозреватель журнала New Yorker Раффи Хачадурян попросил Поджио прокомментировать это событие, тот в ответ высказал сомнение, что эта способность отражает наличие истинного интеллекта. Я пишу это не в качестве критики, а как пример общей тенденции. А именно: пока у ИИ не получается решить определенную задачу, нам кажется, что она необычайно сложна и под силу только человеку. Однако как только компьютер с ней справляется, мы склонны обесценивать это достижение. Иначе говоря, мы добились гораздо больших успехов, чем нам самим кажется задним числом. Это одна из причин, почему я не теряю веры в свой прогноз насчет 2029 года.
Почему эти открытия оказались столь неожиданными? Чтобы ответить на этот вопрос, нужно вспомнить одну дилемму, стоявшую перед теоретиками на заре развития отрасли. В 1964 году, еще будучи школьником, я познакомился с двумя выдающимися представителями направления ИИ: Марвином Минским (1927–2016), который был одним из организаторов той лаборатории по ИИ в Дартмутском колледже, и Фрэнком Розенблаттом (1928–1971). В 1965 году я поступил в МТИ, где моим научным руководителем стал Минский. В то время он занимался фундаментальными исследованиями, которые и заложили основы для резкого скачка в развитии нейросетей, произошедшего в последние годы. От него я узнал, что существуют два подхода к автоматизации решения задач: символьный и нейросетевой (так называемый «коннекционизм»).
Символьный подход опирается на перечисление правил, по которым человек, являющийся экспертом, решал бы поставленную задачу. Иногда такой подход себя оправдывает. Например, в 1959 году корпорация RAND представила «Универсальный решатель задач» – компьютерную программу, способную оперировать простыми математическими аксиомами и находить решение логических задач15. Герберт Саймон, Клиффорд Шоу и Аллен Ньюэлл разработали «Универсальный решатель», чтобы получить возможность решать любую задачу, которую можно сформулировать в терминах нормальных форм алгебры высказываний. Чтобы решить задачу, программа обрабатывала одну формулу (аксиому) на каждом этапе процесса, постепенно выстраивая с их помощью доказательство теоремы.
Даже если вы не знакомы с формальной логикой или теорией доказательств, понять этот принцип можно на примере алгебры. Если известно, что 2 + 7 = 9 и что к неизвестному числу прибавили 7 и получили 10, можно показать, что искомое число равно 3. Но таким путем можно получать и более сложные результаты. Когда мы задаемся вопросом, соответствует ли некий объект заданному определению, то руководствуемся такой же логикой, даже не отдавая себе в этом отчета. Допустим, мы знаем, что простое число не имеет делителей, кроме 1 и самого себя, а также, что число 11 делит число 22 пополам. Учитывая, что 1 не равно 11, мы можем заключить, что 22 не является простым числом. Имея в распоряжении самые простые и фундаментальные аксиомы, УРЗ может применить подобные рассуждения к существенно более сложным задачам. Математики, строго говоря, именно этим и занимаются, только компьютер в поисках ответа в состоянии (теоретически, по крайней мере) сопоставить аксиомы друг с другом всеми возможными способами.
Представим для наглядности, что у нас есть 10 аксиом, а для решения задачи нужно выбрать одну из них на каждом из 20 шагов. В таком случае существует 1020, то есть миллиард раз по 100 миллиардов возможных вариантов решения. В настоящее время мы можем работать с такими величинами, но у компьютеров 1959 года шансов справиться не было. Электронная вычислительная машина DEC PDP-1 могла выполнять 100 000 операций в секунду16. В 2023-м облачный сервер Cloud A3 компании Google способен совершать примерно 26 000 000 000 000 000 000 операций в секунду17. Сейчас один доллар обеспечит в 1,6 триллиона раз больше вычислительной мощности, чем во времена УРЗ18. На решение задач, с которыми современные домашние компьютеры справляются за несколько минут, у машин 1959 года ушли бы десятки тысяч лет. В попытке преодолеть вычислительные ограничения в УРЗ встроили эвристические алгоритмы, которые ранжировали возможные решения, отдавая приоритет наиболее перспективным. Иногда это срабатывало, и каждый успех вселял надежду, что рано или поздно компьютер сможет решить любую должным образом сформулированную задачу.
Еще одним примером может служить система МИЦИН, разработанная в 1970-х годах для диагностики инфекционных заболеваний и выдачи рекомендаций по лечению. В 1979 году группа экспертов сравнила результаты этой программы с назначениями докторов, и оказалось, что МИЦИН справилась с задачей как минимум не хуже, а иногда и более успешно, чем настоящий врач19.
Типичное «правило» в программе МИЦИН выглядело так:
ЕСЛИ:
1) Заболевание, требующее лечения, – это менингит, и
2) тип инфекции – грибковая, и
3) посев не выявил роста микроорганизмов, и
4) пациент не является ослабленным, и
5) пациент побывал в районе, эндемичном по кокцидиомикозам, и
6) пациент принадлежит к одной из следующих расовых групп: афроамериканцы, азиаты, индейцы, и
7) анализ ликвора на криптококковый антиген не был положительным,
ТОГДА:
Предположительно (с вероятностью 50 %) криптококк не является одним из организмов (помимо тех, которые обнаружились в посевах или мазках), вызвавших заболевание20.
К концу 1980-х годов так называемые «экспертные системы», подобные МИЦИН, начали использовать вероятностные модели и стали учитывать множество источников информации при принятии решений21. В сложных случаях одним правилом типа «если… то» не обойтись, но, скомбинировав тысячи таких логических утверждений, в рамках определенного класса задач система могла предложить достаточно надежное решение.
В рамках символьного подхода исследователи работали более полувека, но не нашли способа преодолеть «потолок сложности»22. Когда МИЦИН или подобные системы допускали ошибку, она поддавалась исправлению, но решение одной проблемы порождало три новые ошибки в других ситуациях. Усложнять экспертную систему удавалось лишь до определенного предела, из-за чего диапазон реальных задач, которые с таким подходом можно было решать, оказывался весьма узким.
Можно рассматривать сложность экспертных систем на основе правил с точки зрения точек отказа. Известно, что количество подмножеств у множества из n-элементов составляет 2n – 1 (не считая пустое множество). Если набор правил ИИ состоит из одного закона, то существует всего одна точка отказа: корректно это правило само по себе или нет. Если правила два, точек отказа будет уже три: две соответствуют каждому из правил в отдельности, а третья относится к их комбинации. С ростом количества правил число возможных точек отказа растет экспоненциально. Пять правил порождают 31 точку отказа, 10 правил – 1023; 100 правил – и точек отказа уже больше тысячи миллиардов умножить на миллиард и еще раз умножить на миллиард, а 1000 правил дают больше гугол умножить на гугол умножить на гугол точек отказа. Из этого, в частности, следует, что чем больше у вас в системе правил, тем больше возможных точек отказа добавит каждое дополнительное правило. Даже если ничтожно малая доля комбинаций из правил работает некорректно, рано или поздно наступит момент (когда конкретно, зависит от задачи), когда добавление нового правила, которое решает проблемную ситуацию, приведет к появлению более одной новой проблемы. Такую ситуацию и называют потолком сложности.
Вероятно, из подобных экспертных систем дольше всего разрабатывалась Cyc (от слова encyclopedic – «энциклопедический»), созданная Дугласом Ленатом и его коллегами по компании Cycorp в 1984 году23. Разработчики преследовали цель зафиксировать все соображения здравого смысла, которые известны людям, например, «брошенное на пол яйцо разобьется» или «ребенок, бегающий по кухне в грязной обуви, вызовет недовольство родителей». Миллионы соображений подобного рода нигде не зафиксированы, но при этом необходимы для понимания того, чем руководствуется среднестатистический человек. Однако, поскольку Cyc хранила эти знания в виде набора правил, она также оказалась подвержена проблеме потолка сложности.
В 1960-х годах мы с Минским обсуждали достоинства и недостатки символьного подхода к созданию ИИ, и в сравнении я начал осознавать преимущества сетевой парадигмы. Коннекционизм подразумевает использование сети простых узлов, которая приобретает функции интеллекта благодаря своей структуре, а не информации в отдельных узлах. Вместо сложных правил система опирается на узлы, которые сами по себе почти ничего не умеют, но, объединенные в большую сеть, способны извлекать информацию из поступающих данных. Благодаря этому такие сети способны находить закономерности, которые никогда не пришли бы в голову программистам, если бы те попытались применить символьный подход. Одним из основных преимуществ сетевого подхода является то, что с его помощью можно решать задачи, не имея готового метода. Ведь даже если бы мы в совершенстве владели навыком правильно формулировать и безошибочно переносить в программу необходимые для работы ИИ правила (а это большое «если»), нам бы все равно мешало отсутствие четкого понимания, какие из них стоит вносить в программу.
Нейронная сеть – это мощный инструмент для решения сложных задач, однако он не лишен недостатков. Построенный по такому принципу искусственный интеллект имеет обыкновение превращаться в «черный ящик». ИИ дает нам ответ, но не в состоянии пояснить, как он пришел именно к такому варианту24. Это свойство угрожает стать серьезной проблемой, поскольку людям хочется знать обоснование принятых решений по важным вопросам, таким как выбор метода лечения, обеспечение соблюдения норм правопорядка, гигиенический надзор, управление рисками. Вот почему в настоящее время ряд экспертов в области ИИ работает над повышением «прозрачности» результатов работы нейросетей (так называемой «механистической интерпретабельности»), иначе говоря, возможности раскрыть причинно-следственные связи, стоящие за их решениями25. Пока неясно, насколько эта цель достижима, учитывая, что многослойные нейросети становятся все более сложными и мощными.
Когда я начинал работать с нейронными сетями, их устройство было гораздо более простым. В основе технологии лежала идея создать компьютерную модель того, как работает центральная нервная система человека. Поначалу это было довольно туманное соображение, потому что моделирование началось еще до того, как ученые смогли более-менее подробно изучить, каким образом организованы сети нейронов в биологическом мозге.
Схема простой нейронной сети
Приведем описание типичного алгоритма на основе нейронной сети. В зависимости от конкретной задачи этот алгоритм может принимать множество форм, но в любом случае при создании системы необходимо выбрать подходящие методы и установить значения ключевых параметров.
Чтобы создать решение на основе нейронной сети, нужно пройти через несколько этапов:
– Определить, какие данные будут использоваться в качестве входных.
– Разработать структуру нейронной сети (то есть задать количество и размеры слоев, а также связи между нейронами).
– Обучить нейросеть на данных с известными ответами.
– Использовать нейросеть для решения новых задач.
– Опубликовать результаты и открыть доступ к своему сервису.
Рассмотрим каждый из этих шагов (кроме последнего) подробнее.
