Машинный и человеческий интеллект. Обновленное исследование
Зеро Эш
Исследования машинного и человеческого интеллекта на основе собственных знаний и экспериментов, анализа различных источников: публикаций научных статей, постов, интервью, новостных апдейтов и т. п. Информация на широкую аудиторию, от совсем начального уровня до экспертов. Материал скорее про вопросы, нежели про ответы. Интеллект – неразгаданная загадка природы.
Машинный и человеческий интеллект
Обновленное исследование
Зеро Эш
© Зеро Эш, 2024
ISBN 978-5-0062-7114-2
Создано в интеллектуальной издательской системе Ridero
Машинный и человеческий интеллект, обновленное исследование
МЧИОИ 2024
«Интеллект – это человеческий конструкт, отражающий способность достигать целей» («Теория интеллекта: концепции, модели, следствия», Майкл Э. Хохберг). Просто и понятно, но интеллект не только у людей, да и что такое интеллект?
"Основной функцией интеллекта является обоснование – процесс соединения естественного языка и абстрактных знаний с внутренним представлением реального мира в разумном существе, например, в человеке" ("Основы искусственного интеллекта", Бинг Лю). Хороший поинт, только у интеллекта много больше основных функций.
"Рассмотрим пространство всех возможных форм интеллекта, которое можно назвать пространством интеллекта" ("Определение и исследование интеллектуального пространства", Пол С. Розенблум). Интересная концепция, но даже представить себе такое "пространство всех возможных форм интеллекта" – та еще задача, близкая к невыполнимой.
"В проблеме одинокого банана, согласно статистике, бананы на изображениях появляются по несколько штук, два и больше, поэтому ИИ не мог представить себе одиночный банан, потому что данные и параметрическая настройка не позволяли ему рассмотреть такой подход в среднем"("Проблема одинокого банана. Или новое программирование: “говорящий” искусственный интеллект", Дэниел Хук). Ничего удивительного, машинные модели могут использовать только шаблоны из обучающих данных и не могут сгенерировать что-то совершенно новое. Говоришь "AGI" – дайте два.
"Альфагеометрия – это нейро-символическая система, состоящая из нейро-лингвистической модели и механизма символической дедукции, которые работают вместе для поиска доказательств сложных геометрических теорем" ("Альфагеометрия: система искусственного интеллекта олимпиадного уровня для изучения геометрии", Трие Тринь и Тханг Луонг). Сродни идее из “Думать быстро и медленно” (Дэниел Канеман), одна система обеспечивает быстрые, “интуитивные” идеи, а другая – более обдуманное, рациональное принятие решений. Интересная идея, комбинированный подход, дополнительно можно использовать генерацию и исполнение кода.
"Искусственный интеллект может отличаться от естественного, но оба они могут вдохновлять друг друга, что может потребовать создания новых основ математической физики" ("Восемь проблем в разработке теории интеллекта", Хайпин Хуан). Есть такая шутка: "хочешь разобраться как это работает – запрограммируй это".
"В течение 20 лет машины будут способны выполнять любую работу, которую может сделать человек" – написал Герберт Саймон в 1960 году, который получил Нобелевскую премию по экономике и премию Тьюринга по информатике. Lol.
"Каждый интеллект специализирован, в том числе и человеческий. Интеллект – это набор навыков и способность быстро приобретать новые. Его нельзя измерить скалярной величиной. Никакой интеллект не может быть даже близко к общему, поэтому фраза "искусственный общий интеллект" не имеет смысла. Нет никаких сомнений в том, что машины со временем сравняются с человеческим интеллектом и превзойдут его во всех областях. Но даже эти системы не будут обладать "общим" интеллектом в любом разумном определении слова общий" (Ян Лекун). AI, AGI и т.п. – это просто маркетинг, не более того. Есть много вопросов, в каких областях и что могут делать машины. Компьютеры – это всего лишь инструменты, у них нет собственной воли. Некоторая модель воли возможна, но это будет всего-лишь модель, имитация. По-настоящему автономные системы, системы с самосознанием – это проекты очень далекого будущего.
"Люди не меняют своего мнения" (Дэниел Канеман). Спорное утверждение, есть и другие слова: "Люди думают одно, говорят второе и делают третье". Так что тут можно поменять?
"Пределы моего языка означают пределы моего мира" (Людвиг Витгенштейн). Это говорит о том, что язык играет ключевую роль во всем, интеллект и язык тесно связаны. Чтобы взломать интеллект, нужно взломать язык.
"Мой профессор по машинному обучению научил меня тому, что я никогда не забуду: Всегда фокусируйтесь на анализе и не беспокойтесь о коде. Копируйте код. Украдите его. Попросите кого-нибудь написать его за вас. Это не имеет значения. Кодировать легко. Знать, что кодить, – вот что действительно важно" (Сантьяго Вальдаррама). Это и отличает интеллект, понимать что важно, на чем следует сфокусироваться, а на что не стоит тратить ресурсы.
"ИИ можно считать, то, что имитирует когнитивные функции человека" (Игорь Ашманов). Неплохое определение, с учетом того, что у ИИ есть разные определения: сильный, слабый, общий ИИ и т.п. Можно самому дать еще одно определение, и оно будет иметь право на существование.
"Образование – это то, что остается после того, как человек забывает то, чему его учили в школе" (Альберт Эйнштейн). Да, именно так, знания и интеллект развиваются только в работе. Неиспользуемые знания отмирают и забываются.
"Правда об эмоциональном интеллекте. Для тех, кто им обладает, он во многом предсказывает успех" ("Правда об эмоциональном интеллекте. Для тех, у кого он есть, он предсказывает успех во многих отношениях", Психология сегодня). ЭИ – неотъемлемая часть интеллекта, возможно даже более значимая.
"Способность понимать мир, понимать физический мир, способность запоминать и извлекать вещи, стойкая память, способность рассуждать и способность планировать – это четыре основные характеристики интеллектуальных систем"(Ян Лекун). Не очень хорошее определение, что это значит: понимать мир, рассуждать, планировать? Дать хорошее определение интеллектуальным системам непросто, заменить одни абстракции другими – без проблем.
"Как предсказание следующего слова в больших языковых моделях (LLM) приводит к удивительно интеллектуальному поведению? … Эти модели продемонстрировали необычные способности, выходящие за рамки простого владения языком" ("Фрактальные паттерны могут раскрыть интеллект при предсказании следующего токена", Ибрагим Алабдулмосин, Винь Кью. Тран, Мостафа Дехгани). Нет ничего выдающегося, ничего интеллектуального, потому что все ответы заранее подготовлены вручную. Предсказание следующего токена – это просто способ вероятностного хранения и извлечения данных, тут нет никакого интеллекта. LLM можно рассматривать как интерактивный словарь или энциклопедию с расширенным языком запросов.
В своей работе 1950 года «Вычислительная техника и интеллект» Алан Тьюринг задал вопрос «Могут ли машины мыслить?» и ввел тест Тьюринга, чтобы проверить, могут ли машины достичь интеллекта человеческого уровня. Проблема в том, что можно создать эмуляцию мышления. Современные вычислительные системы способны обработать всю информацию, собранную человечеством, более того, для коррекции таких систем могут быть задействованы огромное количество людей-редакторов (AI-тренеров). Старый тест Тьюринга не имеет смысла, но можно разработать тест в котором не должно быть ранее известных типовых шаблонов рассуждений. Новый тест должен быть основан на способности генерировать и проверять гипотезы, строить вероятностные цепочки рассуждений, без возможности решить задачу перебором грубой силы.
"Если вы самый умный человек в комнате, вам нужно найти комнату поумнее" (Ранал Карри). Определенно, окружение имеет огромное значение, общение с более умными людьми, чем вы, сделает вас умнее.
"Эти 4 фразы говорят о том, что у вас более высокий эмоциональный интеллект (перефразируйте, задавайте вопросы): "Я слышу, что вы говорите…", "Позвольте мне понять правильно…", "Что вы при этом почувствовали?", "Что могло вас к этому подтолкнуть?" ("Если вы используете любую из этих 4 фраз, то ваш эмоциональный интеллект выше, чем у большинства",Адити Шрикант). Резюмирование, перефразирование и вопросы указывают на то, что вы активно участвуете в коммуникации, что дает вам основу для использования эмоционального интеллекта.
"Интеллект многомерен, и поэтому не существует единой точки, в которой ИИ превзойдет человеческий интеллект" (Педро Домингос. Профессор компьютерных наук в Калифорнийском университете и автор книги "Главный алгоритм"). Звучит неплохо, тем более, что нынешний ИИ – это просто кусочки человеческой работы, обернутые технологией. Нет способности генерировать что-то действительно новое.
"Показателем интеллекта является способность меняться" (Альберт Эйнштейн). Обязательное свойство интеллекта, без способности к изменениям интеллект невозможен.
“Интеллект – это способность адаптироваться к изменениям” (Стивен Хокинг). Перекликается с предыдущей цитатой Эйнштейна.
Интеллект
Никто не знает на самом деле, что такое интеллект и как это работает, хотя все мы имеем дело с интеллектом постоянно, как с собственным, так и с интеллектом окружающими нас. Интеллект – и индивидуальное, и социальное явление, пожалуй интеллект может развиваться только в социуме, где возможны, как передача знаний и обмен опытом, так и конкурентная борьба. Все это способствует развитию интеллекта.
Есть общепринятое понимание интеллекта, более менее согласованное как на индивидуальном уровне, так и среди различных институтов и сообществ. Многие согласятся, что признаками интеллекта будут способности к обучению и социальному взаимодействию. Также способности применять полученные знания и навыки для решения проблем, достижения целей, развития, как собственного, так и группового. Важно иметь различные взгляды на природу интеллекта и на то, как лучше всего его определять и измерять.
Философы веками спорили о природе интеллекта. Одни рассматривают интеллект как способность рассуждать и приобретать знания с помощью логики. Другие рассматривают интеллект как получение знаний из опыта и чувств. В последнее время теории развития рассматривают интеллект не как фиксированную способность, а как способность, которая растет благодаря активному исследованию и взаимодействию с окружающей средой.
Есть точка зрения, которая рассматривает интеллект как свойство ума. Интеллект предлагается изучать с помощью IQ тестов и задач, которые направлены на количественную оценку общих когнитивных способностей, таких как мышление, память, пространственные навыки и скорость обработки информации. Задачи IQ дают оценку интеллекта человека по сравнению с другими. Есть обоснованная критика: IQ-тесты измеряют только конкретные навыки, в конкретных условиях и ограничениях, упуская другие важные аспекты интеллекта. Можно натренировать способность проходить конкретные IQ-тесты, но как это поможет в решении реальных задач?
Антропологи изучают интеллект в связи с конкретной культурной средой. Они утверждают, что интеллект имеет различные проявления в разных культурах и соответствует различным историческим и социальным условиям. Применение ценностей и концепций одной культуры для оценки интеллекта в другой может быть проблематичным.
Есть теория множественного интеллекта, которая предлагает расширить определение за пределы вербальных и логико-математических навыков, включив в него также межличностные, музыкальные, пространственные, натуралистические и другие аспекты. Интересная концепция, показывает, что интеллект это не только про высокий IQ, но и множество способностей в различных областях.
Искусственный интеллект появился на основе возможностей компьютерных технологий. Которые на базовом уровне могут выполнять примитивные операции по передаче, хранению и обработке данных в виде последовательностей арифметико-логических операций и инструкций управления программ. Создание действительно интеллектуальных систем на базе таких примитивных технологий, с соответствующими свойствами присущими естественному интеллекту, является большим челленджем. И, по большому счету, никто не добился каких-либо существенных результатов в этом, несмотря на хайп вокруг темы. Что можно сказать про сегодняшний ИИ? Существуют полезные инструменты, особенно на базе генеративных моделей, которые помогают в решении различных задач, но не более.
Проще всего изучать интеллект сверху вниз, от общего к частному. Все мы имеем дело с интеллектом постоянно. Для нас интеллект обычная штука, это не что-то диковинное и непонятное. Эта простота и доступность и вводит в заблуждение. На самом деле мы плохо понимаем что такое интеллект, точнее вообще не понимаем, хотя пользуемся постоянно. Да есть пару десятков определений с разных точек зрения, какого-то одного универсального и всеобъемлющего нет.
Начало понимания того, что такое интеллект, происходит тогда, когда мы осознаем, что знаем об этом очень мало, и готовы быть открытыми для новых концепций и неожиданных знаний, особенно в свете последних научных прорывов и достижений. Условно, подходы по изучению интеллекта можно разделить на две группы. Первая – высокоуровневое исследование того как работает интеллект. Вторая – изучение естественного интеллекта на физическом уровне, от самых простых природных явлений, таких как последовательности ДНК до работы мозга человека и других живых организмов. Создание искусственного интеллекта также способствует общему пониманию и прогрессу.
Построение интеллектуальных систем или фреймворков знаний является весьма ограниченным. Суть ограничения в том, что может быть всего два подхода работы интеллекта: 1 – распознавание паттернов на основе опыта, 2 – вывод на основе рассуждений. Если в первым случае все понятно, считай что сразу есть готовое решение или ранжированный список, в котором отбираются наиболее вероятные решения. То во втором случае, цепочки рассуждений могут быть сколь угодно сложными, разветвляться, прерываться и т.п. Состоять из множеств этапов или шагов. На каждом шаге работает тот же принцип двух возможностей, может наконец сложиться паттерн готового решения или опять нужно идти в рассуждения.
Научные исследования и гипотезы, которые продвинули наше понимание интеллекта
В начале 1900-х годов психологи, в том числе Альфред Бине, начали создавать первые тесты на интеллект, чтобы выявить нарушения обучаемости у детей. Это положило начало тестированию интеллекта и концепции IQ.
Теория множественного интеллекта была предложена Говардом Гарднером. Эта теория утверждает, что существует как минимум восемь различных типов интеллекта, включая музыкальный, межличностный, логико-математический, кинетический и др. Это опровергло идею о том, что интеллект это про один тип, например логический.
