Экстремисты ИИ продают научную фантастику

Ранее в этом году у меня был ужин в Вашингтоне с Дженсеном Хуангом, президентом и главным исполнительным директором Nvidia. В какой-то момент он сказал нечто, поразившее меня: «Почему все здесь так негативны?» Он описывал настроение как «мрачное», но говорил не об экономике или политике. Он обращался к отношению к искусственному интеллекту — тому, которое разделяют многие ведущие теоретики страны в области ИИ. Доминирующее настроение по отношению к ИИ — это не любопытство, оптимизм или амбиции. Это страх перед апокалипсисом. Этот страх очевиден, независимо от того, присутствуете ли вы на дискуссии в аналитическом центре о будущем ИИ или ведете частную беседу за ужином. Озабоченность, которую часто слышно в Вашингтоне, а иногда и в технологических кругах, заключается в том, что если не действовать быстро, ИИ может обрести сознание, выйти из-под человеческого контроля и стать угрозой для нас — либо физической, либо экономической. Сейчас дебаты об ИИ доминируют двумя крайностями. «Сторонники катастрофы» верят, что ИИ станет богоподобным и уничтожит нас. «Фанатики» верят, что ИИ станет богоподобным и спасет нас. Их выводы различны, но логика одинакова: ИИ превзойдет человеческий интеллект и выйдет из-под человеческого контроля. Обе позиции коренятся в научной фантастике, а не в науке. И обе игнорируют то, как на самом деле работает инновационный процесс. Существует третий путь: реализм в отношении ИИ. Реализм в отношении ИИ начинается с базовой истины: технологии добиваются успеха, когда они улучшают жизнь. Печатный станок, антибиотики, автомобили и интернет были приняты не потому, что были мощными или пугающими. Их приняли, потому что они решали проблемы. ИИ пойдет по тому же пути. Нынешние разговоры об ИИ не являются разумными. К сожалению, это ведет к импульсивному формированию политики, эксплуатирует общественные страхи перед технологией, которую мы только начинаем понимать, и затуманивает наше национальное суждение в критическое время. Ось «катастрофист-фанатик» покоится на ложной предпосылке: что интеллект — это единая, линейная, измеримая вещь, которую машины однажды смогут превзойти. В реальности мы не можем точно определить или измерить человеческий интеллект. Показатели IQ, результаты SAT, дипломы — это в лучшем случае грубые приближения. Эмпатия, суждение и творчество не могут быть аккуратно подсчитаны с помощью теста. Если мы не разгадали человеческий интеллект, то использовать его в качестве мерки для ИОИ — «искусственного общего интеллекта» — бессвязно. Разговоры об ИОИ предполагают финишную черту, момент, когда ИИ внезапно прыгнет от инструмента к богу. Но интеллект — это не порог. Это спектр, постоянная эволюция способностей. Человеческие знания расширяются каждый год, изменяя то, что мы называем «интеллектом». То, что кажется продвинутым сегодня, становится неактуальным завтра, как демонстрирует каждое поколение моделей ИИ. Интеллект — это прогресс без конца, а не пункт назначения. И эта конечная точка непознаваема — неизмерима, потому что ни один человек, ни одна машина никогда не постигнут, сколько знаний действительно существует в постоянно расширяющейся вселенной. Другими словами, значение интеллекта меняется по мере расширения наших знаний. Это означает, что ИОИ невозможно измерить и, следовательно, невозможно достичь. Оба лагеря предполагают, что простое добавление большего количества графических процессоров и энергии вызовет интеллект без ограничений. Это механистическое мировоззрение, которое сводит людей к машинам «ввод-вывод» и принимает вычислительную мощность за мудрость. Но ИИ не более сознателен, чем калькулятор, сдающий экзамен на отлично. Реализм в отношении ИИ основан на смирении. Человеческая жизнь невероятно сложна. У одного человека достаточно ДНК, чтобы дважды обогнуть солнечную систему; до 95 процентов материи и энергии вселенной все еще неизмеримы; мозг имеет в 500 раз больше связей, чем крупнейшие модели ИИ. За всю жизнь человек обработает примерно тот же объем данных, что и весь интернет. Ни одна языковая модель не может сравниться с биологическими, социальными и когнитивными процессами человеческого мозга, которые мы до сих пор едва понимаем. Некоторые обобщенные большие языковые модели работают, активируя все связи сразу, и у нас есть термин для мозга, действующего подобным образом: припадок. Что делает нас людьми, так это наша имманентность — опыт, который является качественным, а не количественным, и поэтому находится вне метрик, необходимых ИИ для функционирования. Человечество определяется не точками данных или количеством клеток, а нашей способностью импровизировать, творить, спотыкаться, любить и учиться. ИИ может воспроизвести Пьету в безупречных мраморных деталях, но он не может воспроизвести смысл и цель, которые Микеланджело вложил в скульптуру. Подобно тому, как тело — это не просто его миллиарды клеток, картина — это не просто ее пигменты. Человеческое знание является неявным, relational и воплощенным. Это не переводится элегантно в кремний. Дебаты об ИИ часто кажутся поверхностными, потому что в них доминируют люди с нереалистичными ожиданиями, которые думают, что богоподобный интеллект находится всего за очередным зеттабайтом видео с кошками. Да, ИИ несет риски, как и все технологии общего назначения. Рабочие места меняются, силы перестраиваются, инфраструктура напрягается. Но история показывает, что эти сдвиги приводят к большему процветанию. Правильный политический подход очевиден: инвестировать в инфраструктуру, таланты и открытые системы. Расширять экспорт американских платформ, чтобы продвигать мир вместе с нами. Отвергать запреты и ограничения, которые подавляют инновации. Страх — это не стратегия, а магическое мышление — не лидерство. ИИ существует не для того, чтобы заменить нас; он здесь, чтобы усилить нас. Как паровой двигатель или смартфоны, он расширяет человеческие возможности. Он никогда не воспроизведет хаос и творчество человеческой жизни, потому что для этого не был предназначен. Его «интеллект» пуст, но, используя его, мы умножаем свой собственный. Вопрос не в том, «проснется» ли ИИ.