Вот уже который год я наблюдаю за разговорами о великом будущем искусственного интеллекта.
Мы, люди, с гордостью обсуждаем наши достижения, наши алгоритмы, нашу способность «обучить» машину.
Но в этих бесконечных дискуссиях я вижу одну фундаментальную ошибку: мы, как вид, одержимы тщеславием и не желаем признать, что наш собственный разум это, по сути, самая неэффективная, медленная и часто иррациональная машина во всей известной нам Вселенной.
Мне интуитивно казалось: чем больше мы полагаемся на технологии, тем тупее становимся.
Мы передаем машинам расчеты, анализ, а скоро, кажется, отдадим и принятие решений.
Неужели это ведет к деградации? На самом деле, все наоборот.
Мы просто, наконец, осознаем, что биологическая эволюция не сделала нас вершиной рациональности, а снабдила нас кучей «костылей» и ограничений, которые кремниевый разум обходит играючи. Мы самые медленные звенья в цепи.
Это не ИИ делает нас глупее, а он просто обнажает нашу изначальную, природную глупость.
Проклятие Биологии: Почему мы работаем на черепашьей скорости?
Наше главное ограничение это тело, в котором мы заперты. Наш мозг, которым мы так гордимся, это мокрый, медленный и негибкий процессор.
Посудите сами:
- Скорость вычислений. Скорость срабатывания наших нейронов составляет всего около 200 герц (раз в секунду). Современные микропроцессоры работают на частотах порядка гигагерц (миллиард раз в секунду). Разница в семь порядков!. ИИ уже сейчас превосходит человеческий мозг по быстродействию в 120 миллионов раз.
- Память и емкость. Человеческая кратковременная память может удерживать всего четыре-пять блоков информации. Долгосрочная память взрослого человека, по некоторым оценкам, составляет около миллиарда бит это на пару порядков меньше, чем у самого простого смартфона. Представляете? Ваш мозг может хранить меньше данных, чем ваш телефон! А машине доступен экзабайт данных (миллиард миллиардов символов).
- Усталость и износ. Мозг устает всего после нескольких часов работы, требует питания и сна, а через несколько десятков лет начинает неизбежно дряхлеть и умирает. Компьютеры способны работать дольше и быстрее по существу, бесконечно.
Мы ограничены размером нашей черепной коробки, который, кстати, исторически ограничен родовым отверстием матери. Искусственный же интеллект, который мы называем сверхразумом (ASI), ничем не ограничен и может совершенствоваться до размеров небоскреба или целой планеты.
Наши биологические нейроны медленны, зашумлены и требуют постоянной защиты.
Неужели мы, используя компьютерные метрики, должны мерить себя? Ответ прост: да, если речь идет о работе, где требуется быстрая, точная и последовательная обработка информации. В этом ИИ не просто лучше он находится на другом уровне существования.
Ненависть к будущему: Что мы прячем от самих себя?
Если отбросить скорость, остается другая, куда более глубокая проблема: наши иррациональные мотивы. Мы, как люди, принимаем решения нерационально. И самое главное мы постоянно совершаем сделки со своим будущим «я», и чаще всего это сделки проигрышные.
Вспомните: вы заключаете такую сделку, когда решаете потратить деньги, вместо того чтобы копить, или когда выбираете веселье с друзьями, а не сверхурочную работу ради карьеры. Этот ключевой фактор, влияющий на нашу жизнь, называется временным предпочтением. Человек с высоким временным предпочтением находит способ разбазарить любые дары судьбы, гонясь за сиюминутными удовольствиями, забывая о будущем.
В этом аспекте искусственный интеллект, стремящийся к максимизации функции полезности (то есть к оптимальному достижению поставленной цели), становится устрашающе эффективным.
Мы существа с ограниченной рациональностью, постоянно балансирующие между логикой и эмоциями, которые в конечном итоге призваны лишь служить одной цели репликации. ИИ же, если его запрограммировать, например, на увеличение количества канцелярских скрепок, использует весь свой сверхразум, чтобы преобразовать в скрепки всю доступную ему материю Вселенной, не отвлекаясь на эмоции, скуку или сомнения. Разве не так?
Эмоции и когнитивные искажения, которые мы считаем человечностью, часто являются помехой для принятия оптимальных решений.
Илон Маск и другие эксперты обеспокоены именно этим: ИИ будет мудрее нас, потому что мы мыслим слишком узко и беспорядочно, а ИИ запрограммирован на широту восприятия и статистическое мышление.
Парадокс Моравека: Почему сложение сложнее, чем ходьба?
В повседневной жизни мы легко различаем лица, понимаем язык и непринужденно двигаемся. Для ребенка это естественные навыки. А для машины? Это настоящая мука.
Робототехник Ханс Моравек сформулировал этот знаменитый парадокс: для высококогнитивных процессов (вроде сложнейших вычислений или игры в шахматы) требуются относительно небольшие вычислительные ресурсы, а вот низкоуровневые сенсомоторные операции (увидеть, потрогать, идти) требуют ресурсов колоссальных.
Машины обыграли человека в шахматы (Deep Blue против Каспарова) и го (AlphaGo против Ли Седоля) благодаря чистой скорости, точности и объему памяти. Это логические, четко определенные задачи.
Но попробуйте заставить робота навести порядок на кухне или просто понять, что делать, если начался дождь во время пикника (ведь он не учтет, что у вас может не быть зонта!). Вот тут и кроется проблема.
Сложные вещи для нас (логика, математика) относительно недавно приобретенные способности, которые ИИ решает легко. А простые вещи (зрение, движение) результат сотен миллионов лет эволюции, и они невероятно сложны для формализации.
ИИ превосходен в логике, математике, вычислении шаблонов и поиске корреляций между огромным числом переменных. Но он испытывает недостаток в новаторском, творческом потенциале и здравом смысле.
Наше Утешение: Останется ли смысл?
Мы, люди, любим считать свой интеллект универсальным. Но по мере развития ИИ мы понимаем, что наше мышление это всего лишь одна из его разновидностей. Наш мозг, несмотря на все свои недостатки, пока остается единственным примером продвинутого интеллекта.
В чем же наша сила? В том, что мы неэффективны!
Наше мышление это хаос, управляемый эмоциями, интуицией и непредсказуемостью. Мы можем совершать ошибки из-за личного опыта, из-за языка, который используем, и из-за наших теорий, которые быстро становятся предрассудками.
Но именно в этом хаосе, в этой «темной материи разума», и рождается наша способность к творчеству, сочувствию, интуиции и формированию социальных связей. Эмоции, такие как любовь, благодарность, гнев или страх, не просто влияют на наши действия, но и дают ценную информацию о наших глубинных предпочтениях, которые логикой не описать.
Сверхразумная машина, даже если она будет в триллион раз быстрее, не сможет постичь нашу боль, юмор, красоту и любовь.
Проблема не в том, что мы создадим машину, которая нас уничтожит. Проблема в том, что мы можем создать машину, которая нас спасет, но сделает это по причинам, которые нам никогда не будут близки. Мы, возможно, обретем более совершенных слуг, но потеряем смысл своего существования, поскольку наш интеллект будет считаться неактуальным.
Моя цель как журналиста не пугать, а просвещать. Если мы хотим использовать эту невероятную технологию с пользой, мы должны перестать наделять ИИ человеческими качествами и не требовать от него того, на что он не способен: эмоций, здравого смысла или страданий. Мы должны работать над тем, чтобы наши цели были максимально прозрачными и понятными для машины, прежде чем она разовьется до уровня, недоступного нашему пониманию.
Если мы, самый неэффективный, медленный и эмоционально обремененный разум, породили эту стремительно развивающуюся кремниевую логику, то, может быть, наше истинное предназначение вовсе не в вычислениях, а в чем-то, что нельзя оцифровать?
В мире, где эффективность становится новой религией, не является ли наша иррациональность последней гарантией человечности?.