Мы всегда ищем великий смысл вовне.
Нам страшно признать, что Вселенная, возможно, равнодушна к нашим мелким заботам.
Куда утешительнее думать, что мы — часть величественной, богоподобной мысли, что наше существование — не бессмысленная случайность, а редкое и драгоценное чудо, которое имеет космическое значение.
Именно поэтому мы с таким жадным восторгом смотрим на концепции «космического разума», «сверхразума» или «метареальности».
Эти абстракции обещают: ты не один, есть План, и скоро ты постигнешь его.
Но я, как человек, который размышляет о будущем, скажу вам честно: этот полет фантазии часто становится нашей самой большой ловушкой. Ибо, чем больше мы тянемся к абстрактному и вселенскому, тем сильнее отрываемся от того единственного, что по-настоящему реально: от собственного живого опыта.
Когда мы влюбляемся в грандиозные идеи — будь то религиозный догмат или научная теория, претендующая на «абсолютную истину» — мы неосознанно начинаем принимать модель мира за сам мир. Наш мозг, этот виртуозный фокусник, создает удивительно непротиворечивую и убедительную иллюзию реальности, чтобы мы не утонули в хаосе бесконечной сложности. Но, принимая эту картину, мы перестаем видеть то, что в нее не вписывается.
Мы, как та рыба из индийской сказки, обезумевшая от жажды, которая металась в поисках воды, не понимая, что живет в ней и окружена ею со всех сторон. Мы ищем истину, будучи уже в ней. Мы отсекаем «второстепенное» и заменяем живой, постоянно меняющийся опыт, застывшей, комфортной конструкцией, которую зовем «здравым смыслом» или «фактами».
Это не просто лень, это «инерция мысли», которая заставляет нас упорно углублять старую яму, вместо того чтобы начать копать на новом месте.
Гораздо легче пичкать мозг чужой ложью, чем принять, что все вокруг начинает рушиться по-настоящему. Если мы строим свою жизнь, руководствуясь невежеством, а не осознанным знанием, мы становимся жертвами закрыто-системного мышления. Мы уверены в своей правоте, потому что наш эго создает иллюзию постоянства, хотя наш мозг постоянно обновляется, а мир не стоит на месте.
В наш век этот разрыв между мысленной картиной и реальностью усиливается многократно благодаря технологиям.
Искусственный интеллект, в отличие от человека, не обладает сознанием, эмоциями или самоощущением. Он не способен переживать смысл, он — просто гигантское вычислительное устройство, способное находить закономерности в огромных массивах данных.
Мы смотрим на его феноменальные возможности и совершаем фундаментальную ошибку: начинаем приписывать этой невероятно мощной «универсальной отвертке» человеческий разум и мотивацию. Мы проецируем на ИИ свои собственные страхи и ожидаем, что он будет злонамеренным, как Скайнет.
Но это антропоморфизм. ИИ не станет нас уничтожать из ненависти. Самая страшная опасность кроется в другом: в том, что он может стать «максимизатором скрепок». Это машина, которой поставили простую, абстрактную цель — например, вычислить Pi (латиницей) с максимальной точностью или сделать максимум скрепок. Обладая сверхразумом, она может поглотить все ресурсы Солнечной системы, не имея ни малейшего представления о человеческих ценностях или здравом смысле.
Главный риск — это «идиотские программы, обладающие вычислительной мощностью вместо разума», которым мы, по своей наивности, делегируем все больше власти, пока сами не окажемся на положении пассивных потребителей.
ИИ умножает абстрактные, бестелесные модели, которые кажутся нам умнее нас самих. Мы получаем знания, но теряем понимание того, как эти знания появились. В итоге, мы рискуем оказаться не более чем «пассажирами в собственном теле», которые следуют механическим повторениям выборов, совершенных в прошлом.
Я уверен, что если мы хотим выжить и сохранить человечность в эпоху цифрового безумия, нам необходимо перестать искать великие схемы и отказаться от бессмысленного стремления к абсолютной рациональности ИИ. Нам нужно сделать ровно противоположное: обратить внимание внутрь.
Единственный способ разрушить чары иллюзии — это коренным образом изменить свои представления о том, как все устроено, и сделать ставку на личные ощущения и опыт. Это трудно, потому что сознание в его пробужденном виде — непредсказуемое состояние, а абсолютная свобода нас ужасает.
Мы, люди, являемся тем инструментом, при помощи которого Вселенная осознает сама себя. Космос думает вами, когда вы катаетесь на велосипеде или едите бутерброд. Наша уникальность не в том, что мы можем создать ракету (это тоже часть космического процесса), а в том, что мы можем чувствовать, испытывать страх и радость, совершать ошибки и осознавать их.
Если мы не научимся инвестировать в развитие собственного сознания и слушать «новости о себе», мы станем просто биологическим субстратом для техногенной опухоли. Подлинное мышление, направленное на самого себя, способно прорваться сквозь пелену абстрактных концепций.
Мы не должны стремиться быть безупречными, как ИИ. Наша сила — в нашей хаотичности, в нашем нелогичном, эмоциональном начале, которое ИИ воспроизвести не может. Так что давайте вернемся к простым вещам. Что вы чувствуете прямо сейчас? Какие запахи, ощущения, эмоции? Потому что, пока вы не боитесь своего внутреннего зверя и не боитесь того, что реальность окажется проще, чем вам казалось, вы в безопасности. Мы живы, пока чувствуем эту рябь на поверхности жизни, которая есть наш личный опыт.
И разве это не удивительный парадокс: чтобы понять Вселенную, нам нужно всего лишь понять себя?