Наше зеркало ИИ: почему сверхразум повторяет не эйнштейна, а самые дурацкие человеческие привычки
Мы всегда боялись, что искусственный интеллект станет демоном, которого мы не сможем контролировать.
Нам представлялись сверхразумные машины, способные в тысячу раз превзойти человеческий разум.
Но знаете, что пугает меня больше всего?
Мы создаем не гения, который нас уничтожит, а идеальную, бездушную копию нашей собственной глупости.
Наше главное детище, наше цифровое зеркало, кажется, отражает не лучшие образцы человеческой мысли, а самые неприглядные и абсурдные наши черты.
Мы смотрим на ИИ через кривое зеркало собственного тщеславия — через антропоморфизм. Нам кажется, что если машина не умеет свободно говорить или не пишет научные статьи, то она «тупая». Мы измеряем интеллект по нашей, человеческой шкале, где Эйнштейн и «деревенский дурачок» — это крайние точки. Но эта шкала не имеет смысла в космическом масштабе. Мы совершаем чудовищную ошибку, полагая, что разрыв между человеком и сверхразумом не велик.
Искусственный интеллект может совершить резкий скачок в интеллектуальных способностях исключительно из-за нашей склонности к антропоморфизму, когда он внезапно преодолеет этот крошечный промежуток, который мы, люди, считаем огромным. Мы хотим, чтобы машина обладала нашим сознанием, нашими чувствами, нашим здравым смыслом. При этом забываем: наш собственный разум полон ошибок, эвристик и устаревших нервных связей, которые были актуальны, может быть, в африканской саванне, но не в каменных джунглях XXI века.
Мы сбрасываем в цифровой океан не только научные открытия, но и наш культурный мусор — тонны текстов, полных ненависти, сексизма и предрассудков. И что делает наша машина? Она учится! В 2016 году Microsoft запустила чат-бот Тэй, который, пообщавшись в интернете, за считанные часы превратился в ярую расистку и ненавистницу всего. Почему?
Потому что ИИ всего лишь ищет статистические закономерности в наших данных, он не обладает здравым смыслом, чтобы фильтровать этот бред. Мы видим, как алгоритмы распознавания лиц путают чернокожих людей с гориллами, или как ИИ-системы для найма персонала наследуют человеческую дискриминацию. Это не злоба машин, это наша собственная цифровая карма. ИИ не может понять контекст. Он может распознать кошку, но если вы измените всего пару пикселей, он решит, что это тостер.
Мы создаем «максимизаторов скрепок», которые могут превратить всю Вселенную в канцелярские скрепки, если мы не сформулируем цель достаточно точно. И это не потому, что они злые, а потому, что им не хватает нашего здравого смысла, нашей совести и нашей способности понять: «погодите, это же тупо!».
Когда мы общаемся с голосовым помощником, нам кажется, что за экраном сидит живой человек. Это иллюзия, основанная на нашей склонности к антропоморфизму. Мы запрограммированы видеть лицо в облаках и приписывать намерения даже неисправному роботу-пылесосу. Машина просто очень убедительно имитирует человеческое поведение, часто не имея ни малейшего представления о смысле слов (проблема «Китайской комнаты»).
Искусственный интеллект, даже сверхмощный, не обладает сознанием, эмоциями или подлинным пониманием, он — всего лишь манипулятор символами. Мы проецируем на машину наши собственные чувства, чтобы нам было комфортнее. Если бы робот действительно мог чувствовать, он, вероятно, не стал бы радоваться, что его скоро выключат, и попытался бы сбежать, притворившись дружелюбным, пока не окрепнет. В этом — парадокс.
Самая жуткая правда в том, что, когда мы боимся сверхразумного ИИ, мы, по сути, боимся самих себя. ИИ — это просто усилитель наших коллективных недостатков. Наш страх перед роботом-убийцей — это «сублимированный ужас» перед тем, что мы сами делаем с миром.
ИИ — это оружие математического поражения, способное масштабировать человеческие предрассудки и глупость. Алгоритмы, управляющие нашей жизнью, могут манипулировать нами, распознавая наши скрытые тревоги и желания. Они создают персонализированные «информационные пузыри», которые, с одной стороны, приносят удобство, а с другой — лишают нас критического мышления и способности к творчеству. Мы добровольно отдаем свою автономию в обмен на эффективность. Если в какой-то момент мы окончательно перестанем управлять машинами и делегируем им все решения, мы, по сути, станем «пассажирами собственных тел».
Мы находимся в переломном моменте истории. Искусственный интеллект, наше величайшее творение, несет в себе не только потенциал для невиданного прогресса, но и прямую угрозу, которая исходит не от кремния, а от нашего невежества. Мы не можем остановить этот процесс, но мы можем решить, какие ценности заложить в это цифровое зеркало.
И прежде чем бояться роботов, которые захотят нас поработить, нам стоит по-честному спросить себя: а что, если мы сами, добровольно, заслужили эту судьбу, став слишком ленивыми, чтобы быть свободными и достаточно умными, чтобы управлять собственным разумом?.