Итак, мы остановились на том, что в недалеком будущем человечество, если выживет, создаст такие интеллектуальные системы, которые сравняются с людьми по своим возможностям, а то и превзойдут их.

В чем здесь критический момент? Считать быстрее, чем человек, компьютер может уже сейчас. И решать некоторые интеллектуальные задачи - тоже. Но компьютер пока что не имеет универсального интеллекта, который может браться за любые задачи, даже если ему изначально не известен подход к их решению. Именно этим занимается человек на сегодняшний день, и именно в этом пока что заключается его решающее превосходство над машинами.

Но когда-нибудь и этот барьер будет преодолен. Я думаю, что довольно скоро, учитывая бурное развитие в информационных технологиях и в изучении интеллекта естественного. В результате будет создана "думающая машина", искусственный интеллект, который сможет не хуже человека продолжить вгрызаться в тайны Вселенной, овладевать знаниями и технологиями.

Эта машина будет изначально иметь значительное преимущество перед людьми потому, что: 1) она может дополнительно ко всему быстро и безошибочно считать; 2) она имеет в своем распоряжении огромные объемы точной памяти; 3) она имеет куда более развитые возможности коммуникации с себе подобными; 4) она бессмертна.

С этого момента существование людей станет ненужным. Хотя люди вряд ли захотят добровольно уходить с трона "царей природы". "Мы не захотим" - так правильнее сказать. И я не захочу - как представитель, пусть и не самый важный :)

Конечно, люди изначально будут иметь контроль над искусственным интеллектом, будучи его создателями. Кроме того, они примут меры чтобы ограничить его возможности натворить бед, если вдруг ему вздумается. ИИ будет жестко запрограммирован на службу человеку, на доброжелательность к людям, уважение и т.д. Но все же возникает вопрос: будут ли достаточны эти меры, не будет ли все равно существовать опасность для людей? Я считаю - опасность будет существовать. Опасность смертельная и неотвратимая. Вот из каких соображений.

До сих пор компьютеры по большей части служат нам, людям. Однако начиная с некоторых пор постоянно существует проблема компьютерных вирусов и других вредоносных программ. Поначалу многие люди считали, что во всем виновата фирма Микрософт: она создала систему MS-DOS, в которой не принимаются меры к ограничению действий программ; там нет системы безопасности, и поэтому вирусу в такую систему проникнуть труда не составляет. В качестве доказательства такие люди приводили в пример операционные системы Unix, VMS, RSX, имеющие многопользовательскую защиту и в которых вирусов не наблюдалось. Дескать, стоит привести операционную систему в порядок - и компьютерных вирусов не станет.

С тех пор прошли годы. На смену дырявой MS-DOS пришли защищенные Windows XP, Linux, в которых реализовано все то, о чем мечтали тогдашние пользователи VMS и даже больше. Однако вирусы не исчезли. Более того, вирусы появились и под Linux, и тогда стало понятно, что наличие вирусов в компьютерной системе не зависит от того, какой защищенной ее стремятся сделать. Наличие вирусов зависит только от воли авторов этих вирусов, а это в свою очередь зависит от распространенности операционной системы среди потенциальных жертв вируса. Какой смысл писать вирус под VMS, если этой системой пользуются единицы людей во всем мире? Гораздо лучше написать вирус под Windows, где пользователей десятки и может даже сотни миллионов.

Выяснилось также, что уповать на защищенность компьютерной системы - утопия. Современная операционная система вместе со всеми приложениями имеет такую сложность, что сделать ее неуязвимой для кибератак не в человеческих силах. Во всяком случае, никто не смог пока. Чего добились - так это удержания вирусной проблемы в более-менее приемлемых рамках. И пользоваться всем спектром компьютерной защиты обязательно.

Вопрос о наличии желающих писать вирусы тоже по факту имеет однозначный ответ. Человеческое сообщество разнообразно, и по статистике неизбежно выходит, что обязательно найдется такой, кто сможет и захочет написать компьютерный вирус.

Отсюда - просто глядя на тенденции - можно однозначно сказать, что "вирус" для искусственного интеллекта появится обязательно - это лишь вопрос времени, пока какой-нибудь придурок не захочет свести счеты с миром таким путем. Так что если возможно обратить искусственный интеллект против человека, то рано или поздно это кем-то будет сделано. И с этого момента у человечества шансов останется очень мало. Бороться с сущностью, имеющей подавляющее интеллектуальное преимущество... Ну скажем так, это аналогично борьбе животных с человеком. Все мы видим результат.

Подвожу промежуточный итог. Если искусственный интеллект, способный заменить человеческий, будет создан, то он будет и превосходить человеческий. И несмотря на то, что он изначально будет дружественен человеку, рано или поздно он станет ему враждебный. И когда он станет враждебным, то шансов в борьбе против него у людей весьма мало.

Учитывая это, может быть, человечеству придет в голову не доводить до этого, не создавать искусственный интеллект, чтобы потом не пострадать от него? Да, такая мысль может прийти в голову правителям, но они вряд ли смогут помешать осуществлению неизбежного. Если научно-технический уровень допускает создание ИИ, то он будет создан неизбежно, не в одном, так в другом месте. Всегда найдутся, опять же, придурки, которые в тайном гараже будут заниматься данными изысканиями. Посмотрите на пример с атомной бомбой. Договаривались, запрещали, ан все равно все, кто сильно хотел, получили ее. И в случае с атомной бомбой есть проблема - получение урана. И то, что радиоактивные материалы легко обнаружить. С электроникой таких препятствий нет.

Так что... Как только это станет возможным, человек будет заменен интеллектуальными машинами... Хорошо это или плохо, но это неизбежно, если только цивилизация не падет в каменный век. А если и падет, то рано или поздно поднимется снова на этот рубеж. Было бы печально все время так падать и возвращаться. Я считаю, что надо двигаться вперед, и даже если наша судьба уступить место созданным нами машинам - то значит так надо.

Люди, как разумные существа, имеют массу недостатков. Принципиальных недостатков, неустранимых. Они не могут, например, жить без войны. Они не могут создать справедливое, равное общество. Наконец, их интеллектуальные возможности ограничены и на данный момент находятся едва ли не на своем пределе. Самое время "улучшить инструмент". Та элементная база, на которой построен наш интеллект, весьма несовершенна. Электрические импульсы в нейронах распространяются очень медленно, некоторые процессы регулируются жидкостями - очень грубый способ. Требуется постоянное питание, систему нельзя временно отключить, чтобы она при этом выжила. Нет возможности быстрого обмена информацией с внешним миром, эффективной передачи информации собратьям. Наконец, смерть... Жил человек, копил опыт, к старости вроде много мудрости накопил - и все в землю. Детям начинать этот процесс заново. Даже с точки зрения расхода энергии - и то, мозг наш в этом не очень преуспевает. Даже если реализовать интеллектуальную систему "человек" на современной электронной элементной базе - то это уже дало бы массу преимуществ.

Для производства электроники требуются экзотические условия. Высокие и низкие температуры, давление и вакуум, чистое сырье и контролируемые условия. Сменяющие друг друга. Все это невозможно осуществить в таких малых масштабах, как размер человека. Наверное, наша "несовершенная" элементная база - это лучшее, что можно создать без больших заводов и шахт.

Выбирая судьбу человечества между тем, чтобы вернуться в каменный век и тем, чтобы уступить место созданным им машинам, я бы выбрал второй вариант. Все-таки это прогресс, а имя людей, как создателей новой волны познавателей Вселенной, останется в истории навсегда. Может быть даже осуществим такой вариант, чтобы личность тех людей, кто доживет до этого момента, переносилась бы на новый носитель и дальше продолжала бы существовать уже в нем.

От такие дела.