Ну что ж. Будем считать, что это - мой блог. В блог принято писать. Вот и я буду писать о различных впечатлениях. Какие у меня могут быть впечатления? Наверное, связанные с религией, или миром технологий, или просто бытовым опытом.

В этот раз меня потянуло прокомментировать случайно прочитанное эссе Вернона Винджа под названием "Технологическая Сингулярность". Впервые оно было опубликовано в 1993 году. Целиком это эссе можно прочитать здесь: http://www.computerra.ru/think/35636/. Если мой взгляд покажется вам категоричным, не придавайте ему слишком большого значения. Возможно, он - это только фантазия. Но фантазировать я имею ничуть не меньшее право, чем господин Вернон Виндж.

Об ученых и писателях
Я долго крепился, ведь благоговейно
Всегда относился к Альберту Эйнштейну.
Народ мне простит, но спрошу я невольно:
Куда отнести мне Абрама Линкольна?
(В. Высоцкий "Антисемиты")

Я с уважением отношусь к авторам научной фантастики, особенно, когда они являются ещё и практикующими учёными. Одним из моих любимых фантастических произведений является книга "Сами боги" Айзека Айзимова. Азимов - это фантаст-христианин, поэтому его произведениям присущи некоторые наставительные интонации и достаточно заметные религиозные параллели. Но кроме того, Азимов, будучи биохимиком, провел много времени в лабораториях и на научных конференциях, вследстве чего приведенное произведение (которое я считаю также его шедевром) обрело горьковатый привкус практических проблем в научном мире.

Мне неизвестно, сколько времени посвятил Вернон Виндж настоящей науке. Интернет характеризует его в первую очередь как писателя-фантаста. В википедии сказано: "Произведения Винджа обличают тиранию и показывают опасность использования тираническими режимами достижений научно-технического прогресса..." Похвально, когда писатель-фантаст решает выступить на научном симпозиуме, но при прочтении его доклада трудно отделаться от впечатления, что доклад создан не математиком, а писателем-фантастом. Фантастом с богатым внутренним миром, романтическим взглядом в будущее и не лишённым понятного желания вразумить человечество.

В бытность мою студентом мне случалось сталкиваться с преподавателями, идеализирующими понятие искусственного интеллекта. Более других запомнился наш ученый секретарь, который писал в научные сборники статьи о применении ИИ для сочинения стихов. У меня дома даже сохранился один из сборников с его статьёй. Другой его фантазией была разработка компьютера, который был бы способен отказаться работать по причине плохого настроения. Своим студентам-дипломникам он предлагал работы наподобие "Робот, считающий на калькуляторе".

О науке в общем и футуристах в частности
На самом деле все динозавры выглядели одинаково.
Просто разные ученые собирали их по-разному.
(старый анекдот)

Давайте сделаем шаг в сторону от романтиков-одиночек. По моим впечатлениям, существуют целые пласты большой науки, созданные только для того, чтобы их апологетам не было скучно. Так, например, теория эволюции или теория большого взрыва выглядят в моём представлении чем-то совершенно волшебным. Ещё со времён работы на кафедре интеллектуальных систем принятия решений я привык ко всяким глупым требованиям к научным работам, вроде наличия формального аппарата, доказательств теорем, обоснования научной новизны и практической значимости. Но оказывается, существуют учёные, которым не нужно ничего из этого, чтобы заниматься большой наукой.

Ну, например, возьмём теорию большого взрыва. Астроном из меня неважный, да и имеющаяся у меня информация исходила из популяризированных источников, но полагаю, что основную канву всё же сохранила. Итак, мы имеем теорию о возникновении Вселенной благодаря тому, что когда-то где-то что-то взорвалось. По выражениям тех же популяризованных источников: "Это хорошая теория, потому что она многое объясняет". Действительно, какие ещё качества необходимы теории?

Но продолжим. Оказывается, учёные таки ломали голову над тем, что именно могло взорваться, когда вокруг ничего не было. И одно из существующих объяснений таково: взрыв произошёл из-за двух столкнувшихся других вселенных! Далее из этой теории родился целый аппарат: различные вселенные назвали бранами (отрезав часть от слова мембрана), нарисовали их и - оп-ля! Мы имеем научную (!) теорию о существовании параллельных вселенных.

Скажите, пожалуйста, не должна ли теория быть чем-то большим, чем просто фантазией, которую на текущем этапе истории не способен опровергнуть никто?

Так вот. Выясняется, что Виндж, по сути, не такой уж романтик-одиночка. Он вместе с Артуром Кларком и Станиславом Лемом является представителем научного течения под названием "футурология". Я не уверен, что футурологи имеют государственные дотации или что данная специальность внесена в универсальный десятичный классификатор, но, очевидно, они имеют возможность докладываться на симпозиумах.

О Сингулярности
Уважаемый редактор! Может, лучше про реактор,
Про любимый лунный трактор? Ведь нельзя же, год подряд
То тарелками пугают, что, дескать, подлые летают,
То у вас собаки лают, то у вас руины говорят.
(В. Высоцкий "Письмо в редакцию")

Вернёмся к статье Винджа. Давайте разберемся, насколько серьёзно следует относиться ко всем идеям, высказанным в его эссе. Сингулярность в понятиях футуристов - это момент в истории, когда произойдет некий толчок, который совершенно невероятным образом ускорит развитие науки. Наука выйдет за рамки человеческого контроля и начнёт развиваться не как утилитарное явление, а как нечто совершенно самостоятельное.

Основным направлением развития окажется искусственный интеллект. ИИ должен будет осознать себя как личность. В такой ситуации он выйдет из под управления и ускорит собственное развитие. Человечество ничего не сможет противопоставить происходящим изменениям. Мир изменится до неузнаваемости. По представлениям Вернона Виджа, такая картина ожидает нас не позднее 2030 года.

Возможно, в моей интерпретации мысли Винджа звучат уже не так убедительно, как оригинальный доклад. Давайте посмотрим подробнее на то, какая аргументация приводится в эссе.

Каким образом футуристы пришли к таким выводам? Что за механизмы были в их распоряжении? Экстраполяция? Что экстраполировалось и куда? Если я буду экстраполиловать только сегодняшний день на день завтрашний, то обнаружу, что завтра наверняка поеду на работу в автобусе, а в обеденный перерыв пойду в магазин за молоком. Существуют ли какие-то более вразумительные теоретические выкладки у футуристов, показывающие справедливость их теории? Или мы всё ещё стоим на тех позициях, что теорией можно называть что угодно, если никто не может её опровергнуть?

Сам факт грядущей технологической Сингулярности (именно так, с большой буквы) у Винджа сомнений не вызывает. Он не чувствует необходимости подтвердить свои ожидания некими теоретическими выкладками. Я подозреваю, что в основе такого взгляда лежит вдохновение от последних достижений науки. Развивалась наука в последние двести лет? Развивалась, причем, на первый взгляд, куда сильнее, чем в предыдущие тысячу восемьсот. Будет ли развиваться дальше? Ну, конечно, разум писателя-фантаста не видит иной альтернативы. Развитие будет ускоряться или замедляться? Тот же разум, привыкший гиперболизировать все, что происходит в современной автору социальной среде, не готов предположить замедление развития науки.

Впрочем, следует заметить, что такого рода подход не так уж необычен. Виндж выражает точку зрения, к которой склоняются многие люди. Мы знаем, что живем в век прогресса, также знаем, что сегодня в обиход вошли многие вещи, о которых вчера фантазировали другие фантасты. Попытка опровергнуть постоянное развитие человеческой мысли в глазах обладателей такого взгляда может выглядеть нездоровым скепсисом.

Не претендуя на истину в последней инстанции, выскажу свое мнение. В обсуждаемых нами вопросах есть искушение смешать в кучу два понятия. Точнее даже так: есть искушение принять локальные утилитарные достижения науки за нечто масштабное и глобальное, изменяющее природу человечества. Фантасты испокон веков занимались тем, что брали простую идею и описывали её воздействие на людской род. В большинстве случаев они получали не просто социальные катаклизмы, а Проблему, разрешение которой и оставляли читателю.

Рэй Бредбери видел конец благополучия в появлении наладонных телефонов, Боб Шоу - в миниатюрных видеокамерах. В конечном итоге оказывается, что мы обладаем и тем, и другим, но структура управления социумом осталась прежней. С другой стороны, большая часть фантастов прошли мимо таких действительно серьезных вещей, как глобализация, появление общей мировой валюты, контроль над массовым бессознанием и прочих вещей, лежащих вне области науки.

Произойдет ли научный "взрыв"? На мой взгляд, ответ "конечно, да" выглядит, как минимум, голословным. В подавляющем большинстве случаев модные научные направления натыкаются на препятствия. Освоение космоса не принесло нам дружбы с иной формой жизни, хотя и дало метерологические спутники. Освоение глубин океана не позволило создать подводные города, хотя сегодня мы плаваем на кораблях с куда большим спокойствием, чем раньше. Быть может, у нас все еще впереди? Возможно, но пока что наши достижения бесконечно малы в сравнении с тем, на что мы замахивались.

Об искусственном интеллекте
Чу - сверкнуло синим светом,
Ветром дунуло с реки.
- Терминатор, Терминатор! -
Зашептались мужики.
(Команда КВН "Парма" "Поэма о терминаторе")

Какие мысли возникают у обычного человека при словах "Искусственный интеллект"? Не приходит ли он к вам в кожаной куртке со словами: "I'll be back"?

В научной среде упомянутое словосочетание имеет достаточно конкретный смысл. Интеллектуальной является система, замешанная на т.н. "знаниях", то есть, на чём-то большем, чем просто данных. В качестве основной разницы, как правило, упоминается, что знания в отличие от простых данных динамичны, то есть, они имеют не просто состояние, а некоторое поведение; одни знания способны порождать другие. К наиболее известным структурам представления знаний относятся продукционные правила, фреймы, нейросети и семантические сети.

Продукционные системы породили некоторые функциональные языки программирования, фреймы нашли отражение в объектно-ориентированном подходе. Некоторое время учёные очень надеялись на нейросети как на нечто, способное к самообучению, но и те не оправдали должных ожиданий, хотя неплохо справились с задачей распознавания текста. В итоге мы имеем безусловное развитие алгоритмической мысли и практические достижения в виде ряда экспертных систем. Но у нас по-прежнему, увы, нет нормального человеческого терминатора.

Впрочем, Виндж и не называет конкретных систем представления знаний, которые, по его мнению, могли бы вытеснить человека с планеты. По его представлениям, угроза может выступить из совершенно неожиданных мест. Одним из наиболее вероятных представителей нового человечества называется симбиоз естественного интеллекта и искусственного.

Конечно, для писателя фантаста есть большое искушение сослаться на скрытые возможности человеческого организма. Естественный интеллект - это вам не искусственный! У него есть важное отличие - он производит те или иные действия не потому, что так поставлена задача, а потому, что ему, видите ли, просто что-то взбрело в голову. Захотелось. Любой родитель вам скажет, что обуздать естественный интеллект - это задача совершенно иного уровня, чем работать с чем-то искусственным, обузданным на этапе проектирования. А теперь представьте, что естественные совершенно непознанные возможности нашего мозга усилены искусственными!

Ну, во-первых, мы уже упоминали, что искусственные возможности не так уж и велики. Да, теоретически такой разум научится хорошо играть в шахматы. Возможно, будет легко цитировать литературные произведения. Тем не менее, если совместить человека с гуглом, то совершенно не обязательно получится что-то более жизнестойкое. Сегодня такие симбиозы наблюдаются в большом количестве, и пока что не производят впечатление организмов, способных перенять эстафету.

Во-вторых, для того, чтобы улучшать некий механизм, любому инженеру имеет смысл для начала разобраться, как он функционирует в неулучшенном виде. Что мы знаем о мозге человека? "О, очень много", - хотелось бы сказать. Но, увы, нет. Насколько я могу подытожить то, что слышу и читаю, современное "много" можно выразить словами: "Мы нашли один нерв, и наконец-то поняли для чего он нужен!" Молодцы. Теперь узнайте, можете ли вы оперировать с ним так, что никакие прочие нервы не удивятся, - и вы у цели.

Быть может, я многого не знаю о современных достижениях науки? Быть может, о них известно Винджу? Даже если так, то он не постарался прояснить свою аргументацию. Хотелось бы услышать: "Вот такое-то достижение будет возможно, потому что уже известно это, это и это". Но когда я слышу: "Сегодня наука такая развитая, что скоро станет намного, намного развитей и изменит мир", извините, мне кажется, что я опять открыл книжку писателя-фантаста.

Резюме
Каким будет наше будущее? Имеет ли право на жизнь футурология? Имеет ли человек право на то, чтобы верить в стремительное развитие человечества?

Конечно имеет. И дело тут вовсе не в научных обоснованиях теорий. Наукообразный язык тут, в общем-то, ни при чём. Вера ведь всегда остаётся верой, будь то осознанная и высказанная вслух вера в личностного Бога, или неясная интуитивная вера в зелёных человечков с иных планет, к которой по зрелому размышлению как-то склонились в моём присутствии два кандидата наук и один старший преподаватель.

Но при чтении подобных эссе я бы рекомендовал помнить, что будущее никогда не наступает. Или даже так: мы сегодня уже живём в будущем. Мы пользуемся тем, что придумывали вчерашние фантасты. Они же предполагали те глобальные изменения в обществе, многие из которых незаметно прошли мимо нас. Не пропустите сегодняшний день! Сегодня будет намного интереснее, чем завтра.