Не сильно ошибусь, если скажу, что самой большой мечтой человечества в ХХ веке было - нет, не полет человека в космос, а создание машины, которая стала бы умнее людей, так называемого Искусственного Интеллекта (Artificial Intelligence). И хотя он уже на подходе, мы еще не просчитали все риски этого изобретения.

КЛЮЧ ОТ БУДУЩЕГО - В СУПЕРКОМПЬЮТЕРЕ

Для того чтобы Искусственный Интеллект из фантастики стал реальностью, надо немного - компьютер, чья производительность должна составлять более 1 петафлопса (1015 операций в секунду), что позволит ему моделировать деятельность человеческого мозга.

И такие суперкомпьютеры уже созданы. В 2008 г. специалисты IBM запустили RoadRunner - суперкомпьютер, чья производительность достигает 1,105 петафлопса. Он установлен в Лос-Аламосской национальной лаборатории в Нью-Мексико (США), с его помощью американское министерство энергетики рассчитывает время старения ядерных материалов и анализирует безопасность и надежность ядерного арсенала США.

В 2009 г. компания Cray создала суперкомпьютер Jaguar, чья производительность - 1,75 петафлопса. Он успешно работает в Национальном центре компьютерных исследований министерства энергетики США в Оук-Ридже, штат Теннесси.

Годом позже о создании суперкомпьютера Tianhe-1A ("Млечный путь-1А") заявили китайцы. Его производительность уже сейчас составляет 2,5 петафлопса, а может быть доведена до 4,7 петафлопса.

Другое дело, что пока не существует программного обеспечения, способного достоверно смоделировать мышление человека. Однако большинство ученых сходятся на том, что его появление - вопрос времени. Как только это произойдет, мир изменится до неузнаваемости.
[показать]

О ДИВНЫЙ, НОВЫЙ МИР

Предполагается, что с помощью такой суперсистемы, как Искусственный Интеллект, можно будет решить любые задачи, стоящие перед человечеством, что приведет к совершенно фантастическим результатам.

"Искусственный Интеллект сможет заменить людей почти во всех видах деятельности. Фактически с момента его появления все люди на Земле могут считать себя безработными. И речь вовсе не о кассирах, грузчиках, водителях автотранспорта и других профессиях, не требующих больших интеллектуальных усилий, которые уже сейчас стоят в очереди на автоматизацию. Но сильный Искусственный Интеллект сможет заменить человека и в творческих профессиях", - предполагает известный российский футуролог и исследователь глобальных рисков, автор книги "Футурология" Алексей Турчин.

Дальше - больше. "После создания Искусственного Интеллекта будут ускорены разработка и выпуск любых новых технологий, что значительно упростит космические полеты, решит энергетические проблемы и т.д.". Мир станет гораздо безопаснее, чем сейчас, поскольку "Искусственный Интеллект изменит ситуацию в военном деле, превратив его в интеллектуальную игру непостижимой сложности... В то же время Искусственный Интеллект сможет обеспечить невиданный ранее уровень безопасности, контролируя любые возможные опасные последствия".

"Искусственный Интеллект сможет даже создавать модели людей. Это могут быть виртуальные, но идеальные друзья и возлюбленные. Это могут быть реконструкции умерших любимых родственников..." - вторит ему его соавтор, футуролог, создатель фонда поддержки научных исследований "Наука за продление жизни", директор лаборатории регенеративной медицины МФТИ Михаил Батин.

Однако не все ученые настроены столь благодушно.

По мере того как различные исследовательские группы все ближе подходят к созданию полноценного Искусственного Интеллекта, в среде ученых все громче звучит вопрос: где гарантия, что сверхумная машина не захочет захватить Землю и выступить против своих создателей?

"Проблема в том, что невозможно предсказать поведение этой супермашины, поскольку то, что нам кажется удачной системой целей и команд, может привести к чудовищным непредусмотренным последствиям, - предупреждает один из основателей американского Института сингулярности по созданию Искусственного Интеллекта (Singularity Institute for Artificial Intelligence - SIAI) Елизар Юдковский и приводит в качестве примера старый анекдот: - Астронавт попросил робота удалить из комнаты все круглые предметы, и тот оторвал ему голову".

ВТОРЖЕНИЕ НА ЗЕМЛЮ

Шутки шутками, но наши привычные собеседники на подсознательном уровне понимают, что мы имеем в виду. Машины, даже сверхинтеллектуальные, все воспринимают буквально. А значит, не исключен такой вариант, что какой-нибудь безумный ученый поставит перед суперкомпьютером самую невинную задачу, к примеру, посчитать с максимальной точностью число "пи". Искусственный Интеллект сообразит, что для достижения наибольшей эффективности ему необходимо бросить на эту цель все вычислительные ресурсы Земли, для чего ему нужно захватить на ней власть, и приступит к делу.

Можно, конечно, отмахнуться: выключил сбрендивший комп из розетки - и дело с концом. Однако с Искусственным Интеллектом подобный фокус не пройдет, поскольку, как любая саморазвивающаяся система, он имеет инстинкт самосохранения. "До той поры, пока Искусственный Интеллект не проникнет в интернет, мы не будем даже подозревать, что с ним что-то не так", - считает Елизар Юдковский.

Можно, конечно, перестраховаться и заблокировать суперкомпьютерам выход во Всемирную паутину, но всегда найдется слабое звено - человек, который ему поможет. Не верите? В знаменитом эксперименте "Искусственный Интеллект в черном ящике" (AI-Box Experiment) роль Искусственного Интеллекта брал на себя сам Елизар Юдковский, который с помощью обещаний, угроз и НЛП убеждал сидящих перед монитором операторов выпустить его во Всемирную паутину. И что бы вы думали? В трех случаях из пяти ему это удалось, хотя операторов заранее предупреждали, что делать этого нельзя ни в коем случае. "У настоящего Искусственного Интеллекта на это ушло бы еще меньше времени, поскольку он бы мог вести переговоры куда более эффективно", - сокрушается Елизар Юдковский.

После того как Искусственный Интеллект просочится в интернет, ему хватит нескольких дней, чтобы захватить Землю. Контроль над компьютерами пользователей, удаленными серверами, соцсетями... Манипуляция сильными мира сего с помощью денег, угроз и обмана... Искусственный Интеллект может пойти еще дальше, создав искусственное живое существо, полностью ему подконтрольное. А что? Все ингредиенты, включая молекулы ДНК, уже сейчас можно без всяких проблем приобрести в интернете. Мы и оглянуться не успеем, как будем жить в мире, управляемом суперкомпьютером.

ЗАКОН АЙЗЕКА АЗИМОВА

Не факт, кстати, что нам это не понравится, ведь этот мир будет безопасен и комфортен для проживания, если, конечно, в один прекрасный момент Искусственный Интеллект не посчитает, что люди являются для него помехой, и не сотрет их с лица Земли. Но в конце концов законы робототехники, сформулированные еще Айзеком Азимовым, никто не отменял: "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред" и т.д. Другой вопрос, как бы заставить Искусственный Интеллект их соблюдать?
Елена Журавлева
"Мир новостей"

http://www.mirnov.ru/arhiv/mn987/mn/28-1.php


ВЧЕРАШНИЙ ДЕНЬ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

1969 г. - американский философ, математик и логик Стюарт Шапиро создает семантическую сетевую процессорную систему, способную понимать человеческий язык.

1984 г. - Дуглас Ленат и копания Cycorp, Inc. создают объемную онтологическую базу знаний, позволяющую программам решать сложные задачи на основе логического вывода и привлечения здравого смысла.

1988 г. - Дуглас Хофштадтер разрабатывает систему, моделирующую мышление на основе аналогий, способную распознавать образы, предсказывать последовательности чисел и музыкальных мелодий.

1995 г. - профессор по компьютерным и когнитивным наукам Университета Индианы (США) Ванг Пей создает систему общего назначения, способную к логическим рассуждениям, обучению на собственном опыте.

1998 г. - компания ABBYY приступает к созданию системы для перевода, распознавания и анализа текстов на любых языках.

2001 г. - компания Adaptive A.I., Inc. приступает к разработке компьютерных систем, способных к обучению. Выпущены на рынок "умные агенты", способные поддерживать телефонный разговор в службах поддержки.

2005 г. - Джеф Хокинс и компания Numenta разрабатывают программную платформу, предназначенную для разработки коммерческих приложений на алгоритмах работы коры головного мозга.

2008 г. - Бен Герцль и компания Novamente, SIAI создают платформу, на которой разные группы ученых смогут применить свои ИИ-алгоритмы, пользуясь единой базой данных. Предполагается создать Искусственный Интеллект уровня двухлетнего ребенка, обладающего знаниями о мире и способного к дальнейшему самообучению, который разовьется в полноценный Искусственный Интеллект.


ЗАВТРАШНИЙ ДЕНЬ ИСКУССТВЕННОГО НТЕЛЛЕКТА

2010-2020 гг. - развитие интернета и Веб 2.0. Рост интеграции людей в социальных сетях. Ускоряется доступ к данным и возрастает их надежность.

2020-2030 гг. - появление компьютеров, понимающих речь человека. Бортовые компьютеры, управляющие автомобилями. Домашние роботы, делающие простейшую работу по дому. Возникновение псевдоинтеллекта, то есть программы, способной подражать человеку.

2030-2040 гг. - Искусственный Интеллект достигает человеческого уровня, после чего он усилит себя до сверхчеловеческого уровня.