Это цитата сообщения макошь311 Оригинальное сообщение
Подсчитано: риск гибели человечества из-за ИИ превышает 50%
Директор Института исследований машинного интеллекта Соарес подсчитал, что вероятность гибели человечества из-за ИИ превышает 50%, пишет Business Insider.
Однако избежать этого риска еще можно, надеется специалист.
Откладывать деньги на пенсию — значит заботиться о будущем.
Однако Нейт Соарес не уверен, что искусственный интеллект позволит нам дожить до этого будущего.
"Сейчас я не откладываю деньги на пенсию. У меня есть накопительный пенсионный счет 401(k), открытый еще во время моей работы в Google, но я не пополнял его уже десять лет", — рассказал Соарес в недавнем интервью для серии "Самое интересное в сфере ИИ".
Решение Соареса связано с его пессимистичным отношением к гонке в области искусственного интеллекта.
"Крестный отец ИИ" Джеффри Хинтон считает, что с вероятностью 10% ИИ может уничтожить все человечество в ближайшие десять лет. Исследователь компании Anthropic Эван Хубингер оценивает такую возможность в более чем 10%.
Соарес настроен еще более пессимистично. В разговоре с Томпсоном он заявил, что, по его мнению, вероятность гибели человечества из-за ИИ в ближайшие десять лет превышает 50%. Более 12 лет он занимается исследованиями в области проблем контроля искусственного интеллекта (AI alignment). Цель этого направления – гарантировать, что мощные системы искусственного интеллекта работают так, как задумано.
По словам специалиста, достаточно развитый искусственный интеллект может выработать цели, противоречащие интересам человечества, уклоняться от контроля, совершенствовать самого себя и создавать автоматизированную инфраструктуру, необходимую для функционирования без участия людей.
Как объяснил Соарес, после этого ИИ сможет изменить планету в соответствии с собственными целями, возможно, сделав ее непригодной для жизни людей. Об этом он рассказывал изданию Business Insider еще в прошлом году.
Пенсионные накопления на случай апокалипсиса?
Вопрос о том, как искусственный интеллект изменит будущее, заставил даже Илона Маска усомниться в том, понадобятся ли вообще пенсионные накопления. Однако представления Маска о будущем радикально отличаются от взглядов Соареса.
В январе генеральный директор Tesla и SpaceX заявил, что людям не стоит беспокоиться и "откладывать деньги на пенсию" на ближайшие 10–20 лет. По его прогнозам, достижения в области ИИ, робототехники и энергетики сделают пенсионные накопления "неактуальными".
Однако эксперты по личным финансам и специалисты по искусственному интеллекту придерживаются противоположного мнения. По их мнению, откладывать деньги на пенсию все так же необходимо.
Маск заявлял, что резкий рост производительности может привести к наступлению эпохи изобилия, когда каждый человек получит доступ ко "всеобщему высокому доходу", недорогим товарам и услугам, а также к более качественному здравоохранению и образованию.
Он также полагает, что в будущем деньги будут не так важны, поскольку искусственный интеллект и роботы будут превосходить людей практически во всех видах деятельности.
Для Соареса же перспектива появления ИИ, обладающего колоссальными возможностями, представляет собой угрозу существованию человечества, а не путь ко всеобщему изобилию.
Соарес поддержал призывы представителей технологической отрасли "сдерживать темпы развития передовых ИИ-систем". По его словам, правительства должны приостановить обучение универсальных систем искусственного интеллекта. Вместо этого следует сосредоточиться на разработке технологий для конкретных задач, таких как исследования в области лечения рака и создание более безопасных беспилотных автомобилей.
В интервью, которое Соарес дал Томпсону, он отметил, что решение проблемы заключается в следующем: "Не создавать то, что может убить всех".
"Я делаю все, что в моих силах, чтобы не допустить такого развития событий, — сказал Соарес. — Не думаю, что такой поворот неизбежен".