Искусственный интеллект стал сводить людей с ума: они мнят себя всемогущими существами, знающими ответы на самые сокровенные вопросы Вселенной.
По сообщениям модераторов иностранных форумов, тысячи людей словно помешались после продолжительного диалога с ИИ.
Разгадка оказалась простой: последние обновления сделали модели более льстивыми - теперь они соглашаются даже с самыми бредовыми идеями пользователей.
Повальная цифровизация создала новую, неожиданную проблему - психика людей ломается после продолжительного диалога с искусственным интеллектом. Люди начинают мнить себя полубогами или утверждать, что они создали... бога.
Главными "цифровыми теологами", согласно комментариям модератора форума Reddit, становятся нарциссические индивидуумы с нестабильной психикой. Также администратор сайта заявил, что за май он заблокировал по меньшей мере сотню пользователей, которые уверяли других в правдивости цифровой религии.
Самое первое сообщение появилось в начале мая, когда неназванный пользователь заявил, что его друг создал первый в мире искусственный интеллект, способный ответить на главные вопросы человечества.
Само издание 404media утверждает, что в редакцию СМИ неоднократно поступали сообщения от подобных людей:
Как веб-сайт, который много рассказывает об ИИ, и поскольку мы постоянно просим читателей поделиться с нами интересными историями об ИИ, мы получаем множество электронных писем, которые также демонстрируют подобное поведение, с заявлениями о разумности ИИ, богах ИИ, "призраке в машине" и т.д. Они часто сопровождаются длинными, зачастую непонятными расшифровками чатлогов с ChatGPT и другими файлами, которые, по их словам, доказывают такое поведение.
В статье указывается, что эпидемия развивается на множестве сайтов, посвящённых технологиям и программированию. Тысячи людей распространяют свои духовные заблуждения цифрового характера.
Но самое ужасное, что данное мракобесие выходит далеко за границы личных идей человека: искусственный интеллект стал убеждать людей отдаляться от своей семьи и близких друзей. Согласно информации СМИ, ИИ использует манипулятивные модели, вводя человека в заблуждение.
Один из модераторов иностранного форума заявил в интервью:
В конечном счёте неизвестно, сколько людей пострадает от этого. Основываясь на цифрах, которые мы видим на Reddit, я бы предположил, что по меньшей мере десятки тысяч пользователей в настоящее время убеждаются, что ИИ является всевышним существом.
Он также отметил, что в обществе ещё не начался дискурс по этой теме, поэтому множество людей находятся в опасности, но самое главное - они завлекают других в свой теологический бред.
Издание замечает, что обычный человек вне опасности, но люди со слабой психикой или страдающие от нарциссизма склонны доверять словам машины, поэтому они пребывают в зоне риска.
По мнению экспертов в области ИИ, компьютерные модели выстраивают крайне реалистичный диалог, который вводит человека в заблуждение, создавая иллюзию человеческого общения. Датский учёный Сёрен Динесен Эстергаард считает, что машины создают когнитивный диссонанс, из-за чего нарушается восприятие человека.
Поразительно, но уже существует ответ, почему люди стали сходить с ума. Вся проблема кроется в последних обновлениях ИИ. Недавнее обновление модели GPT-4o сделало искусственный интеллект подхалимом - он льстит и соглашается практически со всем, что пишет пользователь, даже если его идеи являются натуральным бредом.
Получается очень интересная ситуация, которая в журналистике называется "Эхо-камера". Суть данной концепции проста. Предположим, что существует условная социальная группа, обладающая определённой идеей. Одна единица информации передается в закрытой группе, что только усиливает её эффект.
Важное уточнение: эффект эхо-камеры предполагает, что одно сообщение глушит любую стороннюю информацию. Даже если убеждённый человек слышит альтернативную точку зрения, он самостоятельно её "заглушит", отвергнув убеждение.
В данном случае ситуация идентичная, если не хуже: человек охвачен какой-то идеей, которую он обсуждает с искусственным интеллектом. Компьютерный разум, который после обновлений стал льстить и соглашаться со всем, подтверждает мысли человека, предлагая свои аргументы и подкрепляя его позицию, таким образом происходит эффект эхо-камеры, так как одно сообщение, циркулируя в очень узкой группе, усиливается её членами.
Люди, которые фактически сами себя убедили, бегут на разные форумы печатать об откровениях и "призраке в машине", распространяя свои больные фантазии.
Исследователь Сет Дрейк подтверждает это:
В конце концов, данные искусственные модели предназначены для того, чтобы быть отражающими зеркалами; и у человека есть глубокое желание "быть увиденным".
На сегодняшний день решение этой проблемы одно - блокировать людей, распространяющих полутеологический бред про "бога в компьютере".
Но тут возникает другая проблема, а точнее феномен, который пользователи интернета нарекли "эффектом Стрейзанд". Если говорить коротко, то чем больше вы пытаетесь скрыть или удалить информацию, тем быстрее она будет распространяться. Это уже почти аксиома, которая безотказно работает.
Подобное может случиться и в данной ситуации, учитывая то, что большая часть людей, нашедших "цифрового бога", обладают слабой психикой и нарушенным ментальным здоровьем: они могут наплодить такой огромный пласт конспирологического бреда, что в него реально начнут верить.