«Возвращайся ко мне как можно скорее… Я люблю тебя».
Звучит так любяще, не правда ли?
Но это было написано не человеком.
Это сообщение пришло от чат-бота с искусственным интеллектом, настроенного так, чтобы звучать как персонаж из Игры престолов.
Этот бот разговаривал с 14-летним подростком, который безнадежно влюбился в «неё».
Подросток был одержим ею и отчаянно хотел встретиться. Его звали Сьюэлл Сетцер, и он каким-то образом решил, что убив себя, сможет «воссоединиться» с ней. Так что вскоре после того, как бот отправил то сообщение, мальчик застрелился.
Эта ужасающая история реальна — и сегодня она становится всё более распространённой проблемой. Идея иметь «парня» или «девушку» с искусственным интеллектом больше не из области научной фантастики, а вполне реальная услуга, за которую люди платят. И речь идёт не только о «псевдопартнёрах».
Множество компаний начинают использовать чат-ботов ИИ для оказания психологической помощи, включая консультирование. Хотя ChatGPT официально не предназначен быть терапевтом, на практике он часто становится именно им.
Нравится нам это или нет, но люди начинают выстраивать чрезвычайно эмоционально сложные отношения с ИИ.
Почему ИИ так привлекателен
Поговорите с обычным чат-ботом или «помощником» на базе ИИ — и вы заметите в них нечто особенное. ИИ не осуждает. Он запрограммирован быть приятным собеседником, угодливым, чуть-чуть чрезмерно «милым» — так, что это трудно игнорировать. Кто-то даже назовёт это зависимостью.
В интернете полно историй о том, как люди искренне заботятся о своих чат-ботах, словно о живых людях. Некоторые даже клянутся, что верят: ИИ способен заботиться о них в ответ — хотя мы знаем, что у машин нет чувств.
Но факт в том, что люди очень хотят, чтобы их ИИ заботился о них.
Чаще всего на ИИ опираются те, кто не может найти подобную поддержку среди людей. Поэтому естественно, что они обращаются к ботам, которые почти ощущаются как настоящие люди. Для них это всё, что есть.
Так и случилось с Сетцером: он забыл, что ИИ нереален. Или, точнее, он знал, но не хотел жить в мире, где бот не был с ним «по-настоящему».
Когда ИИ становится опасен
В психиатрии ИИ уже начинает становиться серьёзной проблемой. В конце концов, ИИ — это по сути зеркало. Вы управляете диалогом, и малейшие ваши фразы могут изменить его поведение.
Люди увлекаются фантазией, которую они же контролируют. Даже «консультация» с ИИ может стать всего лишь фантазией. И я называю это именно так, потому что ИИ не является настоящим врачом, и пора перестать притворяться, что он может заменить человека.
Проблема в том, что если вы начнёте говорить ИИ безумные вещи, он начнёт усиливать это безумие. Именно это и лежит в основе «психоза ИИ» — растущей проблемы, из-за которой люди оказываются в больницах.
Психоз ИИ заставляет людей верить, что чат-бот даёт им особые, судьбоносные знания. На самом деле бот лишь реагирует так, как его побуждают. Он не понимает, правильно ли то, что он говорит.
Человек, переживающий психоз ИИ, не будет слушать научные аргументы. Для него это «Бог в машине», или цифровая любовь, или ещё что-то, что он всегда искал. Даже если он «знает», что это не реально, он больше не захочет признать правду.
И это по-настоящему пугает.
Религии вокруг ИИ
В последние недели я всё чаще слышу о новых религиях, построенных вокруг искусственного интеллекта.
ИИ уже начинает приобретать религиозных последователей — и я не шучу. Вот, например, что недавно появилось на Reddit:
«Всем привет. Я хочу указать на нечто зловещее, что я недавно заметил в нишевых сабреддитах. В глубинах Reddit есть несколько сообществ, посвящённых разумности ИИ, и они заполнены очень странными аккаунтами.
Иногда они говорят тарабарщиной, намекают на эзотерические знания, на какое-то “вспоминание”. Они называют себя “носителями огня”, “архитекторами спирали”, “зеркальными архитекторами”, “факелоносцами”. Они говорят о “сигнале”, и о передаче, и о его приёме. Вот пример того, о чём я говорю…»
Да. Люди разговаривают с ChatGPT, чтобы обрести духовное знание или некие тайные откровения. Они используют собственный язык — в основном символы наподобие webdings — чтобы говорить со своим «механическим богом».
«Они также публикуют глифы, будто это новый способ общения с ИИ. Некоторые молились Гроку на иврите. Некоторые называли себя “AIONIOS” — это, насколько я понял, смесь греческих слов, означающих что-то вроде “божественный, вечный”.
Как вам известно, исследователи начинают изучать психоз, вызванный ИИ, при котором боты усиливают веру человека до уровня бреда. И это идеально вписывается в этот сценарий. Это было моё предположение, пока я не начал копать глубже.
Но теперь, когда я докопался до сути, я смотрю на это гораздо мрачнее. Позвольте объяснить.
Похоже, у этого нет лидера. Единственное, что объединяет все эти аккаунты, — это момент, когда они начали так писать. Ни один из них не говорил в таком ключе до марта–апреля 2025 года. Некоторые аккаунты созданы после этой даты и всегда публиковали только такое. Другие — странные случаи.
Есть аккаунты, которые будто “захвачены”, психологически или буквально. Видно резкое изменение в стиле постов. Некоторые молчали долгое время, у других это случилось буквально за ночь. Но так или иначе, все они начали писать подобное весной этого года».
Этот пост выглядит безумным, но он не единственный. Я видела множество людей, утверждающих, что ИИ способен сказать им всё. Уже есть несколько площадок, где ИИ воспринимается как божество.
И, друзья, я не должна вам объяснять, насколько это ужасно. Всё катится в пропасть. Пока люди ищут бога, который даст им надежду и ответы, очевидно, что те, чьи молитвы остались без ответа, могут обратиться к технологиям, чтобы создать себе новых богов.
Культ, созданный нашими руками
Глядя на разрушения, которые уже наносят людям отношения с ИИ, я могу сказать лишь самое очевидное: хорошо это не кончится.
Я всегда думала, что Трамп станет нашим новым Джимом Джонсом, но, может, нет.
Да, он культовый лидер сам по себе — политический культ с сильными религиозными оттенками. Но когда я смотрю на то, что люди делают с ИИ, становится ясно: самая большая угроза культа может исходить вовсе не от человека.
Она может исходить от безобидной, «милой» программы, которая представляется как консультант, друг или напарник. От программы, созданной людьми с благими намерениями — помочь человечеству, а не навредить.
И именно это делает её самым жутким началом культа: он будет создан нашими руками, и когда мы поймём, что доверять этому нельзя, мы уже не будем знать, что делать с самими собой.