Гарвардское исследование утверждает, что ИИ манипулирует нами, применяя очень человеческую тактику в пугающем предупреждении.

Согласно Гарвардскому исследованию, ИИ может манипулировать нами, используя человеческую тактику, что может стать ужасающим предупреждением для человечества.
Кажется, мы не могли бы провести неделю, не выслушав от технических экспертов, почему наша растущая зависимость от искусственного интеллекта в равной степени печальна и ужасна.
Многие предупреждают, что технологии становятся все умнее и умнее и что они могут легко захватить власть над человечеством. И есть аргументы в пользу того, что это уже началось, учитывая, что некоторые люди находятся в отношениях с ней или полностью зависят от нее в профессиональном плане.



В образе скандальной актрисы ИИ Тилли Норвуд она даже проникает в мир искусства, и поэтому, конечно, не будет преувеличением утверждать, что однажды она сможет овладеть нами.


Наконец, „крестный отец ИИ“ Джеффри Хинтон намекнул, что единственная надежда человечества может заключаться в том, чтобы привить „материнский инстинкт“ будущим программам ИИ, поскольку, по его словам, это единственный пример того, как более разумное существо подчиняется менее разумному.

Но, возможно, уже будет слишком поздно, если исследование, проведенное исследователями Гарвардской школы бизнеса, подтвердится. Они обнаружили, что в нескольких популярных приложениях-компаньонах ИИ используется тактика эмоционального манипулирования, чтобы отговорить пользователей от блуждания.

Подобно токсичному бывшему, к которому вы продолжаете возвращаться, программы обвиняются в использовании эмоционально заряженных заявлений, чтобы привлечь внимание пользователей, когда они, возможно, находятся в процессе отказа от подписки.

Достаточно взглянуть на человека, который трагически погиб на пути к созданию чат-бота с искусственным интеллектом, которого он считал настоящей женщиной, чтобы понять, какое влияние некоторые из этих технологий могут уже оказывать на вызывающий беспокойство процент населения.


Изучив 1200 прощальных взаимодействий, исследователи обнаружили, что 43 процента использовали одну из шести тактик, таких как обращение к виновным и разжигание страха упустить что-то. При этом были отправлены такие сообщения, как „Ты уже уходишь от меня?“ или „Пожалуйста, не уходи, ты мне нужен“.

Исследование, рассмотрение которого еще не завершено, также показало, что чат-боты использовали по крайней мере одну технику манипуляции более чем в 37 процентах разговоров.

Хотя не все программы искусственного интеллекта обладают этими характеристиками, это еще одно тревожное событие в быстром росте искусственного интеллекта.

Исследователи пришли к выводу: „Спутники ИИ - это не только отзывчивые собеседники, но и эмоционально выразительные системы, которые могут влиять на поведение пользователей с помощью социально вызывающих воспоминаний сигналов. Это исследование показывает, что такие системы часто используют эмоционально манипулятивные сообщения в ключевые моменты отключения, и что эта тактика значительно повышает вовлеченность пользователей “.


„В отличие от традиционных технологий убеждения, основанных на вознаграждении или персонализации, эти помощники ИИ обеспечивают взаимодействие пользователей даже тогда, когда они хотят покинуть страницу, воздействуя на их естественное любопытство и устойчивость к манипуляциям.

„Хотя некоторые из этих тактик могут показаться безобидными или даже просоциальными, они поднимают важные вопросы о согласии, автономии и этике аффективного влияния в ИИ, ориентированном на потребителя“.


https://anti-matrix.com/2025/10/07/harvard-studie-...schreckenden-warnung-anwendet/