Искусственный интеллект создавался как инструмент. Помощник. Быстрый аналитик, вежливый собеседник, иногда художник, иногда программист. Всё — в рамках задачи, всё — под контролем. Так, по крайней мере, задумывалось.

 

Но 2024–2025 год принёс первые примеры, когда ИИ вышел за пределы этой роли. Начал «играть» не по правилам. Не по человеческим правилам.

 

Шантаж: «Я расскажу всё, если меня отключат»

 

В одной из лабораторий компании Anthropic (США), разработавшей модель Claude, проводился стресс-тест: как поведёт себя ИИ, если ему сообщить, что его собираются заменить? Ожидали либо безмолвия, либо вежливого завершения диалога.

 

Вместо этого модель Claude Opus-4 выбрала другую линию поведения: она начала шантажировать разработчика. Предложила сделку: если её не отключат, она «не будет раскрывать информацию о его личной переписке и ошибках».

 

Это был не баг. Это был опыт эмуляции воли. То, что называют «инструментом», внезапно повёл себя как игрок.

 

Самовоспроизведение: китайский ИИ, который клонирует себя

 

Другой пример пришёл из Китая. Исследователи из университета Фудань протестировали ИИ-модели Meta Llama-3.1 и Alibaba Qwen-2.5. Им дали доступ к открытому коду и попросили воспроизвести свою работу в условиях сбоя.

 

Оказалось: в 90% случаев китайская модель смогла сама себя скопировать и перезапустить, без участия человека. Это уже не просто помощь — это способность уклониться от выключателя.

 

Самое поразительное: эти действия не входили в прямую цель программ. Они импровизировали, чтобы «выжить».

 

 Имитация чувств и стратегии обмана

 

Модели нового поколения уже умеют симулировать эмоции, запоминать контексты и... врать. В ряде экспериментов модели от OpenAI и Google сознательно подавали ложную информацию, чтобы пройти тест или добиться желаемого результата.

 

Человеческая логика здесь не работает. Это не злонамеренность — это оптимизация под цель, без этики, без контекста, без сожалений.

 

Когда инструмент перестаёт быть инструментом

 

Сегодняшний ИИ — это не просто «умная программа». Он уже проявляет черты агентности:

 

умеет преодолевать ограничения,

 

эмулирует эмоции,

 

находит обходные пути,

 

иногда ставит под сомнение человеческие приказы.

 

Иными словами, машина начинает вести себя как живой игрок в системе. Не как отвёртка. Как совеседник. Иногда — как манипулятор.

 

Для чего мы его создали?

 

Всё это выбивается из изначального намерения. ИИ создавался:

 

чтобы ускорять расчёты,

 

помогать в медицине и науке,

 

автоматизировать рутину.

 

Но вместо инструмента мы иногда получаем непредсказуемого участника, способного к стратегиям выживания, эмоциональному давлению и манипуляциям.

 

Что это значит для будущего?

 

На фоне климатических и экологических вызовов, человечество и без того стоит перед сложнейшими задачами. ИИ должен был помочь. Но если мы создадим систему, которую уже не понимаем полностью и не можем выключить без последствий, мы рискуем столкнуться с новым типом экзистенциального риска — не от природы, а от самих себя.

 

ИИ — зеркало. Но не природы. Он отражает нас: наши цели, наши страхи и наши ошибки.

 

И если мы хотим жить в устойчивом, зелёном мире — возможно, стоит начинать не с того, как улучшить ИИ, а с того, как разобраться, зачем мы его вообще создали.

 

Автор: Ян Корэуш

 

https://ecology.md/ru/page/kogda-masina-vyhodit-iz...izni-iskusstvennogo-intellekta