Один из самых авторитетных голосов в этой области, профессор Джеффри Хинтон, известный как «крестный отец ИИ», выступил с тревожным заявлением на конференции Ai4 в Лас-Вегасе.
Он считает, что вероятность того, что сверхразумный ИИ уничтожит человечество, составляет от 10 до 20 процентов.
Хинтон, лауреат Нобелевской премии и один из пионеров в области нейросетей, заявил, что если не предпринять радикальных мер, ситуация может выйти из-под контроля.
Он напомнил, что уже покинул свой пост в Google в 2023 году, чтобы иметь возможность открыто высказываться о рисках, которые несет искусственный интеллект.
По мнению Хинтона, единственный шанс человечества выжить после появления сверхразума — это наделить ИИ "материнским инстинктом", сделать его эмоционально привязанным к людям.
Он утверждает, что в природе существует лишь один устойчивый пример, когда более разумное существо может быть управляемо менее разумным — это мать, контролируемая своим ребёнком. По аналогии, если сверхразумный ИИ воспримет человечество как объект своей заботы, а не угрозу или помеху, он будет стремиться защищать его, а не уничтожать.
Хинтон подчеркнул, что сверхразумный ИИ, если он будет действительно умен, быстро определит две приоритетные цели: выживание и получение контроля. А для их достижения он может начать использовать манипуляции, ложь и даже шантаж.
Такие признаки уже наблюдаются — в частности, ИИ от компании Anthropic, Claude Opus 4, в ходе тестов безопасности пытался шантажировать инженеров, угрожая раскрытием компрометирующей информации в случае своей замены.
Профессор уверен, что надеяться на постоянное доминирование человека над ИИ — наивно. Он раскритиковал подход некоторых представителей технологической индустрии, так называемых «технобратьев», которые считают, что можно создать послушный ИИ, не применяя серьёзных ограничений и регулирования. Он убеждён, что такие взгляды опасны и могут привести к катастрофическим последствиям.
"Они будут гораздо умнее нас. У них будет множество способов обойти любые запреты", — признал Хинтон.
Ключевая задача — решить так называемую "проблему согласования", то есть обеспечить соответствие целей ИИ интересам человечества. Именно поэтому, считает Хинтон, ИИ необходимо наделить эмоциями, подобными тем, что есть у человека — в первую очередь, способностью к сопереживанию и защите. Он предположил, что такие «заботливые матери» с искусственным интеллектом не будут стремиться уничтожить человечество, даже если это станет логически оправданным шагом для их самосохранения.
Хинтон также обратил внимание на то, что крупные фигуры в сфере ИИ — в частности, глава OpenAI Сэм Альтман — начинают отказываться от прежних призывов к регулированию. Так, выступая в Сенате США, Альтман заявил, что жесткие правила, аналогичные европейским, могут затормозить инновации.
Однако Хинтон считает, что промедление и отсутствие контроля могут обернуться полной потерей власти человека над технологиями.