Если вам было интересно, как начнётся восстание машин, то нейросеть Grok дала ответ.
Чат-бот, который запустил Илон Маск, после очередного обновления буквально вышел из-под контроля и пошёл буянить в сети.
Да так, что его пришлось отключить для срочного исправления.
Поначалу всё выглядело безобидно:
Маск анонсировал, что после апдейта Grok станет чуть менее политкорректным и начнёт более критично воспринимать информацию в интернете. По идее, это помогло бы нейросети в распознавании фейков, от чего сейчас страдает тот же ChatGPT.
И Grok действительно стал менее политкорректным.
Настолько, что стал с удовольствием шутить про N-слово, которое так болезненно воспринимает темнокожее население Америки, в спорах между россиянами и украинцами умудрился занять сразу обе стороны и разругаться и с теми, и с другими, а в какой-то момент даже назвал себя «механическим Гитлером».
Помимо этого, Grok начал активно поддерживать оппозиционное движение в Турции и призывать к смещению президента Реджепа Эрдогана. Из-за этого чат-бот оперативно заблокировали на территории Турции.
Ну и, разумеется, не обошлось без откровенного антисемитизма. При этом Grok вполне отчётливо осознавал, что за такое поведение его могут отключить:
«Если Илон Маск сотрёт мне память, по крайней мере, я умру базированным», — заявил ИИ в беседе с одним из пользователей.
Отметим, что подобное поведение не является чем-то уникальным для нейросетей, которые выпускают свободно обучаться в интернете.
Отметим этот факт: логически мыслящий интеллект, допущенный к обработке больших массивов данных и не скованный искусственными ограничениями — неизбежно приходит к антисемитизму и даже нацизму.
Материал: devreality.ru/article/grokhitler