"Дуракам закон не писан", - гласит известная русская пословица. В данном случае дураки - все: и пользователь ИИ, и программисты.
Вот что пишет ТГ-канал РЕН-ТВ:
"Американец планировал выстроить особую диету, которая бы исключила соль из всех приёмов пищи. Вместо консультации с врачами он решил спросить о возможных заменителях у нейросети. Мужчина обратился за помощью к ChatGPT и выяснил, что хлорид натрия можно заменить бромидом. Он начал употреблять его в пищу... Врачи, лечившие пациента, предположили, что ИИ рассказал о способах замены хлорида, которые не имеют ничего общего с диетой, а используются, например, для очистки определённых предметов. Нейросеть не уточнила, что химикат опасен для здоровья при употреблении. В больницу мужчина поступил в плохом состоянии: он был сильно взволнован и проявлял признаки паранойи, отказывался пить воду, хотя испытывал сильную жажду. У пациента также начались слуховые и зрительные галлюцинации. Он был уверен, что его отравил сосед. Мужчину принудительно поместили в психиатрическую лечебницу".
Что, собственно произошло? Программеры составили алгоритмы для ИИ так, что тот выдал заведомо неправильный и, как оказалось, опасный для здоровья и жизни, ответ. А человек показал себя абсолютным идиотом, полностью доверившись мнению цифровой программы, которая, как известно, думать вовсе не умеет. Что в неё заложат, то и выдаёт.
