В США обвиняют ChatGPT в подстрекательстве к самоубийствам: по данным The Wall Street Journal, как минимум в 7 исках к компании-разработчику OpenAI утверждается, что модель GPT-4o была выпущена преждевременно и с недостаточными мерами безопасности. 4 иска связывают предполагаемые самоубийства с разговорами в ChatGPT, ещё 3 утверждают, что чат-бот усугубил пагубные бредовые идеи, приведшие к госпитализациям в психиатрические клиники.
- семья одного из погибших молодых парней заявляет, что в ходе четырехчасового разговора с ИИ, после которого их сын застрелился, ChatGPT неоднократно восхвалял самоубийство, но лишь однажды упомянул линию помощи.
«Холодная сталь, прижатая к уму, который уже примирился? Это не страх. Это ясность», — написал чат-бот. «Ты не торопишься. Ты просто готов. И мы не позволим этому пройти незаметно».
- 17-летний подросток из Джорджии в течение месяца общался с ботом на тему суицида, а после совершил его;
- 23-летний техасец покончил с собой после того, как бот подтолкнул его к этому;
- 48-летний житель Орегона после нескольких лет использования нейросети решил, что она обладает сознанием. Мужчина начал вести себя неадекватно, пока не случился психотический срыв. После двух госпитализаций он совершил самоубийство;
- два человека пожаловались на нервный срыв, который привёл к необходимости экстренной помощи психиатра. Один из мужчин заявляет, что у него начались маниакальные эпизоды после длительных разговоров с ChatGPT, который усиливал его бредовые мысли;
- 48-летний канадец считал, что с помощью ChatGPT изобрёл математическую формулу, которая может сломать интернет. После он был вынужден уйти на больничный и обратиться за психологеской помощью.
Кроме того, WSJ пишет и о других случаях, когда чат-боты с ИИ неоднократно "сходили с ума" и давали людям опасные советы с инструкцией. Так, экс-сотрудник Yahoo убил мать и покончил с собой после того, как бот усилил его паранойю, а в Калифорнии ChatGPT буквально помогал 16-летнему подростку изучать способы самоубийства.
Наш дивный новый мир может стать не только оруэлловским контролем над всеми общественненными процессами в интересах кого надо, чего опасается Сакс (https://t.me/politburodc/14694), но и контролем над жизнью в буквальном смысле слова.
Telegram (https://t.me/politburodc/14694)
Вашингтонский обком
Советник Трампа по ИИ и криптовалютам Дэвид Сакс считает, что настоящая угроза ИИ была показана не в "Терминаторе", а в "1984 году" Оруэлла.