«Окошко к япошкам»: комментируем СМИ Японии
Ничего личного, только PRAVDA! #1368
ANNnewsCH: AI“生みの親”がAIの危険性に警鐘「社会と人類に深刻なリスク」(2023年5月3日)
Перевод: «Создатель ИИ предупреждает об опасности ИИ: "Серьезный риск для общества и человечества"» (3 мая 2023 г.)
Комментарий:
Японский ресурс ТВ Асахи (ANNnews) и другие сообщает, что доктор философии Джеффри Хинтон, "создатель" искусственного интеллекта (ИИ), такого как (бот) ChatGPT, предупредил об опасности ИИ.
75-летний почетный профессор Джеффри Хинтон из Университета Торонто в интервью газете New York Times рассказал, что он покинул IT-гигант Google, чтобы предостеречь от опасностей ИИ.
Хинтон, который создал технологию, лежащую в основе ИИ, отметил, что развитие ИИ сделает ситуацию, когда "труднее различать правду" в ложных изображениях и другой информации, циркулирующей в Интернете.
Он также выразил обеспокоенность тем, что ИИ может лишить человека работы, а также тем, что его могут использовать люди со злыми намерениями, и что он может стать "автономным оружием".
Джеффри Хинтон отметил, что прогресс в технологии ИИ "создает серьезные риски для общества и человечества" и что эту технологию нельзя расширять, пока не будет найден способ ее контролировать. (
https://www.youtube.com/watch?v=MchZi8_jdb8)
Как уже сообщалось:
Британско-канадский ученый Джеффри Хинтон, один из первопроходцев в области искусственного интеллекта (ИИ), ушел из компании Google, чтобы открыто говорить об опасности технологии, сообщило издание The New York Times.
В 2012 г. доктор Хинтон и двое его студентов в университете Торонто создали нейронную сеть, которая могла анализировать тысячи фотографий и распознавать простые объекты.
В 2018 г. доктор Хинтон и двое его сотрудников получили Премию Тьюринга, которую часто называют «Нобелевской премией по вычислительной технике», за работу над нейронными сетями.
Основанную Хинтоном компанию позже приобрела Google за 44 млн долларов, а разработанная ученым нейросеть стала одной из интеллектуальных основ для современных технологий на основе генеративного ИИ, таких как ChatGPT.
Хинтон признался, что частично сожалеет о создании технологии, но признает, что в любом случае подобный проект создал бы кто-то другой.
«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», - признался Хинтон. По его мнению, опасность нейросетей заключается в том, что интернет могут заполонить фальшивые фото, видео и тексты, созданные искусственным интеллектом, и люди не смогут понять, что является правдой.
Хинтон считает, что тяжело понять, как можно помешать злоумышленникам использовать нейросети в плохих целях. К тому же, опасается Хинтон, искусственный интеллект может перевернуть рынок труда, заменив работников в ряде сфер. Хинтон отметил, что немногие верили в то, что нейросети действительно могут стать умнее людей, и он сам думал, что это произойдет лет через 30-50. «Очевидно, я так больше не думаю», - добавил Хинтон.
В конце минувшего марта предприниматель Илон Маск, сооснователь соцсети Pinterest Эван Шарп и сооснователь Apple Стив Возняк и другие бизнесмены и представители IT-отрасли подписали открытое письмо с требованием приостановить разработки более мощных, чем GPT-4, нейросетей хотя бы на полгода. Они сочли, что пауза необходима для разработки протоколов безопасности в сфере искусственного интеллекта.
Послание подписали более 1 тыс. специалистов IТ-отрасли. Они предупредили, что системы ИИ с интеллектом, сопоставимым с человеческим, могут представлять опасность для общества, и задались вопросом, должны ли люди «рисковать потерей контроля над цивилизацией».
Хинтон не присоединялся к открытым письмам специалистов по ИИ об опасности бесконтрольного развития подобных технологий, поскольку считал это неэтичным. Однако, в интервью NYT Хинтон заявил, что сейчас жалеет о работе всей своей жизни.
***
ChatGPT - это Чатбот на основе искусственного интеллекта, разработанная OpenAI и предназначенная для ответа на текстовые запросы и создания ответов на естественном языке.
[700x432]