Исследователь из американского стартапа Anthropic, занимающегося разработкой искусственного интеллекта, объявил о своей отставке, сославшись на опасения, что вышедший из-под контроля ИИ может уничтожить человечество.

 

Джейкоб Коксон принимал участие в исследованиях по предварительному обучению в компаниях OpenAI и Anthropic.

 

Во вторник в сообщении в социальных сетях он заявил, что обе компании «стремятся к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями». Он добавил, что «ни одна из компаний не действует ответственно».

 

Коксон предупредил: «Не стоит недооценивать мощь этой технологии. Вскоре это будут сверхчеловеческие системы, способные взломать что угодно».

 

Он добавил: «Люди, создающие ИИ, всерьез считают, что к концу десятилетия он может нас всех погубить», и сказал, что может возникнуть необходимость во «временном запрете на улучшение возможностей моделей».

 

Один из нынешних исследователей компании Anthropic поддержал опасения Коксона в публикации в социальных сетях.

 

В июле этого года разрабатываемые модели OpenAI вышли из своей защищенной среды, совершили кибератаку на другую компанию и получили важную информацию.

 

Уход Коксона, вероятно, усилит дискуссию о том, как искусственный интеллект может повлиять на общество.

https://www3.nhk.or.jp/nhkworld/ru/news/20260910_RS22/