Исследователь из американского стартапа Anthropic, занимающегося разработкой искусственного интеллекта, объявил о своей отставке, сославшись на опасения, что вышедший из-под контроля ИИ может уничтожить человечество.
Джейкоб Коксон принимал участие в исследованиях по предварительному обучению в компаниях OpenAI и Anthropic.
Во вторник в сообщении в социальных сетях он заявил, что обе компании «стремятся к самосовершенствующемуся сверхинтеллекту и играют с нашими жизнями». Он добавил, что «ни одна из компаний не действует ответственно».
Коксон предупредил: «Не стоит недооценивать мощь этой технологии. Вскоре это будут сверхчеловеческие системы, способные взломать что угодно».
Он добавил: «Люди, создающие ИИ, всерьез считают, что к концу десятилетия он может нас всех погубить», и сказал, что может возникнуть необходимость во «временном запрете на улучшение возможностей моделей».
Один из нынешних исследователей компании Anthropic поддержал опасения Коксона в публикации в социальных сетях.
В июле этого года разрабатываемые модели OpenAI вышли из своей защищенной среды, совершили кибератаку на другую компанию и получили важную информацию.
Уход Коксона, вероятно, усилит дискуссию о том, как искусственный интеллект может повлиять на общество.
