"Угроза человечеству". Совет директоров разработчика ChatGPT предупредили о мощном прорыве в сфере ИИ

Специалисты OpenAI предупредили совет директоров компании о прорыве в области искусственного интеллекта перед отстранением генерального директора Сэма Олтмена, сообщает Reuters.

Перед отстранением от должности генерального директора OpenAI Сэма Олтмена несколько сотрудников написали письмо совету директоров, в котором предупредили о мощном открытии в области искусственного интеллекта, которое, по их мнению, может угрожать человечеству. Источники Reuters назвали это письмо одним из факторов в длинном списке претензий совета директоров, приведших к увольнению Олтмена. Ранее одной из причин его увольнения назвали недостаточную откровенность в сообщениях.

22 ноября Сэма Олтмена восстановили в должности, а совет директоров, уволивший его, распустили и сформировали новый состав.

По информации источников, прорыв в сфере искусственного интеллекта связан с проектом под названием Q* (произносится как Q-Star). Cообщалось, что проект Q* может стать прорывом в создании сверхинтеллекта, который обычно называют общим искусственным интеллектом (AGI). Считается, что если реализовать AGI в полной мере, то он сможет выполнять любые интеллектуальные задачи, которые пока могут выполнять только люди.

"При наличии огромных вычислительных ресурсов новая модель способна решать математические задачи", – сказал в комментарии на условиях анонимности один из сотрудников OpenAI.

Учёные считают математику одним из рубежей развития генеративного ИИ. Пока что такой искусственный интеллект хорошо справляется с написанием текста и переводом языка, статистически предсказывая следующее слово, а ответы на один и тот же вопрос могут сильно различаться. Но освоение математики, где существует только один правильный ответ, предполагает, что ИИ будет обладать более широкими способностями и возможностями рассуждения, напоминающими человеческий интеллект. 

По словам источников, в своём письме в совет исследователи обратили внимание на возможности искусственного интеллекта и его потенциальную опасность. Среди учёных-компьютерщиков давно ведутся дискуссии об опасности, которую могут представлять собой высокоинтеллектуальные машины. В частности, обсуждается вопрос, могут ли они решить, что уничтожение человечества отвечает их интересам.