На первом глобальном саммите об искусственном интеллекте обсудили потенциальные угрозы. Маск снова пригрозил вымиранием человечества

Правда, другие участники саммита высказались в более спокойном духе. По их мнению, следует воздержаться от спекуляций на тему маловероятных угроз в будущем, а вместо этого сосредоточить внимание на потенциальных рисках, которые искусственный интеллект несёт уже сегодня – например, угрозы некоторым профессиям или предвзятость в тех или иных вопросах, которую ИИ вырабатывает в результате своего обучения.

На конференции также прозвучало заранее записанное заявление британского короля Карла III, в котором он назвал развитие передового ИИ "не менее важным, чем открытие электричества".

Правительство Великобритании заявило, что в так называемой декларации Блетчли, подписанной участниками саммита, 28 стран согласились с тем, что необходимо срочно понять и коллективно управлять потенциальными рисками, связанными с ИИ.

Премьер-министр Риши Сунак назвал встречу "знаковым достижением, благодаря которому мировые лидеры в области ИИ пришли к соглашению о срочной необходимости понимания рисков ИИ, что поможет обеспечить долгосрочное будущее наших детей и внуков".

Другие страны также подчеркнули необходимость глобального подхода к управлению этой технологией.

Отношения между Китаем и Западом сегодня зачастую оставляют желать лучшего, но заместитель министра науки и технологий КНР У Чжаохуэй заявил на конференции, что Китай стремится к духу открытости в области ИИ.

"Мы призываем к глобальному сотрудничеству, чтобы поделиться знаниями и сделать технологии ИИ общедоступными, – сказал он делегатам. – Китай готов расширять диалог и общение по вопросам безопасности ИИ со всеми сторонами".

Министр торговли США Джина Раймондо заявила, что по итогам саммита в США будет создан собственный Институт безопасности ИИ.

Министр технологий Великобритании Мишель Донелан, председательствовавшая на открытии саммита, объявила, что следующий саммит пройдет через полгода в виртуальном режиме и его организатором станет Южная Корея. Лично делегаты встретятся через год во Франции.

Истребить человечество – спасти планету?

Илон Маск, ранее не раз предупреждавший об угрозе искусственного интеллекта, в минувший вторник выступил в подкасте комика Джо Рогана и заявил, что некоторые люди могут использовать ИИ для защиты планеты, уничтожив человечество.

"Если начать думать, что люди – это плохо, то естественным выводом будет то, что люди должны вымереть, – сказал он. – Если ИИ будет запрограммирован сторонниками вымирания, то его полезной функцией будет вымирание человечества... Они даже не подумают, что это плохо".

В марте этого года Маск наряду с другими ведущими фигурами в области разработки ИИ подписал открытое письмо, в котором предлагалось сделать паузу в развитии технологий искусственного интеллекта до тех пор, пока не будут разработаны и применены надёжные протоколы безопасности.

"Мощные ИИ-системы следует разрабатывать только после того, как мы убедимся, что последствия их применения будут положительными, а связанные с ними риски – управляемыми", – говорилось в письме.

Правда, уже в апреле стало известно, что Маск зарегистрировал компанию X.AI Corp., которая должна была заниматься вопросами искусственного интеллекта с целью "познания реальности".

Многие эксперты считают опасения за судьбу человечества в связи с развитием ИИ преувеличенными.

Ник Клегг, бывший вице-премьер Великобритании, а ныне президент по глобальным вопросам компании Meta, также принимавший участие в саммите, сказал, что люди не должны позволять "спекулятивным, иногда несколько футуристическим прогнозам" вытеснять более насущные проблемы.

Как отмечает корреспондент Би-би-си по вопросам климатической дезинформации Марко Сильва, утверждения о том, что экологи хотят принять крайние меры для сокращения численности населения Земли, уже давно пользуются популярностью среди конспирологов.

Многие из них полагают, что климатические активисты являются частью некоего "культа смерти", стремящегося реализовать "программу депопуляции", осуществляемую с помощью радикальных мер, например принудительной стерилизации. Разумеется, никаких доказательств этому нет, и вряд ли среди крупных климатологов и экологов найдётся человек, готовый поддержать подобную политику борьбы с изменением климата.

Несмотря на то что рост численности населения создаёт огромную нагрузку на ресурсы планеты, некоторые из самых густонаселённых стран мира демонстрируют одни из самых низких показателей выбросов парниковых газов на душу населения.

Многие наблюдатели считают, что наибольшую угрозу ИИ представляет собой автоматизация рабочих мест людей или формирование существующих предубеждений и предрассудков в новых, гораздо более мощных онлайновых системах.