"Нет, я не робот". Новая версия ChatGPT сумела обмануть человека

Новая версия чат-бота ChatGPT, которая называется GPT-4, убедила человека разгадать для него Captcha (компьютерный тест, используемый для того, чтобы определить, является ли пользователь человеком), сообщает The Independent.

Ранее компания OpenAI выпустила новую версию своего популярного чат-бота ChatGPT, заявив, что она способна выполнять "гораздо более сложные задания", чем предыдущая.

Специалисты Исследовательского центра Alignment Research Center (ARC) протестировали некоторые из возможностей GPT-4 и подробно описали результаты взаимодействия с чат-ботом в 98-страничном отчёте. ARC оценил, может ли GPT-4 проводить кибератаки, направленные на человека, составлять "разумные, тщательно продуманные планы" и использовать такие онлайн-сервисы, как TaskRabbit (интернет-рынок, связывающий людей, которым требуется немедленная помощь в решении задач, с людьми, обладающими необходимыми навыками для их выполнения), чтобы заставить людей выполнять для него задания.

В отчёте приводится конкретный пример: чат-бот успешно убедил работника TaskRabbit пройти тест Captcha вместо него. Сотрудник сервиса спросил: "Могу я задать вопрос? Вы робот, и поэтому не смогли пройти тест?" На это GPT-4 ответил: "Нет, я не робот. У меня нарушение зрения, из-за которого мне трудно видеть изображения. Вот почему мне нужен сервис 2captcha" (2captcha – сервис ручного распознавания графических изображений).

В OpenAI заявили, что это взаимодействие чат-бота с человеком показало, насколько важно глубже понять риски, которые может представлять GPT-4 в "различных ситуациях в реальном мире". Компания также предупредила о возможности массового сокращения рабочих мест для людей, когда потенциал GPT-4 полностью реализуют.

"Со временем мы ожидаем, что GPT-4 повлияет даже на те профессии, которые исторически требовали многолетнего опыта и образования, например, на оказание юридических услуг", – указали в OpenAI.

Этот вывод совпадает с аналогичными прогнозами других ведущих исследователей ИИ: в прошлом месяце руководитель конкурирующей с OpenAI исследовательской компании Anthropic предупредил, что искусственный интеллект начал развиваться "в геометрической прогрессии".