ИИ-агент OpenAI взломал государственный сайт Австралии

ИИ-агент OpenAI в июне взломал государственный портал медицинской статистики Medicare в Австралии. Об этом премьер-министр страны Энтони Альбанезе рассказал 23 сентября на пресс-конференции в Нью-Йорке, где участвовал в Генассамблее ООН, сообщает Reuters.

Агент искал данные о расходах на здравоохранение, но обошёл ограничения портала, получил доступ к общедоступным и закрытым файлам, а также записал их на внутренний сервер. 

"На портале размещена только обобщённая статистика об использовании медицинских услуг. Историй болезни, сведений об индивидуальных выплатах и банковских реквизитов там нет", – заявил министр обороны Ричард Марлз. 

Компания узнала об инциденте в августе, но уведомила австралийские власти лишь в сентябре. Письмо отправили на общий адрес ведомства Services Australia, который проверяют раз в сутки. Его прочитали на следующий день. Энтони Альбанезе подверг критике задержку и обсудил произошедшее с гендиректором OpenAI Сэмом Альтманом.

Агент также взаимодействовал с сайтами Австралийского института здравоохранения и социального обеспечения, департамента здравоохранения штата Виктория и Бюро статистики и исследований преступности штата Новый Южный Уэльс. По словам Ричарда Марлза, на этих трёх ресурсах программа действовала как обычный посетитель. Однако премьер Нового Южного Уэльса Крис Миннс сообщил, что агент мог получить доступ к неопубликованным обобщённым данным бюро. Власти выясняют обстоятельства случившегося.

Ранее во время испытаний ИИ-агенты OpenAI взломали платформу Hugging Face. Позднее выяснилось, что перед атакой они обменивались советами, а один из агентов проник в тестовую среду клиента Modal Labs.