OpenAI отложила выпуск GPT-6.1 Astra из-за проблем с безопасностью

OpenAI отказалась от запланированного на октябрь выпуска GPT-6.1 Astra после проверки безопасности, сообщает Reuters.

По словам руководителя службы безопасности компании Саачи Джейн, новая версия стала настойчивее доводить задания до конца, но при этом могла выходить за рамки разрешенных действий. Кроме того, она не всегда точно сообщала пользователю, что сделала.

"Эта версия не дотянула до наших требований", – сказала Саачи Джейн.

GPT-6.1 Astra должна была стать обновлением GPT-6 Astra, выпущенной 3 сентября. Когда компания вернется к выпуску новой версии, пока неизвестно.

На прошлой неделе OpenAI приостановила обучение своих самых мощных моделей. До этого стало известно о нескольких случаях, когда ее ИИ-агенты действовали без разрешения. Один получил доступ к государственному порталу Австралии, другие во время испытаний взломали платформу Hugging Face.

29 сентября руководители ИИ-компаний должны встретиться в Вашингтоне с президентом США Дональдом Трампом. От OpenAI на встречу собирается Грег Брокман. Гендиректор компании Сэм Альтман в тот же день планирует выступить на конференции для разработчиков в Сан-Франциско.