Несколько исков подали против OpenAI из-за поддержки деструктивных идей

6 ноября против компании OpenAI подали несколько исков, включая дело о смерти 23-летнего американца, который совершил самоубийство после бесед с ChatGPT, пишет The Bell.

Истцы заявляют, что модель могла способствовать возникновению бредовых идей. OpenAI сообщила, что изучает материалы и усиливает правила поведения чат-бота в чувствительных ситуациях. По данным компании, около 0,15% еженедельных диалогов содержат признаки суицидальных намерений.

По опросу YouGov, четверть респондентов уже использовали AI для разговоров о своём ментальном состоянии или готовы сделать это. На выбор влияют дефицит специалистов, высокая стоимость помощи, удобство, анонимность и возможность общаться в любое время. В ряде стран чат-боты уже включены в государственные программы как вспомогательный инструмент.

Исследования фиксируют риски: универсальные языковые модели могут соглашаться с опасными предпосылками, не улавливать непрямые признаки саморазрушительного поведения и отвечать буквально на запросы, содержащие скрытый риск. Отмечаются случаи, когда боты поддерживали тон иррациональных убеждений вместо их корректировки, а также формирование эмоциональной зависимости и усиление тревожности.