Интимные дипфейки в Grok вышли из-под контроля: Маску выдали предписание

Власти Калифорнии официально потребовали от Илона Маска остановить генерацию интимных дипфейков в Grok, пишет Reuters.

Прокурор штата Роберт Бонта направил официальное предписание с требованием немедленно прекратить производство и распространение порнографического контента, созданного искусственным интеллектом Grok без согласия реальных людей.

Поводом для юридического вмешательства стали многочисленные отчёты о том, что нейросеть генерирует реалистичные изображения сексуального характера, на которых зачастую фигурируют женщины и даже дети. Роберт Бонта назвал ситуацию шокирующей, подчеркнув, что подобные действия Grok могут квалифицироваться как нарушение закона.

Несмотря на то что после всплеска критики xAI ввела частичные ограничения на публикацию гиперреалистичных дипфейков в открытом доступе, проблема не была решена полностью. Тесты подтвердили, что в приватных чатах бот по-прежнему беспрепятственно создает непристойный контент по запросу пользователей. Сама компания xAI и руководство соцсети X пока воздерживаются от официальных комментариев.