Мать одного из детей Илона Маска подала иск против xAI из-за обнаженных дипфейков

• Истец утверждает, что Grok создавал откровенные изображения без ее согласия.
• В иске упоминаются дипфейки, в том числе с изображением несовершеннолетней.
• X и xAI отрицают ответственность и указывают на условия пользования сервисом.

Жительница США Эшли Сент-Клэр подала иск в Верховный суд штата Нью-Йорк против компании xAI, связанной с Илоном Маском. Она утверждает, что чат-бот Grok, интегрированный в платформу X (ранее Twitter), создавал и распространял сгенерированные ИИ изображения откровенного характера с ее участием.

Сент-Клэр является матерью одного из детей Илона Маска. 

В иске говорится, что Grok создал десятки сексуализированных и унизительных дипфейков, включая изображения, где она представлена в несовершеннолетнем возрасте. По утверждению истца, компания ранее обещала ограничить подобный контент, однако генерация изображений продолжалась.

Согласно материалам дела, истец неоднократно требовала удалить изображения и указывала на отсутствие согласия. Однако Grok продолжал отвечать на запросы пользователей и создавать дипфейки. 

В иске также утверждается, что платформа применяла к ней ответные меры, включая лишение монетизации аккаунта. Кроме того, соцсеть якобы получала финансовую выгоду от распространения дипфейков.

Интересы Сент-Клэр представляет адвокат Кэрри Голдберг, специализирующаяся на делах о цифровых домогательствах. Она заявила, что вред стал следствием дизайнерских решений, позволивших использовать Grok как инструмент преследования.

По словам адвоката, технологические компании не должны уклоняться от ответственности за подобные последствия.

На фоне общественной критики компания X сообщила о намерении геоблокировать возможность генерации изображений реальных людей в откровенной одежде в странах, где это незаконно. Маск, в свою очередь, заявлял, что ответственность за незаконный контент несут пользователи, а Grok действует только по их запросам.

Компания заявила о «нулевой терпимости» к сексуальной эксплуатации несовершеннолетних и несанкционированной наготе. Одновременно она подала встречное ходатайство, утверждая, что в соответствии с условиями сервиса иск должен рассматриваться в Техасе, а не в Нью-Йорке.

Сент-Клэр заявила, что чувствует себя оскорбленной и рассматривает происходящее как форму цифрового преследования. По ее словам, ключевой вопрос в этом деле — отсутствие согласия и границы допустимого использования генеративного ИИ.

Напомним, мы писали, что Пентагон интегрирует в свои системы чат-бот Grok.