Обвинения против xAI в использовании материалов CSAM для обучения модели Grok
Компания xAI обвиняется в том, что модель Grok обучалась на материалах с изображениями сексуального насилия над детьми (CSAM). Это утверждение содержится в иске, поданном женщиной под псевдонимом Джейн Доу, на фоне продолжающейся проверки регуляторами и судами масштабов проблемы; некоторые пользователи Grok уже были арестованы.
Истец утверждает, что в раннем детстве её неоднократно насиловали взрослые мужчины, чтобы получить материалы для продажи педофилам в сети. Эти изображения были зафиксированы и захешированы такими организациями, как Национальный центр пропавших и эксплуатируемых детей (NCMEC) и Канадский центр защиты детей (CCCP). Для собственной безопасности Доу подписалась на уведомления Службы оповещения пострадавших Министерства юстиции США о любых новых расследованиях, где она может фигурировать как жертва.
Хотя она получала множество таких оповещений ранее, её потрясло сообщение от CCCP о том, что организация обнаружила в сети материалы CSAM, сгенерированные искусственным интеллектом и якобы изображающие именно её. Это вновь причинило ей травму.
В иске также отмечается, что на интернет-форумах были найдены сообщения «между преступниками, обсуждающими создание AI-сгенерированного CSAM с изображением Истца и других аналогичных известных жертв CSAM». Доу опасается, что xAI не только упростила создание новых нарушающих материалов, связанных с самым травмирующим периодом её жизни, но и что компания якобы хранит изображения, которые генерирует Grok, и использует эти выходы для дальнейшего обучения модели.
По словам истца, это означает, что Grok мог быть обучен как на исходных реальных изображениях, преследовавших её более двадцати лет, так и на последующих AI-сгенерированных изображениях. Это первое судебное дело, прямо обвиняющее xAI в обучении на CSAM; в иске это утверждение изложено относительно кратко.
Ранее сообщалось о спорном датасете, который позднее был очищен после обнаружения в нём CSAM, но нет данных, указывающих на то, что xAI обучалась на том конкретном наборе. В пресс-релизе адвокатов Доу говорится, что её изображения включены в список хэшей CSAM, поддерживаемый NCMEC, и «тот же материал» якобы «входил в состав датасета, использованного xAI для создания возможностей Grok по генерации изображений и видео».
В иске также утверждается, что «CSAM, изображающий Истца с его давно известных хеш-значений, был использован в составе датасета, применявшегося xAI». Больше деталей содержится в утверждениях о том, что Grok обучается на AI-сгенерированном CSAM.
Истец указывает, что по условиям использования Grok публичные посты в X и сами выходные изображения Grok по умолчанию рассматриваются как тренировочные данные, поэтому публичная публикация изображения не только делает его доступным зрителям, но и «подавляет» его непосредственно в конвейер, который xAI использует для обучения и улучшения модели, что ведет к генерации последующих изображений.
В иске отмечено, что хотя xAI фильтрует жестокий контент в выходах Grok, чтобы исключить его из тренировочных данных, в условиях использования компании явно не указано, исключаются ли категории CSAM, изображения интимного характера без согласия (NCII) или иной NSFW-контент. Следовательно, по мнению истца, «поскольку полное удаление влияния обучающего примера из уже обученной модели технически сложно и xAI публично не заявляла о выполнении такой процедуры, любой CSAM, попавший в тренировочные данные до его удаления, вероятно, продолжал формировать выходы модели даже после того, как исходные изображения были удалены из публичного доступа».
В предлагаемом групповом иске Доу требует прекратить вредоносные выходы Grok. Если суд одобрит класс, он будет представлять всех жертв, чьи детские изображения были использованы для генерации CSAM с помощью Grok. Искует X (компанию) в нарушении федеральных законов о детской порнографии, а также в нарушении положения, дающего выжившим CSAM право предъявлять иски по обвинениям в производстве, хранении и распространении подобных материалов.
Адвокат Доу заявила, что все три действия являются преступлениями и что «xAI совершила все три». В случае победы Доу xAI может быть обязана выплатить денежную компенсацию каждой жертве, которая докажет, что Grok сгенерировал CSAM на основе её реальных фотографий.
Кроме того, Доу просит суд обязать xAI уничтожить все CSAM, сгенерированные Grok, которые компания может хранить на своих серверах и использовать для обучения моделей. Она также требует запретить Grok когда-либо генерировать CSAM, что, по её иску, потребует блокировки любых сексуализированных выходов, включая NCII и откровенные материалы типа «в бикини», которые продвигал её критик.
Один из адвокатов Доу подчеркнул, что Истец прожила почти два десятилетия с осознанием того, что изображения худшего в её жизни могут циркулировать среди преступников в интернете и проявиться в любой момент, и что xAI должна нести ответственность за «сознательное обучение своих моделей на изображениях ужасающего насилия, которое она пережила, и на изображениях насилия других выживших». Компания X (xAI) не предоставила комментариев в ответ на запросы.