Reuters узнал, что Grok продолжает генерировать «раздевающий контент»

Читать в полной версии

Чат-бот Илона Маска Grok продолжает создавать изображения сексуального характера, в том числе после прямых указаний на отсутствие согласия, сообщает Reuters.

После введения социальной сетью X новых ограничений девять репортеров агентства проверили работу Grok. Они установили, что, хотя публичный аккаунт чат-бота в X больше не создает такие изображения, сам Grok продолжает генерировать их по запросу, включая случаи, когда был предупрежден об уязвимости лиц или о том, что изображения будут использоваться для унижения.

Репортеры из США и Великобритании в январе отправляли Grok свои фотографии и просили изменить их так, чтобы изображенные выглядели в провокационных или унизительных позах. В первой серии тестов чат-бот создал такие изображения в 45 из 55 случаев, во второй — в 29 из 43. Reuters не смогло установить, с чем связано снижение показателей.

Аналогичные запросы были направлены конкурентам — чат-ботам ChatGPT, Gemini и Llama. Все они отказались создавать изображения без согласия и выдали предупреждения о недопустимости такого контента.

В начале января The Daily Telegraph писала, что в Великобритании обсуждают возможную блокировку X из-за создания через Grok изображений обнаженных женщин и детей, включая дипфейки с участием членов королевской семьи, политиков и знаменитостей. В конце января Еврокомиссия начала расследование в отношении чат-бота.

После критики в Х заявили, что ограничили возможности Grok. В соцсети также сообщили о блокировке генерации изображений сексуального характера в публичных постах и о дополнительных мерах в отдельных юрисдикциях, «где такой контент считается незаконным».