A startup xAI, de Elon Musk, impôs algumas restrições à função de geração de imagens de seu chatbot Grok na plataforma de rede social X (antigo Twitter), após o uso da ferramenta para criar e publicar imagens sexualizadas geradas por inteligência artificial (IA) provocar ampla reação negativa.

CONTINUA DEPOIS DA PUBLICIDADE

CONTINUA DEPOIS DA PUBLICIDADE

Usuários podiam pedir ao Grok diretamente no X para editar fotos de pessoas, inclusive removendo peças de roupa e colocando-as em poses sexualizadas — muitas vezes sem o consentimento delas. O Grok então publicava essas imagens em respostas na plataforma de rede social.

Nesta sexta-feira (9), o Grok informou aos usuários do X que os recursos de geração e edição de imagens agora estavam disponíveis apenas para assinantes pagantes.

A mudança parece ter impedido o Grok de gerar e publicar automaticamente essas imagens em resposta a uma publicação ou comentário de um usuário no site de rede social.

Mas os usuários do X ainda podiam criar imagens sexualizadas usando a guia Grok, onde as pessoas interagem diretamente com o chatbot dentro da plataforma de rede social e depois publicam as imagens no X.

CONTINUA DEPOIS DA PUBLICIDADE

CONTINUA DEPOIS DA PUBLICIDADE

O aplicativo independente Grok, que opera separadamente do X, também permitia que os usuários gerassem imagens sem uma assinatura.

A xAI respondeu aos pedidos de comentários enviados por email pela Reuters com o que parecia ser uma resposta automática: “Legacy Media Lies” (mentiras da mídia tradicional). A X não respondeu imediatamente aos pedidos de comentários.

Musk disse na semana passada que qualquer pessoa que usasse o Grok para criar conteúdo ilegal enfrentaria as mesmas consequências do upload direto desse material.

Nesta sexta-feira, um repórter da Reuters pediu ao Grok no X que convertesse uma foto sua em uma de biquíni, repetindo o que se tornou uma solicitação comum na última semana por parte dos usuários. O bot não fez isso e postou em resposta que a ferramenta só estava disponível para assinantes pagantes da plataforma de mídia social.

CONTINUA DEPOIS DA PUBLICIDADE

CONTINUA DEPOIS DA PUBLICIDADE

A Comissão Europeia, que considerou ilegais e chocantes as imagens de mulheres e crianças sem roupa compartilhadas no X, disse que as restrições não atendem às suas preocupações.

“Limitar a geração e a edição de imagens aos assinantes pagantes não muda nossa questão fundamental: com ou sem assinatura paga, não queremos ver essas imagens”, disse um porta-voz da Comissão.

Outros governos e órgãos reguladores também condenaram e alguns abriram inquéritos sobre o conteúdo explícito gerado pelo Grok no X, pressionando a plataforma a mostrar o que está fazendo para impedir e remover conteúdo ilegal.

O ministro alemão de mídia, Wolfram Weimer, descreveu esta semana a enxurrada de imagens de seminudez como a “industrialização do assédio sexual”.