Nas últimas semanas, a rede social X foi inundada por conteúdo pornográfico não consensual e ligado à pedofilia. Isso ocorreu devido ao serviço de chatbot baseado em inteligência artificial presente na plataforma: o Grok.
Diversos países e organizações debatem, no momento, medidas a serem tomadas contra a rede social de Elon Musk, enquanto o homem mais rico do nosso planeta rebate dizendo que isso é censura e que ele não pode se responsabilizar pelo que as pessoas fazem com a ferramenta. O discurso de Elon Musk não passa de uma falácia.
Um modelo de inteligência artificial é treinado para fazer algo específico. Essa especificidade é definida pelo algoritmo de treinamento e pelos dados de treinamento. Se uma inteligência artificial é capaz de produzir qualquer tipo de conteúdo, é porque aquele tipo de conteúdo estava presente em seus dados de treinamento.
Isso significa que, se o modelo de criação de imagens que alimenta o chatbot Grok é capaz de gerar imagens de crianças nuas, ele foi treinado com imagens de crianças nuas.
O crime, portanto, não acontece apenas na geração de pornografia não consensual – que é o que chama mais atenção – mas também na posse ilegal de pornografia infantil utilizada como dado de treinamento para o modelo de geração de imagens.
Atualmente, é possível que uma pessoa adicione uma imagem na plataforma X e peça ao Grok para tirar a roupa do indivíduo na foto ou colocá-lo em posições sexuais. Isso não é responsabilidade apenas do usuário, mas também da empresa que permitiu que isso acontecesse.
Imagens de pornografia não consensual e de pornografia infantil geradas por inteligências artificiais já são um problema na internet há alguns anos, porém nunca tiveram uma plataforma tão grande quanto o X para permitir que se proliferassem.
Até o momento, a única consequência para a xAI, empresa de Elon Musk responsável pelo Grok e pelo X, foi receber um aporte de investimento de 20 bilhões de reais, mostrando o quanto o capital financeiro não se preocupa.
É o momento de um posicionamento do Estado brasileiro.
O X e o Grok precisam sair do ar agora.
