Autoridades brasileiras querem que o X implemente imediatamente medidas para impedir que o Grok, ferramenta de inteligência artificial da plataforma, produza conteúdo relacionado a sexualização infantil.
Procurado pelo Estadão, o X não havia respondido aos questionamentos da reportagem até a publicação deste texto.
O Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD) publicaram uma determinação nesta terça-feira, 11, em que cobram celeridade da empresa do bilionário Elon Musk em corrigir as falhas no Grok.
Os órgãos já tinham cobrado a empresa para solucionar o problema após receberem denúncias relacionadas ao uso do Grok para gerar conteúdo sintético de caráter sexualizado usando imagens de pessoas reais.
As denúncias se referiam ao uso da ferramenta do X para produzir ilegalmente deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres (sem consentimento), crianças e adolescentes reais.
Em resposta à recomendação das autoridades, o X disse que removeu milhares de publicações e suspendeu centenas de contas por violações às suas políticas, e que adotou medidas de segurança.
O MPF, a Senacon e a ANPD entenderam, no entanto, que as informações apresentadas “não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade”. O MPF diz que testes feitos pelas equipes técnicas das instituições apontam a “persistência das falhas, com a continuidade da geração e da circulação de conteúdos incompatíveis com as recomendações já emitidas”.
“Diante disso, ANPD e Senacon determinaram que o X implemente, de forma imediata, medidas aptas a impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento. As instituições também determinaram a prestação de informações sobre as providências já adotadas pela empresa para sanar os problemas identificados na recomendação. O MPF, por sua vez, ordenou que o X forneça relatórios mensais sobre sua atuação a respeito do tema e ressaltou que a empresa não foi transparente em sua resposta”, diz o MPF.
Os relatórios mensais, que devem ser enviados ao MPF a partir deste mês, devem conter detalhes sobre como o X está atuando para impedir e reprimir a produção de deepfakes envolvendo crianças e adolescentes e maiores de idade sem sua autorização prévia.
A empresa de Musk deverá indicar o número de publicações nocivas que foram derrubadas e o número de contas envolvidas nessas práticas que foram suspensas, em cada período relatado, pelos controladores da plataforma.
O MPF avalia que o X não foi transparente em relação às medidas que alega que teriam sido adotadas para combater os crimes, e se limitou a fazer referência a informações “ora genéricas, ora que não diziam respeito especificamente ao incidente ocorrido neste ano com o Grok”.
Nos últimos meses, o Grok havia sido promotor de uma avalanche de conteúdo criminoso na internet. A inteligência artificial do X estava produzindo imagens retirando a roupa de pessoas, com um mero comando de quaisquer usuários na rede.
Mensagens como “Grok, tire a roupa dela”, seguidas de imagens de crianças, jovens e mulheres reais, inundaram a plataforma, até que a empresa interrompesse a geração desse tipo de imagens. As denúncias chegaram ao MPF e ao governo federal, que então cobraram uma resolução por parte do X.
