O governo federal impôs uma determinação à rede social X para que implemente, de forma imediata, medidas que visem impedir a criação de conteúdo sexualizado ou erotizado, envolvendo crianças, jovens e adultos, através da inteligência artificial Grok. Essa decisão foi motivada pela avaliação de órgãos governamentais sobre a insuficiência das providências previamente adotadas pela plataforma. Além disso, o governo exigiu que a rede social forneça informações detalhadas sobre as ações tomadas para resolver as questões identificadas, além de relatórios mensais sobre suas atividades relacionadas ao tema.
Motivação das ações governamentais
A determinação do governo foi uma resposta à Recomendação Conjunta emitida pela Secretaria Nacional do Consumidor (Senacon), pelo Ministério da Justiça e Segurança Pública (MJSP), pela Agência Nacional de Proteção de Dados (ANPD) e pelo Ministério Público Federal (MPF). Após uma análise crítica, ficou claro que as ações de contenção implementadas pelo X eram consideradas insuficientes. Apesar de a rede social ter removido publicações e suspendido diversas contas por violação das regras, as instituições apontaram que os resultados concretos eram escassos e que falhas ainda persistiam, permitindo que conteúdos inapropriados continuassem a circular.
Expectativas de relatórios e transparência
As instituições governamentais expressaram a necessidade de relatórios técnicos que comprovem a eficácia das medidas adotadas. Testes realizados por esses órgãos demonstraram que as falhas ainda eram uma preocupação, reforçando a urgência de uma resposta mais robusta e efetiva por parte da rede social.
Medidas exigidas pela Senacon
A Senacon, em sua determinação, exigiu que o X implemente imediatamente soluções para impedir a geração de qualquer tipo de conteúdo sexualizado ou erotizado que utilize a ferramenta Grok, especialmente envolvendo crianças e adolescentes. Foi solicitado um relatório detalhado que apresente as providências tomadas para mitigar os riscos identificados, incluindo dados sobre identificação, moderação, remoção e indisponibilização de conteúdos impróprios, além do tempo médio de resposta para tais ações. A Senacon deixou claro que a não conformidade com essas exigências poderá resultar em processos administrativos e multas.
Diretrizes da ANPD
A ANPD também emitiu uma medida protetiva, demandando que a plataforma X melhore seus mecanismos de controle sobre a produção de conteúdo sexualizado ou erótico, abrangendo todas as suas versões, planos e modalidades. Assim como a Senacon, a ANPD estipulou um prazo de cinco dias úteis para que a rede social apresente relatórios comprovando a eficácia das medidas adotadas. O não cumprimento pode acarretar multas diárias significativas.
A atuação do Ministério Público Federal
O MPF, por sua vez, ordenou que a rede social X forneça relatórios mensais a partir deste mês, detalhando as ações realizadas para combater a produção de deepfakes envolvendo pessoas, especialmente crianças e adolescentes. Os relatórios devem incluir informações sobre a quantidade de postagens nocivas removidas e o número de contas suspensas. O MPF criticou a falta de transparência do X, que, segundo a instituição, limitou-se a fornecer informações genéricas, sem abordar especificamente as medidas relativas ao Grok.
Consequências do descumprimento
Caso os relatórios não sejam apresentados dentro dos prazos estipulados, a rede social poderá ser responsabilizada por desobediência, enfrentando investigações mais rigorosas e, se necessário, ações judiciais. As consequências para o X refletem a seriedade com que o governo está tratando a questão da proteção de dados e conteúdos apropriados nas plataformas digitais.
Contexto mais amplo
Essas determinações do governo refletem uma crescente preocupação com a segurança online, especialmente no que diz respeito à proteção de crianças e adolescentes em ambientes digitais. Com o avanço da tecnologia e o aumento do uso de ferramentas de inteligência artificial, os desafios relacionados à moderação de conteúdo e à privacidade se tornaram ainda mais complexos. O governo busca, portanto, garantir que as redes sociais adotem práticas responsáveis e eficazes para proteger usuários vulneráveis, assegurando um ambiente digital mais seguro e controlado.
Fonte: https://extra.globo.com
