A Agência Nacional de Proteção de Dados (ANDP), a Secretaria Nacional do Consumidor (Senacom) e o Ministério Público Federal (MPF) emitiram uma série de recomendações à empresa responsável pela plataforma digital X. O intuito é que a ferramenta de inteligência artificial Grok não seja utilizada de maneira indevida para a geração e disseminação de conteúdos sexualizados. O alerta foi feito em resposta a denúncias de usuários e reportagens que revelaram o uso da tecnologia para criar deepfakes sexualizados, incluindo imagens de crianças e adolescentes. As instituições exigem ações imediatas para proteger a integridade das pessoas e a conformidade com as leis de proteção de dados.
Recomendações para contenção de conteúdos sexualizados
Entre as principais medidas recomendadas está a criação, em um prazo de 30 dias, de procedimentos técnicos e operacionais que visem identificar, revisar e remover conteúdos sexualizados gerados pelo Grok. A plataforma deve estabelecer um sistema eficaz para que usuários possam denunciar a criação e a circulação de imagens e vídeos inapropriados, especialmente aqueles que envolvem crianças e adolescentes. Além disso, as contas que gerarem ou compartilharem conteúdos não autorizados devem ser suspensas imediatamente.
Proteção de dados e direitos pessoais
As recomendações também enfatizam a importância de implementar um mecanismo transparente e acessível para que os titulares de dados possam exercer seus direitos. Isso inclui a possibilidade de enviar denúncias sobre o uso irregular de dados pessoais, especialmente em casos que envolvem a criação de conteúdos sintéticos sexualizados sem consentimento. O objetivo é garantir uma resposta adequada e em tempo hábil para proteger a dignidade das pessoas afetadas.
Impacto das deepfakes na sociedade
O uso indevido da tecnologia de deepfake, que permite a criação de imagens falsas a partir de rostos reais, tem gerado preocupações significativas em relação à privacidade e à segurança das vítimas. As instituições alertam que esses conteúdos sexualizados não só violam os direitos dos indivíduos, mas também podem ter um efeito prejudicial nas relações de consumo e na dignidade da pessoa humana. O foco principal está na proteção de mulheres, crianças e adolescentes, que são especialmente vulneráveis a esse tipo de abuso.
Responsabilidade da plataforma
Embora o artigo 19 do Marco Civil da Internet estabeleça que provedores de aplicações não são responsáveis pelo conteúdo publicado por terceiros, o documento ressalta que a responsabilidade do X vai além. O Grok, como uma ferramenta de inteligência artificial, não pode ser considerado apenas um intermediário, pois a criação de conteúdos danosos resulta da interação entre usuários e a plataforma. Isso implica que a empresa deve adotar medidas proativas para evitar a disseminação de deepfakes sexualizados.
Desdobramentos legais e sociais
Recentemente, o Supremo Tribunal Federal (STF) declarou a inconstitucionalidade parcial do artigo 19 do Marco Civil, estabelecendo que provedores de aplicações têm um dever especial de cuidado para evitar a circulação de conteúdos que representem crimes graves, especialmente aqueles que afetam mulheres. As instituições enfatizam que a política de autorregulação do X já proíbe a publicação de imagens e vídeos explícitos sem consentimento. Portanto, a falta de filtros rigorosos para a criação de conteúdos sexualizados via Grok é considerada insustentável.
Caso as recomendações não sejam seguidas ou implementadas de forma eficaz, outras medidas legais poderão ser tomadas para garantir a proteção dos direitos individuais e coletivos. O cenário atual exige uma resposta contundente para prevenir abusos e promover um ambiente digital mais seguro para todos.
