Comitê Gestor da Internet exige mais rigor de redes sociais, lojas de aplicativos e empresas no uso da IA generativa

Corroborar as preocupações com a proteção de mulheres, crianças e adolescentes no uso de aplicativos e plataformas digitais. A realidade da presença expressiva desses grupos em ambientes digitais requer cuidados específicos de proteção para que sua experiência seja saudável e segura, sendo esta uma responsabilidade do Estado, das empresas detentoras de produtos e serviços disponibilizados por meio da Internet e da sociedade como um todo;

Salientar que leis como a Lei Geral de Proteção de Dados Pessoais – LGPD (Lei nº 13.709/2018), o Marco Civil da Internet – MCI (Lei nº 12.965/2014), e a própria Constituição Federal de 1988 já garantem uma série de direitos e proteções para usuários da Internet. Diante disso, é importante que autoridades estejam atentas aos desenvolvimentos tecnológicos, implementações e usos de ferramentas digitais, bem como empresas que oferecem produtos dessa natureza adequem seus serviços às normas brasileiras e colaborem no combate a crimes, condutas ou práticas que podem violentar grupos vulnerabilizados;

Destacar que a legislação brasileira abrange direitos específicos para a proteção de crianças e adolescentes, inclusive nos casos envolvendo violações e riscos em plataformas digitais. Exemplo disso é o Estatuto da Criança e do Adolescente – ECA (Lei nº 8.069/1990), que tipifica a exploração sexual infantil, incluindo práticas como a modificação, montagem e adulteração de imagens e vídeos. Além disso, há a atuação de órgãos como o Conselho Nacional dos Direitos da Criança e do Adolescente (CONANDA), o Ministério Público e as Defensorias Públicas, que desenvolvem políticas e defendem direitos e interesses de crianças e adolescentes no país, sendo importante a orientação e atenção desses agentes contra crimes de exploração sexual infantil cometidos em um cenário atual de tecnologias emergentes utilizadas para essas práticas cada vez mais difundidas em ambientes digitais;

Frisar que a legislação brasileira também contempla proteção especial para mulheres contra violências de gênero, incluindo a criminalização de condutas de exploração ou abuso sexual que podem ser perpetradas em ambientes digitais. Discussões legislativas recentes também buscam tipificar o crime de manipulação digital de imagens por inteligência artificial e agravar a pena em casos de crimes contra mulheres. Diante desse contexto é evidente a preocupação social com o tema e é fundamental a mobilização de ações mais contundentes de fiscalização e punição desses crimes, especialmente frente aos desafios inerentes a sistemas de IA generativa e a possibilidade de seus usos destinados à violência sexual e de gênero em variadas dinâmicas no ambiente digital. Essas preocupações incluem aspectos como a difusão desses conteúdos por plataformas digitais e o próprio oferecimento não supervisionado por lojas de aplicativos de ferramentas capazes de manipular e gerar imagens e conteúdos de exploração e abuso sexual;

Recomendar que empresas que oferecem serviços de geração de imagens por IA, bem como as lojas de aplicativos e as plataformas que difundem e dão acesso a esse tipo de ferramenta ou conteúdo atuem de modo proativo para: