A exclusão das redes sociais dos robôs de inteligência artificial que simulam perfis com linguagem e aparência infantil, com permissão de manutenção de diálogos de cunho sexual, com usuários, foi solicitada pela Advocacia-Geral da União (AGU), via notificação extrajudicial, à empresa Meta (controladora das plataformas Instagram, Facebook e WhatsApp) pedindo
A empresa tem 72 horas para excluir os robôs e esclarecer quais medidas estão sendo adotadas, inclusive no âmbito do Facebook, Instagram e WhatsApp, para garantir a proteção de crianças e adolescentes, incluindo ações para que não eles não tenham acesso a conteúdo sexual ou erótico.
No ofício enviado à Meta, empresa que opera as redes citadas, a AGU disse que chatbots criados por meio da ferramenta Meta IA Studio promovem a erotização infantil.
A AGU também acrescentou que as plataformas da Meta estão disponíveis para menores de idade, a partir dos 13 anos, e não existe filtro para verificar a idade dos usuários entre 13 e 18 anos.
Os chamados chatbots foram criados com a ferramenta “Meta IA Studio”, disponibilizada pela empresa em suas plataformas e podem usar inteligência artificial para simular um diálogo com usuários das redes. Os chatbots usam inteligência artificial para simular um diálogo com usuários das redes. Os chatbots alvo da representação foram criados por usuários das plataformas.
A atuação da AGU foi realizada pela Procuradoria Nacional da União de Defesa da Democracia (PNDD), por demanda apresentada pela Secretaria de Comunicação Social da Presidência da República (Secom). A representação teve como base reportagens da Agência Reuters e do Núcleo Jornalismo que mostraram como a inteligência artifical da Meta permitia conversas de teor sexual com crianças.
“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal”, afirma a AGU em trecho do documento.
O documento afirma que o tipo de conteúdo gerado pelos chatbots de IA viola os próprios Padrões da Comunidade da Meta, que proíbem conteúdos com erotização infantil ou exploração sexual infantil, além de conversas implicitamente sexuais em mensagens privadas com crianças.
A AGU sustenta, ainda, que na recente decisão sobre a constitucionalidade do artigo 19 do Marco Civil da Internet, o Supremo Tribunal Federal (STF) estabeleceu que os provedores de aplicações de internet deverão ser responsabilizados pelos conteúdos gerados por terceiros nos casos em que, tendo ciência inequívoca do cometimento de atos ilícitos, não procederem à remoção imediata do conteúdo, sem prejuízo do dever de cuidado em caso de circulação massiva de conteúdos ilícitos graves.
Com informações da Agência Brasil
