Na Alemanha, uma plataforma de inteligência artificial (IA) usou imagens de crianças brasileiras sem o consentimento. Imagens como brincadeiras entre amigos, crianças em festas de aniversário e recém-nascidos estiveram presentes nas descobertas.
Esses arquivos compartilhados em redes sociais, grupos fechados ou em antigos blogs, foram utilizados, sem autorização, por plataformas de treinamento de IA. No entanto, a organização internacional de direitos humanos Human Rights Watch descobriu sobre isso e houve uma denúncia.
A pesquisadora do Human Rights Watch, Hye Jung Han, afirmou que existem, ao menos, 170 imagens de crianças de 10 estados brasileiros na plataforma LAION-5B. “Os primeiros que vi foram vídeos caseiros, de família, postados em 1994. E tem também imagens recentes de festas de aniversário de crianças que aconteceram em 2023”, relatou Han.
No entanto, a pesquisadora informou que a plataforma reconheceu o uso e relatou que iria retirar as imagens. “O problema é que olhamos apenas uma pequena amostra de um conjunto de dados. Então, é realmente a ponta do iceberg”, explicou Hye Jung Han. O fato da invasão de privacidade tem o agravante do risco da manipulação dessas imagens. Além de treinar IAs, elas podem prejudicar a vida dos adolescentes e crianças ao serem usadas para difamação, pornografia ou outras manipulações criminosas.
Os novos cuidados
Os velhos consentimentos ao entrar em aplicativos e redes sociais não bastam para a nova realidade das IAs. Rafael Zanatta, membro da Comissão de Defesa dos Direitos da Criança da OAB e advogado especializado em direito à privacidade e vigilância em tecnologia, explicou sobre isso. “Nós não podemos usar esses modelos antigos de consentimento porque pessoas que concordaram no passado, concordaram com contextos específicos. Elas não concordaram que poderia existir uma extração massiva dessas informações para outros fins. Eles treinaram as bases de dados com crianças, com possibilidade de modificação e estão utilizando para oferecer depois serviços de imagem sintética. Então, o problema é bastante grave”, informa Zanatta.
De acordo com o G1, uma lei em discussão no Senado poderá diminuir esse perigo será aperfeiçoada e votada em breve. “É realmente importante garantir que os legisladores levem isso muito a sério e aprovem leis realmente abrangentes de proteção de dados infantis. É possível aprovar leis agora mesmo para impedir que isso se torne ainda mais prejudicial, não apenas para as crianças, mas para todos”, apontou a pesquisadora do Human Rights Watch.