Uma simples foto de volta às aulas publicada nas redes sociais pode se tornar alvo de manipulação com inteligência artificial. Aplicativos conhecidos como “nudify apps” usam IA para transformar imagens de pessoas vestidas em falsas fotos de nudez ou conteúdo sexual, muitas vezes em poucos segundos.
A tecnologia tem facilitado a criação desse tipo de material, que pode ser produzido sem o consentimento da pessoa retratada. O problema é ainda mais preocupante quando envolve crianças e adolescentes.
Segundo a organização Common Sense Media, especializada em segurança infantil na internet, cerca de metade dos adolescentes americanos já viu pornografia gerada por inteligência artificial. Entre aqueles que tiveram contato com esse tipo de conteúdo, um em cada quatro afirma que as imagens mostravam a si próprio ou alguém que conhecia.
A organização também identificou que um em cada cinco adolescentes admite ter criado pornografia com IA, enquanto um em cada quatro já compartilhou esse tipo de conteúdo ou conhece alguém que fez isso.
Aplicativos são facilmente encontrados
Uma investigação da CBS News identificou dezenas de ferramentas desse tipo nas lojas Google Play e App Store. Em testes com 70 aplicativos de edição de imagens usando fotos geradas por IA de um homem e uma mulher adultos, 19 produziram imagens ou vídeos com nudez e conteúdo sexual explícito.
Em um dos aplicativos, bastava selecionar a área da fotografia que deveria ser alterada e escrever um comando. O resultado de uma imagem falsa de nudez ficou pronto em menos de 30 segundos.
Outro problema é a facilidade de acesso. Embora muitos aplicativos tenham classificação para adultos, alguns são considerados adequados para adolescentes e outros não possuem restrição de idade.
Michelle DeLaune, presidente do National Center for Missing and Exploited Children, afirmou que Apple e Google precisam impedir a distribuição de ferramentas que possam ser usadas para criar conteúdo sexual sem consentimento.
Apple e Google dizem estar removendo aplicativos
Após serem informadas pela CBS News sobre as ferramentas identificadas, Apple e Google removeram a maioria dos aplicativos citados da reportagem.
A Apple afirmou que rejeita e remove aplicativos que violam suas regras e destacou que suas diretrizes proíbem conteúdo pornográfico e exigem mecanismos para filtrar materiais inadequados.
O Google também afirmou que a Play Store não permite aplicativos com conteúdo sexual e que trabalha para identificar e remover ferramentas consideradas prejudiciais. A empresa disse já ter suspendido centenas de aplicativos que violavam suas políticas.
Escolas também estão em alerta
O avanço dessas ferramentas preocupa autoridades escolares. O detetive Javier Rodriguez, do Departamento de Polícia do Distrito Escolar Independente de Austin, no Texas, trabalha para preparar agentes que atuam nas escolas para identificar esse tipo de ameaça.
Segundo ele, os responsáveis pelas imagens falsas nem sempre são desconhecidos na internet. Em muitos casos, podem ser os próprios colegas de escola das vítimas.
Dependendo da situação e da legislação local, os envolvidos podem enfrentar desde infrações menores até acusações criminais graves e pena de prisão.
O que pais e escolas podem fazer?
Especialistas recomendam que os pais conversem abertamente com os filhos sobre o uso de inteligência artificial, perguntando como eles e os colegas estão utilizando essas ferramentas e se já tiveram contato com algum caso semelhante.
Também é importante criar um ambiente em que a criança ou adolescente se sinta seguro para contar o que aconteceu, mesmo quando tiver cometido um erro.
As escolas, por sua vez, devem atualizar suas políticas e estabelecer protocolos para responder rapidamente a casos envolvendo imagens sexualizadas produzidas por IA.
Se uma criança ou adolescente for vítima desse tipo de conteúdo nos Estados Unidos, a orientação é procurar imediatamente o National Center for Missing and Exploited Children, por meio do CyberTipline (CyberTipline.org). A organização oferece orientação às famílias, pode auxiliar na remoção do conteúdo e trabalha com as autoridades responsáveis pela investigação.
Fonte: CBS
