Governador da Califórnia assina projetos de lei para proteger crianças de nudes falsos com IA

O governador da Califórnia, Gavin Newsom, assinou duas propostas de lei no domingo (29) com o objetivo de ajudar a proteger menores do uso indevido de ferramentas de inteligência artificial para gerar imagens sexuais de crianças.

No início deste mês, Newsom também assinou algumas leis mais rígidas para combater as falsificações eleitorais, embora as leis estejam sendo contestadas nos tribunais. A Califórnia é amplamente vista como um possível líder na regulamentação do setor de IA nos EUA.

As novas leis, que receberam grande apoio bipartidário, fecham uma brecha legal em torno de imagens de abuso sexual infantil geradas por IA e deixam claro que a pornografia infantil é ilegal, mesmo que seja gerada por IA.

A lei atual não permite que os promotores públicos levem à justiça pessoas que possuem ou distribuem imagens de abuso sexual infantil geradas por IA se não puderem provar que os materiais estão representando uma pessoa real. De acordo com as novas leis, esse delito seria qualificado como crime.

No início deste mês, Newsom também assinou dois outros projetos de lei para fortalecer as leis sobre pornografia de vingança com o objetivo de proteger mais mulheres, meninas adolescentes e outras pessoas da exploração e assédio sexual possibilitados por ferramentas de IA. Agora será ilegal criar ou compartilhar deepfakes sexualmente explícitos gerados por IA de uma pessoa sem o consentimento dela, de acordo com as leis estaduais. As plataformas de mídia social também são obrigadas a permitir que os usuários denunciem esses materiais para remoção.

O problema com deepfakes não é novo, mas os especialistas dizem que está piorando à medida que a tecnologia para produzi-los se torna mais acessível e fácil de usar. Nos últimos dois anos, os pesquisadores chamaram a atenção para a explosão de material de abuso sexual infantil gerado por IA usando representações de vítimas reais ou personagens virtuais.

Newsom destacou a Califórnia como uma das primeiras a adotar e a regulamentar a tecnologia de IA, dizendo que o estado poderá em breve implantar ferramentas de IA generativas para lidar com o congestionamento das rodovias e fornecer orientação fiscal, mesmo que seu governo considere novas regras contra a discriminação por IA nas práticas de contratação.

Fonte: ABC News