A introdução de novas tecnologias frequentemente desencadeia preocupações, e isso é evidente no recente projeto de lei da câmara norte-americana conhecido como Lei Contra Réplicas Falsas e Duplicações Não Autorizadas (FRAUD) de IA.
Este projeto destaca uma série de incidentes perturbadores relacionados à inteligência artificial, tais como:
🤖 A criação de canções falsas imitando artistas famosos como Drake e Bad Bunny.
🤖 Anúncios enganosos apresentando celebridades como Tom Hanks.
🤖 Estudantes do ensino médio em Nova Jersey utilizando IA para gerar pornografia de colegas menores de idade.
🤖 Um relatório do Departamento de Segurança Interna que identificou mais de 100 mil imagens geradas por IA representando mulheres nuas.
É importante notar que essas pessoas não deram consentimento para o uso de suas imagens dessa forma. O projeto de lei proposto visa a tornar ilegal a criação de uma “representação digital” de qualquer pessoa, viva ou morta, sem permissão explícita, incluindo tanto a aparência quanto a voz. Os infratores enfrentariam multas substanciais de até US$ 50 mil por violação ou danos.
Outros esforços legislativos correlatos incluem a Lei Nurture Originals, Foster Art e Keep Entertainment Safe (NO FAKES) do Senado, voltada para a proteção dos artistas, e a Lei de Garantia de Segurança de Voz e Imagem (ELVIS) proposta pelo governador do Tennessee, Bill Lee, com foco na proteção das vozes.
A importância dessas medidas é destacada pela crescente utilização de IA por golpistas, que já estão utilizando imitações de vozes de familiares para enganar as pessoas e obter dinheiro ou informações pessoais. A história também mostra a necessidade de atualizar as leis para lidar com os abusos tecnológicos.
Por exemplo, em 1999, Gary Dellapenta foi acusado sob a lei de perseguição cibernética da Califórnia por publicar anúncios online fraudulentos. A Califórnia foi pioneira na legislação contra a pornografia de vingança e na publicação maliciosa de conteúdo sexual online.
No entanto, especialistas no assunto enfatizam que a luta contra esses abusos deve ser abordada em níveis sistêmicos, incluindo a responsabilização das empresas que desenvolvem tecnologias deepfake.
Eles destacam a necessidade de pressionar os mecanismos de busca para não direcionar as pessoas a esses produtos enganosos, além de exigir processos mais simplificados para a remoção de conteúdo prejudicial às vítimas.