Sweetie Fox, uma das mais populares criadoras de conteúdo adulto no Pornhub, com quase dois milhões de seguidores, recentemente promoveu um aplicativo controverso de “nudez simulada” chamado Clothoff.
Este software utiliza inteligência artificial para gerar imagens que simulam pessoas nuas a partir de fotografias com roupas. Em um vídeo divulgado no Pornhub, Sweetie Fox e Diana Rider, outra influente criadora de conteúdo, demonstraram o uso do aplicativo enquanto vestiam trajes de banho à beira de uma piscina. Ambas usaram o Clothoff para transformar fotos uma da outra em nus completos, incorporando esta ação na narrativa do vídeo. A promoção destacou o nome do aplicativo em gráficos visíveis e incluiu um código promocional.
“Nudificar” ou “Despir-se”
A prática de promoção de produtos em vídeos não é novidade no Pornhub. Criadores também promoveram um aplicativo similar e um site de jogos de azar em seus vídeos patrocinados (o que também acontece aqui no Brasil). Após questionamentos sobre a adequação do conteúdo promovido, o vídeo de Sweetie Fox foi removido para revisão pela plataforma, que proíbe deepfakes e conteúdos gerados por IA que violem seus termos de serviço.
Caso você não lembre: DeepFake é uma técnica que usa inteligência artificial e aprendizado de máquina, especialmente redes neurais, para criar vídeos, imagens ou áudios que parecem reais, mas são falsificados. Ela permite superpor rostos, modificar expressões faciais e até mesmo sintetizar falas ou ações, de forma que pareça que uma pessoa está dizendo ou fazendo algo que nunca realmente fez ou disse. Essa tecnologia tem sido usada algumas vezes para entretenimento, entretanto, na maioria dos casos é usada para criar conteúdos enganosos ou maliciosos.
A utilização de aplicativos de “Nudificar” ou “Despir-se” levanta questões éticas significativas. Estas ferramentas, embora chamem a atenção tecnicamente falando, são frequentemente usadas de maneira irresponsável. A proliferação desses aplicativos expõe novamente a necessidade urgente de uma discussão mais aprofundada sobre as implicações éticas da IA.
No ambiente educacional, por exemplo, já foram relatados múltiplos casos onde estudantes utilizaram tais aplicativos para criar e distribuir imagens nuas não consentidas de colegas, o que levou a sérias consequências legais e disciplinares.
A capacidade de alterar realisticamente a aparência de uma pessoa em imagens sem seu consentimento traz à tona problemas de privacidade, consentimento e a potencial perpetuação de abusos digitais. A resposta das plataformas tecnológicas, como a recente decisão do Google de proibir anúncios de pornografia gerada por IA, é um passo, mas a regulamentação ainda é uma área cinzenta que necessita de atenção legislativa e normativa mais robusta.
O debate sobre a regulamentação da tecnologia de IA é complexo. A discussão não trata apenas das questões técnicas de implementação e fiscalização, mas também considerações éticas sobre os limites da tecnologia em nossa vida social e pessoal.
A necessidade de diretrizes claras é imperativa para garantir que o uso de tecnologias emergentes como a inteligência artificial seja feito de forma responsável e ética, protegendo indivíduos contra abusos potenciais enquanto se aproveita os possíveis benefícios que essa tecnologia pode trazer.