Lambrequim logo newsletter

a newsletter de cultura e tecnologia da Têmpora Criativa

close up photo of abstract painting

Como reconhecer se imagens, vídeos ou textos foram gerados por IA

Com o avanço da inteligência artificial (IA), surgem novos desafios e preocupações relacionadas à manipulação de informações. A IA pode ser (já é) usada para criar conteúdo enganoso, distorcido ou falsificado, o que representa uma ameaça significativa para a confiabilidade das informações disponíveis. Nesse contexto, é fundamental desenvolver habilidades para identificar a manipulação de informações com o uso de IA. 

A detecção da manipulação de informações requer uma compreensão das técnicas e estratégias utilizadas para criar conteúdo manipulativo. Neste texto, exploraremos técnicas e estratégias para identificar a manipulação de informações com o uso de IA, destacando a importância da conscientização e do pensamento crítico no contexto da crescente influência da IA na sociedade. 

O que é importante saber para distinguir fatos da ficção gerada por IA e como podemos usar a IA de forma responsável?

Em primeiro lugar, devemos ter em mente que a IA é uma realidade e está aqui para ficar. Ela tem um grande impacto em nosso mundo e continuará a moldar nosso futuro, assim como a eletricidade, os computadores, a internet e os smartphones já fizeram. No entanto, nem tudo são “mil maravilhas”. 

Devemos considerar o uso responsável da IA. Questões como acesso, regulamentação e ética são essenciais. Muitos políticos e tomadores de decisão não possuem um conhecimento aprofundado de IA, o que torna ainda mais importante buscar soluções equilibradas e bem fundamentadas. 

Vale destacar que a IA também pode trazer benefícios. Ela pode ajudar na verificação de fatos e no combate à disseminação de notícias falsas. Startups estão desenvolvendo soluções que combinam inteligência artificial e inteligência humana para verificar a veracidade de notícias e discussões em redes sociais. Essas ferramentas têm o potencial de auxiliar na busca por informações confiáveis.

Achar esse equilíbrio entre o ceticismo e o reconhecimento das oportunidades proporcionadas pela IA será o nosso maior desafio nos próximos anos.  

A manipulação por IA tem se tornado mais sofisticada com a evolução dos geradores de imagens, como o DALL-E2 da OpenAI e o Midjourney para citar apenas alguns exemplos. Bom, vejamos algumas características que podem ajudar a identificar imagens e vídeos manipulados. 

Em imagens, é comum que detalhes como mãos, dentes e acessórios sejam menos realistas

Em vídeos, podem ocorrer incompatibilidades entre som e movimento, distorções nas bocas e falta de expressões faciais naturais

Embora algumas ferramentas tentem detectar conteúdo gerado por IA, é importante estar atento a irregularidades faciais, como pele muito lisa ou enrugada, sombras nos olhos, reflexos em óculos e pelos faciais que não parecem naturais. 

No entanto, é crucial reconhecer que os avanços contínuos na tecnologia de IA podem tornar esses indicadores menos confiáveis no futuro. A detecção de manipulação por IA é um desafio em constante evolução, exigindo aprimoramentos contínuos nas técnicas de detecção à medida que a tecnologia avança.

Como identificar manipulação usando S-I-F-T

Em vez de examinar minuciosamente as imagens pixel por pixel, recomenda-se dar um passo atrás e aplicar técnicas tradicionais de alfabetização midiática. 

Uma abordagem útil para identificar a manipulação é o uso do método S-I-F-T, que foi desenvolvido por Mike Caufield e consiste em quatro etapas: Pare (Stop), Investigar a fonte (Investigate the source), Encontrar uma melhor cobertura (fonte) (Find better coverage) e Rastrear o contexto original (Trace the original context).

E como funciona? 

O primeiro passo é parar e considerar o que você está vendo, especialmente se a imagem, postagem ou afirmação desperta suas emoções. Se algo parece bom demais para ser verdade, engraçado demais ou confirma demais seus preconceitos, é importante ter cautela. 

Em seguida, é recomendado investigar a fonte. Pesquise a origem da informação, verifique a credibilidade da fonte e analise a experiência e a agenda do repórter ou meio de comunicação.

Buscar por uma melhor cobertura (fonte) é outro passo importante. Procure outras fontes de informação sobre o mesmo tópico e verifique se existem outras fotos ou vídeos do evento em questão. Analise se a localização retratada condiz com a realidade. É válido considerar outras situações em que a manipulação pode ocorrer, como áudios falsificados. Nesses casos, é recomendado ligar para a pessoa envolvida e verificar a veracidade da situação.

Por fim, rastrear o contexto original. Verifique a data em que a foto foi publicada pela primeira vez e busque entender o contexto em que a informação surgiu. É importante desacelerar, analisar diferentes fontes e ter um olhar crítico em relação ao conteúdo.

Verifique suas fontes

As imagens de IA não são a única maneira pela qual você pode ser enganado por um computador. Chatbots como o ChatGPT da OpenAI, o Bing da Microsoft e o Bard do Google são muito bons em produzir textos que parecem altamente plausíveis. 

Mas isso não significa que o que eles dizem seja verdadeiro ou preciso. Veja exemplos de como os chatbots já criaram informações erradas: ChatGPT, Bing e Bard

Isso ocorre porque eles são treinados com grandes quantidades de texto para encontrar relações estatísticas entre palavras. Eles usam essas informações para criar desde receitas até discursos políticos e código de computador.

Embora os textos gerados pelos chatbots possam parecer convincentemente humanos, eles não aprendem, pensam ou criam da mesma forma que nós. 

Isso significa que você deve verificar qualquer coisa que um chatbot lhe diga, mesmo que venha com notas de rodapé e fontes, como o Bard do Google e o Bing da Microsoft. Certifique-se de que os links citados sejam reais e realmente sustentem as informações fornecidas pelo chatbot.

Portanto, é importante realizar verificações adicionais ao utilizar informações fornecidas por chatbots, relacionadas a qualquer assunto.

Use ferramentas de IA generativa de forma responsável

No estágio inicial, a IA pode ser pouco confiável e até mesmo arriscada. No entanto, é também divertido e interessante experimentar com ela. Goste ou não, as ferramentas de IA generativa estão sendo integradas em diversos tipos de software, desde e-mails e mecanismos de busca até o Google Docs, Microsoft Office, Zoom entre outros. 

Explorar chatbots e geradores de imagens é uma maneira interessante de aprender mais sobre como a tecnologia funciona e o que ela pode e não pode fazer. Então, vou te dizer algo: — use essas coisas! 

Mas antes, aqui vão algumas coisas a serem lembradas:

Privacidade: Tenha cuidado ao compartilhar informações pessoais com softwares de IA. Os sistemas podem usar suas entradas para treinamento, e as empresas podem ter acesso ao que você insere como entrada.

Ética: Pergunte a si mesmo: para que você está usando o software de criação? Por exemplo, está pedindo a um gerador de imagens que copie o estilo de um artista vivo? Ou está usando-o em uma aula sem o conhecimento do professor?

Consentimento: Ao criar uma imagem, considere quem você está retratando. É uma paródia? Essa pessoa poderia ser prejudicada pela representação?

Divulgação: Se você compartilha suas criações de IA nas redes sociais, deixe claro que elas são geradas por computador. O que aconteceria se fossem compartilhadas mais amplamente sem essa divulgação?

Verificação de fatos: Como mencionado anteriormente, os chatbots podem cometer erros. Portanto, verifique novamente todas as informações importantes antes de postar ou compartilhar. Usando essas dicas, é possível aproveitar os benefícios dessa tecnologia de forma consciente e ética.


Publicado

em

por