Uma pesquisa recente revelou um dado surpreendente: uma grande parte dos usuários mais assíduos do ChatGPT, da OpenAI, tem ideias bastante equivocadas sobre o chatbot.
De acordo com um comunicado da Universidade de Waterloo, na Inglaterra, onde a principal autora do estudo, Clara Combatto, é professora de psicologia, dois terços das pessoas pesquisadas acreditam, de forma errônea, que o ChatGPT é consciente e muitos também acham que o chatbot pode ter sentimentos e memórias.
Realidade versus Percepção
Para começar, é importante esclarecer que a IA não possui consciência, sentimentos ou memórias. Na verdade, como diz Miguel Nicolelis, ela não é nem artificial e nem inteligente.
No entanto, a crença generalizada de que o ChatGPT tem essas capacidades adiciona uma camada intrigante à dinâmica da indústria de IA.
O estudo, publicado na revista Neuroscience of Consciousness e coautorado pelo neurocientista cognitivo Stephen Fleming, do University College London, sugere que a maioria dos usuários realmente acha que os modelos de linguagem avançados (LLMs) são conscientes.
E quanto mais as pessoas usam esses modelos, mais propensas são a acreditar nisso: “Enquanto a maioria dos especialistas nega que a IA atual possa ser consciente”, diz Combatto no comunicado de imprensa, “nossa pesquisa mostra que, para a maioria do público em geral, a consciência da IA já é uma realidade”.
A pesquisa
Os pesquisadores recrutaram 300 pessoas nos Estados Unidos e fizeram uma série de perguntas sobre se elas acreditavam que os large language models (LLM) tinham capacidade para consciência ou outros estados humanos subjetivos, como emoções, planejamento e raciocínio. O estudo também perguntou com que frequência os participantes usavam o ChatGPT.
O estudo revelou que os usuários frequentes do chatbot desenvolveram espontaneamente uma “teoria da mente”, ou seja, começaram a ver a IA como uma entidade pensante e sensível ao longo do tempo. “Esses resultados demonstram o poder da linguagem”, afirma Combatto, “pois uma simples conversa pode nos levar a pensar que um agente que parece e funciona de maneira muito diferente de nós pode ter uma mente”.
Implicações para o Futuro da IA
Essas descobertas são, de certa forma, surpreendentes, e podem ter implicações importantes para as futuras medidas de segurança da IA.
Combatto explica que a consciência está relacionada a habilidades intelectuais essenciais para a responsabilidade moral, como a capacidade de formular planos, agir intencionalmente e ter autocontrole.
Portanto, as atitudes públicas sobre a consciência da IA devem ser uma consideração chave no design e na regulamentação da IA para uso seguro, juntamente com o consenso dos especialistas.
Embora ainda seja necessário mais pesquisa para determinar quão difundidas essas crenças realmente são, parece que muitos usuários estão alinhados com a pequena minoria de especialistas em IA que também acredita na possibilidade de que os modelos de linguagem grandes tenham se tornado sencientes.
A ilusão de que a IA pode ter consciência e sentimentos é um reflexo do poder da linguagem e da interação humana com a tecnologia. Isso só destaca o que temos falado por aqui no Lambrequim: a necessidade de um diálogo contínuo sobre as capacidades e limitações da IA, além de uma abordagem cuidadosa na sua regulamentação e desenvolvimento.