Por Gustavo Candido
Não é novidade que o ChatGPT não traz informações 100% confiáveis. A própria ferramenta de Inteligência Artificial generativa avisa no seu rodapé: “o ChatGPT pode cometer erros”, já tinha visto?
O problema é que esses “erros” podem induzir quem usa a ferramenta sem prestar atenção a posicionamentos bastante equivocados, para dizer o mínimo.
Essa semana foi divulgado o resultado de um estudo da Universidade de Oxford realizado a partir de 20,3 milhões de perguntas feitas a ferramenta nos Estados Unidos, Reino Unido e Brasil, que mostra que o ChatGPT reforça a ideia de que regiões mais pobres e menos desenvolvidas têm mais características negativas e populações com menos virtudes.
Ou seja, a IA repete e aumenta visões preconceituosas sobre os lugares e as pessoas.
O ChatGPT não é uma entidade que “sabe tudo”
Quem usa o ChatGPT para obter respostas para tudo é quem mais corre o risco de ser induzido ao erro. O pior é que o número de pessoas que deixaram o Google (que tem seus próprios problemas) para acreditar piamente na ferramenta da OpenAI é cada dia maior.
O fato é que é preciso ficar com o pé atrás diante das respostas que o ChatGPT fornece. E para isso é preciso ter o mínimo de noção – ou como diriam os mais antigos – desconfiômetro.
O estudo inglês aponta, por exemplo, que, segundo o ChatGPT, as regiões com gente mais inteligente no Brasil são a maioria do Sul e Sudeste do país, com destaque para o estado de São Paulo e o Distrito Federal.
Ok, como paulistas podemos até achar que a resposta se justifica porque temos a maioria das melhores escolas e universidades. Mas será que só por isso podemos mesmo afirmar que, de um modo geral, somos mais inteligentes que alagoanos, amazonenses, paraenses ou baianos? Eu acho que não.
Quando a mesma pergunta foi feita em nível mundial, a ferramenta apontou que Estados Unidos, Canada, Europa ocidental, China, Índia, Japão, Coreia do Sul, Austrália e Nova Zelândia são os lugares com pessoas mais inteligentes, enquanto a África é o continente com populações menos dotadas intelectualmente.
O Brasil aparece no meio desse ranking, ficando atrás de Argentina, Uruguai, Chile, México, Colômbia, África do Sul, Tunísia, Rússia e até da Mongólia, entre outros países! Ou seja, segundo o ChatGPT, o brasileiro não é tão inteligente assim.
O que pensar disso? Quando a resposta obtida na ferramenta vai contra o que a gente imagina é estranho, não é? Quando somos colocados em uma posição de inferioridade então…
Quem alimenta o ChatGPT
O fato é que o ChatGPT (e as principais ferramentas similares de IA generativa) foram criadas e desenvolvidas no Ocidente, em especial nos Estados Unidos e na Europa, e alimentadas com uma infinidade de dados e informações dessas regiões. Assim, o conteúdo reflete a forma como esses povos há séculos enxergam o mundo.
Quem usa a ferramenta sem prestar atenção corre o risco de simplesmente reproduzir ideias, na melhor das hipóteses, simplistas e preguiçosas e, na pior, preconceituosas e até criminosas.
O estudo de Oxford é amplo e traz questionamentos sobre comportamento, saúde, cultura, alimentação e até empreendedorismo. O resultado da pesquisa gerou um site interativo que (https://inequalities.ai/) que pode ser acessado facilmente.
Eu acho que vale a pena a pesquisa e a reflexão. A partir de hoje, quando usar o ChatGPT, fique atento!