ChatGPT e outras IAs transformarão a pesquisa científica: reflexões sobre seus usos

O artigo, de Rafael Cardoso Sampaio (fundador do <labiia_lab>) e mais oito autores, publicado na Revista de Sociologia e Política (2024), é um ensaio que reflete sobre as transformações que o ChatGPT e outras inteligências artificiais generativas podem causar na pesquisa científica — com atenção especial às ciências humanas e sociais. Com base em revisão narrativa da literatura e na análise de ferramentas de IA acadêmicas disponíveis em 2023, discute usos, consequências, riscos e paradoxos dessas tecnologias.

Principais pontos

Como funcionam os LLMs: para entender os grandes modelos de linguagem, o texto explica três conceitos — aprendizado de máquina, o método Transformers (baseado em atenção, em que cada elemento do texto é representado como vetor em relação aos demais) e a importância dos dados massivos. Os autores comparam os LLMs a “um papagaio” que prevê palavra por palavra com base em probabilidade, o que explica fenômenos como as alucinações (respostas sintaticamente possíveis, mas factualmente falsas) e os vieses herdados dos dados de treinamento e dos desenvolvedores.

Usos na pesquisa (primeira parte): o ensaio mapeia ferramentas de IA para seis etapas do fazer científico:

• Busca e seleção de literatura: migração da busca booleana para busca semântica por perguntas, com ferramentas como Perplexity, SciSpace, Elicit e Consensus (que indica o estado de “consenso” sobre uma questão), e mapas de citação como Connected Papers, Litmaps e Research Rabbit.
• Leitura: possibilidade de “conversar” com PDFs e analisar vários artigos simultaneamente (ChatPDF, Humata, My Reader, Scholarcy), além da quebra de barreiras linguísticas.
• Análise de dados e programação: o advanced data analysis (code interpreter) do GPT-4 e ferramentas como Rows e Wolfram, que reduzem a exigência de programação em R e Python.
• Escrita acadêmica: desde correções gramaticais até copilotos que reescrevem e expandem texto (SciSpace, Grammarly).
• Tradução: LLMs entregam traduções mais fiéis ao tom acadêmico que o Google Tradutor, apontando para uma possível “ciência multilíngue”.
• Apresentação de dados: geração automática de visualizações e de slides (Tome, Gamma), num momento em que o “publish or perish” cede lugar ao “communicate or perish”.
  

Riscos e paradoxos (segunda parte):

• Autoria e plágio: dilemas não resolvidos sobre o que é texto humano ou da máquina; editoras como Springer-Nature, Elsevier e Taylor & Francis limitam o uso ao aprimoramento textual com supervisão humana, e há consenso de que a IA não pode ser autora (não se responsabiliza pelo conteúdo). Os detectores de IA disponíveis ainda não são eficazes.
• Integridade científica: falta de transparência dos algoritmos e a atualização constante dos modelos (sem preservar versões anteriores) prejudicam a replicabilidade, exigindo supervisão humana rigorosa e explicitação do uso (nome, versão, data e prompts).
• Restrição do leque de possibilidades: o risco de a primeira resposta da IA ser tomada como “verdade”, ocultando dissensos, e de reforço de desigualdades, já que as ferramentas priorizam a produção anglo-saxã e europeia — o que pode prejudicar as humanidades e a pesquisa qualitativa, gerando uma “cultura fast-food” de textos nunca lidos pelo pesquisador.
• Paradoxo da produção de conhecimento: teremos pesquisadores “menos treinados” que, ainda assim, realizarão tarefas mais rápidas, numa “inteligência estendida” (Ito) distribuída entre humanos e máquinas; mas as IAs apenas rearranjam conhecimento já existente, concentram poder nas empresas que as controlam e podem gerar uma enxurrada de “lixo acadêmico” para revistas predatórias.
  

Conclusão

Os autores reconhecem as limitações do ensaio (de natureza reflexiva, não verificando empiricamente a adoção real das ferramentas) e sugerem pesquisas futuras sobre como a IA está sendo integrada às práticas acadêmicas. Defendem que apenas negar ou proibir as IAs não é a saída — o caminho é aprofundar o debate. Argumentam que governos e instituições precisam estabelecer políticas e diretrizes claras, com padrões éticos, transparência e colaboração internacional, voltadas especialmente às necessidades do Sul Global. Criticam o vácuo regulatório brasileiro (a Estratégia Brasileira de IA falharia em definições e funções) e notam que, dezoito meses após o lançamento do ChatGPT, órgãos como Capes, MEC e CNPq ainda não tinham diretrizes sobre o uso dessas ferramentas na pesquisa. Os autores também declaram, ao final, que apenas refinaram alguns trechos (como o resumo) com auxílio de IA, assumindo total responsabilidade pelo conteúdo.