Faculdade de Letras da Universidade do Porto - OCS, VII Congresso ISKO Espanha e Portugal / XVII Congresso ISKO Espanha

Tamanho Fonte: 
Entre algoritmos e epistemologia: desafios éticos no uso da Inteligência Artificial Generativa na revisão sistemática de literatura
Cristiane Mendes Netto, Lucineia Souza Maia, Gercina Angela Lima

Última alteração: 2025-06-17

Resumo


INTRODUÇÃO

A inteligência artificial generativa vem transformando as práticas de pesquisa científica, não obstante, diferentes soluções tecnológicas têm surgido para apoiar as atividades relacionadas ao processo de revisão de literatura (Silva Junior; Dutra, 2021). Neste trabalho consideramos as etapas da Revisão Sistemática de Literatura (RSL), a qual compreendemos como um método rigoroso e sistemático para sintetizar e avaliar a literatura sobre um determinado tema, visando identificar as principais conclusões e lacunas no conhecimento (Brito e Martins, 2023; Cavalcante e Oliveira, 2020; Okoli, 2015). Essa abordagem é fundamental na área acadêmica, pois permite a compreensão do estado atual do conhecimento e a identificação de direções futuras para a pesquisa. Com o avanço de ferramentas como Elicit, Research Rabbit, Consensus, entre outras, pesquisadores encontram novas formas de buscar, sintetizar e compreender o estado da arte de determinado tema. Por exemplo, Li et al. (2024) desenvolveram uma solução de inteligência artificial generativa para RSL que, no seu contexto de uso, reduziu potencialmente o tempo, custo e erros humanos nessa atividade. No entanto, essa automatização carrega consigo dilemas éticos e epistêmicos que cabem ser abordados e analisados. Este trabalho tem como objetivo refletir criticamente sobre o uso da inteligência artificial generativa na prática da RSL, com foco nos desafios éticos e epistemológicos implicados pela mediação algorítmica da informação científica. São analisadas as implicações do uso dessas ferramentas para a organização do conhecimento no contexto da pesquisa acadêmica, considerando aspectos como autoria, confiabilidade, viés algorítmico e critérios de seleção de fontes. O trabalho também busca compreender as transformações no papel do pesquisador diante da crescente automatização das etapas de busca, leitura e síntese textual.

METODOLOGIA

Como metodologia, adota-se uma abordagem qualitativa, de caráter exploratório e analítico. A partir de um mapeamento teórico-conceitual sobre a aplicação da inteligência artificial generativa em atividades de RSL, apresenta-se uma reflexão crítica fundamentada na literatura da Ciência da Informação, especialmente nas discussões sobre mediação algorítmica, competências informacionais e digitais e, ética da informação.

RESULTADOS

A mediação algorítmica, conforme apresentam Rangel e Martins (2024), está relacionada à diversidade de informações disponíveis, operando por meio da personalização de conteúdo, sugestões automatizadas e adaptação de interfaces digitais com o uso de algoritmos e inteligência artificial. Esse processo transforma profundamente a forma como os indivíduos interagem com o conhecimento e a informação no ambiente digital, visto a intervenção automatizada de sistemas computacionais na seleção e exibição de informação. No trabalho de Carvalho, Aguiar Filho e Dutra (2025) os autores abordam sobre as  competências  em  informação  e  digitais  necessárias para   atuar   em   ambientes   digitais. No âmbito das competências informacionais, destacam a importância de saber buscar, selecionar e estruturar as informações necessárias, aliada à capacidade de navegar com eficiência pelo ambiente digital e aproveitar as possibilidades oferecidas pela internet e ter uma postura aberta às inovações. Já as competências digitais abrangem habilidades como interpretar representações visuais, transformar essas informações em produções originais, localizar e analisar conteúdos relevantes, construir conhecimento por meio de navegação não linear, compreender as normas que regem o espaço digital e aplicar esse conhecimento na comunicação online. Com relação à ética das ferramentas de inteligência artificial, Khan et al. (2021) destacam vinte e um princípios. Desses, consideramos aqueles que devem ser evidenciados em uma RSL: transparência, efetividade, acurácia, autonomia e interpretabilidade. Há de se lembrar que, os algoritmos dessas soluções são uma camada do sistema que codifica o seu comportamento. Logo, a ferramenta computacional responde de acordo com a proposta embutida do seu algoritmo. Assim, um algoritmo pode tendenciar uma tomada de decisão do usuário. Por fim, os resultados indicam que o uso de inteligência artificial generativa na revisão de literatura pode ampliar a produtividade dos pesquisadores, facilitar a sistematização de grandes volumes de dados e promover uma organização mais ágil de campos temáticos. No entanto, também evidenciam importantes limitações, como a opacidade nos critérios utilizados pelas ferramentas para selecionar e sintetizar conteúdos, a reprodução de vieses presentes nos dados de treinamento, o risco de uniformização de perspectivas e o apagamento de produções de base local ou em idiomas diversos do inglês. Além disso, levanta-se a preocupação com o enfraquecimento do exercício da leitura crítica e da curadoria humana, competências fundamentais à construção epistemológica da pesquisa científica.

CONSIDERAÇÕES FINAIS

Como conclusões, tem-se que o uso ético e responsável da inteligência artificial generativa na RSL exige a elaboração de diretrizes que destaquem os princípios éticos, respeitando a diversidade de fontes, o pluralismo epistemológico e a autonomia do pesquisador. O uso de ferramentas de inteligência artificial generativa não deve substituir a análise crítica e reflexiva, mas pode, se bem orientada, atuar como suporte à RSL.