Tema da Sessão: Tema 2 – Inteligência Artificial Generativa e Organização do Conhecimento

Singularidades Éticas: A Coevolução dos Sistemas de Organização do Conhecimento com IA Generativa e o Papel Transformador do Utilizador

Palavras-chave: Singularidades Éticas, IA Generativa, Organização do Conhecimento, Governança ética, Transformação do utilizador

A problemática desta investigação reside na identificação e caracterização das singularidades éticas que emergem da coevolução entre os sistemas de organização do conhecimento e a IA generativa, mediada pela participação ativa dos utilizadores. Embora estas tecnologias tenham um elevado potencial de inovação, subsiste uma lacuna no conhecimento sobre como estas singularidades se manifestam e quais são as suas implicações para a integridade e credibilidade dos processos de organização e disseminação do conhecimento. Destacam-se três desafios principais: (i) a ausência de frameworks que permitam uma avaliação rigorosa da transparência e explicabilidade dos algoritmos generativos; (ii) a dificuldade em definir os limites da intervenção humana num sistema cada vez mais automatizado; e (iii) a necessidade de desenvolver estratégias de governança ética que assegurem a equidade na produção e distribuição do conhecimento.

Perante esta problemática, o estudo define dois objetivos principais. O primeiro é desenvolver um enquadramento teórico e metodológico que permita mapear a coevolução entre os sistemas de organização do conhecimento e a IA generativa, enfatizando as singularidades éticas envolvidas neste processo. O segundo visa analisar de forma empírica o papel transformador dos utilizadores, avaliando como a sua intervenção pode mitigar riscos associados aos vieses algorítmicos, à falta de transparência e à centralização do poder decisório.

Para responder a estas questões, a investigação estrutura-se em torno da seguinte questão de investigação:

"De que forma se manifestam as singularidades éticas na coevolução entre os sistemas de organização do conhecimento e a IA generativa, e como pode a intervenção crítica dos utilizadores mitigar os desafios decorrentes deste cenário?"

A abordagem metodológica assenta numa revisão sistemática da literatura, com critérios rigorosos de seleção e análise. A pesquisa (fevereiro de 2025) foi conduzida nas bases Web of Science (WoS) e SCOPUS, utilizando como expressão de pesquisa: ("ethics" OR "ethical singularities" AND "knowledge organization" OR "coevolution of knowledge organization systems" AND "generative artificial intelligence" OR "generative AI" AND "user" OR "user transformation"). Na WoS, a pesquisa inicial recuperou 455 artigos, refinados com critérios de área temática (Information Science Library Science), acesso aberto e período entre 2020 e 2025, enquanto na SCOPUS foram obtidos 14 artigos. Após triagem com Rayyan.ai, eliminaram-se 2 documentos duplicados e, do total de 467 artigos, selecionaram-se 65 para análise, conforme critérios de elegibilidade previamente definidos.

Os resultados preliminares sugerem que a IA generativa desafia os modelos tradicionais de categorização e validação do conhecimento, exigindo um novo quadro regulatório que equilibre inovação e supervisão humana (Bradley, 2022). A falta de mecanismos de auditoria algorítmica eficazes compromete a fiabilidade dos conteúdos gerados, aumentando o risco de viés sistemático e desinformação (Heder, 2020). Além disso, a capacitação dos utilizadores em literacia algorítmica surge como um fator determinante para a transparência e a participação ativa na curadoria da informação (Kautonen & Gasparini, 2024).

Conclui-se que a integração de princípios éticos operacionais, como auditoria algorítmica contínua, transparência nos processos de decisão e participação dos utilizadores, é essencial para garantir uma organização do conhecimento justa, acessível e eticamente responsável (Stahl & Eke, 2024). O estudo propõe um modelo de governança híbrida, combinando supervisão regulatória com mecanismos de validação descentralizados, de modo a mitigar riscos e maximizar o potencial transformador da IA generativa. Estes contributos posicionam a investigação como um elemento-chave no debate interdisciplinar sobre ética, tecnologia e a evolução da organização do conhecimento na era digital.