Resumo:

Este trabalho pretende apresentar uma sistematização das questões éticas na Organização do Conhecimento tendo como eixos paradigmáticos o estudo dos Sistemas de Recomendação e da Inteligência Artificial Generativa. Partindo de uma revisão crítica da literatura visa refletir sobre as implicações éticas e as contribuições que a Organização do Conhecimento, enquanto campo de estudo, pode trazer ao debate ético transdisciplinar contemporâneo.

Palavras-Chave: Ética; Inteligência Artificial Generativa; Sistemas de Recomendação; Organização do Conhecimento.

Tendo por base um corpus de investigação sobre os princípios éticos na Inteligência Artificial (Ashok, et al., 2022; Fjeld, et.al., 2020; COMEST 2017; 2021; Morley, et al., 2020; Floridi, et al., 2018, 2019; Jobin, et al., 2019; GPAN IA (2019); Bleher & Braun, 2023; UNESCO, 2023; Panai, 2024) relacionam-se as questões éticas com a Organização do Conhecimento (OC), aplicadas aos Sistemas de Recomendação (SR) e à Inteligência Artificial Generativa (IA GEN). O percurso investigativo proposto congrega, além disso, a organização intelectual ou cognitiva do conhecimento e a própria organização social do conhecimento (Hjørland, 2008, 2016, 2023).

Inicialmente, e de forma sumária, apresenta-se o panorama dos princípios éticos na Inteligência Artificial para, em seguida, se aprofundarem as noções de SR e IA GEN, no contexto das suas implicações teóricas e práticas na OC. Este percurso conduz ao exercício de mapeamento de um bloco conceptual, a partir do qual são analisadas e debatidas as questões éticas que se desenham na OC.

Objetivos:

O estudo tem como objetivo geral a sistematização das questões éticas emergentes na OC, no contexto dos SR e da IA GEN. Como objetivos específicos pretende-se identificar os principais desafios éticos na OC, avaliar as implicações éticas dos SR e explorar os desafios éticos da IA GEN.

Metodologia:

Para responder à questão de investigação que norteia este trabalho - que questões éticas se apresentam à OC ao estudar os SR e a IA GEN - adotou-se uma abordagem metodológica qualitativa, de natureza exploratória, descritiva/interpretativa. O estado da arte é suportado pelos resultados da pesquisa bibliográfica na Web of Science, Library & Information Science Source, b-on e Scopus. Num primeiro momento, os artigos recuperados foram analisados - título, palavras-chave e resumo. Posteriormente, os dados foram sistematizados, eliminando-se os duplicados e os artigos não pertinentes. À medida que se aprofundaram as leituras, procedeu-se à inclusão de pistas bibliográficas que se revelaram frutíferas para a investigação. Por fim, procedeu-se à análise crítica e sistematização, no sentido de perceber as interrogações éticas e as metamorfoses nas práticas e resultados do universo do conhecimento.

Resultados:

Os resultados preliminares evidenciam que ao adotar uma estratégia interdisciplinar é possível fazer o mapeamento das questões que emergem na OC, consubstanciando-se nos seguintes blocos conceptuais: centralidade da pessoa humana; coevolução e feedback nos ecossistemas humano – IA; responsabilidade e governação; universo de desinformação (deepfakes); viés algorítmico e reforço de estereótipos e preconceitos; equidade, discriminação e desigualdades; proteção de dados, privacidade e identidade; integridade da investigação;  impacto nos critérios de evidência e verificação da verdade; personalização do conhecimento e os seus impactos na diversidade informacional; bolhas informacionais e câmaras de eco; estudos empíricos versus estudos de simulação; IA GEN e a criatividade humana; direitos autorais e propriedade intelectual;  precisão, fiabilidade e relevância da informação; perda de proveniência e contexto da informação; problemática dos dados sintéticos e autoridade epistémica.

Conclusões:

Neste vasto universo, onde confluem múltiplos paradigmas, a seleção dos constructos SR e IA GEN permitiu o mapeamento conceptual preliminar para uma posterior análise crítica das questões éticas que se colocam à OC.

O impregnar da IA nas mundividências contemporâneas torna fundamental o questionamento dos pressupostos teóricos, epistemológicos e ontológicos que subjazem à OC, obrigando a um movimento de reflexão, no sentido de se interrogarem pressupostos, critérios e fundamentos a partir dos quais os Processos de Organização do Conhecimento (POC) e os Sistemas de Organização do Conhecimento (SOC) são pensados e desenvolvidos (Ibekwe-SanJuan & Bowker, 2017).

Face à opacidade algorítmica na sua tripla dimensão – dos sistemas proprietários e empresariais; da tecnicidade que implica uma literacia de alto nível; e do desfasamento entre a otimização matemática da aprendizagem automática e o raciocínio à escala humana, de interpretação semântica (Burrel, 2016) – o papel da OC poderá ser decisivo.

O universo ético, convocado no terreno da IA, implica uma metodologia hermenêutica de reconfiguração das teorias do conhecimento, da informação, do sujeito, do objeto, da relação do eu com o mundo, da liberdade, dignidade, autonomia humana, responsabilidade e, em última instância, da Democracia participativa.

A partir desta análise surgem potenciais pistas para futuras investigações, com os contributos do estado atual da literatura, enfatizando-se a ética como desafio seminal para a Organização do Conhecimento.

Referências Bibliográficas:

Ashok, M.; Madan, R.; Joha, A.; Sivarajah, U. (2022) Ethical framework for Artificial Intelligence and Digital Technologies. International Journal of Information Management, Volume 62, 1-17.

https://doi.org/10.1016/j.ijinfomgt.2021.102433

Bleher, H.; Braun, M. (2023). Reflections on Putting AI Ethics into Practice: How Three AI Ethics Approaches Conceptualize Theory and Practice. Science Engineering Ethics 29, 21. https://doi.org/10.1007/s11948-023-00443-3

Burrell, J. (2016). How the machine ‘thinks’: Understanding opacity in machine learning

algorithms. Big Data & Society, 3(1), 1-12.

https://doi.org/10.1177/2053951715622512

COMEST - World Commission on the Ethics of Scientific Knowledge and Technology. (2017). Report of COMEST on Robotics Ethics. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000253952

COMEST - World Commission on the Ethics of Scientific Knowledge and Technology. (2021). Report on the ethical implications of the Internet of Things (IoT). UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000375304

Fjeld J.; Achten N.; Hilligoss H.; Nagy A.; Srikumar M. (2020). Principled artificial intelligence: Mapping consensus in ethical and rights-based approaches to principles for AI. Berkman Klein Center Research Publication Nº. 2020-1.

http://dx.doi.org/10.2139/ssrn.3518482

Floridi L.; Cowls J.; Beltrametti, M.; Chatila, R.; Chazerand, P.; Dignum, V.; Luetge, C.; Madelin, R.; Pagallo, U.; Rossi, F.; Schafer, B.; Valcke, P.; Vayena, E. (2018). AI4People-An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations. Minds Machine. 28(4), 689-707.

https://doi.org/10.1007/s11023-018-9482-5

Floridi, L.; & Cowls, J. (2019). A Unified Framework of Five Principles for AI in Society. Harvard Data Science Review, 1.

https://doi.org/10.1162/99608f92.8cd550d1

Floridi, L. (2023). The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford Academic, 2023.

https://doi.org/10.1093/oso/9780198883098.001.0001

GPAN IA - Grupo de Peritos de Alto Nível sobre a Inteligência Artificial. (2019). Orientações éticas para uma IA de Confiança. Comissão Europeia.

https://digital-strategy.ec.europa.eu/pt/library/ethics-guidelines-trustworthy-ai

Hjørland, B. (2008). What is Knowledge Organization? Knowledge Organization, 35(2/3), 86-101.

Hjørland, B. (2016). Knowledge Organization (KO). Knowledge Organization, 43(6), 474-484.

Hjørland, B. (2023). Education in Knowledge Organization.  Knowledge Organization, 50(3), 160-181.

Ibekwe-SanJuan, F., & Bowker, G. C. (2017). Implications of Big Data for Knowledge

Organization. Knowledge Organization, 44(3), 187-198.

Jobin, A., Ienca, M.; Vayena, E. (2019). The Global Landscape of AI Ethics Guidelines. Nature Machine Intelligence. 1, 1-42.

https://doi.org/10.1038/s42256-019-0088-2

Morley J; Floridi L; Kinsey L; Elhalal A. (2020) From What to How: An Initial Review of Publicly Available AI Ethics Tools, Methods and Research to Translate Principles into Practices. Science and Engineering Ethics. 26(4), 2141-2168.

https://doi.org/10.1007/s11948-019-00165-5

Panai, E. (2024). The latent space of data ethics. AI & Society 39, 2647–2665. https://doi.org/10.1007/s00146-023-01757-3

UNESCO - Organização das Nações Unidas para a Educação, a Ciência e a Cultura. (2023). Guia para a IA generativa na educação e na pesquisa

https://unesdoc.unesco.org/ark:/48223/pf0000390241