VIÉS ALGORÍTMICO E A NECESSIDADE DE INTELIGÊNCIA ARTIFICIAL ÉTICA EM SISTEMAS DE RECOMENDAÇÃO DE SERVIÇOS PÚBLICOS: UMA ANÁLISE À LUZ DA EXPERIÊNCIA DE MODELAGEM PARA O GOVERNO DIGITAL

Resumo

Este artigo, baseado no estudo apresentado na dissertação “Modelagem e Implementação de Sistemas de Recomendação de Serviços Públicos: Personalizando o Governo Digital para o Cidadão”, explora a aplicação de Sistemas de Recomendação (SR) impulsionados por Inteligência Artificial (IA) no contexto do governo digital, com foco particular nos desafios éticos e no
risco de viés algorítmico. A dissertação propôs e desenvolveu um modelo híbrido de SR para personalizar o acesso a serviços públicos, enfrentando obstáculos como a sobrecarga de informações para o cidadão e a falta de governança de dados adequada na administração pública. Embora o estudo primário tenha focado na viabilidade técnica e legal (sob a Lei Geral de Proteção de
Dados - LGPD) da personalização, ele levantou a necessidade de tratar cuidadosamente as implicações éticas. Este artigo aprofunda essa discussão, analisando como os desafios identificados na dissertação, como a dependência de dados históricos de interação do cidadão com os serviços e a estruturação do portfólio de serviços, podem introduzir vieses. Discute a importância de uma abordagem proativa para garantir que os SRs em serviços públicos sejam justos, transparentes e inclusivos, minimizando a discriminação e promovendo equidade no acesso à informação e aos serviços governamentais. A metodologia utilizada é a análise de conteúdo da dissertação, correlacionando seus achados com os princípios de IA ética e mitigação de viés algorítmico.
Palavras-chave: Inteligência Artificial. Sistemas de Recomendação. Governo Digital. Viés Algorítmico. Ética em IA.

Abstract: This article, based on the study presented in the dissertation “Modeling and Implementation of Public Service Recommendation Systems: Personalizing Digital Government for the Citizen”, explores the application of Recommendation Systems (RS) powered by Artificial Intelligence (AI) in the context of digital government, with a particular focus on ethical challenges and the risk of algorithmic bias. The dissertation proposed and developed a hybrid RS modelto personalize access to public services, addressing obstacles such as information overload for citizens and the lack of proper data governance in public administration. While the primary study focused on the technical and legal feasibility (under the General Data Protection Law – LGPD) of personalization, it raised the need to carefully address ethical implications. This article deepens that discussion by analyzing how the challenges identified in the dissertation–such as reliance on citizens’ historical interaction data and the structuring of the service portfolio–can introduce biases. It discusses the importance of a proactive approach to ensure that RS in public services are fair, transparent, and inclusive,minimizing discrimination and promoting equity in access to government information and services. The methodology employed is a content analysis of the dissertation, correlating its findings with the principles of ethical AI and the mitigation of algorithmic bias.

Keywords: Artificial Intelligence. Recommendation Systems. Digital Government. Algorithmic Bias. AI Ethics.