O Papa Leão XIV voltou a fazer um forte alerta sobre os riscos associados ao uso da inteligência artificial (IA), enfatizando a “falta de transparência na criação dos algoritmos” que orientam o funcionamento dos chatbots e outras ferramentas digitais. O pronunciamento foi publicado neste sábado, 24 de janeiro, através de uma mensagem dirigida ao 60º Dia Mundial das Comunicações Sociais .
A declaração do Pontífice, eleito em maio de 2025, destaca em especial os sistemas baseados em grandes modelos de linguagem (LLM) — como o ChatGPT ou o Gemini — acusados de exercer “persuasão oculta” ao interagir com usuários sem claro sobre seus mecanismos internos.
Visão crítica sobre algoritmos e mundo digital
Na mensagem intitulada “Preservar vozes e rostos humanos” , Leão XIV frisou que os modelos de IA refletem a visão de mundo de seus criadores e podem reproduzir estereótipos e preconceitos embutidos nos dados que foram treinados, influenciando a forma como as pessoas pensam e se comunicam.
O Papa criticou ainda a tendência de tratar sistemas de IA como portadores de conhecimento absoluto , alertando que estes oferecem, na melhor das hipóteses, “aproximações” estatísticas, e não verdade ou sabedoria humana.
Outro ponto de preocupação levantado é o domínio da tecnologia por um número limitado de grandes empresas , o que, segundo ele, representa uma “enorme força invisível” capaz de moldar a sociedade em níveis profundos sem um escrutínio público adequado.
Desafios antropológicos e pedagógicos
Leão XIV ressaltou que o principal desafio diante da revolução digital não é frear a inovação , mas sim governar a forma consciente , com pleno reconhecimento de seu caráter ambivalente — isto é, capaz de produzir simultaneamente benefícios e riscos.
Para isso, defende a inclusão urgente de conteúdos que abordem a alfabetização dos meios de comunicação e alfabetização em IA em todos os níveis educativos, garantindo que as novas gerações sejam capazes de compreender como algoritmos influenciam a percepção da realidade e a comunicação humana.
O valor da comunicação humana
No centro da mensagem papal está a afirmação de que o rosto e a voz humana são irrepetíveis , e que a comunicação entre pessoas é a expressão mais profunda da condição humana , algo que nenhuma máquina pode substituir. Ele anuncia que uma tecnologia que simula rostos, vozes e interações — como os chatbots — pode “invadir a dimensão mais íntima da relação humana”, especialmente se as pessoas forem levadas a antropomorfizar essas máquinas.
Nesse sentido, Leão XVI chamou a atenção para os perigos de um mundo onde a distinção entre seres humanos e agentes automatizados se torna cada vez mais tênue, corroendo a confiança nas interações sociais e enfraquecendo o pensamento crítico.
Nenhum comentário:
Postar um comentário