Leão XIV cobra ética no uso de IA e alerta para riscos à dignidade humana

O papa Leão XIV afirma que empresas de tecnologia que desenvolvem inteligência artificial devem seguir um “critério ético” que respeite a dignidade humana. Segundo o Pontífice, a IA pode abrir novos horizontes de igualdade ou fomentar conflitos.

Em sua mensagem aos participantes da Segunda Conferência Anual sobre Inteligência Artificial, Ética e Governança Corporativa, no Palácio Apostólico do Vaticano, o Papa nos exorta a preservar a abertura humana “à verdade e à beleza”, qualidades que permitem “apreender e elaborar a realidade”. A verdadeira “sabedoria”, enfatiza, consiste em reconhecer o “verdadeiro sentido da vida”, e não a “disponibilidade de dados”.

Segundo Leão XIV a IA deve levar “em consideração o bem-estar da pessoa humana não apenas materialmente, mas também intelectual e espiritualmente”. “Nenhuma geração teve acesso tão rápido à quantidade de informações agora disponíveis através da IA”, reforçou ele. Mas “o acesso aos dados — por mais extenso que seja — não deve ser confundido com inteligência.”

O Pontífice também expressou preocupação sobre o impacto da IA no “desenvolvimento intelectual e neurológico” das crianças, escrevendo que “o bem-estar da sociedade depende de lhes ser dada a capacidade de desenvolver seus dons e capacidades concedidos por Deus.”

Inteligência Artificial e “sabedoria autêntica”: não uma mera acumulação de “dados”, mas um olhar capaz de captar “o verdadeiro sentido da vida”. Um intelecto que nenhuma máquina pode imitar, um dom a ser valorizado também com a ajuda das novas tecnologias: um “instrumento” a serviço do homem, como recordou o Papa Francisco, capaz de abrir horizontes de descobertas benéficas na ciência e na medicina, e de promover uma autêntica “igualdade”. Desde que, no entanto, não se curve a um uso “egoísta”, capaz de “fomentar conflitos e agressões”.

A segunda Conferência Anual de IA em Roma contou com representantes de líderes em IA, incluindo Google, OpenAI, Anthropic, IBM, Meta e Palantir, junto com acadêmicos de Harvard e Stanford e representantes da Santa Sé como o Arcebispo Edgar Peña Parra, chefe de gabinete papal.

A própria escolha de realizar o evento no Vaticano representa para o Pontífice uma “clara indicação” do desejo da Igreja de participar ativamente das reflexões sobre um tema que afeta diretamente “o presente e o futuro da família humana”. É “urgente”, sublinha Leão XIV, iniciar “reflexões sérias” e manter “debates contínuos” sobre a dimensão ética do desenvolvimento tecnológico, sem transcurar a necessidade de uma governança “responsável”.

Ao lado do “potencial extraordinário” que as novas tecnologias oferecem para o bem da humanidade, o Papa convida a não evitar as “questões profundas” que o rápido progresso da IA ​​coloca, em prol de um desenvolvimento verdadeiramente “justo e humano”. A tecnologia, lembra Leão XIV novamente, citando seu predecessor Francisco, é antes de tudo um “instrumento” que, por definição, se refere à inteligência, a “humana”, da qual provém e cuja força ética depende das “intenções” de quem a utiliza.

“Em alguns casos, a IA foi usada de maneiras positivas e nobres para promover mais igualdade, mas também há a possibilidade de seu uso indevido para obter vantagens egoístas às custas de outros ou, pior, para fomentar conflitos e agressões“, lebrou.

Além disso – sublinha o Pontífice – a reflexão sobre as tecnologias emergentes não pode ignorar o impacto que estas terão nas gerações futuras, cada vez mais imersas em mundos digitais, com possíveis repercussões no seu desenvolvimento “intelectual e neurológico”.

“Nossos jovens devem ser ajudados, e não impedidos, em seu caminho rumo à maturidade e à verdadeira responsabilidade. Eles são a nossa esperança para o futuro, e o bem-estar da sociedade depende da sua capacidade de desenvolver os dons e capacidades que Deus lhes concedeu e de responder às exigências dos tempos e às necessidades dos outros com um espírito livre e generoso”.

“Nunca a humanidade teve acesso a tamanha quantidade de informação como hoje, graças à IA”, observa Leão XIV. No entanto, essa disponibilidade de dados – por mais extensa que seja – não coincide com a verdadeira “inteligência”, que “implica a abertura da pessoa às questões últimas da vida e reflete uma orientação para a Verdade e o Bem”, como também recorda Antiqua et Nova.

A verdadeira sabedoria tem mais a ver com o reconhecimento do verdadeiro significado da vida do que com a disponibilidade de dados.

O Papa Leão XIV espera que cada decisão sobre IA faça parte de um necessário “aprendizado intergeracional”, que ajude os jovens a integrar a verdade em sua “vida moral e espiritual”, preparando-os para “decisões maduras” e a construir um mundo de maior solidariedade e unidade. Uma tarefa, reconhece o Papa, que está longe de ser fácil, mas “de vital importância”.

O evento aconteceu em um momento um tanto tenso para a IA, com a tecnologia avançando rapidamente e prometendo melhorar a produtividade dos trabalhadores, acelerar pesquisas e erradicar doenças, mas também ameaçando tomar empregos humanos, produzir desinformação, agravar a crise climática e criar capacidades ainda mais poderosas de armamento e vigilância.

Alguns líderes de tecnologia têm resistido a regulamentações destinadas a garantir que a IA seja usada de forma responsável, alegando que poderiam dificultar a inovação e a competição global.

Em 2020, o Vaticano organizou um evento onde líderes de tecnologia, reguladores da UE e o falecido Papa Francisco discutiram IA “centrada no ser humano”, que resultou no Chamado de Roma para a Ética na IA, um documento delineando considerações éticas para o desenvolvimento de algoritmos de IA. IBM, Microsoft e Qualcomm estavam entre os signatários que concordaram em seguir os princípios do documento.

Dois anos depois, Francisco pediu um tratado internacional para regular o uso da IA e impedir o surgimento de uma “ditadura tecnológica”. Nessa declaração – que veio meses depois que uma imagem gerada por IA do Papa Francisco usando um casaco volumoso viralizou – ele levantou preocupações sobre armas de IA e sistemas de vigilância, além de interferência eleitoral e desigualdade crescente. Em 2024, ele se tornou o primeiro papa a participar da cúpula do G7, estabelecendo a estrutura ética para o desenvolvimento da IA que ele esperava que grandes empresas de tecnologia e governos adotassem.

Quando o Papa Leão XIV se tornou líder da Igreja Católica no mês de maio deste ano, ele sinalizou que seu papado seguiria os passos de Francisco em temas de reforma da igreja e engajamento com a IA como um dos principais desafios para os trabalhadores e a “dignidade humana”.

“Em nossos dias, a igreja oferece a todos o tesouro de seu ensino social em resposta a outra revolução industrial e aos desenvolvimentos no campo da inteligência artificial que apresentam novos desafios para a defesa da dignidade humana, justiça e trabalho“, disse Leão naquele discurso de maio.

No início desta semana, Leão XlV fez referência à IA durante um discurso aos bispos italianos, falando sobre “desafios” que “colocam em questão” o respeito pela dignidade humana. “A inteligência artificial, biotecnologias, economia de dados e mídias sociais estão transformando profundamente nossa percepção e nossa experiência de vida”, afirmou ele.

“Neste cenário, a dignidade humana corre o risco de se tornar diminuída ou esquecida, substituída por funções, automatismos, simulações. Mas a pessoa não é um sistema de algoritmos: ela é uma criatura, relacionamento, mistério”, afirmou Leão XIV.

Fotos: Reprodução Vatican Media