A morte do papa Francisco, ocorrida nesta segunda-feira, 21, silenciou uma das principais vozes do mundo na inteligência artificial (IA). Mesmo sem saber usar computadores, o pontífice se tornou nos últimos anos um dos principais líderes na busca pelo desenvolvimento ético e seguro da tecnologia — antes mesmo da popularização do ChatGPT, lançado pela OpenAI em novembro de 2022.
O interesse pela tecnologia teve início em 2018, quando algumas das principais arquiteturas de IA já impressionavam e assustavam especialistas e líderes de Estado. Na época, o frade Paolo Benanti, principal especialista em IA do Vaticano, fez um discurso sobre ética e IA, que chamou a atenção do pontífice. Desde então, o refrão repetido por Francisco era de que a tecnologia pode ampliar o potencial humano, mas também ampliar as nossas diferenças. Em um discurso em 2023, afirmou que a tecnologia é “tão fascinante quanto aterrorizante” e que pode mudar “a maneira como concebemos nossa identidade como seres humanos”.
Entre 2019 e 2020, o Vaticano fez alertas sobre usos potencialmente antiéticos, incluindo sistemas de reconhecimento facial utilizados contra manifestantes em Hong Kong e algoritmos para processamento de refugiados, na Alemanha, onde testes linguísticos alimentados por IA foram usados para determinar se os requerentes de asilo estavam mentindo sobre seus locais de origem.
Com essa visão, ele conquistou espaço para discutir com as Big Techs os rumos da tecnologia. Em 2020, o Vaticano apoiou a publicação de um documento batizado de Chamado de Roma para a Ética da IA, que contou também com nomes como Microsoft e a IBM, e surgiu como um importante documento sobre as melhores práticas de IA. Além disso, Benanti garantiu um lugar no Órgão Consultivo das Nações Unidas sobre IA e se tornou um ator importante na elaboração de uma política nacional de IA para a Itália.
Leia também
No entanto, foi após a popularização da IA generativa, que Francisco assumiu de vez a liderança na discussão dos rumos tecnológicos — uma situação que ganhou contornos extremamente pessoais no começo de 2023. Naquele ano, uma imagem gerada por IA que reproduzia o papa vestindo uma jaqueta branca de luxo se tornou viral, mostrando a rapidez com que imagens realistas de deepfake podem se espalhar online. A imagem já é um dos mais célebres deepfakes na história da tecnologia.
Assim, em sua mensagem anual para o Dia Mundial da Paz de 2024, que a Igreja Católica celebra todo dia 1º de janeiro, Francisco pediu um tratado internacional para garantir que a IA seja desenvolvida e usada de forma ética, argumentando que os riscos da tecnologia sem os valores humanos de compaixão, misericórdia, moralidade e perdão são muito grandes.
“Não se deve permitir que os algoritmos determinem como entendemos os direitos humanos, que deixem de lado os valores humanos essenciais de compaixão, misericórdia e perdão, ou que eliminem a possibilidade de um indivíduo mudar e deixar seu ado para trás”, escreveu ele.
Ele alertou sobre as profundas repercussões na humanidade dos sistemas automatizados que classificam ou categorizam os cidadãos. Além das ameaças aos empregos, Francisco observou que essa tecnologia poderia determinar a confiabilidade de um candidato para receber financiamento, o direito de um migrante de receber asilo político ou a chance de reincidência de alguém anteriormente condenado por um crime.
Na mesma mensagem, ele denunciou as multinacionais que devastaram os recursos naturais da Terra e empobreceram os povos indígenas que vivem deles. A liberdade e a coexistência pacífica estão ameaçadas “sempre que os seres humanos cedem à tentação do egoísmo, do interesse próprio, do desejo de lucro e da sede de poder”, escreveu ele.
Ele também embarcou em uma jornada para alertar líderes globais a necessidade de regulação. Em um discurso para líderes políticos, econômicos e empresariais na edição de 2024 do Fórum Econômico Mundial em Davos, na Suíça, Francisco escreveu que a IA levantou “grandes preocupações sobre seu impacto no papel da humanidade”. E em uma reunião do G7 na Itália, em 2023, Francisco disse aos líderes mundiais que a IA toma decisões que não são “nem objetivas nem neutras”.
Na ocasião, Francisco foi o primeiro papa a participar do G7 e decidiu tornar a IA um dos principais assuntos do seu discurso. Ele disse que a tecnologia tem potencial para ser positiva por sua capacidade de “democratização do o ao conhecimento”, de “avanço exponencial da pesquisa científica” e da redução do “trabalho exigente e árduo”. Mas também tem potencial para ser negativa pela sua capacidade de gerar “maior injustiça entre nações avançadas e em desenvolvimento ou entre classes sociais dominantes e oprimidas”.
Último alerta: sombras do mal
Em janeiro deste ano, o Vaticano pediu uma supervisão constante da inteligência artificial (IA), alertando sobre o potencial para “a sombra do mal” na tecnologia, que oferece “uma fonte de oportunidades tremendas, mas também riscos profundos”. O documento foi aprovado por Francisco.
“Em todas as áreas em que os seres humanos são chamados a tomar decisões, a sombra do mal também aparece aqui”, disse o Vaticano no documento. E acrescentou: “A avaliação moral dessa tecnologia precisará levar em conta como ela é dirigida e usada”.
O documento alertou sobre o potencial da IA de destruir a confiança sobre a qual as sociedades são construídas, devido ao seu potencial de disseminar informações errôneas. “As informações falsas gerada pela IA pode gradualmente minar as bases da sociedade”, diz o documento. “Essa questão exige uma regulamentação cuidadosa, pois a desinformação - especialmente por meio de mídia controlada ou influenciada pela IA - pode se espalhar involuntariamente, alimentando a polarização política e a agitação social.
No que diz respeito ao trabalho, o documento afirma que “o objetivo não deve ser que o progresso tecnológico substitua cada vez mais o trabalho humano, pois isso seria prejudicial à humanidade”. Ele também nunca deve “reduzir os trabalhadores a meras ‘engrenagens de uma máquina’”, pois a “dignidade dos trabalhadores e a importância do emprego para o bem-estar econômico dos indivíduos, famílias e sociedades, para a segurança do emprego e salários justos, devem ser uma alta prioridade para a comunidade internacional”, conforme a IA se espalha.
O documento citou preocupações de que a IA poderia ser usada para promover um “paradigma tecnocrático”, uma crença de que os problemas do mundo poderiam ser resolvidos apenas por meios tecnológicos. “Os desenvolvimentos tecnológicos que não melhoram a vida de todos, mas criam ou pioram as desigualdades e os conflitos, não podem ser chamados de verdadeiro progresso”, diz o documento.
