Papa Leão XIV exige controle humano sobre decisões de guerra com IA e critica poder privado da tecnologia

O Papa Leão XIV lançou sua primeira encíclica, “Magnifica Humanitas”, abordando os crescentes desafios da inteligência artificial (IA). O documento, com quase 43 mil palavras, faz um forte apelo por regulamentação internacional para desacelerar o desenvolvimento de sistemas de IA.

Segundo o pontífice, a IA dissemina desinformação e pode levar o mundo a um caminho de “guerras intermináveis”. Ele critica a concentração de poder tecnológico nas mãos de poucas entidades privadas, que muitas vezes superam a capacidade de governos.

O Vaticano expressa preocupação com a opacidade desse poder, que pode levar a novas dependências, exclusões e desigualdades. A encíclica foi divulgada nesta segunda-feira (25) e já aponta para possíveis atritos com líderes globais, como o presidente dos EUA, Donald Trump. Conforme informação divulgada pelo Vaticano, Leão XIV enfatiza a necessidade de prudência e avaliações rigorosas na adoção da IA.

A IA e a nova face dos conflitos armados

A revolução digital está transformando a natureza dos conflitos, introduzindo formas híbridas de guerra como ciberataques e a automatização de decisões estratégicas. O Papa Leão XIV alerta que aquilo que é criado para defesa pode ser rapidamente reaproveitado para ataque, confundindo a linha entre proteção e agressão.

A IA, embora possa aprimorar a defesa de civis, também pode diminuir o limiar para o uso da força. Isso pode proteger os responsáveis da accountability e fomentar uma cultura onde o inimigo é reduzido a uma estatística e a vítima a “dano colateral”, conforme detalhado na encíclica.

Controle ético e a urgência de regulamentação

O desenvolvimento e a utilização da IA na guerra devem ser submetidos às mais rigorosas restrições éticas. O pontífice é categórico ao afirmar que “não é permitido confiar decisões letais ou irreversíveis a sistemas artificiais“.

A encíclica ressalta que a ética abstrata não é suficiente, sendo necessários marcos legais robustos, supervisão independente e um sistema político que não fuja de suas responsabilidades. A propriedade dos dados, um ponto crucial na era digital, não pode ser deixada exclusivamente nas mãos privadas, mas deve ser devidamente regulamentada.

O impacto da IA no trabalho e na democracia

Além das questões militares, “Magnifica Humanitas” aborda os desafios da IA aos direitos dos trabalhadores. A convergência de automação, robótica e IA está transformando a estrutura do trabalho, e as “novas formas” de trabalhar não são necessariamente melhores.

O Papa Leão XIV defende que a proteção das oportunidades de emprego e o papel insubstituível do indivíduo devem prevalecer. A busca por maiores lucros não pode justificar escolhas que sacrifiquem empregos de forma sistemática. A democracia, segundo o pontífice, não se resume a regras, mas a um compromisso com a verdade e o bem comum, alertando que a indiferença à verdade leva ao totalitarismo.

O poder privado e a necessidade de cooperação internacional

A encíclica critica a consolidação de uma “cultura de poder” onde recursos e capacidade de dominar ditam a agenda. Esse poder se infiltra na sociedade, altera relacionamentos e normaliza a guerra. O crescimento do complexo militar-industrial é apontado como uma característica definidora do cenário político atual.

Leão XIV enfatiza que, na era da IA, não se pode confiar apenas na “mão invisível” do mercado. Dada a transcendência transnacional de muitas decisões econômicas, a cooperação internacional é essencial para definir estratégias comuns, especialmente em favor dos mais vulneráveis.