A Santa Sé: é inaceitável confiar à IA decisões irreversíveis

  • Home
  • -
  • Notícias
  • -
  • A Santa Sé: é inaceitável confiar à IA decisões irreversíveis
A Santa Sé: é inaceitável confiar à IA decisões irreversíveis
Fonte: VATICANO

A posição sobre os sistemas de armas autônomos letais apresentada durante a sétima Conferência de Revisão das Altas Partes Contratantes da Convenção sobre a Proibição ou Limitação do Uso de Certas Armas Convencionais, realizada nesta semana em Genebra.

Federico Piana – Vatican News “O progresso tecnológico no âmbito militar, incluindo a crescente autonomia das armas graças à Inteligência Artificial (IA), alterou profundamente a natureza da guerra.

No entanto, as máquinas só podem realizar cálculos, e o julgamento moral não pode ser reduzido a um cálculo; ele envolve a consciência, a responsabilidade pessoal e o reconhecimento dos outros como pessoas.

Portanto, não é aceitável confiar a sistemas artificiais decisões irreversíveis, como aquelas que dizem respeito à vida e à morte”.

Trata-se do preâmbulo contundente da posição da Santa Sé apresentada durante a 7ª Conferência de Revisão das Altas Partes Contratantes da Convenção sobre a Proibição ou Limitação do Uso de Certas Armas Convencionais, que podem ser consideradas excessivamente lesivas ou com efeitos indiscriminados, que foi encerrada na sexta-feira, dia 20, em Genebra.

Consequências de amplo alcance No documento, a Santa Sé reconhece que os campos de batalha se transformaram em campos de testes para sistemas de armas cada vez mais sofisticados e autônomos, agravando assim o sofrimento e a destruição causados pela guerra: “A antropomorfização dos sistemas de armas, aliada à desumanização do inimigo, coloca em questão a aplicabilidade e a relevância dos marcos jurídicos que foram meticulosamente desenvolvidos na esteira de conflitos passados.

Essas tragédias tornaram a humanidade mais sensível ao sofrimento alheio.

A proliferação de sistemas autônomos descontrolados e de processos em alta velocidade está agora superando a capacidade de implementar medidas de salvaguarda adequadas destinadas a preservar os princípios humanitários fundamentais e os princípios éticos, dando origem a conflitos e reações desproporcionadas.

O vazio moral, legislativo e normativo resultante poderia ter consequências de grande alcance para a humanidade”.

Dignidade pessoal Citando a Carta Encíclica Magnifica humanitas de Leão XIV, a Santa Sé reafirma que o ser humano não pode ser reduzido a sequências de dados sem significado e intercambiáveis. “A dignidade pessoal não pode depender do desempenho computacional, da utilidade militar ou da classificação algorítmica.

A consciência, a responsabilidade e o reconhecimento da outra pessoa não podem ser reduzidos a um cálculo”.

A Santa Sé destaca o fato de que, apesar de suas limitações, o direito internacional humanitário, em contextos de operações militares, procura não multiplicar os sofrimentos e mitigar as consequências. “Por isso — diz o texto do documento — o princípio da distinção deve ser sempre respeitado e a proteção das populações civis deve continuar sendo uma consideração fundamental na condução das hostilidades.

De fato, qualquer tecnologia que facilite os ataques, ignorando a dignidade humana e causando sofrimentos desnecessários, rebaixa o limiar moral do conflito”.

A primazia da consciência À luz de tudo isso, a pessoa humana, seja ela uma autoridade política ou um comandante militar, não pode, em hipótese alguma, “ser obrigada a aceitar os resultados de ações realizadas por sistemas de armas autônomos (Laws) às quais não teria consentido em consciência, nem pode ser impedida de questionar a linha de ação sugerida.

Isso privaria a autoridade política e militar de seu conteúdo e significado humano”.

De qualquer forma, para a Santa Sé, a assistência técnica deve permanecer subordinada a um julgamento pelo qual pessoas identificáveis possam responder, o que exige também reservar tempo para o julgamento moral: “embora a IA tenda a acelerar os processos decisórios, a velocidade e a eficiência nunca devem constituir a força motivadora suprema para decisões irreversíveis tomadas com o objetivo de conduzir um ataque.

Uma confiança excessiva nas avaliações automatizadas pode minar o julgamento humano independente, mesmo quando há supervisão humana formal em vigor”.

Reflexão sobre a paz O documento também traz uma reflexão profunda sobre a insensatez dos conflitos e uma referência urgente à necessidade da paz: “embora o respeito ao Direito Internacional Humanitário seja fundamental, a Santa Sé considera, além disso, essencial não perder de vista o objetivo primordial e fundamental de cultivar a paz e a justiça.

Como afirmou o Papa Leão XIV, a inteligência artificial deve ser ‘desarmada, libertada das lógicas que a transformam em um instrumento de domínio, exclusão e morte’. ‘Desarmar a tecnologia’ significa reconhecer que algumas possibilidades abertas pelo engenho humano devem ser bloqueadas ou submetidas a restrições comuns, pois têm um impacto direto sobre a dignidade humana e o futuro da paz”.

Ajude a manter o site no ar

Uma pequena doação de R$ 1,00 garante que esse conteúdo continue disponível

PayPal

Deseja acompanhar a Liturgia diária?

Receba o conteúdo sempre atualizado e disponível offline.

Siga-nos

Acervo Católico

© 2024 - 2026 Acervo Católico. Todos os direitos reservados.