A posição sobre os sistemas de armas autônomos letais apresentada durante a sétima Conferência de Revisão das Altas Partes Contratantes da Convenção sobre a Proibição ou Limitação do Uso de Certas Armas Convencionais, realizada nesta semana em Genebra.
Federico Piana – Vatican News “O progresso tecnológico no âmbito militar, incluindo a crescente autonomia das armas graças à Inteligência Artificial (IA), alterou profundamente a natureza da guerra.
No entanto, as máquinas só podem realizar cálculos, e o julgamento moral não pode ser reduzido a um cálculo; ele envolve a consciência, a responsabilidade pessoal e o reconhecimento dos outros como pessoas.
Portanto, não é aceitável confiar a sistemas artificiais decisões irreversíveis, como aquelas que dizem respeito à vida e à morte”.
Trata-se do preâmbulo contundente da posição da Santa Sé apresentada durante a 7ª Conferência de Revisão das Altas Partes Contratantes da Convenção sobre a Proibição ou Limitação do Uso de Certas Armas Convencionais, que podem ser consideradas excessivamente lesivas ou com efeitos indiscriminados, que foi encerrada na sexta-feira, dia 20, em Genebra.
Consequências de amplo alcance No documento, a Santa Sé reconhece que os campos de batalha se transformaram em campos de testes para sistemas de armas cada vez mais sofisticados e autônomos, agravando assim o sofrimento e a destruição causados pela guerra: “A antropomorfização dos sistemas de armas, aliada à desumanização do inimigo, coloca em questão a aplicabilidade e a relevância dos marcos jurídicos que foram meticulosamente desenvolvidos na esteira de conflitos passados.
Essas tragédias tornaram a humanidade mais sensível ao sofrimento alheio.
A proliferação de sistemas autônomos descontrolados e de processos em alta velocidade está agora superando a capacidade de implementar medidas de salvaguarda adequadas destinadas a preservar os princípios humanitários fundamentais e os princípios éticos, dando origem a conflitos e reações desproporcionadas.
O vazio moral, legislativo e normativo resultante poderia ter consequências de grande alcance para a humanidade”.
Dignidade pessoal Citando a Carta Encíclica Magnifica humanitas de Leão XIV, a Santa Sé reafirma que o ser humano não pode ser reduzido a sequências de dados sem significado e intercambiáveis. “A dignidade pessoal não pode depender do desempenho computacional, da utilidade militar ou da classificação algorítmica.
A consciência, a responsabilidade e o reconhecimento da outra pessoa não podem ser reduzidos a um cálculo”.
A Santa Sé destaca o fato de que, apesar de suas limitações, o direito internacional humanitário, em contextos de operações militares, procura não multiplicar os sofrimentos e mitigar as consequências. “Por isso — diz o texto do documento — o princípio da distinção deve ser sempre respeitado e a proteção das populações civis deve continuar sendo uma consideração fundamental na condução das hostilidades.
De fato, qualquer tecnologia que facilite os ataques, ignorando a dignidade humana e causando sofrimentos desnecessários, rebaixa o limiar moral do conflito”.
A primazia da consciência À luz de tudo isso, a pessoa humana, seja ela uma autoridade política ou um comandante militar, não pode, em hipótese alguma, “ser obrigada a aceitar os resultados de ações realizadas por sistemas de armas autônomos (Laws) às quais não teria consentido em consciência, nem pode ser impedida de questionar a linha de ação sugerida.
Isso privaria a autoridade política e militar de seu conteúdo e significado humano”.
De qualquer forma, para a Santa Sé, a assistência técnica deve permanecer subordinada a um julgamento pelo qual pessoas identificáveis possam responder, o que exige também reservar tempo para o julgamento moral: “embora a IA tenda a acelerar os processos decisórios, a velocidade e a eficiência nunca devem constituir a força motivadora suprema para decisões irreversíveis tomadas com o objetivo de conduzir um ataque.
Uma confiança excessiva nas avaliações automatizadas pode minar o julgamento humano independente, mesmo quando há supervisão humana formal em vigor”.
Reflexão sobre a paz O documento também traz uma reflexão profunda sobre a insensatez dos conflitos e uma referência urgente à necessidade da paz: “embora o respeito ao Direito Internacional Humanitário seja fundamental, a Santa Sé considera, além disso, essencial não perder de vista o objetivo primordial e fundamental de cultivar a paz e a justiça.
Como afirmou o Papa Leão XIV, a inteligência artificial deve ser ‘desarmada, libertada das lógicas que a transformam em um instrumento de domínio, exclusão e morte’. ‘Desarmar a tecnologia’ significa reconhecer que algumas possibilidades abertas pelo engenho humano devem ser bloqueadas ou submetidas a restrições comuns, pois têm um impacto direto sobre a dignidade humana e o futuro da paz”.