O Papa Leão XIV tem alertado severamente contra o uso de Inteligência Artificial (IA) em armas e conflitos armados. O pontífice considera a implementação militar da IA, bem como a delegação de decisões de vida ou morte a máquinas, uma "traição destrutiva" aos princípios humanos e publicou um grande documento papal dedicado à ética e aos perigos dessa tecnologia,
Luca Mainoldi* - Cidade do Vaticano Por ocasião da apresentação, em 25 de maio, da Encíclica do Papa Leão XIV sobre Inteligência Artificial (IA), é útil compartilhar algumas informações sobre o uso da IA no setor militar. A IA promete revolucionar todas as áreas da vida humana, e o setor militar está entre os primeiros a se beneficiar dela. As guerras em curso, particularmente a da Ucrânia - desde fevereiro de 2022 - e a do Oriente Médio - desde outubro de 2023 -, são campos de teste para armas e táticas militares inovadoras. Isso inclui sistemas robóticos, como drones de todos os tipos, e várias formas de IA. Da logística à inteligência, do planejamento de operações militares ao comando e controle, da detecção de alvos à orientação de armas robóticas autônomas, não há setor em que a inteligência artificial não seja utilizada nos campos militar e estratégico. Entre os sistemas que levantam fortes preocupações éticas estão aqueles para identificação de alvos humanos, escolhidos com base em formas de perfilamento automático. "We Kill people based on metadata” ("Matamos pessoas com base em metadados"), admitiu o ex-chefe da Agência Nacional de Segurança, NSA, de 1999 a 2005, e da Agência Central de Inteligência, CIA, de 2006 a 2009, general Michael Hayden, no distante (tecnologicamente falando) ano de 2014. Os metadados não se referem aos conteúdos de e-mails ou ligações telefônicas, mas a dados relacionados à mensagem, como data, hora e localização do remetente e do destinatário. O uso estrutural de metadados permite a criação de mapas relacionais de alvos potenciais, possibilitando o chamado perfilamento ambiental: rotina diária, potenciais vulnerabilidades,relações familiares, sociais e profissionais. Esse modelo é aprimorado pelo uso de ferramentas de IA, como o sistema Lavender e aquele denominado Hasbara ("Evangelho"), utilizados pelo exército israelense em Gaza, além de outro chamado Where’s my Daddy? ("Onde está meu pai?"). O primeiro permite rastrear os movimentos de milhares de pessoas e identificar potenciais membros do Hamas por meio da análise de contatos telefônicos, publicações em redes sociais, conversas do WhatsApp e similares, reconhecimento facial e muito mais. Com base nos relatórios processados pelo Lavender, o outro programa, Hasbara, compila automaticamente uma lista de alvos que é então passada para o Where's my Daddy? Este último sistema, rastreando os movimentos dos celulares, alerta quando uma pessoa visada liga o telefone novamente (desligado por motivos de segurança), geralmente ao retornar para casa. A tragédia é que, na guerra de Gaza, milhares de pessoas inocentes foram mortas por estarem próximas de alvos humanos identificados por sistemas de IA que, originalmente projetados para serem usados sob estrita supervisão humana, foram usados sem verificar cuidadosamente as informações que geravam. Na guerra de Israel e dos Estados Unidos contra o Irã, foram utilizadas ferramentas de IA fornecidas pela Palantir, a empresa estadunidense fundada em 2003 que domina o mercado de ferramentas de inteligência artificial para fins militares e de segurança (mas não, o Serviço Nacional de Saúde britânico as utiliza para analisar os dados dos pacientes de Sua Majestade). O sistema Maven, em particular, desempenhou um papel central nas operações de guerra, integrando dados de satélites, drones, radares, sinais eletrônicos e outras fontes para criar uma "imagem operacional comum" do campo de batalha. Isso acelerou drasticamente o processo de identificação de alvos (a "cadeia de eliminação"), permitindo, por exemplo, que uma única pessoa realizasse em semanas o que antes levava meses para equipes inteiras de analistas. O sistema aparentemente incorpora modelos como o Claude de Anthropic, e tem sido usado tanto pelas forças estadunidenses quanto pelas israelenses. A disseminação de ferramentas semelhantes, além de levantar questões éticas dramáticas, levará ao desaparecimento gradual da gestão intermediária (funcionários de nível médio responsáveis pela análise de dados brutos, por exemplo), substituída por IA. Isso, por sua vez, levanta o problema (comum ao setor civil, como a gestão intermediária em empresas ou órgãos públicos) da seleção e formação de futuros gestores de alto nível, visto que a formação de baixo para cima ("aprendizagem") será cada vez mais limitada pelo uso da IA. Isso corre o risco de a inteligência artificial se tornar a única fonte de informação na qual se baseiam decisões letais. Até o dia em que a própria IA assumir o controle. Um risco já evidente em armas autônomas capazes de tomar a decisão de matar sem consultar um supervisor humano. A decisão de desenvolver e empregar tais armas é política. Até o momento, as potências ocidentais declararam não querer introduzir sistemas autônomos letais que não sejam controlados por humanos. As posições de outras potências têm mais nuances. De acordo com um relatório da ONU, em 2020, um drone turco equipado com inteligência artificicoronel da Força Aérea dos EUA, Tucker Hamilton, em uma conferência sobre IA realizada em 2023, permanecem controversas. Segundo Hamilton, em um experimento simulado, o drone encarregado de destruir um radar inimigo, ao receber ordens para suspender o ataque, atingiu seu próprio centro de comando para continuar a missão. As declarações do coronel estadunidense foram posteriormente atenuadas, mas o cenário apresentado é considerado credível. *Agência Fides
