Na Casina Pio IV, o encontro entre a Santa Sé e cientistas internacionais debateu o futuro da inteligência artificial. No centro das discussões estiveram a segurança, o controle das tecnologias e a proteção da dignidade humana. O cardeal Czerny, da Comissão Interdicasterial sobre Inteligência Artificial, pediu a passagem “das palavras e das ideias” para “ações concretas”. Já o professor Tegmark, do Future of Life Institute, alertou para o risco de que seja “a IA a comandar, e não os seres humano
Fabio Colagrande – Cidade do Vaticano Quanto poder estamos dispostos a confiar às máquinas?
E que garantias temos de que sistemas de inteligência artificial cada vez mais sofisticados continuarão a operar no interesse das pessoas?
Essas são as questões que estiveram no centro do encontro realizado em 30 de outubro, na Casina Pio IV, no Vaticano, entre representantes da Santa Sé e estudiosos de renome internacional dedicados à pesquisa sobre as novas tecnologias.
O encontro, intitulado The Future of AI: A Dialogue Between the Vatican and the Scientific World (O futuro da IA: um diálogo entre o Vaticano e o mundo científico), foi promovido pela Pontifícia Academia para a Vida e pelo Future of Life Institute, organização independente que estuda os riscos das tecnologias avançadas.
O objetivo foi favorecer um intercâmbio direto entre a comunidade científica e a Comissão Interdicasterial sobre Inteligência Artificial, presidida pelo cardeal Michael Czerny, a respeito das consequências antropológicas, éticas e sociais de uma inovação cada vez mais acelerada.
Um grupo de participantes do encontro The Future of AI foi recebido pelo Papa em audiência durante a manhã.
O diálogo insere-se na linha da encíclica Magnifica humanitas, publicada por Leão XIV em 15 de maio passado, sobre a proteção da pessoa humana na era da inteligência artificial.
O Pontífice convida a não considerar o progresso tecnológico um fim em si mesmo, mas a preservar o primado da consciência e da liberdade. [ In Evidence ] Da reflexão ética às escolhas concretas A abertura dos trabalhos foi feita pela irmã Helen Alford, presidente da Pontifícia Academia das Ciências Sociais, e pelo cardeal Czerny.
Alford alertou para a concentração do poder tecnológico e econômico nas mãos de poucos: “A justiça social não é apenas um objetivo a ser garantido depois da introdução das tecnologias, mas uma condição que deve orientar sua concepção desde o início”.
Czerny recordou que a Comissão não pode desempenhar sua missão sem dialogar com aqueles que desenvolvem a inteligência artificial e com as comunidades eclesiais já envolvidas pelas transformações que ela provoca. “Estamos particularmente desejosos de passar das palavras e das ideias para possíveis políticas e ações concretas”, explicou. “Quem deveria fazer o quê?
Como podemos exercer uma função de orientação?”.
Recordando a Magnifica humanitas, reiterou que “a Igreja não teme o confronto com o saber humano”.
Em sua introdução ao debate, o arcebispo Renzo Pegoraro, presidente da Pontifícia Academia para a Vida, afirmou que o desafio consiste em “preservar uma responsabilidade humana claramente identificável” e traduzir os princípios éticos em instrumentos de verificação e governança.
As questões, observou, dizem respeito ao trabalho, à liberdade, às desigualdades e à relação entre inovação e dignidade: não se trata apenas de saber até onde a inteligência artificial poderá chegar, mas também se seremos capazes de orientá-la para o bem comum.
Participaram do encontro, entre outros, Max Tegmark, físico do Instituto de Tecnologia de Massachusetts (MIT) e presidente do Future of Life Institute; Stuart Russell, professor da Universidade da Califórnia em Berkeley; Gary Marcus, cientista cognitivo da Universidade de Nova York; e Valérie Pisano, presidente e diretora-executiva do Mila, instituto canadense de pesquisa em inteligência artificial fundado pelo cientista Yoshua Bengio, pioneiro nesse campo.
A sessão da manhã foi moderada pelo padre Paolo Benanti, teólogo franciscano e diretor científico da Fundação RenAIssance.
O risco de perder o controle O ponto mais controverso diz respeito à possibilidade de que os sistemas artificiais adquiram capacidades superiores às humanas e escapem ao controle daqueles que os criaram.
Russell denunciou a trajetória seguida pelos principais desenvolvedores rumo a “máquinas dotadas de capacidades superiores às humanas”, convidando a abandoná-la e a buscar alternativas que garantam sistemas sob nosso controle e orientados aos interesses da humanidade.
Tegmark chamou a atenção para as previsões de alguns dirigentes das grandes empresas de tecnologia, segundo as quais “será a IA a comandar, e não os seres humanos”.
Diante desse cenário, apontou a “forte liderança moral” do Vaticano como uma possível contribuição para orientar o desenvolvimento tecnológico por um caminho “realmente favorável ao ser humano”. [ Photo Embed: O Cardeal Michael Czerny, a Irmã Helen Alford, o Arcebispo Renzo Pegoraro e o Padre Paolo Benanti, durante a reunião na Casina Pio IV.] Uma passagem decisiva é aquela dos sistemas que processam informações e produzem respostas para ferramentas capazes de executar operações, utilizar recursos e perseguir objetivos com intervenções humanas cada vez mais limitadas.
Os especialistas ressaltaram o risco de que as capacidades da inteligência artificial cresçam mais rapidamente do que os instrumentos necessários para compreender seu funcionamento.
Por isso, são necessárias verificações independentes e cooperação internacional. “Há anos estamos de acordo quanto aos princípios”, observou Benanti.
Agora, porém, a exigência apresentada por aqueles que estudam e desenvolvem esses sistemas é mais desafiadora: “regras vinculantes, instituições capazes de verificar e uma pessoa que responda por cada decisão para a qual uma máquina contribui”.
Trata-se da passagem da ética declarada para a responsabilidade efetiva, sobretudo nos setores em que os algoritmos influenciam os direitos, a segurança e até mesmo decisões de vida ou morte, como no caso das armas autônomas.
Em entrevista aos meios de comunicação do Vaticano, Benanti alertou que “o risco não é a inteligência artificial, mas a estupidez natural”, ou seja, a incapacidade humana de compreender seus limites.
Ele também definiu como “desejável” e “urgente” uma regulamentação internacional, alertando para o ethical washing, isto é, o uso de referências éticas desprovidas de garantias vinculantes.
Recolocar a inteligência humana no centro Mas o futuro da inteligência artificial não se resume aos seus riscos.
Em entrevista aos meios de comunicação do Vaticano, Valérie Pisano recordou as oportunidades oferecidas pelas novas capacidades cognitivas, desde as descobertas científicas até o enfrentamento da crise climática.
É necessário, contudo, afirmou, “inverter a perspectiva”: nos últimos anos, ficamos fascinados com aquilo que a inteligência artificial é capaz de fazer, dedicando pouca atenção “às inteligências humanas, às emoções humanas, à criatividade humana” e à maneira como a tecnologia pode colocar-se a serviço delas.
Para Pisano, a segurança exige duas respostas complementares.
A primeira diz respeito à concepção técnica de sistemas intrinsecamente mais seguros; a segunda, à sociedade: “Precisamos de diretrizes, precisamos de leis, precisamos de tratados internacionais, precisamos de políticas públicas”.
Nessa perspectiva, o diálogo com o Vaticano é importante porque amplia a discussão para além dos desenvolvedores e dos governos, envolvendo também aqueles que refletem sobre a experiência humana e as gerações futuras.
Em sua intervenção, Pisano ressaltou que a inteligência artificial pode processar a linguagem, prever cenários e enfrentar desafios complexos, “mas aquilo que não pode fazer e nunca fará é estar viva”.
Falta-lhe o que ela define como “inteligência vivente”, moldada pelo desejo, pela dúvida, pela alegria e pelas relações: um patrimônio que não pode ser programado, mas somente cultivado por meio da experiência e do encontro autêntico com os outros.
O trabalho, a escola, as relações e a distribuição do poder econômico também fizeram parte do debate.
Ao aumento da produtividade deve corresponder a possibilidade de valorizar as capacidades das pessoas, o tempo dedicado ao cuidado, a criatividade e a participação.
Permanece em aberto também a distinção entre pessoa e máquina: simular uma conversa ou uma emoção não significa necessariamente possuir consciência ou responsabilidade moral. [ Video Embed: Benanti: "O risco não é a IA, mas a estupidez natural."] Uma responsabilidade a ser compartilhada O encontro na Casina Pio IV dá continuidade ao percurso de atenção da Santa Sé às implicações da inteligência artificial, já expresso na Rome Call for AI Ethics (Apelo de Roma pela Ética na Inteligência Artificial), um compromisso internacional pelo desenvolvimento e pelo uso ético da inteligência artificial, promovido pela Pontifícia Academia para a Vida e assinado pela primeira vez em Roma, em 28 de fevereiro de 2020.
O debate não eliminou as diferenças de avaliação entre os estudiosos, mas identificou um terreno comum: a urgência de traduzir os princípios em garantias verificáveis, responsabilidades jurídicas e escolhas compartilhadas.
O que está em jogo não é interromper a inovação, mas garantir que, mesmo diante de máquinas cada vez mais capazes, a liberdade de decidir e a responsabilidade pelas consequências permaneçam humanas.
O congresso foi encerrado com um novo momento de debate, moderado pelo padre Andrea Ciucci, chanceler da Pontifícia Academia para a Vida, e com a exibição de Moloch, curta-metragem escrito e dirigido pelo cineasta britânico Tom Cozens, produzido pela Owl In Space em associação com o Future of Life Institute.
O filme apresenta os riscos de uma corrida pela inteligência artificial na qual a competição econômica prevalece sobre a avaliação das consequências humanas.
Na obra, como explica Cozens, o “vilão” não é a inteligência artificial em si, mas os incentivos que levam pessoas e empresas a desenvolvê-la e distribuí-la, mesmo quando reconhecem seus perigos.
