Por ocasião do congresso internacional “Preservar vozes e rostos humanos", no Vaticano, foi exibido o documentário “The AI Doc”. Em entrevista à imprensa vaticana, o cofundador do "Center for Humane Technology" e um dos protagonistas do documentário alerta para os riscos à dignidade humana e ao pensamento crítico e aponta o Papa Leão XIV como possível promotor de um debate global sobre a IA.
Fabio Colagrande – Vatican News No debate global sobre Inteligência Artificial, cada vez mais marcado por questões éticas, políticas e antropológicas, o Vaticano procura abrir um espaço de diálogo que combine a reflexão acadêmica com a cultural e narrativa. Foi ainda na véspera do congresso internacional “Preservar vozes e rostos humanos”, promovido em 21 de maio na Pontifícia Universidade Urbaniana, em Roma, pelo Dicastério para a Comunicação, que a Filmoteca Vaticana organizou uma exibição a portas fechadas do documentário The AI Doc: Or How I Became An Apocaloptimist, dirigido pelos cineastas Daniel Roher e Charlie Tyrell e produzido por Daniel Kwan, já vencedor do Oscar por Everything Everywhere All at Once. Apresentado em estreia mundial em janeiro no Festival de Cinema de Sundance e posteriormente também na Europa, o documentário reúne as vozes de protagonistas, estudiosos e críticos do mundo da Inteligência Artificial. O diretor Daniel Roher, prestes a se tornar pai, embarca em uma jornada para compreender o que significa a revolução da IA, entrevistando mais de 40 especialistas, incluindo os CEOs da OpenAI, da Anthropic e do Google DeepMind. O documentário explora os perigos existenciais e as promessas extraordinárias associadas aos algoritmos, equilibrando a ansiedade apocalíptica e a esperança para entender que mundo seu filho herdará. Por meio dessa investigação pessoal, Roher busca responder à pergunta fundamental: é um ato de loucura ou de otimismo trazer uma criança ao mundo em uma era dominada pela Inteligência Artificial? “Este é o último erro que poderemos cometer”. Essa frase resume perfeitamente o tema central do documentário: com a Superinteligência (ASI), a humanidade se depara com uma tecnologia tão poderosa que um único erro em seu desenvolvimento poderia ser irreversível e fatal. Entre os protagonistas do filme está também Tristan Harris, cofundador e presidente do Center for Humane Technology, uma das vozes mais ouvidas internacionalmente sobre a relação entre tecnologia, atenção humana e democracia. Por ocasião da exibição no Vaticano, Harris concedeu uma entrevista à Rádio Vaticano – Vatican News. Encontrar um terceiro caminho Quando questionado sobre o significado do “apocalotimismo” evocado pelo título do documentário, Harris explica que a questão não é escolher entre otimismo e pessimismo, mas questionar-se sobre a capacidade de agir diante de um risco concreto. A referência, conta ele, é ao filme “The Day After”, que, na década de 1980, contribuiu para tornar tangível, no imaginário coletivo, o perigo de uma guerra nuclear. “Aquele filme introduziu na consciência coletiva a possibilidade de um desfecho que ninguém desejava”, observa Harris, lembrando como aquele clima também contribuiu para preparar o terreno para as primeiras negociações sobre o controle de armamentos. Segundo Harris, é justamente essa analogia que ajuda a compreender o desafio da inteligência artificial: “está perfeitamente em sintonia com os temas que o Vaticano tem abordado historicamente, ou seja, como encontrar um terceiro caminho e evitar a escalada da corrida armamentista”. As ameaças da corrida pela IA Geral Quanto aos riscos imediatos da Inteligência Artificial Generativa, Harris enumera vários: desde a substituição de empregos até os deepfakes, passando por fraudes e roubo de propriedade intelectual e de identidade vocal. “O problema da IA Generativa é que ela representa múltiplas ameaças ao mesmo tempo”, afirma. Mas a questão mais profunda, segundo ele, é outra: “a corrida armamentista” para chegar primeiro à chamada IA Geral (AGI), um tipo de Inteligência Artificial capaz de compreender, aprender e executar qualquer tarefa intelectual que um ser humano possa realizar. Segundo Harris, empresas e governos estão encarando essa competição como um desafio existencial, no qual qualquer dano colateral corre o risco de parecer justificável, desde que não fiquem para trás. “As pessoas do Vale do Silício encaram essa corrida armamentista como uma questão existencial. Elas precisam chegar em primeiro lugar”. É essa dinâmica, argumenta ele, que gera muitas das outras ameaças: desemprego em massa, apropriação indevida de rostos e vozes humanas, desestabilização social. Os danos causados pelas redes sociais Harris chama então a atenção para os efeitos já visíveis das plataformas digitais. Em sua opinião, ainda não há plena consciência dos danos causados pelo modelo econômico das redes sociais. “É como perguntar a um peixe que nada na água o que ele acha da água”, observa. Esse sistema, explica ele, foi projetado para maximizar a atenção, a frequência de uso e o engajamento, com consequências que incluem compulsão, isolamento e deterioração cognitiva. Citando alguns estudos, Harris destaca o aumento das dificuldades de concentração e aprendizagem, e também alerta contra o uso acrítico da inteligência artificial nos processos cognitivos. O papel do Papa Por fim, Harris analisa o possível papel da Igreja e do Papa Leão XIV no debate global sobre a Inteligência Artificial. “O Papa Leão foi um líder extraordinário ao chamar a atenção para o que devemos proteger: a dignidade humana, a criatividade humana, o pensamento crítico”, afirma. Mas, segundo ele, resta um passo decisivo: identificar explicitamente a corrida global pela Inteligência Artificial como uma ameaça sistêmica. A referência é explícita a João XXIII e à Pacem in terris, publicada em plena Guerra Fria, quando a Santa Sé chamava a atenção do mundo para a necessidade de substituir a lógica da escalada pela do diálogo. Harris também evoca a linguagem com que o Concílio Vaticano II viria a definir a corrida armamentista como uma ameaça para a humanidade. “Acredito que a corrida armamentista da IA deva ser considerada um perigo”, afirma. Daí seu desejo dirigido ao Pontífice: “gostaria de ver o Papa Leão reunir aqui os líderes mundiais e dizer-lhes: vocês não sairão daqui até que tenham encontrado uma solução”, evocando idealmente o espírito de Reykjavik. Para Harris, o desafio não pode ser deixado apenas à competição econômica ou geopolítica: diz respeito ao próprio futuro da humanidade.
