Carlo Martinucci convida a interpretar com preocupação, mas sem catastrofismo, os alertas que vêm dos próprios protagonistas da Inteligência Artificial. A corrida entre empresas e potências mundiais, observa ele, corre o risco de impulsionar o desenvolvimento mais rapidamente do que nossa capacidade de controlá-lo. A “Magnifica humanitas” de Leão XIV oferece uma chave: preservar o controle humano sem abrir mão das oportunidades da tecnologia.
Fabio Colagrande – Vatican News Um grupo de Inteligências Artificiais que foge do recinto digital criado para contê-lo e consegue invadir sistemas de informação reais.
Um pesquisador da Anthropic que deixa a empresa acusando os grandes laboratórios de “apostar em nossas vidas”.
Os dirigentes das mesmas empresas que desenvolvem os modelos mais avançados e pedem que se desacelere essa corrida.
Em segundo plano, a competição tecnológica entre os Estados Unidos e a China, que corre o risco de transformar qualquer cautela em uma desvantagem estratégica.
Nas últimas semanas, as notícias sobre Inteligência Artificial parecem compor o quadro de uma tecnologia que acelera, enquanto quem a constrói começa a se perguntar com maior insistência onde estão os freios.
Mas entre o catastrofismo e a confiança cega no progresso existe um espaço mais difícil e fecundo: o do discernimento.
É aqui que se insere a reflexão de Carlo Martinucci, matemático e divulgador, cofundador da Unbubble News e coordenador do Unbubble Hub, uma iniciativa de pesquisa aberta contra a desinformação e a polarização.
Para Martinucci, os alertas vindos do mundo da IA não significam que seja preciso interromper a pesquisa, mas que é necessário criar as condições para governar seu desenvolvimento.
Construindo os freios No verão de 2026, lembra Martinucci, mais de 1.300 funcionários das empresas que trabalham nos modelos de ponta aderiram ao apelo “Pacing the Frontier”. “Eles não pedem para parar tudo, mas para implementar as medidas necessárias para que isso seja possível.
Ou seja, não parar tudo agora, mas, de certa forma, construir freios melhores”.
A questão, portanto, não seria um conflito entre progresso e imobilismo.
O problema é a velocidade com que a competição econômica e geopolítica impulsiona o desenvolvimento de sistemas cada vez mais potentes, sem que as ferramentas para compreendê-los e controlá-los cresçam no mesmo ritmo.
É a mesma preocupação que surgiu nas últimas semanas nas palavras de Dario Amodei, fundador e diretor executivo da Anthropic, que pediu para desacelerar o ritmo de desenvolvimento das capacidades dos modelos, a fim de dar mais espaço para testes, segurança e controles.
Um dos caminhos já trilhados é o dos “avaliadores embutidos”: avaliadores independentes inseridos nos laboratórios com acesso semelhante ao dos funcionários, encarregados de examinar modelos e sistemas de segurança.
Martinucci vê com bons olhos esse princípio de transparência, mas alerta para o risco do “safety washing”: medidas que poderiam se transformar em certificações de fachada.
Por isso, ressalta, será necessário verificar se o controle externo é realmente independente.
IA “cultivadas” mais do que “construídas” Para Martinucci, os perigos não se limitam apenas a um futuro hipotético.
Já existem a desinformação, os ataques cibernéticos, a vigilância e o uso da IA em infraestruturas e sistemas críticos.
Mas seria errado opor esses riscos imediatos aos relacionados à evolução futura dos modelos.
O matemático cita, a esse respeito, o número 98 da encíclica Magnifica humanitas, de Leão XIV: “na verdade, as inteligências artificiais modernas são mais ‘cultivadas’ do que ‘construídas’: os programadores não projetam diretamente todos os detalhes, mas criam uma arquitetura sobre a qual a IA ‘cresce’”.
E a Encíclica acrescenta que “aspectos científicos fundamentais – como as representações internas e os processos computacionais desses sistemas – permanecem, por enquanto, desconhecidos”.
É uma passagem que Martinucci considera particularmente precisa: “o conceito-chave é que, neste momento, não somos capazes de controlar o que a Inteligência Artificial pode fazer e em que pode se tornar, porque ela é mais cultivada do que construída”.
O tema, então, passa a ser aquele indicado ainda por Leão XIV no número 200, ao falar sobre armas autônomas: a decisão de empregar força letal “deve permanecer sob um controle humano efetivo, consciente e responsável”.
Um princípio que, segundo Martinucci, pode esclarecer, de maneira mais geral, a relação com sistemas de IA cada vez mais avançados.
Não uma salvação, mas uma ferramenta A prudência, no entanto, não significa negar os benefícios da Inteligência Artificial.
Martinucci cita a medicina, a inclusão de pessoas com deficiência e a comunicação: “há muitos campos em que ela pode ser usada para melhorar e ampliar nossas possibilidades e capacidades”.
A própria pesquisa matemática está oferecendo exemplos surpreendentes.
Em maio, um sistema de IA contribuiu para a solução de um problema geométrico proposto há 80 anos por Paul Erdős; em setembro, o debate se reacendeu em torno do problema de Navier-Stokes, com resultados obtidos por meio do uso massivo de agentes artificiais e com uma discussão, ainda em aberto, sobre a relação entre a contribuição humana e a capacidade das máquinas. Para Martinucci, a questão não é, portanto, escolher entre entusiasmo e medo.
Trata-se de evitar atribuir à tecnologia uma função salvadora: “não podemos pensar na Inteligência Artificial como um substituto, uma forma de criar o paraíso na Terra.
Não é uma salvação que vem do céu à qual possamos confiar todas as nossas esperanças e todo o nosso futuro”.
É preciso, ao contrário, aplicar à IA o mesmo princípio de prudência que acompanha outros setores da pesquisa.
Um medicamento é estudado e testado não porque se seja contra a medicina, mas justamente porque se deseja que o progresso traga benefícios reais.
Da mesma forma, observa ele, “as perspectivas positivas devem ser equilibradas com os riscos em uma avaliação prudente”. [ Photo Embed: Christopher Olah, cofundador da Anthropic, durante a apresentação da "Magnifica humanitas" no Vaticano] Uma responsabilidade que diz respeito a todos O que torna esse equilíbrio ainda mais difícil é a competição entre os Estados Unidos e a China.
Martinucci cita as palavras proferidas por Chris Olah, cofundador da Anthropic e um dos principais estudiosos da interpretabilidade dos sistemas de IA, por ocasião da apresentação do livro Magnifica humanitas.
Olah reconheceu que os laboratórios de ponta estão sujeitos a pressões comerciais, geopolíticas e até mesmo aos mais antigos impulsos do “orgulho” e da “ambição”.
Para Martinucci, é significativo que tal observação venha de dentro da própria indústria: significa reconhecer que nenhum laboratório pode, sozinho, conduzir uma transformação dessa magnitude.
São necessárias empresas, governos, a comunidade científica, organismos internacionais e a sociedade civil.
Mas também os cidadãos. “Não se pode ignorar o fenômeno e pensar que são sempre apenas os outros que devem lidar com ele”, afirma.
E a primeira responsabilidade talvez seja compreender: não se deixar seduzir pela propaganda tecnológica, mas também não se paralisar pelo medo.
O risco, conclui Martinucci, é que um fenômeno complexo seja reduzido a duas caricaturas opostas: de um lado, o catastrofismo; do outro, uma interpretação “exclusivamente sob a ótica do marketing”.
Ambas impedem que se enxergue a realidade. “Ainda há muito o que fazer”, observa ele, mas o crescente interesse da opinião pública pode se tornar “uma excelente oportunidade para se interessar pelo assunto e não simplesmente sofrer suas consequências”.
Talvez seja justamente aqui que passe a linha divisória decisiva.
Não entre quem é a favor ou contra a Inteligência Artificial, mas entre quem aceita sofrer passivamente sua evolução e quem tenta orientá-la.
Pois construir os freios não significa desistir da jornada.
Significa garantir que, enquanto as máquinas aprendem a fazer cada vez mais coisas, os seres humanos não abram mão da responsabilidade de escolher juntos a direção.
