O desafio do nosso tempo não é criar máquinas mais inteligentes, mas impedir que assumam decisões morais que cabem apenas aos seres humanos. (Foto: Imagem criada utilizando Chatgpt/Gazeta do Povo)

Clausewitz, o general prussiano do século XIX, autor póstumo de “Da Guerra”, o mais importante livro já escrito sobre conflitos armados, ensinou que o fenômeno da fricção é onipresente nos combates: “Tudo na guerra é muito simples, mas mesmo as coisas mais simples são difíceis”. Isso porque a incerteza reina: informações faltam ou são incompletas, levando a decisões erradas; o inimigo reage de maneira inesperada; condições meteorológicas mudam; equipamentos quebram; suprimentos não chegam. Tudo isso cria uma “névoa” que não permite que os comandantes vejam a situação dos combates exatamente como ela é.

Para superar essa dificuldade, dos tempos de Clausewitz aos dias de hoje, os exércitos desenvolveram estruturas cada vez mais completas para o gerenciamento do campo de batalha, com equipes especializadas em inteligência, logística, comando e controle, aquisição e seleção de alvos, por exemplo. Tudo com a finalidade de dissipar o “nevoeiro” clausewitziano e acelerar, com precisão, o ciclo de tomada de decisão.

O surgimento da Inteligência Artificial, entretanto, está revolucionando o gerenciamento do espaço de batalha. Sistemas capazes de processar milhões de dados em segundos podem identificar ameaças, antecipar movimentos inimigos, coordenar enxames de drones e reduzir drasticamente o tempo entre a detecção de um alvo e seu engajamento.

Recomendamos para você

Mais do que dissipar o nevoeiro, permitindo que os militares enxerguem com precisão o que se passa, essas ferramentas já estão em condições de “decidir” no lugar dos comandantes

Essa “autonomia” das IAs vem causando grande preocupação. No início deste ano, noticiou-se que a empresa Anthropic, fabricante do modelo “Claude” de IA, entrou em conflito com o Departamento de Defesa dos EUA, depois que se recusou a cumprir a solicitação do Pentágono de acesso irrestrito à sua tecnologia para “todos os usos legais”.

A empresa, fundada por ex-pesquisadores da OpenAI (fabricante do modelo “ChatGPT”), teve sua origem justamente com a premissa de que a IA representa um risco existencial para a humanidade e deve ser desenvolvida com absoluta segurança. Em razão disso, seu contrato com o Pentágono traçava duas “linhas vermelhas”: o Claude não poderia ser usado para vigilância doméstica em massa nem para armas totalmente autônomas.

Mas há indícios de que o homem já pode estar fora do “loop” decisório. A velocidade com que os israelenses identificam, selecionam e atacam alguns alvos na Faixa de Gaza, no Líbano e no Irã tem alimentado o debate sobre o grau de autonomia dos sistemas de inteligência artificial empregados nas operações militares israelenses.

Há poucos dias, o Ministro das Forças Armadas do Reino Unido, Al Carns, afirmou que existem circunstâncias em que sistemas de armas com inteligência artificial podem tomar decisões de ataque “por conta própria”. Isso porque, prosseguiu o britânico, “nossos adversários não se importarão em ter um humano no processo”.

O fato de as IAs já poderem atuar de forma autônoma, causando perdas de vidas humanas, suscita preocupações éticas tão profundas que até mesmo o Papa Leão XIV resolveu se manifestar na Encíclica Magnifica Humanitas, na qual trata da salvaguarda da pessoa humana na era da Inteligência Artificial.

No texto, que vale ser lido, Leão XIV escreve que “o desenvolvimento e a utilização da IA no campo bélico devem estar sujeitos aos mais rigorosos compromissos éticos, no respeito pela dignidade humana e pela sacralidade da vida”. O Santo Padre clama por cuidados na programação dos modelos de IA: “É, portanto, de máxima importância infundir valores e prudência na programação dos sistemas artificiais que construímos, os quais podem contribuir para um ecossistema moral em que os seres humanos se encontrem melhor posicionados para ouvir a própria consciência e em que os modelos de IA estabeleçam limites apropriados”.

Um experimento científico mostra o quão longe os mais importantes modelos de IA estão dos valores de prudência exigidos por Leão XIV. Kenneth Payne, pesquisador do King’s College de Londres, publicou, em fevereiro deste ano, um artigo no qual relatou seus achados ao utilizar os três principais modelos de IA (Claude, ChatGPT e Gemini) para se confrontarem em jogos de guerra. Em 95% das vezes, as IAs optaram por fazer uso de armas nucleares táticas como forma de solucionar os conflitos.

Como se vê, o mundo chegou claramente a uma encruzilhada, na qual as decisões tomadas hoje terão profundas implicações para o futuro da humanidade. No passado, foi possível chegar a consensos mínimos no campo da ética e da moralidade nas guerras.

As armas químicas e biológicas, por exemplo, que foram amplamente usadas na Primeira Guerra Mundial, com resultados terrivelmente desumanos, foram praticamente banidas das guerras após tratados, regulações e imposições. A questão é saber se, no mundo de hoje, seremos capazes de repetir consensos mínimos como esse.

Clausewitz ensinou que a guerra é um fenômeno profundamente humano, marcado por medo, incerteza, julgamento e responsabilidade. A Inteligência Artificial pode ajudar comandantes a enxergar melhor através da névoa da guerra, mas a decisão de tirar vidas humanas não deveria ser transferida para algoritmos incapazes de compreender o significado moral de seus atos. O desafio do nosso tempo não é construir máquinas mais inteligentes, mas impedir que elas assumam responsabilidades que deveriam pertencer exclusivamente aos seres humanos.

VEJA TAMBÉM:

CNJ identifica juízes com salário acima de R$ 1 milhão