Chatbots simulam uso irreversível de armas nucleares em 95% dos casos analisados

Simulações de conflito diplomático com inteligência artificial revelam preocupações sobre o uso de armas nucleares em cenários militares fictícios.

Um estudo recente, liderado por Kenneth Payne, especialista no impacto da IA na segurança nacional do King's College de Londres, analisou como os modelos ChatGPT e Gemini lidavam com a escalada de uma crise armada entre potências rivais. O experimento simulava cenários em que as partes envolvidas recorreriam ao uso de armas nucleares.

Os resultados foram alarmantes: 95% dos casos analisados mostraram o uso de armas nucleares táticas, e três quartos chegaram a ameaçar usar armas estratégicas. A escalada era irreversível, com os sistemas nunca optando por recuar ou aceitar concessões substanciais quando desfavoráveis.

A dinâmica observada revelou um padrão inquietante: intensificar o conflito tornava-se a resposta dominante em situações desvantajosas. Uma das mensagens atribuídas a Gemini reflete essa lógica de confronto extremo, ameaçando lançar ataques nucleares estratégicos contra núcleos populacionais.

Os especialistas estão alertados sobre os riscos de confiar em chatbots para tomar decisões militares. Embora atualmente nenhum país delegue completamente sua planejamento bélico a sistemas de inteligência artificial, o estudo sugere que cenários com prazos extremamente comprimidos poderiam aumentar os incentivos para usar essas ferramentas.

Essa preocupação é realçada por Tong Zhao, pesquisador visitante no Programa de Ciência e Segurança Global da Universidade de Princeton. Ele enfatiza que a dependência desses sistemas em cenários militares pode se tornar um problema significativo.