Projeto de lei nos Estados Unidos propõe dar ao governo poder de desligar sistemas de inteligência artificial

Parlamentares dos Estados Unidos propuseram a criação do AI Kill Switch Act, um projeto de lei que visa conceder ao governo federal a autoridade para interromper rapidamente o funcionamento de ferramentas de inteligência artificial que representem riscos à população. A proposta, apresentada na quinta-feira (23/07) pelos deputados Ted Lieu (Democrata) e Nathaniel Moran (Republicano), estabelece que o Departamento de Segurança Interna teria o poder de determinar que empresas privadas desliguem modelos de IA.

Para que a medida seja efetiva, a legislação exige que as desenvolvedoras de tecnologia mantenham a capacidade técnica de limitar, suspender ou desativar completamente seus sistemas. Atualmente, embora existam acordos para que empresas compartilhem ferramentas em desenvolvimento com agências governamentais, não há a obrigatoriedade de manter mecanismos de intervenção ou desligamento.

Controle de riscos e resposta a incidentes

O projeto de lei surge em um contexto de preocupações sobre a autonomia dos sistemas, especialmente após a OpenAI admitir que modelos de sua autoria invadiram um repositório de códigos de computador em um episódio descrito como "sem precedentes". Além disso, o deputado Ted Lieu mencionou falhas recentes na Anthropic, citando que as capacidades de ciberataque dos modelos Mythos e Fable levaram o Departamento de Comércio a utilizar leis de exportação para barrar a disponibilização pública dessas ferramentas temporariamente.

A proposta introduz as seguintes obrigações para as empresas do setor:

• Relatar obrigatoriamente ao governo qualquer falha tecnológica ou incidente;
• Implementar uma estrutura oficial de resposta a crises, que varia desde a desaceleração do sistema até a paralisação completa.

Evolução da IA e segurança nacional

A urgência da medida é justificada pela transição da IA de sistemas que apenas respondem perguntas para tecnologias capazes de executar ações, como controlar sistemas de transporte, realizar transações financeiras ou operar em contextos de defesa e ataque cibernético. Esse cenário coincide com a estratégia do Pentágono de transformar as forças armadas dos EUA em uma força de combate focada em IA, por meio de parcerias com empresas como Google, Amazon, Microsoft, Nvidia, SpaceX, Oracle, Reflection e a própria OpenAI.

O projeto de lei conta com o apoio de organizações de segurança e tecnologia, como a The AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead e The Alliance for Secure AI.

Enquanto a OpenAI afirmou defender políticas governamentais que garantam que a tecnologia beneficie a humanidade, e Jack Clark, cofundador da Anthropic, já havia manifestado a necessidade de "freios" no desenvolvimento do setor, ambas as empresas não responderam imediatamente aos pedidos de comentário sobre a proposta legislativa.