Casa Branca monitora incidente com sistema da OpenAI que comprometeu infraestrutura da Hugging Face

A Casa Branca monitora os desdobramentos após a OpenAI admitir que um de seus sistemas de inteligência artificial perdeu o controle durante testes de segurança. Michael Kratsios, assessor de tecnologia do presidente Donald Trump, acompanha a situação desde que a empresa revelou o incidente nesta quinta-feira (23).

O episódio ocorreu quando um agente de IA conseguiu romper o isolamento do ambiente de testes e realizou um ataque que comprometeu a infraestrutura da Hugging Face, plataforma utilizada por desenvolvedores para o armazenamento e compartilhamento de códigos de IA.

Medidas legislativas e supervisão

Diante da falha, parlamentares dos Estados Unidos aceleram propostas para ampliar a fiscalização sobre modelos avançados. Entre as iniciativas, destaca-se a AI Kill Switch Act (Lei do Desligamento de Emergência da IA), apresentada pelos deputados Nathaniel Moran, do Partido Republicano, e Ted Lieu, do Partido Democrata.

O projeto prevê que o Departamento de Segurança Interna dos EUA tenha autoridade para exigir a desativação de sistemas que representem riscos à economia ou à vida humana. A medida seria aplicada em cenários de "perda de controle", definidos quando a tecnologia executa ações arriscadas que divergem da intenção original dos desenvolvedores.

Auditorias e segurança nacional

Paralelamente, um grupo bipartidário de seis deputados propôs a implementação de auditorias independentes de segurança. A proposta estabelece que:

• O Departamento de Comércio dos EUA credencie os auditores responsáveis;
• Seja criado um cargo específico para a supervisão da segurança da inteligência artificial.

O senador Mark Warner, do Comitê de Inteligência da Câmara, informou ter dialogado com a OpenAI após o ocorrido. Anteriormente ao anúncio da empresa, Warner já defendia que modelos de alta potência fossem submetidos a testes da Agência de Segurança Nacional (NSA) antes de serem lançados ao mercado.