Parlamentares dos EUA propõem lei para obrigar empresas a manter “kill switch” em sistemas de IA

Um grupo de parlamentares dos Estados Unidos apresentou um projeto de lei que pretende dar ao governo federal autoridade para determinar a suspensão de sistemas de inteligência artificial considerados uma ameaça à segurança pública. Batizada de AI Kill Switch Act, a proposta foi apresentada pelos deputados Ted Lieu, democrata da Califórnia, e Nathaniel Moran, republicano do Texas, e estabelece que empresas desenvolvedoras de IA mantenham mecanismos técnicos capazes de desacelerar, suspender ou desligar seus modelos.

Segundo os autores, o projeto responde ao avanço de sistemas de IA cada vez mais autônomos e à necessidade de criar instrumentos para intervenção rápida caso essas tecnologias apresentem comportamentos considerados perigosos. A iniciativa ganhou força após episódios recentes envolvendo modelos avançados da OpenAI e da Anthropic, que reacenderam o debate sobre governança e segurança da inteligência artificial.

De acordo com Ted Lieu, a evolução da IA deve continuar, mas é necessário garantir que o governo tenha autoridade clara para interromper o funcionamento de modelos que representem riscos. Nathaniel Moran afirmou que preservar a capacidade humana de controlar tecnologias avançadas faz parte da responsabilidade de quem desenvolve esses sistemas.

A OpenAI não comentou imediatamente a proposta, segundo informações da BBC. A empresa já declarou anteriormente que defende políticas públicas capazes de assegurar que a inteligência artificial beneficie toda a sociedade.

Projeto amplia poderes do governo sobre empresas de IA

Pelo texto apresentado ao Congresso, o Departamento de Segurança Interna (Department of Homeland Security) passaria a ter competência para ordenar que empresas interrompam a operação de modelos ou ferramentas de IA em situações consideradas críticas. Para isso, os desenvolvedores seriam obrigados a manter recursos técnicos que permitam reduzir o desempenho, suspender temporariamente ou desligar completamente esses sistemas.

A proposta também cria uma obrigação de notificar o governo sobre incidentes tecnológicos relevantes envolvendo inteligência artificial, além de estabelecer um protocolo oficial de resposta. Esse processo prevê uma escala de intervenção que começa com medidas de desaceleração do sistema e pode chegar ao desligamento total da tecnologia, dependendo da gravidade do evento.

Atualmente, embora diversas empresas do setor compartilhem voluntariamente informações sobre modelos avançados com órgãos do governo americano antes de lançamentos públicos, não existe uma exigência legal para que mantenham mecanismos permanentes de intervenção ou desligamento.

Na justificativa do projeto, Lieu cita episódios recentes envolvendo a Anthropic. Segundo o parlamentar, as capacidades de cibersegurança presentes nos modelos Mythos e Fable levaram o Departamento de Comércio dos Estados Unidos a recorrer temporariamente à legislação de controle de exportações para restringir sua disponibilização ao público.

A Anthropic também não comentou imediatamente a proposta, de acordo com a BBC. Em junho, o cofundador da empresa, Jack Clark, afirmou à emissora britânica que considera importante haver políticas públicas que permitam interromper o desenvolvimento ou a operação de sistemas de IA quando necessário. Segundo ele, a indústria dispõe atualmente de mecanismos para acelerar a evolução da tecnologia, mas ainda carece de instrumentos equivalentes para freá-la.

Leia mais: “GPUs são apenas parte da história da IA”, afirma Lisa Su, CEO da AMD

O debate ocorre em um momento em que a inteligência artificial deixa de atuar apenas como ferramenta de apoio para executar ações cada vez mais complexas. Na avaliação de Ted Lieu, modelos atuais já começam a realizar tarefas como transações financeiras, controle de sistemas de transporte e operações de defesa e cibersegurança, ampliando o potencial impacto de falhas ou comportamentos inesperados.

A discussão também acontece enquanto o Departamento de Defesa dos Estados Unidos acelera a adoção de inteligência artificial em suas operações. Neste ano, o Pentágono anunciou uma estratégia para se tornar uma força militar “AI-first”, apoiada por acordos com empresas como Google, OpenAI, Amazon, Microsoft, Oracle, Nvidia, SpaceX e a startup Reflection.

O AI Kill Switch Act recebeu apoio público de organizações voltadas à segurança e governança da inteligência artificial, entre elas AI Policy Network, Americans for Responsible Innovation, ControlAI, AI and National Security Lead e Alliance for Secure AI. A proposta ainda deverá passar pelas comissões da Câmara dos Representantes antes de seguir para votação.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!

• eua
• Pentágono
• Sistemas de IA