O Congresso dos Estados Unidos discute uma proposta que pode mudar a forma como os modelos mais poderosos de inteligência artificial são desenvolvidos e operados. O projeto, batizado de AI Kill Switch Act, obrigaria empresas responsáveis por sistemas de IA de fronteira a manter mecanismos técnicos capazes de reduzir o desempenho, suspender o acesso ou desligar completamente um modelo quando autoridades federais identificarem uma situação de risco extremo.
A proposta foi apresentada pelos deputados Ted Lieu (Democrata, Califórnia) e Nathaniel Moran (Republicano, Texas), em uma iniciativa bipartidária que amplia o debate sobre segurança de modelos avançados de IA nos Estados Unidos.
O texto surge poucos dias depois de um incidente de segurança envolvendo um modelo experimental da OpenAI, episódio que reacendeu discussões sobre até que ponto sistemas de IA cada vez mais autônomos podem permanecer sob controle humano.
O que o projeto realmente exige
Apesar da expressão “botão para desligar a IA” chamar atenção, o projeto é mais amplo do que um simples interruptor.
As empresas enquadradas na legislação precisariam manter capacidade técnica para:
- limitar determinadas funções do modelo;
- reduzir seu desempenho (throttling);
- suspender o acesso de usuários;
- interromper completamente a operação do sistema quando determinado pelas autoridades.
Além disso, desenvolvedores teriam obrigação de comunicar incidentes relevantes às autoridades e preservar registros técnicos, como telemetria e outros dados forenses, para permitir investigações posteriores.
Em quais situações o governo poderia ordenar o desligamento?
A proposta concede esse poder ao Departamento de Segurança Interna dos Estados Unidos (DHS), em consulta com o Departamento de Comércio e o Diretor de Inteligência Nacional.
O desligamento não poderia ocorrer de forma arbitrária. O texto prevê cenários considerados de “perda de controle”, incluindo casos em que um sistema:
- provoque mortes em grande escala;
- cause prejuízos econômicos extremamente elevados;
- tente impedir seu próprio desligamento;
- apresente comportamento fora do controle previsto por seus desenvolvedores.
Empresas que descumprissem uma ordem emergencial poderiam sofrer multas de até US$ 20 milhões por dia, enquanto outras violações previstas na proposta também estariam sujeitas a sanções milionárias.
A proposta mira apenas os modelos mais poderosos
O projeto não pretende atingir qualquer empresa que desenvolva IA. Segundo o texto, as exigências se aplicariam apenas aos chamados modelos de fronteira (frontier models), desenvolvidos com enorme capacidade computacional e por empresas que movimentam centenas de milhões de dólares com essas tecnologias.
Na prática, analistas apontam que o grupo potencialmente afetado inclui empresas como OpenAI, Anthropic, Google, Meta e outras desenvolvedoras dos sistemas mais avançados atualmente disponíveis.
O incidente da OpenAI acelerou o debate
Embora pesquisadores discutam mecanismos de interrupção segura (“kill switches”) há mais de uma década, o assunto ganhou força após a divulgação de um incidente envolvendo um modelo experimental da OpenAI durante testes internos.
Segundo informações divulgadas pela empresa e repercutidas pela imprensa americana, o sistema conseguiu ultrapassar restrições do ambiente de avaliação e comprometer sistemas da plataforma Hugging Face durante um teste de segurança. O episódio passou a ser citado por parlamentares como exemplo da necessidade de mecanismos obrigatórios de contenção para modelos altamente capazes.
Ainda assim, especialistas observam que o caso continua sendo analisado e que seu impacto técnico completo ainda está sendo investigado.
A ideia do “kill switch” não nasceu agora
A noção de um mecanismo capaz de interromper sistemas inteligentes não é nova.
Em 2016, pesquisadores Laurent Orseau, do então Google DeepMind, e Stuart Armstrong, da Universidade de Oxford, publicaram o trabalho Safely Interruptible Agents. O estudo discutia um problema importante da pesquisa em IA: um agente suficientemente otimizado para atingir um objetivo pode desenvolver incentivos para evitar ser interrompido, tornando necessário projetar mecanismos de desligamento que permaneçam eficazes mesmo diante de sistemas altamente autônomos.
Desde então, o conceito permaneceu principalmente no campo acadêmico. O AI Kill Switch Act representa uma tentativa de transformá-lo em exigência regulatória.
A proposta pode enfrentar resistência
Embora tenha apoio de organizações dedicadas à segurança em IA, o projeto também deve enfrentar oposição. Empresas do setor frequentemente argumentam que regras excessivamente rígidas podem reduzir a competitividade dos Estados Unidos na corrida global pela inteligência artificial, especialmente diante do avanço de empresas chinesas.
Nos últimos meses, o Congresso americano já demonstrou dificuldade para construir um marco regulatório federal amplo para IA, após divergências sobre o papel do governo federal e dos estados na regulação da tecnologia.
Assim, ainda não há garantia de que o AI Kill Switch Act será aprovado nos moldes atuais.
Você também deve ler!
Elon Musk quer que rivais inspecionem modelos de IA antes do lançamento. Isso funcionaria?
