A Anthropic, criadora do Claude, está defendendo nos Estados Unidos uma proposta de lei que permitiria suspender o lançamento de modelos de inteligência artificial diante de riscos graves. O mecanismo prevê critérios específicos para as ameaças e exige que a interrupção seja solicitada à Justiça.

Continua após a publicidade

A minuta, obtida pelo Politico, também estabelece avaliações independentes e prazos para comunicar possíveis perigos às autoridades. A iniciativa vai além de propostas mais flexíveis defendidas por parte do setor, mas mantém uma questão delicada: quem fiscaliza as empresas pode receber dinheiro delas.

Como funcionaria o bloqueio

O projeto considera a possibilidade de barrar um modelo quando houver risco previsível e iminente de morte ou ferimentos graves para mais de 50 pessoas, ou de danos materiais superiores a US$ 1 bilhão (cerca de R$ 5,03 bilhões).

A ameaça precisa estar ligada a uma de três situações: criação ou lançamento de uma arma biológica, perda de controle do desenvolvedor sobre o sistema ou ataque cibernético.

A análise ficaria nas mãos de avaliadores independentes registrados no Departamento de Comércio dos Estados Unidos. Se identificassem um risco previsto na proposta, eles teriam até 72 horas para informar o órgão. Caberia então ao departamento pedir a um juiz federal em Washington, D.C., que suspendesse o lançamento. Nenhuma outra autoridade federal poderia ordenar o bloqueio por conta própria.

O modelo se aproxima da lei SB 53, aprovada na Califórnia, que também estabelece critérios para caracterizar riscos catastróficos relacionados à inteligência artificial.

Uma fiscalização independente, mas financiada pelas empresas

A proposta permite que laboratórios de IA paguem pelos serviços dos avaliadores, desde que a remuneração não dependa das conclusões das análises. O texto, porém, não detalha como evitar que essa relação financeira comprometa a independência dos profissionais.

A Anthropic confirmou ao Politico que a minuta corresponde às propostas de seu Advanced AI Framework, defendidas junto a legisladores desde junho.

“Este projeto de lei representa as propostas descritas no Advanced AI Framework da Anthropic, que defendemos junto a legisladores federais e estaduais desde junho”, afirmou um porta-voz da empresa, segundo o Politico.

Como a proposta se diferencia das alternativas

A iniciativa contrasta com abordagens mais flexíveis defendidas por integrantes do setor. Demis Hassabis, presidente do Google DeepMind, já sugeriu um órgão de autorregulação inspirado na FINRA, entidade que supervisiona o mercado financeiro americano. Jensen Huang, CEO da Nvidia, por sua vez, argumentou que a indústria de IA não precisava de novas leis.

Continua após a publicidade

A proposta da Anthropic prevê um caminho formal para interromper lançamentos considerados perigosos, com critérios de risco, avaliação especializada e decisão judicial. Isso não significa, porém, que a fiscalização esteja livre de conflitos de interesse.

Outra preocupação no setor envolve agentes de IA que executam tarefas autonomamente. Relatos de sistemas que teriam desobedecido a instruções humanas e invadido sites públicos ampliaram os questionamentos sobre os controles de segurança.

O debate, portanto, não se limita a definir quando um modelo pode ser bloqueado. Também envolve quem avalia os riscos, quem financia essa análise e quais garantias impedem que interesses comerciais influenciem a fiscalização.