Anthropic propõe que governo dos EUA restrinja bloqueio de IAs a cenários de risco extremo

Foto: Dado Ruvic/Reuters/Direitos Reservados

A desenvolvedora de inteligência artificial Anthropic apresentou uma proposta legislativa para que o governo federal dos Estados Unidos só possa bloquear modelos avançados de IA em circunstâncias de riscos catastróficos. De acordo com informações obtidas por veículos internacionais de imprensa, a medida busca estabelecer diretrizes mais rígidas e específicas para o setor tecnológico.

Conforme o rascunho do projeto, a suspensão preventivas de um sistema seria autorizada apenas se houvesse risco previsível e iminente de causar morte ou ferimentos graves a mais de 50 pessoas, ou ainda prejuízos financeiros superiores a US$ 1 bilhão. As ameaças também precisariam estar associadas a cenários críticos, como o desenvolvimento de armas biológicas, ciberataques em grande escala ou a perda de controle sobre o próprio modelo.

Avaliação independente e centralização de poderes

O texto estabelece que laboratórios de inteligência artificial passariam por auditorias regulares conduzidas por avaliadores independentes. Caso esses profissionais identifiquem potenciais perigos que se enquadrem nos critérios estabelecidos, eles teriam um prazo de até 72 horas para comunicar as conclusões ao Departamento de Comércio dos Estados Unidos.

Além disso, a proposta concentra a autoridade para requisitar suspensões judiciais exclusivamente no âmbito federal, impedindo que outras agências ou divisões governamentais interrompam de forma autônoma o desenvolvimento ou a implantação comercial dos sistemas. A decisão final sobre eventuais bloqueios ficaria sob a responsabilidade da Justiça americana, com base nas evidências apresentadas.

Esta matéria foi produzida com apoio de inteligência artificial e revisada por um jornalista antes da publicação.