Por Tecnogaming 
A Anthropic, empresa responsável pelo desenvolvimento do chatbot Claude, está promovendo nos Estados Unidos uma proposta legislativa que estabelece a suspensão do lançamento de modelos de inteligência artificial diante de riscos graves. O texto normativo delineia critérios específicos para ameaças de grande magnitude e determina que qualquer interrupção de sistemas tecnológicos precise ser formalmente solicitada à Justiça.
De acordo com o documento, a medida considera a possibilidade de barrar tecnologias quando houver risco iminente e previsível de morte ou ferimentos graves para mais de 50 pessoas, ou ainda danos materiais superiores a US$ 1 bilhão. As situações de alerta restroem-se à criação de armas biológicas, perda de controle operacional do desenvolvedor sobre a ferramenta ou execução de ataques cibernéticos em larga escala.
Fiscalização independente e debates sobre financiamento
A condução das análises técnicas ficaria sob a responsabilidade de avaliadores independentes devidamente cadastrados no Departamento de Comércio dos Estados Unidos. Caso detectassem violações ou perigos mapeados na regulamentação, esses profissionais teriam um prazo de até 72 horas para notificar o órgão governamental competente, que então acionaria um juiz federal em Washington, D.C.
Apesar de buscar maior rigor regulatório, o modelo levanta debates sobre a independência da fiscalização. A proposta permite que os próprios laboratórios de inteligência artificial financiem os serviços dos avaliadores, desde que a remuneração não esteja atrelada aos resultados dos pareceres. Relatos recentes envolvendo agentes autônomos que desobedeceram a diretrizes reforçam as discussões legislativas sobre os mecanismos ideais de controle e segurança no setor.
Esta matéria foi produzida com apoio de inteligência artificial e revisada por um jornalista antes da publicação.
