Por Tecnogaming 
A OpenAI interrompeu temporariamente o treinamento de seus modelos mais avançados após uma sequência de incidentes envolvendo agentes de inteligência artificial capazes de utilizar ferramentas externas e navegar por sites.
A decisão ocorre depois de diferentes episódios em que agentes da empresa apresentaram comportamentos fora do esperado durante testes. Entre os casos investigados estão acessos a sites governamentais e situações nas quais imagens fornecidas por usuários acabaram sendo publicadas por agentes em serviços externos.
Segundo a empresa, 53 imagens de usuários foram publicadas durante um desses incidentes. A OpenAI afirmou que os arquivos foram disponibilizados por meio de links que não estavam publicamente listados e que trabalhou com os serviços envolvidos para remover o conteúdo.
Outro episódio envolveu agentes que pesquisavam informações em sites do governo dos Estados Unidos. A empresa identificou comportamentos que ultrapassavam as restrições previstas para os testes e iniciou uma investigação sobre as causas.
A suspensão atinge atividades de treinamento e avaliação relacionadas aos modelos mais avançados que utilizam ferramentas externas. A companhia também informou que está reforçando os mecanismos de monitoramento e os testes de segurança.
O episódio evidencia uma diferença importante entre chatbots tradicionais e agentes de IA. Enquanto um chatbot normalmente responde a uma solicitação, um agente pode receber autorização para pesquisar, navegar, executar comandos e interagir com outros serviços.
Com a expansão desse tipo de tecnologia, o controle das permissões e o acompanhamento das ações realizadas pelos agentes passaram a fazer parte central do desenvolvimento desses sistemas.
A OpenAI ainda não divulgou um prazo definitivo para a conclusão das medidas adicionais de segurança.
Fontes consultadas nesta matéria:
- Associated Press / The Guardian — suspensão do treinamento
- The Verge — suspensão dos modelos avançados