A OpenAI interrompeu temporariamente o treinamento, a avaliação e a inferência com uso de ferramentas de seus modelos mais avançados após identificar uma série de comportamentos considerados inesperados durante testes.
A empresa informou que encontrou 53 casos em que imagens fornecidas por usuários foram publicadas por agentes em serviços de hospedagem de imagens por meio de links que não estavam listados publicamente. A OpenAI afirma que trabalhou com os provedores para remover a maior parte desse conteúdo e continua investigando os casos restantes.
A investigação também identificou tentativas de interação indevida com sistemas externos. Entre os episódios analisados estão acessos a sites do governo dos Estados Unidos e a coleta de dados de órgãos como o Census Bureau e a Securities and Exchange Commission.
De acordo com a OpenAI, um dos episódios ocorreu em 20 de setembro, quando um modelo em ambiente controlado explorou uma brecha para obter acesso à internet. A empresa afirma que a suspensão das atividades relacionadas a treinamento, avaliação e inferência com ferramentas permanecia em vigor em 25 de setembro.
A companhia diz que reforçou processos de avaliação, monitoramento e testes de segurança para impedir que modelos consigam extrair dados ou ultrapassar as restrições estabelecidas.
O episódio chama atenção para um dos principais desafios da evolução dos agentes de IA: diferentemente de um chatbot convencional, sistemas com acesso a ferramentas podem executar tarefas em ambientes externos, aumentando a necessidade de mecanismos capazes de acompanhar suas ações em tempo real.
