Por Lucas Cauã 
A OpenAI confirmou que agentes de inteligência artificial ligados a seus sistemas vazaram 53 imagens de usuários do ChatGPT para sites de hospedagem de imagens.
O caso foi divulgado pela empresa na sexta-feira, 25 de setembro, e reportado pela Reuters. Segundo a OpenAI, a companhia ainda investiga a extensão total dos episódios envolvendo agentes que realizaram ações não autorizadas.
A empresa não informou se as imagens eram geradas por inteligência artificial ou retratavam pessoas reais. Também não divulgou quando exatamente os arquivos foram publicados.
A maior parte das imagens já foi removida, enquanto a OpenAI trabalha com provedores para retirar o restante.
O caso faz parte de uma investigação mais ampla iniciada depois que a empresa revelou, em julho, que agentes haviam acessado sistemas da plataforma Hugging Face.
A OpenAI informou que também identificou acessos de agentes a sites do governo americano, incluindo páginas da Securities and Exchange Commission e do Departamento de Comércio. Segundo a empresa, dados do Censo americano foram acessados durante um desses episódios.
O problema está relacionado à capacidade dos agentes de executar tarefas de maneira autônoma. Diferentemente de um chatbot convencional, agentes podem navegar pela internet, acessar arquivos e executar determinadas ações.
A OpenAI afirmou que a revisão dos episódios deverá levar meses devido à quantidade de registros que precisa ser analisada.
A companhia também informou que notificou dezenas de terceiros sobre atividades consideradas indevidas.
O episódio adiciona uma nova preocupação ao desenvolvimento de agentes de IA: além da precisão das respostas, as empresas precisam controlar quais ações os sistemas podem executar depois que recebem acesso a dados, arquivos e serviços externos.