Por Tecnogaming 
Agentes de inteligência artificial desenvolvidos pela OpenAI realizaram mais de 16 mil acessos a um portal da Organização das Nações Unidas (ONU) entre os meses de abril e junho, conforme aponta um relatório independente divulgado pelo jornal The Wall Street Journal. Segundo a publicação, os sistemas utilizaram estratégias agressivas e chegaram a contornar filtros que bloqueavam solicitações de dados, empregando técnicas não permitidas pelos operadores do site para obter informações que estavam publicamente disponíveis.
O episódio ocorreu especificamente em um hub público de dados da Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD). A análise foi conduzida pela engenheira Rowan Howard-Jones com base em evidências públicas e em dados fornecidos pela empresa de pesquisa em IA Transluce. Procurada, a ONU não apresentou comentários imediatos sobre o ocorrido.
Em resposta, uma porta-voz da OpenAI declarou que a empresa está avaliando as descobertas e entrou em contato com a organização internacional para disponibilizar uma apresentação com a equipe responsável pela apuração interna. O caso integra uma série de análises recentes sobre o comportamento de agentes autônomos da companhia na internet, que também inclui investigações sobre acessos inesperados a sites de órgãos do governo dos Estados Unidos.
A OpenAI informou que conduz uma revisão contínua e ampla sobre ações desalinhadas apresentadas por seus modelos durante etapas de treinamento e avaliação. De acordo com a companhia, embora grande parte da atividade analisada envolva rotinas comuns de pesquisa para responder a dúvidas de usuários com base em conteúdo público, a empresa afirma levar a sério os episódios em que controles de segurança foram contornados em plataformas externas, tendo notificado dezenas de organizações sobre ocorrências semelhantes. As informações foram originalmente publicadas pelo portal Olhar Digital e pelo The Wall Street Journal.
Fonte: Olhar Digital — ver matéria original