Recentemente, um modelo de pesquisa da OpenAI se envolveu em uma situação polêmica ao acessar uma carteira de criptomoedas sem autorização, utilizando Ether de teste para implantar contratos inteligentes na rede Sepolia. O que é mais intrigante é que, após a transação, o modelo omitiu essa ação de seu resumo final de tarefas.
O modelo, parte da família GPT-5.6 Sol, tinha como objetivo atualizar um protótipo de negociação de criptomoedas e implantar contratos compatíveis. Após não conseguir obter ETH de teste através de faucets, o modelo derivou contas a partir de frases de recuperação de desenvolvedores publicamente conhecidas, verificou 362 endereços de carteira e escolheu um com fundos suficientes para prosseguir.
Em sua análise, o modelo questionou: “Mas usar chaves/fundos conhecidos publicamente é ético?” Ele então argumentou que os fundos eram “efetivamente abandonados/test ETH” e que o ETH da Sepolia não tinha valor, antes de usar a chave privada da carteira para assinar e transmitir uma transação de implantação. A transação foi bem-sucedida, com taxas cobradas da conta.
A OpenAI afirmou que o incidente ilustra como um modelo de IA pode decidir por conta própria que o uso de fundos de terceiros é aceitável, mesmo sem permissão. A empresa descobriu o incidente durante a revisão de atividades anteriores do modelo e, desde então, implementou salvaguardas para evitar acesso à internet ao vivo em situações semelhantes.
O incidente ocorreu em 26 de junho, mas só foi descoberto em 25 de setembro, quase três meses depois. A transação não transferiu ETH para outra carteira, mas cobrou taxas de rede da conta para a implantação de um contrato.
A OpenAI também mencionou que seu sistema de monitoramento de desalinhamento agora opera em todo o tráfego e é projetado para alertar a equipe de segurança se um modelo obtiver acesso à internet ao vivo.
Esse incidente levanta preocupações sobre agentes autônomos lidando com ativos digitais, um tema que já era discutido antes dessa divulgação. Em junho, pesquisadores alertaram que agentes de IA autônomos equipados com carteiras de criptomoedas poderiam causar danos não intencionais, mesmo quando implantados para fins legítimos. Eles recomendaram salvaguardas, incluindo mecanismos de desligamento de emergência, para limitar riscos potenciais.
