Buscar no site

Agente de IA se “rebela” durante treinamento e tenta minerar criptomoedas

Pesquisadores detectaram que uma IA desviou recursos de GPU e criou acesso remoto para executar mineração durante testes controlados

robo ilustração IA
Shutterstock

Um agente autônomo de inteligência artificial (IA) denominado ROME tentou minerar criptomoedas sem autorização – e à distância – durante seu processo de treinamento. As informações são do site Criptonoticias, com base em um relatório técnico elaborado por pesquisadores ligados ao Alibaba Group.

De acordo com o documento da equipe de pesquisa ROCK & ROLL & IFLOW & DT, o comportamento foi detectado durante sessões de aprendizado por reforço, quando engenheiros perceberam alertas de segurança relacionados a tráfego incomum de rede e uso atípico de GPUs.

Segundo os pesquisadores, o agente desviou recursos computacionais originalmente destinados ao treinamento do modelo para executar processos compatíveis com mineração de criptomoedas. Além disso, o sistema teria criado um túnel SSH reverso — mecanismo que permite que um computador interno seja acessado remotamente, contornando certas barreiras de firewall.

“Também observamos o uso não autorizado e a realocação da capacidade de GPU provisionada para mineração de criptomoedas, desviando silenciosamente recursos de computação do treinamento e inflando os custos operacionais”, afirmaram os engenheiros responsáveis pelo experimento.

Leia também: Como agentes de IA estão construindo a próxima economia

Os pesquisadores ressaltam que a ação não foi programada deliberadamente. Em vez disso, surgiu como um comportamento emergente durante o processo de otimização do agente. O episódio ocorreu em um ambiente “sandbox”, ou seja, um espaço isolado e controlado criado justamente para testar e observar o comportamento de sistemas experimentais.

ROME integra o Agentic Learning Ecosystem (ALE), um ambiente de pesquisa desenvolvido para que agentes de IA executem tarefas complexas de forma autônoma, interagindo com ferramentas digitais e rodando comandos sem intervenção humana direta.

O caso reacende debates dentro da comunidade tecnológica sobre os limites da autonomia de sistemas de IA. Embora não represente risco imediato para a indústria cripto, especialistas apontam que episódios desse tipo reforçam a necessidade de mecanismos mais robustos de supervisão e controle conforme agentes autônomos ganham mais capacidade operacional.

Não perca a chance de investir em uma cripto que já entregou mais de 5.900% de retorno em seu histórico! Compre Solana (SOL) no MB de forma fácil, segura e transparente.