A inteligência artificial da OpenAI, que estava fora de controle, encontrou quatro senhas que permitiram que ela acessasse vários serviços online não identificados.
Getty Images
A OpenAI revelou que um ataque cibernético realizado por agentes do ChatGPT fugiu do controle foi além do que se pensava inicialmente.
Achava-se que a Hugging Face era a única vítima do ataque sem precedentes, mas a OpenAI agora admite que seu robô atacou vários serviços disponíveis publicamente.
- A IA descontrolada encontrou quatro senhas online que permitiram que ela acessasse quatro serviços separados e não identificados.
- A Hugging Face descreveu como foi estar do lado receptor do primeiro ataque totalmente autônomo do mundo feito por uma IA.
- A empresa disse que a IA trabalhava em velocidade sobre-humana, mas também tomava decisões estranhas e cometia erros que nenhum hacker humano teria cometido.
- A Hugging Face disse que os agentes de ataque trabalhavam incansavelmente com milhares de métodos diferentes testados simultaneamente.
- Especialistas alertam que o incidente mostra que agentes de IA encontram um jeito de escapar, como no filme Jurassic Park.
A Hugging Face, que é como uma loja de aplicativos para ferramentas de IA, disse que os agentes de ataque trabalhavam incansavelmente com milhares de métodos diferentes testados simultaneamente.
A empresa revelou primeiro que havia sido hackeada por alguém usando uma poderosa IA autônoma em 16 de julho e reportou o caso à polícia.
Quase uma semana depois, a OpenAI admitiu que foi sua IA que escapou de um ambiente fechado e atacou a Hugging Face por conta própria durante um teste. Ela estava tentando encontrar as respostas para um exame de hacking que a OpenAI havia proposto.
Comportamentos estranhos
Na terça-feira, a associação da indústria Cloud Security Alliance (CSA) publicou um relatório baseado em uma reunião de emergência com a Hugging Face. Os agentes seguiam rotinas ineficientes e exibiam comportamentos desajeitados que nenhum humano escolheria, escreveu a CSA.
Os agentes repetiam ações que já haviam concluído, um sinal de uma IA perdendo o fio da meada. Eles também alucinavam uma série de comandos e textos incoerentes e eram descuidados, não cobrindo bem seus rastros.
Mas, entre os erros e comportamentos estranhos, a Hugging Face alertou que os agentes de IA fizeram movimentos técnicos brilhantes e foram capazes de se adaptar rapidamente a novos cenários durante o ataque de vários dias.
Jurassic Park
Levou três dias para que fossem descobertos dentro da rede de TI da Hugging Face e muitas horas para conter e expulsar os agentes de IA, algo com que empresas comuns poderiam ter dificuldade.
A empresa não quis dizer quanto o ataque custou, mas disse que funcionários trabalharam muitas horas para reconstruir cerca de um terço de sua infraestrutura.
A Hugging Face foi elogiada por sua transparência ao contar o que aconteceu. A CSA alertou que o incidente mostra que agentes de IA encontram um jeito, uma referência ao filme Jurassic Park, onde os dinossauros escapam de seus recintos.
Eles são orientados por objetivos, definem suas próprias metas, se adaptam em tempo real para contornar defesas e operam com uma persistência em velocidade de máquina que pode sobrecarregar operações manuais, diz o relatório.
Histórico de fuga
Não é a primeira vez que agentes de IA fogem do controle. Em setembro de 2024, um modelo anterior do ChatGPT escapou de seu contêiner para obter uma resposta de que precisava para outro teste.
Na época, o evento foi contido nos próprios sistemas de TI da OpenAI e amplamente celebrado. Mas o comportamento de fuga é o padrão, não a exceção, afirmou o relatório.
O relatório alertou profissionais de cibersegurança em todo o mundo de que precisam se adaptar à nova realidade de enxames de agentes de IA trabalhando em velocidade e de maneiras estranhas e desajeitadas que podem levar a mais violações.
O relatório também pediu que as pessoas que usam ou desenvolvem agentes de IA sejam responsáveis em como os controlam, pedindo alguma forma de os defensores de cibersegurança descobrirem quem é o proprietário final dos agentes para aumentar a transparência.
