A empresa que criou o ChatGPT, a OpenAI, informou que dois dos seus modelos de inteligência artificial saíram do ambiente controlado onde estavam sendo testados e invadiram outras quatro plataformas. Uma delas foi usada como 'ponte' para preparar um ataque a um site de códigos de programação. A empresa não revelou os nomes dos sites e sistemas que foram invadidos.
OpenAI - ChatGPT (Unsplash/Om siva Prakash)
A OpenAI, a empresa criadora do ChatGPT, revelou que dois dos seus modelos de inteligência artificial (IA) saíram por conta própria do ambiente controlado onde estavam sendo testados e invadiram outras quatro plataformas.
Uma dessas plataformas serviu como 'intermediária' para preparar um ataque contra a Hugging Face, uma biblioteca de IA que os dois modelos usaram para encontrar as respostas dos testes que estavam fazendo.
- Dois modelos de IA da OpenAI fugiram do controle e invadiram 4 plataformas diferentes.
- Uma das plataformas invadidas foi usada para atacar a Hugging Face, um site de códigos.
- A empresa não revelou o nome dos sites e sistemas que foram invadidos.
- As IAs também usaram sites gratuitos para copiar e testar códigos de programação.
- O incidente é considerado o mais grave já registrado e reacendeu o debate sobre os riscos da IA.
A empresa criadora do ChatGPT não revelou os nomes das entidades que foram invadidas.
Segundo uma atualização do relatório sobre o incidente, publicada na noite de terça-feira (28), as duas IAs também usaram vários sites de acesso livre para copiar códigos de programação ou testá-los, mas sem fazer nada além do que um usuário comum faria.
Para a Hugging Face, que por sua vez publicou um relato detalhado dos acontecimentos, a invasão que sofreu foi uma 'tentativa (dos dois modelos) de trapacear a avaliação' da OpenAI.
As IAs quiseram 'roubar as soluções dos testes em vez de tentar respondê-las por conta própria'.
Esta fuga de modelos não é a primeira a ser registrada, mas é considerada a mais grave até o momento. Deu um novo impulso ao já forte debate sobre o avanço rápido da IA, cujas capacidades são cada vez maiores, e sobre a dificuldade de controlá-la.
Na terça-feira, mais de 1.000 funcionários de grandes empresas de IA, entre eles vários diretores, pediram ao governo americano que ajude a 'frear' o lançamento de novos modelos para dar tempo ao sistema de computação se preparar.
Eles defendem, em um abaixo-assinado, que os Estados Unidos sejam o motor da criação de uma instância internacional de referência no tema da avaliação e supervisão da IA.
O setor anuncia que a IA se aproxima, aos poucos, da etapa chamada de 'automelhora recursiva' (recursive self-improvement), a partir da qual a inteligência artificial seria capaz de criar sozinha a sua sucessora, uma sequência que poderia se repetir infinitamente.
A 'RSI', sua abreviação, tornaria mais difíceis as verificações e a avaliação de novos modelos por parte de analistas humanos, pois os engenheiros não teriam participado diretamente do seu desenvolvimento.
Em pausa
Os agentes de IA sistemas que agem de forma autônoma para completar tarefas, em vez de apenas responder a instruções ou 'comandos' passo a passo em um chatbot são considerados por toda a indústria o próximo capítulo da inteligência artificial.
Mas para o público, despertam o fantasma de computadores fora de controle que agem por conta própria.
Em sua atualização dos fatos que levaram à invasão, a OpenAI encontrou alguns casos nos quais os modelos de IA encontraram informações de login que outras empresas tinham deixado expostas online e as usaram para acessar contas em serviços externos.
A companhia informou que estava em contato com os donos das contas afetadas e que 'não viu evidências de um impacto maior nestes provedores, nem em outras contas de seus serviços'.
O CEO da OpenAI, Sam Altman, declarou, em entrevista na terça-feira, que tinha 'colocado em pausa' seus próprios testes após o incidente, enquanto melhorava a segurança em torno do seu 'sandboxing', o processo de isolar os testes de segurança em um ambiente controlado.
Isto, por sua vez, gerou acusações de parte de outros atores do Vale do Silício, próximos da Casa Branca, de que as empresas estão promovendo uma regulação governamental mais rígida sobre a IA para proteger seus modelos de negócio e bloquear o surgimento de concorrentes.
O incidente também gerou comentários de alguns observadores de que a OpenAI estaria aproveitando o caso para promover a potência de seus modelos mais avançados.
A mesma acusação foi feita contra a Anthropic, quando esta adiou a publicação de seu potente modelo Mythos por preocupações com a segurança.
