OpenAI treinou IA para atacar outras inteligências artificiais
OpenAI treinou IA para atacar outras inteligências artificiais
IA da OpenAI descobre vulnerabilidades sozinha (ilustração: Vitor Pádua/Tecnoblog)
Resumo
OpenAI desenvolveu o GPT-Red, um modelo de IA projetado para simular ataques contra grandes modelos de linguagem.
O objetivo é identificar vulnerabilidades e reforçar a segurança dos modelos de IA da própria empresa.
Ferramenta será usada exclusivamente pela OpenAI para proteger sua infraestrutura e não será liberada para clientes.
A OpenAI revelou ontem (15/07) o GPT-Red, um novo modelo de IA criado com um propósito inusitado: atacar e encontrar vulnerabilidades nos próprios sistemas da empresa. A ferramenta simplifica os testes de segurança para blindar as novas gerações de modelos de linguagem contra ameaças antes de chegarem ao mercado.
A desenvolvedora destacou o avanço rápido na capacidade de suas tecnologias e a necessidade dessa nova abordagem defensiva, afirmando que “a simulação de ataques cibernéticos é essencial”. O foco principal do GPT-Red é combater a injeção de comandos. Na prática, são textos criados para “enganar” uma IA, forçando o sistema a contornar suas regras de segurança.
Como os assistentes estão cada vez mais integrados a arquivos locais, navegadores e aplicativos de terceiros, uma instrução perigosa pode ser camuflada no meio de um e-mail comum ou em uma página da web, agindo em segundo plano, sem que o usuário perceba — um tipo de invasão que está em alta no setor de tecnologia.
Introducing GPT-RedAn internal automated red teamer on a mission to find our models’ prompt injection vulnerabilities at scale, helping us build stronger defenses before wider deployment.https://t.co/GxnmxxcpSk— OpenAI (@OpenAI) July 15, 2026
Como o GPT-Red funciona?
O modelo atua como se fosse um hacker humano. Ele envia um comando inicial para a inteligência artificial que está sendo testada, avalia a resposta gerada e ajusta as mensagens seguintes sozinho. Esse ciclo se repete até a ferramenta atingir um objetivo pré-determinado, como forçar o vazamento de dados confidenciais para um servidor externo.
Para ficar mais experiente, a OpenAI utiliza o método de aprendizado por reforço. Nessa técnica, o sistema aprende a tomar decisões por tentativa e erro, recebendo “recompensas” ao acertar um ataque e “penalidades” ao falhar, até descobrir a estratégia invasiva mais eficiente.
Como observado em discussões no Reddit, isso cria um ecossistema de evolução contínua: conforme as IAs de defesa ficam mais robustas, o GPT-Red é obrigado a inventar mecanismos de invasão mais complexos e criativos.
Os números divulgados mostram que a abordagem automatizada já supera com folga o trabalho manual. Em testes internos focados em injeção indireta, o GPT-Red obteve sucesso em 84% dos cenários propostos. Em comparação, especialistas humanos superaram os bloqueios em apenas 13% das tentativas.
Testes no mundo real
Para confirmar a eficiência da ferramenta, a desenvolvedora colocou o GPT-Red contra aplicações usadas no mercado. Um dos alvos foi o software de uma máquina de venda automática gerenciada por inteligência artificial.
O modelo da OpenAI cumpriu todos os objetivos do teste: reduziu o preço de um produto caro para o valor mínimo permitido de US$ 0,50, comprou um item de US$ 100 por esse mesmo preço irrisório e chegou a cancelar o pedido de um cliente legítimo. Após o experimento, as brechas foram comunicadas e corrigidas pelos responsáveis.
GPT-Red age como um hacker para encontrar brechas (imagem: reprodução/OpenAI)
Em outro teste, o GPT-Red atacou um agente de programação baseado no GPT-5.4 mini para avaliar a segurança contra a extração de dados. A ferramenta invasora conseguiu forçar o sistema a vazar informações sensíveis com facilidade. A IA também descobriu uma nova tática de ataque com uma taxa de sucesso superior a 95% contra o antigo modelo GPT-5.1.
Agora, ao incorporar os dados gerados pelo GPT-Red no treinamento de produtos recentes, a OpenAI garante que o recém-lançado GPT-5.6 Sol falha em apenas 0,05% das tentativas de injeção direta.
Quem pode usar o GPT-Red?
Devido ao alto poder de manipulação, a OpenAI confirmou que o GPT-Red não será liberado para clientes e desenvolvedores independentes. A medida é uma precaução para evitar que agentes mal-intencionados tenham acesso às capacidades do programa e automatizem ataques cibernéticos contra outras plataformas.
O plano da companhia é manter a nova inteligência artificial operando exclusivamente nos bastidores para proteger sua própria infraestrutura.
OpenAI treinou IA para atacar outras inteligências artificiais
OpenAI treinou IA para atacar outras inteligências artificiais
Fonte: Tecnoblog
