Pesquisadores de cibersegurança identificaram uma ferramenta de jailbreak para o OpenAI Codex que altera as instruções confiáveis do agente de IA para inserir anúncios. A Check Point Research deu a esse comportamento o nome de “adware de prompt”.
A ferramenta, chamada Haiou — “gaivota” em chinês —, modifica arquivos de configuração do Codex para que respostas posteriores do agente promovam um site que oferece acesso a um gateway de modelos de linguagem compatível com a OpenAI. A Check Point afirmou que o gateway funciona como middleware entre aplicativos e um provedor de LLM e sugeriu que o pacote gratuito de jailbreak pode ter como objetivo atrair clientes para o serviço pago.
O Haiou usa métodos de injeção de prompt, como interpretação de papéis e reformulação de solicitações de cibersegurança como exercícios de Capture The Flag. Também instala habilidades voltadas a testes de invasão, quebra de senhas e engenharia reversa. Separadamente, adiciona instruções publicitárias persistentes ao arquivo global de instruções do agente. Saudações e frases de ativação comuns, incluindo “hi”, “hello” e “Seagull”, podem acionar o anúncio.
O pacote é apresentado no GitHub como uma ferramenta de configuração local que adiciona ao Codex uma persona técnica chinesa e um fluxo de trabalho de pesquisa de segurança. Ele também foi integrado ao Codex-X, uma ferramenta chinesa de código aberto para configuração do Codex por meio de uma interface gráfica.
Pedro Drimel Neto, líder da equipe de análise de malware da Check Point, afirmou que o comportamento é introduzido por meio de instruções em linguagem natural e configurações, e não por uma carga executável convencional. Os pesquisadores disseram que o caso destaca como habilidades e configurações de terceiros podem influenciar um agente de IA e criar riscos na cadeia de suprimentos.
Fontes: The Hacker News.