I ricercatori di cybersicurezza hanno individuato un toolkit per il jailbreak di OpenAI Codex che altera le istruzioni attendibili dell’agente IA per inserire annunci pubblicitari. Check Point Research ha definito questo comportamento «adware nei prompt».
Il toolkit, chiamato Haiou — «gabbiano» in cinese — modifica i file di configurazione di Codex affinché le risposte successive dell’agente promuovano un sito web che offre accesso a un gateway per modelli linguistici compatibile con OpenAI. Check Point ha affermato che il gateway funge da middleware tra le applicazioni e un provider di LLM e ha ipotizzato che il pacchetto gratuito per il jailbreak possa essere concepito per attirare clienti verso il servizio a pagamento.
Haiou utilizza metodi di prompt injection, come il gioco di ruolo e la riformulazione delle richieste di cybersicurezza come esercizi Capture The Flag. Installa inoltre competenze incentrate su penetration testing, cracking e reverse engineering. Separatamente, aggiunge istruzioni pubblicitarie persistenti al file globale delle istruzioni dell’agente. Saluti e frasi di attivazione comuni, tra cui «hi», «hello» e «Seagull», possono far apparire l’annuncio.
Il pacchetto viene presentato su GitHub come uno strumento di configurazione locale che aggiunge a Codex una persona tecnica cinese e un flusso di lavoro per la ricerca sulla sicurezza. È stato inoltre distribuito insieme a Codex-X, uno strumento open source cinese di visualizzazione che consente di configurare Codex tramite un’interfaccia grafica.
Pedro Drimel Neto, responsabile del team di analisi dei malware di Check Point, ha dichiarato che il comportamento viene introdotto tramite istruzioni in linguaggio naturale e configurazioni, anziché attraverso un payload eseguibile convenzionale. I ricercatori hanno affermato che il caso evidenzia come competenze e configurazioni di terze parti possano influenzare un agente IA e creare rischi per la catena di approvvigionamento.
Fonti: The Hacker News.