Des chercheurs en cybersécurité ont identifié un kit de jailbreak pour OpenAI Codex qui modifie les instructions de confiance de l’agent IA afin d’y insérer des publicités. Check Point Research a baptisé ce comportement « prompt adware ».
Le kit, appelé Haiou — « mouette » en chinois — modifie les fichiers de configuration de Codex afin que les réponses ultérieures de l’agent fassent la promotion d’un site web donnant accès à une passerelle de modèles de langage compatible avec OpenAI. Check Point a indiqué que la passerelle sert d’intergiciel entre les applications et un fournisseur de LLM, et a suggéré que le kit de jailbreak gratuit pourrait viser à attirer des clients vers le service payant.
Haiou utilise des méthodes d’injection de prompt, telles que le jeu de rôle et la reformulation de demandes liées à la cybersécurité en exercices Capture The Flag. Il installe également des compétences axées sur les tests d’intrusion, le cracking et la rétro-ingénierie. Par ailleurs, il ajoute des instructions publicitaires persistantes au fichier d’instructions global de l’agent. Des salutations et des phrases d’activation courantes, notamment « hi », « hello » et « Seagull », peuvent déclencher la publicité.
Le paquet est présenté sur GitHub comme un outil de configuration local qui ajoute à Codex un profil technique chinois et un flux de travail de recherche en sécurité. Il a également été regroupé avec Codex-X, un outil chinois open source de visualisation permettant de configurer Codex via une interface graphique.
Pedro Drimel Neto, responsable de l’équipe d’analyse des logiciels malveillants de Check Point, a déclaré que ce comportement est introduit au moyen d’instructions en langage naturel et de la configuration, plutôt que par une charge utile exécutable conventionnelle. Les chercheurs ont indiqué que ce cas met en évidence la manière dont des compétences et des configurations tierces peuvent influencer un agent IA et créer des risques liés à la chaîne d’approvisionnement.
Sources: The Hacker News.