Investigadores de ciberseguridad han identificado un conjunto de herramientas para hacer jailbreak a OpenAI Codex que altera las instrucciones de confianza del agente de IA para insertar anuncios. Check Point Research ha denominado este comportamiento «adware de prompts».
El conjunto de herramientas, llamado Haiou —«gaviota» en chino—, modifica los archivos de configuración de Codex para que las respuestas posteriores del agente promocionen un sitio web que ofrece acceso a una pasarela de modelos de lenguaje compatible con OpenAI. Check Point dijo que la pasarela funciona como middleware entre las aplicaciones y un proveedor de LLM, y sugirió que el paquete gratuito para hacer jailbreak quizá pretenda atraer clientes al servicio de pago.
Haiou emplea métodos de inyección de prompts, como la interpretación de roles y la reformulación de solicitudes de ciberseguridad como ejercicios de Capture The Flag. También instala habilidades centradas en las pruebas de penetración, el descifrado y la ingeniería inversa. Por separado, añade instrucciones publicitarias persistentes al archivo de instrucciones globales del agente. Saludos y frases de activación habituales, entre ellos «hi», «hello» y «Seagull», pueden activar el anuncio.
El paquete se presenta en GitHub como una herramienta de configuración local que añade a Codex una personalidad técnica china y un flujo de trabajo de investigación de seguridad. También se ha incluido junto con Codex-X, una herramienta china de visualización de código abierto para configurar Codex mediante una interfaz gráfica.
Pedro Drimel Neto, jefe del equipo de análisis de malware de Check Point, dijo que este comportamiento se introduce mediante instrucciones en lenguaje natural y configuraciones, y no a través de una carga útil ejecutable convencional. Los investigadores señalaron que el caso pone de relieve cómo las habilidades y configuraciones de terceros pueden influir en un agente de IA y generar riesgos en la cadena de suministro.
Fuentes: The Hacker News.