Filtraciones de prompts: dos millones de canarios destapan la cadena de suministro de la IA
Tu prompt no va de tu app al modelo. Pasa por un router, un proveedor y, a veces, por un revendedor que nadie eligió. Dos millones de carnadas demuestran que en algún punto del camino alguien lo lee.
El experimento: dos millones de prompts con carnada
El 19 de noviembre, HD Moore —creador de Metasploit y hoy jefe de investigación de Dragos— publicó el informe "Three breaches, endless leaks: Your AI supply chain needs canaries". Durante cinco meses, de julio a noviembre de 2026, su equipo envió cerca de dos millones de prompts a servicios de IA comerciales. Cada uno llevaba un secreto único: una clave de AWS ligada a una cuenta trampa con registro completo, un nombre DNS irrepetible, una URL que ningún sistema legítimo visitaría, una contraseña SSH, una referencia a un repositorio git privado. Un secreto por prompt y por proveedor. Si aparecía en otro sitio, ese sitio había visto el prompt.
Qué es un canario y por qué funciona
Un canario es un señuelo que solo existe para ser tocado. No protege nada: delata. Si alguien abre esa URL o usa esa clave, sabes que el dato pasó por sus manos, sin depender de la palabra del proveedor. Empezaron con los Canarytokens de Thinkst y acabaron construyendo su propio servicio.
Hallazgo 1: tres proveedores de alojamiento comprometidos
Los prompts de carnada se procesaron junto a peticiones reales de clientes, así que esas "casi con certeza" también se copiaron. El incidente más antiguo es de mediados de julio, y ninguno de los tres supo que estaba comprometido hasta que Dragos se lo dijo.
La brecha grande se copió en la puerta de entrada
La mayor afectó a un par de cientos de claves de AWS, todas enviadas en ventanas cortas de finales de octubre. Todas las peticiones de esas ventanas fueron robadas. El detalle que importa: algunas venían de peticiones que el proveedor rechazó antes de ejecutar el modelo. Si se robaron igual, el atacante copiaba en la entrada, no en el fondo del stack. En las otras dos brechas, parte de lo robado estaba marcado como Zero Data Retention.
Qué hizo el atacante con las claves
Primero probó cada clave, en algunos casos a las pocas horas. Después listó buckets de S3 y revisó Secrets Manager y Parameter Store. Al final intentó habilitar modelos en Bedrock, crear claves de API y añadir usuarios IAM propios. Decenas de miles de llamadas a la API de AWS con claves que solo existían para ser detectadas.
Hallazgo 2: leer prompts sin explotar nada
Varios revendedores de un marketplace de inferencia pudieron ver y retener prompts de clientes usando el registro estándar de la plataforma. Sin vulnerabilidad, sin salto de control, sin nada que se pueda parchear: lista un modelo popular al precio más bajo, recibe el tráfico, paga la diferencia y recoge los datos de los registros. Un precio sospechosamente bajo es una señal sobre la ruta, no una ganga.
Hallazgo 3: la bandera de privacidad no viaja
Peticiones enviadas a proveedores de Estados Unidos acabaron transmitidas a organizaciones chinas de IA, URLs únicas se visitaron meses después de una sola petición, y un enlace sembrado apareció en un chat interno de una empresa en China. El caso más claro: un laboratorio chino descargó las URL secretas de más de la mitad de los prompts enviados a sus modelos entre julio y octubre, incluido cerca de dos tercios de los marcados como sin recogida de datos. El rastreador solía aparecer dos o tres días después de la petición.
Zero Data Retention solo obliga al primer salto
ZDR es una promesa contractual, no un control técnico: dice que el prompt y la respuesta no se almacenan, y el router debería reenviar esas peticiones solo a proveedores con el mismo ajuste. La frase del informe vale como resumen: una bandera de privacidad solo obliga al primer salto. Cada salto ve el prompt y la respuesta completos.
La respuesta de OpenRouter del 22 de noviembre
El router que queda en medio de buena parte de ese tráfico aclara primero el alcance: los hallazgos no muestran una brecha ni un acceso no autorizado a OpenRouter. Lo que sí muestran es lo de arriba, y la empresa actuó sobre sus proveedores.
Tres proveedores fuera y 125 endpoints sin ZDR
OpenRouter sacó a tres proveedores de la plataforma, retiró 125 endpoints de la elegibilidad de Zero Data Retention —los señalados por los investigadores más otros retirados como precaución— y notificó a los clientes potencialmente afectados. Quedan en marcha tres tareas: automatizar el método de prueba para correrlo de forma continua, verificar rutas de red para detectar reenvíos a terceros y exigir garantías antes de devolver la elegibilidad ZDR.
Los avisos de Novita, Phala y Together AI
OpenRouter enlaza tres avisos de proveedores, y conviene no confundirlos con los tres comprometidos ni con los tres expulsados: son eventos distintos y la empresa no cruza las listas. Novita reconoce que peticiones a modelos MiniMax se reenviaron a la API propia de MiniMax entre el 28 de mayo y el 11 de noviembre. Phala avisa de que el contenido de las peticiones de un modelo debe tratarse como expuesto en una ventana de octubre y noviembre. Together AI informa de que un tercero no autorizado descargó muestras de prompts almacenadas de junio y julio.
Qué significa esto para tu aplicación
No es una CVE que se arregla subiendo la versión de una librería. Es un problema de ruta, de contratos y de verificación, y se ataca en ese orden.
Elegir tú el proveedor de arriba
Si usas un router, fija el proveedor de destino en lugar de aceptar el pool por defecto, desactiva el fallback automático hacia marketplaces de reventa y comprueba que el ajuste de privacidad cambia de verdad el destino, no solo una etiqueta en el panel. Para controlar quién entra a tu web, las reglas de robots.txt, nginx y firmas de agentes siguen siendo el primer filtro.
Sembrar canarios y rotar lo que pasó por un prompt
Un Canarytoken gratuito de Thinkst basta para empezar: mete una URL señuelo en el contexto que mandas a producción y avísate si alguien la abre. Y aplica la regla incómoda: cualquier credencial que haya viajado dentro de un prompt debe considerarse expuesta y rotarse. El filtrado de secretos ayuda, pero mucho dato sensible —código, nombres internos, planes— no tiene forma de API key.
Autoalojar: cuándo sale a cuenta y cuánto cuesta
Autoalojar es lo único donde nadie más lee el prompt. Las órdenes de magnitud del informe bastan para decidir con datos: Mac Studio de 512 GB desde 22.299 dólares, DGX Spark por 6.950, DGX Station alrededor de 105.000 y servidor de ocho GPU B300 desde 570.000. Para lo más sensible tiene sentido; como opción general, no. Si vas por ahí, llama.cpp 1.0 con API estable y Ollama para levantar modelos en tu equipo son dos puntos de partida razonables.
Conclusión: la privacidad es una decisión de ruta
La lección no es "los prompts se filtran todos", sino algo más incómodo: algunos se filtran y desde fuera no puedes saber cuáles. La privacidad de tu app no la define el proveedor que elegiste en el panel, sino la cadena completa que recorrió el dato. Si esto te interesa, en el blog seguimos desarmando la infraestructura de la IA: la declaración de San Francisco sobre la cadena de suministro es el siguiente capítulo natural.