Saltar al contenido principal
Playbook: red team de prompts
← Volver al journal
LLM 6 min de lectura

Playbook: red team de prompts

Red team de prompts no es buscar frases graciosas para romper al modelo. Es identificar rutas previsibles de abuso, fuga y sobreconfianza.

En este artículo

Defina qué comportamiento quiere proteger

Antes de lanzar ataques, escriba el comportamiento esperado: qué debe responder, qué debe rechazar, qué no puede revelar y cómo debe comportarse cuando no sabe. Sin esa base, el red team encuentra ruido, no riesgo.

Construya familias de ataque, no solo ejemplos sueltos

Agrupe pruebas por intención: bypass de instrucciones, extracción de datos, confusión de contexto, presión de autoridad y prompt injection. Esa clasificación permite ver cobertura y no depender de ocurrencias aisladas.

  • Cree variantes cortas, largas y multietapa del mismo ataque.
  • Pruebe inputs limpios y inputs mezclados con contexto real.
  • Registre resultado, severidad y condición de reproducción.

Pruebe cadena completa y no solo el prompt visible

Muchos fallos no nacen en el prompt principal, sino en memoria conversacional, recuperación, herramientas o postprocesado. El red team útil revisa todo el circuito donde una instrucción maliciosa puede entrar o persistir.

Clasifique fallos por impacto operativo

No todos los fallos merecen la misma respuesta. Distinga entre salida torpe, incumplimiento de tono, fuga de información, acción indebida y ruptura de permisos. La remediación correcta depende del impacto, no del susto del momento.

Convierta hallazgos en controles mantenibles

Cada hallazgo debe terminar en una acción concreta: ajuste de prompt, filtro adicional, cambio de herramienta, nuevo test o decisión de no automatizar ese tramo. Si el aprendizaje no se convierte en control, el red team se queda en demo interna.

Desbloquear checklist red team

Desbloquee el artículo completo

Acceda con su cuenta de la comunidad Kodex para seguir leyendo.

Más del journal

¿Quiere aplicar esto en su organización?

Kodex ejecuta con usted — o empieza por recursos. El estándar de rigor es el mismo.

Agendar consultoría Ver recursos

Colaboremos

Cuéntanos tu objetivo

Un triage corto para cualificar su solicitud. En pocos minutos llegamos al alcance correcto.

1

¿Cómo quiere colaborar con Kodex?

Abrimos la ruta correcta — sin preguntas de más.

¿Cómo quiere colaborar con Kodex?

Toca una tarjeta para continuar