Red team de prompts no és buscar frases gracioses per trencar el model. És identificar rutes previsibles d'abús, fuga i sobreconfiança.
En aquest article +
Les vostres llistes
Definiu quin comportament voleu protegir
Abans de llançar atacs, escriviu el comportament esperat: què ha de respondre, què ha de rebutjar, què no pot revelar i com s'ha de comportar quan no sap. Sense aquesta base, el red team troba soroll, no risc.
Construïu famílies d'atac, no només exemples aïllats
Agrupeu proves per intenció: bypass d'instruccions, extracció de dades, confusió de context, pressió d'autoritat i prompt injection. Aquesta classificació permet veure cobertura i no dependre d'ocurrències aïllades.
Creeu variants curtes, llargues i multietapa del mateix atac.
Proveu inputs nets i inputs barrejats amb context real.
Registreu resultat, severitat i condició de reproducció.
Proveu cadena completa i no només el prompt visible
Molts fallos no neixen al prompt principal, sinó en memòria conversacional, recuperació, eines o postprocessat. El red team útil revisa tot el circuit on una instrucció maliciosa pot entrar o persistir.
Classifiqueu fallos per impacte operatiu
No tots els fallos mereixen la mateixa resposta. Distingiu entre sortida tova, incompliment de to, fuga d'informació, acció indeguda i ruptura de permisos. La remediació correcta depèn de l'impacte, no de la por del moment.
Convertiu troballes en controls mantenibles
Cada troball ha d'acabar en una acció concreta: ajust de prompt, filtre addicional, canvi d'eina, nou test o decisió de no automatitzar aquell tram. Si l'aprenentatge no es converteix en control, el red team es queda en demo interna.
Fem servir cookies necessàries per al lloc i, només amb el seu permís, analítica (Google Analytics, Microsoft Clarity i, si està actiu, PostHog) per millorar l'experiència. Política de cookies · Privacitat
Ajustos de cookies
Utilitzeu Activar totes / Desactivar totes a cada categoria. Desplegueu el detall per a cookies individuals.
kdx-cookie-consent
Kodex (first-party) · localStorage
Recordar categorías de cookies aceptadas o rechazadas (Aceptar / Rechazar / Ajustes).
kdx_session
Kodex (first-party) · cookie HTTP (HttpOnly, SameSite=Lax, Secure en producción)
Mantener la sesión autenticada de la comunidad Kodex (cuenta, listas guardadas, panel).
CDN / sesión de entrega
Infraestructura / CDN · cookie HTTP / sesión
Entrega segura del sitio, rendimiento y protección básica.
reCAPTCHA
Google · _GRECAPTCHA y relacionadas
Protección antispam en formularios públicos.
kdx-theme-override
Kodex (first-party) · localStorage
Recordar si el usuario forzó tema claro u oscuro.
_ga / _ga_*
Google Analytics 4 · cookie HTTP
Medición agregada de audiencia y uso del sitio (páginas, eventos).
Microsoft Clarity
Microsoft · cookies / almacenamiento de sesión
Mapas de calor, clics y reproducción de sesiones para mejorar UX.
PostHog
PostHog · cookie / localStorage
Analítica de producto y eventos de conversión (si está configurado).
