adversarial testing
Categoria: guardrails e regras
Processo sistemático de submeter o agente a entradas deliberadamente maliciosas, ambíguas ou manipulativas para identificar falhas nos guardrails e comportamentos indesejados antes de colocar em produção.