jailbreak detection

Categoria: guardrails e regras

Identificação de tentativas do usuário de contornar as restrições e guardrails do agente por meio de prompts manipulativos que buscam fazê-lo ignorar suas instruções de sistema.