jailbreak detection
Category: guardrails e regras
Identificação de tentativas do usuário de contornar as restrições e guardrails do agente por meio de prompts manipulativos que buscam fazê-lo ignorar suas instruções de sistema.
Try 5 minutes
A voice AI that understands your project and builds the agents with you