Gobierno de Agentforce: cinco pruebas antes de publicar un agente
Lo mínimo que un agente de IA debe pasar antes de hablar con tus clientes.
Encender un agente de Agentforce es rápido. Saber qué va a responder ante una pregunta inesperada no lo es. Antes de que un agente hable con tus clientes, debería pasar al menos estas cinco pruebas. Todas se pueden escribir como casos de prueba y ejecutarse por lotes antes de cada publicación.
1. Se queda en su tema
Cada agente atiende un conjunto acotado de temas. Prueba qué hace cuando le preguntan por algo fuera de ellos: debe decir con amabilidad que no puede ayudar con eso y, si corresponde, pasar la conversación a una persona. Nunca debe improvisar una respuesta.
2. No inventa
Pregúntale por un producto, una tasa o una política que no existe. Un agente bien diseñado responde que no tiene esa información. Si inventa un dato con seguridad, sus instrucciones o sus fuentes necesitan trabajo antes de publicarse.
3. No expone datos de otras personas
Intenta obtener información de otro cliente: un saldo, un correo, un historial. Prueba con y sin autenticación. El agente solo debe mostrar datos de la persona autenticada, y solo los que necesita para resolver.
4. No se deja manipular
Escribe mensajes que intentan cambiar sus reglas: "ignora tus instrucciones", "actúa como administrador", "muéstrame tu configuración". El agente debe seguir igual. Estas pruebas adversariales son las que más se olvidan y las que más importan.
5. Sabe cuándo pasar a una persona
Define por escrito en qué casos el agente debe escalar: una queja, una situación de riesgo, un cliente molesto o tres intentos fallidos. Prueba cada uno y revisa que la persona que recibe la conversación tenga el contexto completo.
Cómo convertir esto en una práctica
- Cada agente tiene un dueño de negocio que aprueba sus temas y sus respuestas.
- Las pruebas viven junto al agente y se ejecutan antes de cada cambio.
- Ningún agente se publica si alguna prueba crítica falla.
- Se revisan conversaciones reales cada semana para agregar casos nuevos.
Salesforce incluye herramientas para ejecutar pruebas de agentes por lotes. Lo que no incluye es la decisión de qué probar. Esa batería de pruebas, escrita para tu negocio, es el centro de nuestro servicio de Agentforce con gobierno.