TL;DRReglas y límites que evitan que un agente haga o diga cosas indebidas.
Definición
Los guardrails son las reglas y controles que limitan lo que un sistema de IA puede decir o hacer. Incluyen temas prohibidos, validación de datos antes de ejecutar una acción, filtros de información sensible, límites de montos o cambios y la obligación de escalar ciertos casos a una persona. Funcionan como barandas: permiten que el agente opere con autonomía sin salirse del camino. Se definen en las instrucciones, en los permisos de las herramientas y en revisiones automáticas de las respuestas. Sin guardrails, un agente puede prometer algo que la empresa no cumple o exponer datos de clientes.
Términos relacionados
Agente de IASistema de IA que recibe un objetivo, decide pasos y usa herramientas para ...Agente de IA a la medidaAgente diseñado para un proceso específico de una empresa, con sus datos y ...Evaluación de agentesPruebas sistemáticas para medir si un agente responde y actúa correctamente.Instrucciones del sistemaIndicaciones base que definen el rol, tono y límites de un agente o modelo.
Preguntas frecuentes
¿Qué es Guardrails?
Reglas y límites que evitan que un agente haga o diga cosas indebidas.