Los guardrails de Brain Companion son mecanismos implementados para asegurar que el asistente de inteligencia artificial de Webdox funcione de forma segura, controlada y alineada con el propósito de asistir en tareas contractuales específicas. Según la documentación interna, estos guardrails actúan como
barreras semánticas, de seguridad y de contexto, evitando desvíos del dominio esperado (gestión contractual).
Se trata de mecanismos para asegurar que el asistente de inteligencia artificial de Webdox funcione de forma segura, controlada y alineada con el propósito de asistir en tareas contractuales específicas.
¿Qué son los guardrails de Brain Companion?
Los guardrails son reglas o validaciones previas que determinan si una pregunta que hace el usuario es relevante y segura para ser respondida por Brain Companion, en el contexto de un contrato abierto dentro de Webdox.
Ejemplo práctico del flujo con guardrail.
Usuario pregunta: "¿Cuál es el número de empleados de la empresa?".
Guardrail semántico (True/False): False.
Respuesta del sistema: "Tu pregunta no parece estar relacionada con el contenido del contrato actual. Por favor, reformúlala para que pueda ayudarte mejor."
Como se observa, las respuestas de Brain Companion con la implementación del guardrails, hace que la información enregada en sus respuestas sean en base al contenido del documento abierto.
Beneficios clave de estos guardrails
Protegen la focalización del modelo en la gestión contractual.
Alinean el producto con normas éticas de IA (ISO 42001).
Refuerzan la confianza del cliente, evitando respuestas inventadas o sensibles.
Disminuyen el riesgo de uso indebido o fuga de información