Modelos e idioma
Modelos
Un agente utiliza hasta tres modelos, según el tipo de experiencia que ofrece.
El catálogo de modelos disponibles es el mismo para todos los espacios de trabajo. Al seleccionar un modelo, tenga en cuenta que no todos ofrecen las mismas capacidades: la información específica de cada uno, como sus límites de contexto, costo, modalidades, etc., debe consultarse en el selector de modelo de Kivox Studio al momento de configurarlo.
Durante las primeras pruebas de un agente, conviene mantener esta configuración simple y concentrar el esfuerzo en las instrucciones. Ajustar el modelo tiene más sentido una vez que el comportamiento base ya es consistente.
Parámetros de generación
Además del modelo, puede ajustar cómo genera sus respuestas.
- Temperatura: controla la variabilidad de la respuesta. Valores bajos producen respuestas más predecibles y consistentes; valores altos producen respuestas más variadas. Para un agente de soporte, una temperatura baja suele ser preferible.
- Top P: controla cuánta probabilidad acumulada se considera al elegir el siguiente token. En lugar de considerar todas las opciones posibles, el modelo se limita al conjunto más probable cuya probabilidad acumulada alcanza el valor de
top_p. Por ejemplo, un valor más bajo restringe la elección a las opciones más probables, lo que suele producir respuestas más predecibles; un valor más alto permite considerar más alternativas y aumenta la variedad. En general, conviene ajustar temperatura o Top P, pero no ambos al mismo tiempo, para evitar introducir dos controles sobre la misma dimensión del comportamiento. - Máximo de tokens: limita la extensión de una respuesta. Es útil para evitar respuestas innecesariamente largas, especialmente en canales de voz.
- Esfuerzo de razonamiento: para modelos que lo admiten, controla cuánto razonamiento interno realiza el modelo antes de responder. Los valores disponibles son
Directo,Automático,Ágil,Rápido,EstrategayExperto. Un esfuerzo mayor puede mejorar respuestas que requieren varios pasos de razonamiento, a cambio de una respuesta más lenta.
Estos parámetros deben ajustarse a partir de un problema observado durante las pruebas, no de forma preventiva. Un agente con instrucciones claras rara vez necesita más que una temperatura baja.
Idioma
La configuración de idioma controla en qué idioma responde el agente y cómo determina cuál usar.
language fija el idioma por defecto de la conversación. auto_detect_language, cuando está activo, permite que el agente identifique el idioma utilizado por el usuario y responda en consecuencia, incluso si difiere del idioma configurado por defecto. timezone establece la zona horaria de referencia del agente, relevante para cualquier respuesta que involucre horarios o fechas relativas.
Para un agente que atiende exclusivamente en un idioma, fijar language sin detección automática produce un comportamiento más predecible. La detección automática es más útil cuando el mismo agente atiende a una base de usuarios con idiomas mixtos.