Saltearse al contenido

Parámetros de la petición

Semantara reenvía a tu proveedor los parámetros estándar de generación. Cualquier parámetro fuera de esta lista se descarta antes de llamar al proveedor.

ParámetroTipoValor por defectoNotas
temperaturenúmero0.7Aleatoriedad de la respuesta. Explícito por defecto (ver abajo).
top_pnúmerodel proveedorMuestreo por núcleo.
max_tokensentero1024Tope de tokens generados. Explícito por defecto (ver abajo).
stoptexto o listaSecuencias que cortan la generación.
presence_penaltynúmeroPenaliza tokens ya presentes.
frequency_penaltynúmeroPenaliza tokens frecuentes.
seedenteroPara resultados reproducibles.
usertextoIdentificador opaco de usuario final.

Valores por defecto

Si omites max_tokens o temperature, Semantara aplica un valor por defecto explícito — el mismo con y sin streaming:

ParámetroValor por defecto
max_tokens1024
temperature0.7

Son explícitos por una razón: dos peticiones idénticas deben producir parámetros idénticos. Eso es lo que hace posible el caché y los resultados reproducibles (junto con seed).

Si mandas un valor explícito, se respeta tal cual — el valor por defecto solo llena la ausencia.

Parámetros no soportados

Estos parámetros no se descartan en silencio: se rechazan con un error explícito, para que tu código se entere en lugar de recibir una respuesta que no pediste.

ParámetroError
tools, tool_choice (function calling)LLM_009
response_format (JSON mode)LLM_010
n mayor que 1LLM_011

Cualquier otro parámetro fuera de la tabla de arriba (por ejemplo logprobs) se descarta sin error.