Skip to main content
El streaming devuelve la salida del modelo en pequeños fragmentos a medida que se genera. Úsalo para interfaces de chat, generación de contenido extenso, registros de agentes y cualquier flujo de trabajo en el que los usuarios deban ver el progreso de inmediato.

Habilitar el streaming

Configura stream como true en el cuerpo de la solicitud:

Formato de la respuesta

Las respuestas en streaming usan eventos enviados por el servidor (server-sent events). Cada evento comienza con data: y contiene un fragmento parcial de la finalización:
Puntos clave:
  • El texto incremental está en choices[0].delta.content.
  • Concatena todos los valores de delta.content en orden para construir la respuesta final.
  • El último fragmento normal incluye un finish_reason como stop.
  • El stream termina con data: [DONE].

Ejemplo con cURL

-N deshabilita el almacenamiento en búfer de la salida de cURL para que cada fragmento SSE aparezca en cuanto llega. Reemplaza sk-your-key en el comando con tu clave real.

Ejemplo en Python

Reemplaza sk-your-key en API_KEY con tu clave real, luego itera sobre el stream devuelto:

Ejemplo en Node.js

Reemplaza sk-your-key en API_KEY con tu clave real:

Cuándo usar streaming

Próximos pasos