Skip to content

流式输出 ​

聊天补全请求设置 stream: true 后,网关以 Server-Sent Events(SSE)逐段返回结果。

bash
curl -N https://YOUR_API_HOST/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_MODEL",
    "messages": [{"role": "user", "content": "你好"}],
    "stream": true
  }'

客户端应逐行读取 data: 事件,并在收到 data: [DONE] 后结束。不同接口的事件字段可能不同,具体结构请查看相应 接口说明。

使用 SDK 时也可以通过其流式调用接口消费结果;确保 HTTP 客户端和反向代理没有缓冲 SSE 响应。

模型接口文档。接口可用性以当前部署和已开通的模型为准。