Appearance
流式输出
聊天补全请求设置 stream: true 后,网关以 Server-Sent Events(SSE)逐段返回结果。
bash
curl -N https://YOUR_API_HOST/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_TOKEN" \
-H "Content-Type: application/json" \
-d '{
"model": "YOUR_MODEL",
"messages": [{"role": "user", "content": "你好"}],
"stream": true
}'客户端应逐行读取 data: 事件,并在收到 data: [DONE] 后结束。不同接口的事件字段可能不同,具体结构请查看相应 接口说明。
使用 SDK 时也可以通过其流式调用接口消费结果;确保 HTTP 客户端和反向代理没有缓冲 SSE 响应。