password
查看人数
type
status
date
slug
summary
category
icon
tags
作者
状态
对接阿里的通义千问,由于通义千问提供了Python的sdk,可以自己使用但是返回的是一个json格式数据,在django中要实现流式的响应需要使用StreamingHttpResponse
在Django中,为了实现流式响应,我们通常使用
StreamingHttpResponse
。为了设置响应的内容类型为'text/event-stream',我们需要在响应头中指定它。这样,我们可以根据需要向客户端发送动态内容。对应的sample_call_streaming改造
这一句很重要
yield f"data: {response.output}\n\n"
data: {response.output}\n\n
这个格式是必须的,需要看返回的数据是否是这种格式的,如果是这种格式就不需要这句直接yield就可以了,目前GPT相关的都是这种格式返回。在Nginx+uwsgi部署后流式效果失效,需要下面的配置。
- nginx部分配置
- uwsgi部分配置
让nginx和uwsgi的通信方式以http通信,如果用sockt就会导致没有流式的效果,所有的数据都是在最后以前返回的。
有关使用上的问题,欢迎您在底部评论区留言,一起交流~
- 作者:躁静有徒
- 链接:https://blog.zaojingyoutu.top//article/6a246c81-86d3-4500-a61b-4a181eab1009
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。
相关文章