password
查看人数
type
status
date
slug
summary
category
icon
tags
作者
状态
😀
对接阿里的通义千问,由于通义千问提供了Python的sdk,可以自己使用但是返回的是一个json格式数据,在django中要实现流式的响应需要使用StreamingHttpResponse
 
在Django中,为了实现流式响应,我们通常使用StreamingHttpResponse。为了设置响应的内容类型为'text/event-stream',我们需要在响应头中指定它。这样,我们可以根据需要向客户端发送动态内容。
 
对应的sample_call_streaming改造
 
这一句很重要yield f"data: {response.output}\n\n"data: {response.output}\n\n这个格式是必须的,需要看返回的数据是否是这种格式的,如果是这种格式就不需要这句直接yield就可以了,目前GPT相关的都是这种格式返回。
 
在Nginx+uwsgi部署后流式效果失效,需要下面的配置。
  • nginx部分配置
  • uwsgi部分配置
让nginx和uwsgi的通信方式以http通信,如果用sockt就会导致没有流式的效果,所有的数据都是在最后以前返回的。
 
💡
有关使用上的问题,欢迎您在底部评论区留言,一起交流~
Python解码base64报错:Incorrect paddingapscheduler运行定时任务出现报错:2006, "MySQL server has gone away (ConnectionResetError(104, 'Connection reset by peer'))"
Loading...