ZBLOG

根据上面的代码修改后await websocket.send(value) 需要等到获取所有生成器的数据才一个一个返回的,并没有获取一个返回一个

如果你想在获取到一个结果时就立即发送给客户端,而不是等待生成器完成并收集所有结果后再发送,你可以使用asyncio.create_task()将异步发送操作包装成一个任务,并继续执行生成器的下一次迭代。以下是修改后的示例代码:

  1. import asyncio
  2. # 在AsyncWebsocketConsumer中的websocket_receive方法中调用async_generator_wrapper
  3. async def websocket_receive(self, message):
  4. try:
  5. params = json.loads(message.get("text"))
  6. switch = params.get("switch")
  7. question = params.get("question")
  8. history = params.get("history", [])
  9. model_name = params.get("model_name")
  10. search_res = params.get("search_res")
  11. question_id = params.get("question_id")
  12. user_id = params.get("user_id")
  13. lang = params.get("lang", "cn")
  14. sql2sql = False
  15. # 创建生成器并传入参数
  16. generator = infer(switch, question, search_res, model_name, lang=lang, history=history, task_type="QA")
  17. # 包装成异步生成器,并执行异步操作和发送结果
  18. async for result in async_generator_wrapper(generator):
  19. task = asyncio.create_task(self.send(result)) # 创建发送任务
  20. await asyncio.sleep(0) # 等待一小段时间以允许事件循环处理其他任务
  21. except Exception as e:
  22. print(traceback.print_exc())
  23. # 修改后的 async_generator_wrapper 辅助函数
  24. async def async_generator_wrapper(generator):
  25. value = next(generator) # 启动生成器
  26. while True:
  27. result = await some_async_operation(value) # 执行异步操作
  28. try:
  29. value = generator.send(result) # 发送结果并接收下一个值
  30. yield result # 返回生成器的结果
  31. except StopIteration:
  32. break

在这个修改后的代码中,我们使用了async for循环来迭代生成器产生的结果,并使用asyncio.create_task()将发送操作包装成一个任务。然后,通过调用 await asyncio.sleep(0) 给事件循环一些时间处理其他任务,然后再继续下一次迭代。

请注意,在这种方式下,可能会存在快速产生大量结果导致客户端无法及时处理的问题。你可以根据实际情况进行适当地控制发送频率,以避免发送过快造成的问题。

希望这能解决你的问题!如果还有其他疑问,请随时提问。


内容由零声教学AI助手提供,问题来源于学员提问

本站部分文章来源于网络,版权归原作者所有,如有侵权请联系站长删除。
转载请注明出处:https://golang.0voice.com/?id=15023

分享:
扫描分享到社交APP
上一篇
下一篇
发表列表
游客 游客
此处应有掌声~
评论列表

还没有评论,快来说点什么吧~

联系我们

在线咨询: 点击这里给我发消息

微信号:3007537140

上班时间: 10:30-22:30

关注我们
x

注册

已经有帐号?