9
为Agent提供和用户交互的接口,如果Action ask 的结果可以以stream的形式返回,那么在用户端可以不用等所有数据就绪后才能看到结果。
为Agent提供和用户交互的接口,如果Action ask 的结果可以以stream的形式返回,那么在用户端可以不用等所有数据就绪后才能看到结果。
从0.7开始, Action._aask就已经默认是stream模式了。
async def _aask(self, prompt: str, system_msgs: Optional[list[str]] = None) -> str:
"""Append default prefix"""
return await self.llm.aask(prompt, system_msgs)
async def aask(
self,
msg: str,
system_msgs: Optional[list[str]] = None,
format_msgs: Optional[list[dict[str, str]]] = None,
images: Optional[Union[str, list[str]]] = None,
timeout=3,
stream=True,
) -> str:
@redlion99 您能否确认问题是否已解决?
是的,虽然它不会直接返回块形式的流,但我自己包装一个应该不难。再次感谢您出色的工作。
感谢您的友好评论@binlish