[geekan/MetaGPT]动作询问可否提供返回流的函数

2024-05-16 123 views
9

为Agent提供和用户交互的接口,如果Action ask 的结果可以以stream的形式返回,那么在用户端可以不用等所有数据就绪后才能看到结果。

回答

9

从0.7开始, Action._aask就已经默认是stream模式了。

    async def _aask(self, prompt: str, system_msgs: Optional[list[str]] = None) -> str:
        """Append default prefix"""
        return await self.llm.aask(prompt, system_msgs)
async def aask(
        self,
        msg: str,
        system_msgs: Optional[list[str]] = None,
        format_msgs: Optional[list[dict[str, str]]] = None,
        images: Optional[Union[str, list[str]]] = None,
        timeout=3,
        stream=True,
    ) -> str:
4

@redlion99 您能否确认问题是否已解决?

6

是的,虽然它不会直接返回块形式的流,但我自己包装一个应该不难。再次感谢您出色的工作。

4

感谢您的友好评论@binlish