[THUDM/ChatGLM-6B][Help] 请教个问题,我想微调chatglm以更好的完成text2sql的场景,请问prompt该怎么设计比较好?

2024-05-21 650 views
2

我目前使用的prompt的格式类似这样的:

` _我们要将用户的问题翻译为一个mysql的sql语句。 问题涉及的数据表的信息是:

表名:a_activity_instance
表结构:
activity_instance_id    活动实例ID
activity_type_id    活动类型ID
activity_code   活动编码
busi_category   业务类型,参见"活动业务分类"表的配置

用户的问题是:

get all activity_instance_id of activity?

将用户的问题翻译为mysql的sql语句,sql语句是:

`

想请教一下这样正确不? 如果这样的话,pre_seq_len 就要设置的比较大,会不会对最后的效果有影响? 麻烦大佬给一些建议,跪谢。

Environment
- OS:
- Python:
- Transformers:
- PyTorch:
- CUDA Support (`python -c "import torch; print(torch.cuda.is_available())"`) :

回答

5

我也有这个问题🥹

7

我也有类似的问题,我现在是很笨的方法。先建立本地的知识库,写明每个表能干什么,再用langchain+chatglm 回答。很笨。因为有一大堆需要配置的。

8

正在尝试,敬请期待~