用户手册问答
Last updated
Last updated
大家日常工作中涉及大量解答用户产品问题的工作,通过搭建用户手册问答机器人,可以大大提升沟通与工作效率。大语言模型根据知识库中的用户手册内容,对用户输入的有关用户手册文档的问题进行回答。
需要对文本内容进行回答,因此选择语言模型ChatOpenAi组件(或其他语言模型组件)、RetrievalQA组件、CombineDocsChain组件;
此类问答场景下是根据语义进行搜索,因此选择OpenAIEmbeddings组件、Milvus组件,实现对文本的向量化存储以及向量搜索;
连接示例
工作原理
用户输入的问题被[嵌入器/Embeddings]转换成向量,在Milvus组件中进行向量搜索,搜索到与问题最相似的X个向量对应的文本段落,再把问题与这些文本段落一同传递给大语言模型,由大语言模型输出答案。
组件参数设置
ChatOpenAI
Model Name:选择gpt-3.5-turbo,可以换为任意模型
OpenAI API Key:API接口密钥
OpenAI API Base/OpenAI Proxy:服务的地址,填写其中之一即可(如果是自己代理的国内的地址则填写OpenAI Proxy参数)
Milvus
Collection Name:填入对应毕昇[知识]功能模块中创建知识库的Collection Name
OpenAIEmbeddings
Tiktoken Model Name:模型名称,推荐使用text-embedding-ada-002
OpenAI API Key:API接口密钥
OpenAI API Base/OpenAI Proxy:服务的地址,填写其中之一即可(如果是自己代理的国内的地址则填写OpenAI Proxy参数)
CombineDocsChain
Chain Type:选择“stuff”
token_max:“-1”,即对传给大模型的文本长度不做限制