用户手册问答

目标

大家日常工作中涉及大量解答用户产品问题的工作,通过搭建用户手册问答机器人,可以大大提升沟通与工作效率。大语言模型根据知识库中的用户手册内容,对用户输入的有关用户手册文档的问题进行回答。

效果示例

构建思路

  1. 需要对文本内容进行回答,因此选择语言模型ChatOpenAi组件(或其他语言模型组件)、RetrievalQA组件、CombineDocsChain组件;

  2. 此类问答场景下是根据语义进行搜索,因此选择OpenAIEmbeddings组件、Milvus组件,实现对文本的向量化存储以及向量搜索;

  • 连接示例

  • 工作原理

用户输入的问题被[嵌入器/Embeddings]转换成向量,在Milvus组件中进行向量搜索,搜索到与问题最相似的X个向量对应的文本段落,再把问题与这些文本段落一同传递给大语言模型,由大语言模型输出答案。

  • 组件参数设置

    • ChatOpenAI

      • Model Name:选择gpt-3.5-turbo,可以换为任意模型

      • OpenAI API Key:API接口密钥

      • OpenAI API Base/OpenAI Proxy:服务的地址,填写其中之一即可(如果是自己代理的国内的地址则填写OpenAI Proxy参数)

    • Milvus

      • Collection Name:填入对应毕昇[知识]功能模块中创建知识库的Collection Name

    • OpenAIEmbeddings

      • Tiktoken Model Name:模型名称,推荐使用text-embedding-ada-002

      • OpenAI API Key:API接口密钥

      • OpenAI API Base/OpenAI Proxy:服务的地址,填写其中之一即可(如果是自己代理的国内的地址则填写OpenAI Proxy参数)

    • CombineDocsChain

      • Chain Type:选择“stuff”

      • token_max:“-1”,即对传给大模型的文本长度不做限制

Last updated