专业的家居行业网站模板,网站建设百度小程序,电子商务网站规划书范文,网络营销和网络推广说在前面
文档问答#xff0c;是常见的一类LLM应用#xff0c;给定一段可能是从 PDF文件、网页或某公司内部文档库中提取的文本#xff0c;使用LLM回答关于这些文档内容的问题。这样的应用非常的强大#xff0c;它可以将LLM与完全没被训练的数据相结合#xff0c;可以灵活…说在前面
文档问答是常见的一类LLM应用给定一段可能是从 PDF文件、网页或某公司内部文档库中提取的文本使用LLM回答关于这些文档内容的问题。这样的应用非常的强大它可以将LLM与完全没被训练的数据相结合可以灵活的适应你的应用场景。这样的应用需要我们引入更多的 LangChain组件来实现例如 Embedding model 和 Vector Stores向量存储这也是 LangChain中最受欢迎的链之一。视频时长15:06
注 所有的示例代码文件课程网站上都有完全免费并且是配置好的 Juptyernotebook 环境和配置好的 OPENAI_API_KEY不需要自行去花钱租用建议代码直接上课程网站上运行。 课程网站
另外LLM 的结果并不总是相同的。在执行代码时可能会得到与视频中略有不同的答案。 Main Content
本节首先将演示一个简单的文档问答示例。然后详细结合代码介绍其文档问答的原理。在介绍有多个文档的情况下的文档问答方法。其中涉及到 Embedding 和 Vector Datasets 两个重要部分。
基于文档的问答示例
1.导入环境变量。
import osfrom dotenv import load_dotenv, find_dotenv
_ load_dotenv(find_dotenv()) # read local .env file# account for deprecation of LLM model
import datetime
# Get the current date
current_date datetime.datetime.now().date()# Define the date after which the model should be set to gpt-3.5-turbo
target_date datetime.date(2024, 6, 12)# Set the model variable based on the current date
if current_date target_date:llm_model gpt-3.5-turbo
else:llm_model gpt-3.5-turbo-03012.导入必要的库。其中 RetrievalQA 将帮助检索文档CSVLoader 用于加载CSV文件vectorstroes 用于向量存储有很多不同类型的向量存储这里我们从使用 DocArrayInMemorySearch 开始这个向量存储是内存存储不需要连接任何的外部数据库容易上手display 和 markdown 用于在 Jupyter Notebook 中显示信息。
from langchain.chains import RetrievalQA
from langchain.chat_models import ChatOpenAI
from langchain.document_loaders import CSVLoader
from langchain.vectorstores import DocArrayInMemorySearch
from IPython.display import display, Markdown
from langchain.llms import OpenAI3.导入CSV文件。这是一个户外服装产品目录的CSV文件我们将用它和LLM结合使用。
file OutdoorClothingCatalog_1000.csv
loader CSVLoader(file_pathfile)4.导入 VectorStoreIndexCreator使用它可以方便的创建一个向量存储。
from langchain.indexes import VectorstoreIndexCreator5.使用 VectorStoreIndexCreator创建一个向量存储。详细步骤如下
第一步指定一个向量存储类这里使用上面提到的 DocArrayInMemorySearch。第二步创建向量存储后调用 DataLoader 传入一个包含一个或多个加载器的列表。
index VectorstoreIndexCreator(vectorstore_clsDocArrayInMemorySearch
).from_loaders([loader])6.创建好向量存储后我们创建提问 query。
query Please list all your shirts with sun protection \
in a table in markdown and summarize each one.7.这里跟视频中不一样因为相关库的版本更新所以我们需要重新设置一下模型。然后获得向模型提问得到 response。
llm_replacement_model OpenAI(temperature0, modelgpt-3.5-turbo-instruct)response index.query(query, llm llm_replacement_model)8.用 markdown 的形式展示得到的 response。
display(Markdown(response))我们得到了一个 Markdown 格式的表格列出来所有具有防晒功能的衬衫的名称和描述。符合我们提出的问题成功基于文档的内容进行问答。 基于文件的问答的原理
在使用LLM对文档进行问答操作时我们会想到LLM一次只能接受几千个单词我们该如何去让LLM 对一个很大的文档的所有内容进行问答
为解决这个问题我们需要用到 Embedding 和 Vector Datasets 向量存储。下面我将通过具体的代码来详细讲解这部分的实现原理。
Embeddings
Embedding 中文叫做 嵌入。我们此处用到的 Embedding 主要是 NLP 当中的 Embedding 概念功能是 将一段文本转换成数字即用一组数字表示文本。
这组数字捕捉了它所代表的文字片段的内容含义。内容相似的文本片段会有相似的向量值。我们可以在向量空间中比较文本片段。通过向量相似度我们可以轻松地找出哪些文本片段相似。我们可以利用这种技术从文档中找出跟问题相似地文本片段一起传递给LLM 来帮助回答问题。 Vector Database
Vector Database向量存储库向量存储库是一种存储方式可以存储我们在前面创建地那种 Embedding 后的数字数组。
在向量数据库中新建数据的方式就是将文档拆分成快每块生成 Embedding然后把 Embedding 和原始块一起存储到数据库中。当我们在处理大一点的文档时首先要将其拆分成较小的文本块因为可能无法将整个文档的内容都传给语言模型。所以需要把文档拆分成小块这样每次就只用把最相关的几块内容传递给 语言模型。然后把每个文本块生成一个 Embedding 然后将这些 Embedding 存储在向量数据库中。 这就是我们创建索引的过程。索引创建后我们可以用它来找到与查询内容做相关的几个文本片段当一个查询进来时我们首先将查询的内容生成 Embedding得到一个数字数组。然后将这个数字数组与向量数据库中的所有向量进行比较选择最相似的前若干个文本块。 文件问答原理演示
拿到这些文本块后将这些文本块和原始的查询内容一起传递给语言模型这样可以让语言模型根据检索出来的文档内容生成最终答案。
我根据上面的这个过程创建了下面的链作为演示来理解底层发生了什么。
1.创建一个文档加载器加载前面提到的产品描述的CSV文件用作后面问答的文档数据。
from langchain.document_loaders import CSVLoader
loader CSVLoader(file_pathfile)我们可以使用这个文档加载器查看单个文档单个文档对应CSV文件中的一个产品。
docs loader.load()查看第一个文档。
docs[0]2.之前我们虽然讲过对文档进行分块操作但是这里因为文档已经很小了所以我们不需要再分块了直接生成 Embedding。要生成 Embedding我们将使用 OpenAIEmbedding 类。这里导入并初始化这个类。
from langchain.embeddings import OpenAIEmbeddings
embeddings OpenAIEmbeddings()为理解 Embedding 是如何工作的我们查看一段特定的文本生成的 Embedding 是什么样子的。
使用 embed_query 方法为特定文本生成 Embedding。
embed embeddings.embed_query(Hi my name is Harrison)可以看到这个 Embedding有超过一千个(1536) 个不同的元素。
print(len(embed))可以看到每个元素都是一个不同的数字。这些数字就是这段文字的Embedding 是一个1536维向量。
print(embed[:5])3.给刚才加载的所有文本片段生成 Embedding并将它们存储在一个向量存储器中。通过在向量存储器上调用 from_documents 方法来实现这一点。这个方法需要一个文档列表、一个Embedding对象然后我们将创建一个向量存储器。
db DocArrayInMemorySearch.from_documents(docs, embeddings
)4.现在可以使用这个向量存储器来找到与输入的查询内容类似的文本片段。
query Please suggest a shirt with sunblocking在向量存储器上调用 similarity_search 方法并传入查询的内容就可以查询到一个文档列表。
docs db.similarity_search(query)我们看到他返回了四个文档。
len(docs)我们查看第一个文档看到的确是一件关于防晒的衣服。
docs[0]5.如何利用这个来回答我们自己文档中的问题呢
首先要从向量存储器中创建一个检索器 Retriever。检索器是一个通用接口这个接口定义了一个接受查询内容并返回相似文档的方法。实现检索器的方法有很多种基于向量存储和 Embedding的检索是其中的一种。
retriever db.as_retriever()我们想要返回一个自然语言的回应要导入一个语言模型我们使用 ChatOpenAI。
llm ChatOpenAI(temperature 0.0, modelllm_model)接下来我们手动把检索出来的文档合并成一段文本。将所有文档中的内容连接起来并将结果保存到一个变量中。
qdocs .join([docs[i].page_content for i in range(len(docs))])然后我们会将这个变量的内容和一个问题一起传给LLM问题内容是请用 Markdown表格列出所有具有防晒功能的衬衫并为这些衬衫写一份摘要。“
response llm.call_as_llm(f{qdocs} Question: Please list all your \
shirts with sun protection in a table in markdown and summarize each one.) display(Markdown(response))注 一开始我得到的结果如下后面我发现将 llm ChatOpenAI(temperature 0.0, modelllm_model) 中的 temperature 改大就可以得到上面的结果了。 6.我们将上面的这些步骤封装成一个 Chain。创建检索链 RetrievalQA这个链会对查询进行检索然后在检索到的文档上进行问答。
语言模型用于最后的文本生成传入链类型 stuff。 stuff 是最简单的方法他在调用语言模型时将所有的文档内容都一起放到上下文中。后文有详细介绍。传入一个检索器用于检索文档并将结果传递给语言模型verboseTure 打印详细日志
qa_stuff RetrievalQA.from_chain_type(llmllm, chain_typestuff, retrieverretriever, verboseTrue
)创建一个查询得到查询结果。
query Please list all your shirts with sun protection in a table \
in markdown and summarize each one.response qa_stuff.run(query)display(Markdown(response))7.整个基于文档的问答查询过程可以用一行代码完成就跟我最开始的示例一样。这就是LangChain的好处既可以简单的实现也可以把每一步单独拆解出来。
response index.query(query, llmllm)display(Markdown(response))8.在生成索引时我们也可以手动去创建索引指定Embedding类型更换向量存储类型等这使得我们具有更大的灵活性。
index VectorstoreIndexCreator(vectorstore_clsDocArrayInMemorySearch,embeddingembeddings,
).from_loaders([loader])基于文档问答的方法
Stuff method
stuff 方法很简单只需要把所有的内容都放到 prompt中然后发送给 LLM 得到返回结果即可。虽然简单清晰但不是在所有情况下效果都特别好。 在我们上面的例子中我们获取文档时只得到了四个相对较小的文档。如果我想在许多不同类型的分块上进行同样类型的问题问答该怎么办呢下面补充介绍三种方法。
Map_reduceRefineMap_rerank
Map_reduce
map_reduce 简单来说就是对所有的分块把每一块的内容连同问题一起传递给语言模型得到一个独立返回结果。然后每一块得到的结果都合并在一起再使用语言模型来对这些结果进行总结得到最终答案。 map_reduce 非常强大因为他可以处理任意数量的文档。同时它可以并行处理多个分块。但是它需要更多的调用语言模型。并且把所有文档都独立处理这可能并不总是最理想的结果。 Refine
也是用来处理多个文档的方法。它的处理方式是迭代进行的基于前一个文档的答案去做一下次的回复。所以这对于需要整合信息以及随着时间推移构建答案非常有用。但是这个方法通常会导致更长的答案。另外因为每一个文档无法被独立调用必须依赖前面的结果所以它通常需要更多的时间并且调用次数与 map_reduce 一样多。 Map_rerank
在 map_rerank 中对于每个文档你只需对语言模型进行一次调用另外还需要让它返回一个评分然后选择最高分的结果。你需要告诉给它指令”如果与文档相关分数应该很高“并且需要具体优化哪部分指令让语言模型知道分数应该是多少。与 map_reduce 方法类似所有的调用都是独立的。所以我们可以批量处理而且速度相对较快。缺点是一样的需要多次调用模型花费会比较高。 总结
本节介绍了如何使用 LangChain 构建基于文档的LLM问答应用。其中的重点为 Embedding 和 Vector Databse 这两个重要模块的理解和使用以及对常用的LangChain的文档问答方法的理解和使用。在LangChain中我们可以充分利用各个方法的特性将其构建成不同的链来使用以发挥最大的效能。
