用一部手机制作网站,足球直播网站怎么做的,dw可以做有后台的网站么？,3d效果图教程网站目录 前言一、LangChain1-1、介绍1-2、LangChain抽象出来的核心模块1-3、特点1-4、langchain解决的一些行业痛点1-5、安装 二、Chain模块2-1、介绍2-2、LLMChain2-3、Sequential Chain#xff08;顺序链#xff09;2-4、Router Chain 总结 前言 LangChain给自身的定位是… 目录 前言一、LangChain1-1、介绍1-2、LangChain抽象出来的核心模块1-3、特点1-4、langchain解决的一些行业痛点1-5、安装 二、Chain模块2-1、介绍2-2、LLMChain2-3、Sequential Chain顺序链2-4、Router Chain 总结 前言 LangChain给自身的定位是用于开发由大语言模型支持的应用程序的框架。它的做法是通过提供标准化且丰富的模块抽象构建大语言模型的输入输出规范利用其核心概念chains灵活地连接整个应用开发流程。 这里是LangChain系列的第四篇主要介绍LangChain的Chain模块。 一、LangChain
1-1、介绍
LangChain是一个框架用于开发由大型语言模型LLM驱动的应用程序。
LangChain 简化了 LLM 应用程序生命周期的每个阶段
开发使用LangChain的开源构建块和组件构建应用程序。使用第三方集成和模板开始运行。生产化使用 LangSmith 检查、监控和评估您的链条以便您可以自信地持续优化和部署。部署使用 LangServe 将任何链转换为 API。
总结 LangChain是一个用于开发由LLM支持的应用程序的框架通过提供标准化且丰富的模块抽象构建LLM的输入输出规范主要是利用其核心概念chains可以灵活地链接整个应用开发流程。即其中的每个模块抽象都是源于对大模型的深入理解和实践经验由许多开发者提供出来的标准化流程和解决方案的抽象再通过灵活的模块化组合才得到了langchain 1-2、LangChain抽象出来的核心模块
想象一下如果要组织一个AI应用开发者一般需要
提示词模板的构建不仅仅只包含用户输入模型调用与返回参数设置返回内容的格式化输出。知识库查询这里会包含文档加载切割以及转化为词嵌入Embedding向量。其他第三方工具调用一般包含天气查询、Google搜索、一些自定义的接口能力调用。记忆获取每一个对话都有上下文在开启对话之前总得获取到之前的上下文吧 由上边的内容引出LangChain抽象的一些核心模块 LangChain通过模块化的方式去高级抽象LLM在不同场景下的能力其中LangChain抽象出的最重要的核心模块如下‘
Model I/O 标准化各个大模型的输入和输出包含输入模版模型本身和格式化输出Retrieval 检索外部数据然后在执行生成步骤时将其传递到 LLM包括文档加载、切割、Embedding等Chains 链条LangChain框架中最重要的模块链接多个模块协同构建应用是实际运作很多功能的高级抽象Memory 记忆模块以各种方式构建历史信息维护有关实体及其关系的信息Agents 目前最热门的Agents开发实践未来能够真正实现通用人工智能的落地方案Callbacks 回调系统允许连接到 LLM 应用程序的各个阶段。用于日志记录、监控、流传输和其他任务
1-3、特点
LangChain的特点如下 大语言模型(llm): LangChain为自然语言处理提供了不同类型的模型这些模型可用于处理非结构化文本数据并且可以基于用户的查询检索信息 PromptTemplates: 这个特征使开发人员能够使用多个组件为他们的模型构造输入提示。在查询时开发人员可以使用PromptTemplates为用户查询构造提示模板之后模板会传递到大模型进行进一步的处理。 链:在LangChain中链是一系列模型它们被连接在一起以完成一个特定的目标。聊天机器人应用程序的链实例可能涉及使用LLM来理解用户输入使用内存组件来存储过去的交互以及使用决策组件来创建相关响应。 agent: LangChain中的agent与用户输入进行交互并使用不同的模型进行处理。Agent决定采取何种行动以及以何种顺序来执行行动。例如CSV Agent可用于从CSV文件加载数据并执行查询而Pandas Agent可用于从Pandas数据帧加载数据并处理用户查询。可以将代理链接在一起以构建更复杂的应用程序。 1-4、langchain解决的一些行业痛点
在使用大模型的过程中一些行业痛点
大模型的使用规范以及基于大模型的开发范式不尽相同当使用一个新模型时我们往往需要学习新的模型规范。大模型知识更新的滞后性大模型的外部API调用能力大模型输出的不稳定问题如何稳定输出大模型与私有化数据的连接方式
1-5、安装
pip install langchain二、Chain模块
2-1、介绍 LangChain的chain模块是其框架中用于构建智能对话和任务式应用的核心组件之一主要负责流程控制和数据传递。以下是chain模块的一些详细介绍 流程控制Chains是LangChain中的核心流程控制单元它们负责串联不同的组件和步骤定义应用程序的执行逻辑。数据传递Chains可以传递上下文和数据使得不同的模块之间能够共享信息。组合与嵌套Chains支持嵌套和组合可以构建复杂的流程例如顺序执行、条件判断和循环等。可重用性Chains可以被定义为可重用的模块在不同的应用场景中复用。灵活性LangChain支持多种类型的Chains如简单链、索引链、对话链等以满足不同的需求。
链的创建与组合
单一链开发者可以创建一个包含特定功能的单一链例如文本预处理、模型推理等。自定义链利用内置的基础链类开发者可以自定义链的输入、输出和处理逻辑。顺序组合将多个链按照执行顺序串联起来前一个链的输出作为下一个链的输入。并行组合同时执行多个链将它们的输出合并或选择性地使用。嵌套链在一个链的内部调用另一个链实现更复杂的流程控制
核心链类型
LLMChain与大型语言模型LLMs直接交互的链用于生成和理解自然语言SimpleSequentialChain一个简单的顺序执行链用于按顺序执行一系列步骤SequentialChain一个顺序链可以包含多个步骤每个步骤可以是另一个链RouterChain用于智能路由决策根据输入决定执行哪个链TransformChain用于数据处理可以对输入数据进行转换或处理
通过这些链的组合和嵌套LangChain框架能够实现复杂的自然语言处理应用程序提供高度的扩展性和可维护性
2-2、LLMChain LLMChain 是 LangChain 中最简单的链作为其他复杂 Chains 和 Agents 的内部调用被广泛应用。一个LLMChain由PromptTemplate和语言模型LLM or Chat Model组成。它使用直接传入或 memory 提供的 key-value 来规范化生成 Prompt Template提示模板并将生成的 prompt 格式化后的字符串传递给大模型并返回大模型输出。 案例如下
from langchain_community.chat_models import ChatZhipuAI
from langchain_core.messages import AIMessage, HumanMessage, SystemMessage
from langchain.chains import LLMChain
from langchain.prompts import PromptTemplate
import osos.environ[ZHIPUAI_API_KEY]
chat ChatZhipuAI(modelglm-4,temperature0.5,
)prompt PromptTemplate(input_variables[product],template给制造{product}的有限公司取10个好名字并给出完整的公司名称,
)chain LLMChain(llmchat, promptprompt)
print(chain.invoke({product: 性能卓越的GPU}))
输出 设置chain.verbose True可以给出中间推理过程。 2-3、Sequential Chain顺序链 SequentialChain是一种链Chain类型用于定义一系列步骤或组件这些步骤或组件将按顺序执行。SequentialChain的核心功能是将多个处理步骤串联起来使得每一步的输出成为下一步的输入从而形成一个有序的执行流程。顺序链Sequential Chain 允许用户连接多个链并将它们组合成执行特定场景的流水线Pipeline。有两种类型的顺序链 SimpleSequentialChain最简单形式的顺序链每个步骤都具有单一输入/输出并且一个步骤的输出是下一个步骤的输入。SequentialChain更通用形式的顺序链允许多个输入/输出。
SimpleSequentialChain-Demo: 包含参数chains以及参数verbose
chains列表包含了要顺序执行的链。前边链的输出作为后边链的输入。verbose用于控制链的执行是否应该输出详细的日志信息。当设置为 True 时链在执行过程中会打印出更多的信息这有助于调试和监控链的执行状态。
from langchain.llms import OpenAI
from langchain.chains import LLMChain
from langchain.prompts import PromptTemplateos.environ[ZHIPUAI_API_KEY]
llm ChatZhipuAI(modelglm-4,temperature0.5,
)template You are a playwright. Given the title of play, it is your job to write a synopsis for that title.Title: {title}
Playwright: This is a synopsis for the above play:
prompt_template PromptTemplate(input_variables[title], templatetemplate)
synopsis_chain LLMChain(llmllm, promptprompt_template)template You are a play critic from the New York Times. Given the synopsis of play, it is your job to write a review for that play.Play Synopsis:
{synopsis}
Review from a New York Times play critic of the above play:
prompt_template PromptTemplate(input_variables[synopsis], templatetemplate)
review_chain LLMChain(llmllm, promptprompt_template)from langchain.chains import SimpleSequentialChain
overall_chain SimpleSequentialChain(chains[synopsis_chain, review_chain], verboseTrue)review overall_chain.run(Tragedy at sunset on the beach)输出
SequentialChain-Demo 通用顺序链包含多个输入以及输出。参数包括chains、input_variables、output_variables、verbose
chains: 这是一个列表包含了要顺序执行的子链。在这个例子中synopsis_chain 和 review_chain 被包含在列表中意味着这两个链将按顺序执行。input_variables: 这是一个列表定义了这个链的输入变量。在这个例子中SequentialChain 期望接收两个输入变量era 和 title。这些变量将被传递给链中的第一个子链通常是用于初始化或配置子链的参数。output_variables: 这是一个列表定义了这个链的输出变量。在这个例子中SequentialChain 将返回两个输出变量synopsis 和 review。这些输出变量分别对应于 synopsis_chain 和 review_chain 的输出表示这个链的最终结果。verbose: 这是一个布尔值参数用于控制链的执行是否应该输出详细的日志信息。当设置为 True 时链在执行过程中会打印出更多的信息这有助于调试和监控链的执行状态。
from langchain.llms import OpenAI
from langchain.chains import LLMChain
from langchain.prompts import PromptTemplateos.environ[ZHIPUAI_API_KEY]
llm ChatZhipuAI(modelglm-4,temperature0.5,
)
template You are a playwright. Given the title of play and the era it is set in, it is your job to write a synopsis for that title.Title: {title}
Era: {era}
Playwright: This is a synopsis for the above play:
prompt_template PromptTemplate(input_variables[title, era], templatetemplate)
synopsis_chain LLMChain(llmllm, promptprompt_template, output_keysynopsis)template You are a play critic from the New York Times. Given the synopsis of play, it is your job to write a review for that play.Play Synopsis:
{synopsis}
Review from a New York Times play critic of the above play:
prompt_template PromptTemplate(input_variables[synopsis], templatetemplate)
review_chain LLMChain(llmllm, promptprompt_template, output_keyreview)from langchain.chains import SequentialChain
overall_chain SequentialChain(chains[synopsis_chain, review_chain],input_variables[era, title],# Here we return multiple variablesoutput_variables[synopsis, review],verboseTrue)overall_chain({title:Tragedy at sunset on the beach, era: Victorian England})输出 SequentialChain与SimpleSequentialChain相比重要的是定义好中间的输入变量以及输出变量input_variables、output_variables方便后续输出
2-4、Router Chain RouterChain: 是LangChain框架中的一个组件用于构建可以根据输入动态选择下一个执行链条的系统。它主要包含两个部分RouterChain本身和destination_chains目标链。RouterChain负责选择下一个要调用的链条而destination_chains是RouterChain可以路由到的链条集合 以下是RouterChain的一些关键特点和用途
动态路由RouterChain可以根据用户的输入动态选择最合适的处理链条来执行任务。这种动态选择机制使得系统能够更加灵活地处理不同类型的请求。多链条集成RouterChain可以与多个destination_chains目标链一起工作每个目标链都是一个专门处理特定类型任务的链条。例如在一个问答系统中RouterChain可以根据问题的主题将问题路由到不同的专家链条如物理、数学等。灵活性和扩展性通过RouterChain开发者可以轻松地添加或修改destination_chains从而扩展系统的功能。这种设计使得系统能够适应不断变化的需求和新的应用场景。LLMRouterChainLangChain提供了LLMRouterChain这是一种特殊的RouterChain它使用大型语言模型LLM来确定如何路由输入。通过Prompt的形式LLMRouterChain可以让大语言模型根据用户的输入来选择最合适的destination_chain。MultiPromptChain这是一种特殊的RouterChain它可以根据给定的问题选择最相关的提示并使用该提示回答问题。MultiPromptChain包含router_chain和destination_chains以及一个默认链default_chain用于处理无法路由到特定destination_chain的情况。EmbeddingRouterChain另一种RouterChain它通过向量搜索的方式将用户输入映射到最相关的destination_chain。
1、构建目标链 destination_chains 即RouterChain可以路由到的链条集合。这里创建了一个默认的对话链ConversationChain 在没有合适chain的情况下会选择使用默认对话链。
from langchain.chains.router import MultiPromptChain
from langchain.llms import OpenAI
from langchain.chains import ConversationChain
from langchain.chains.llm import LLMChain
from langchain.prompts import PromptTemplate
from langchain_community.chat_models import ChatZhipuAIphysics_template You are a very smart physics professor.
You are great at answering questions about physics in a concise and easy to understand manner.
When you dont know the answer to a question you admit that you dont know.Here is a question:
{input}math_template You are a very good mathematician. You are great at answering math questions.
You are so good because you are able to break down hard problems into their component parts,
answer the component parts, and then put them together to answer the broader question.Here is a question:
{input}# 主要构建物理、数学两条链所以这里先构建了相关信息用于下边构建目标链。
prompt_infos [{name: physics,description: Good for answering questions about physics,prompt_template: physics_template,},{name: math,description: Good for answering math questions,prompt_template: math_template,},
]os.environ[ZHIPUAI_API_KEY]
llm ChatZhipuAI(modelglm-4,temperature0.5,
)# 创建一个空的目标链字典用于存放根据prompt_infos生成的LLMChain。
destination_chains {}# 遍历prompt_infos列表为每个信息创建一个LLMChain。
for p_info in prompt_infos:name p_info[name] # 提取名称prompt_template p_info[prompt_template] # 提取模板# 创建PromptTemplate对象prompt PromptTemplate(templateprompt_template, input_variables[input])# 使用上述模板和llm对象创建LLMChain对象chain LLMChain(llmllm, promptprompt)# 将新创建的chain对象添加到destination_chains字典中destination_chains[name] chain# 创建一个默认的ConversationChain
default_chain ConversationChain(llmllm, output_keytext)输出 2、使用LLMRouterChain实现条件判断
destinations_str 将destinations列表中的所有元素用换行符连接成一个字符串用于构建路由提示模板。RouterOutputParser用于解析路由链的输出。MULTI_PROMPT_ROUTER_TEMPLATE一个预定义的用于构建路由提示的模板。
from langchain.chains.router.llm_router import LLMRouterChain, RouterOutputParser
from langchain.chains.router.multi_prompt_prompt import MULTI_PROMPT_ROUTER_TEMPLATEdestinations [f{p[name]}: {p[description]} for p in prompt_infos]
destinations_str \n.join(destinations)
router_template MULTI_PROMPT_ROUTER_TEMPLATE.format(destinationsdestinations_str)
router_prompt PromptTemplate(templaterouter_template,input_variables[input],output_parserRouterOutputParser(),
)
router_chain LLMRouterChain.from_llm(llm, router_prompt)chain MultiPromptChain(router_chainrouter_chain,destination_chainsdestination_chains,default_chaindefault_chain,verboseTrue,
)print(chain.run(What is black body radiation?))输出
总结
1、 用户输入一个问题。 2、 router_chain使用router_prompt处理用户的输入并根据输出决定将问题路由到哪个destination_chain。 3、 根据router_chain的路由结果MultiPromptChain将问题发送到相应的destination_chain进行处理。 4、 destination_chain处理问题并生成答案。 5、 如果router_chain无法确定合适的destination_chain问题将被发送到default_chain进行处理。
这个系统允许根据用户的输入动态选择最合适的处理链提高了系统的灵活性和准确性。同时verbose参数可以帮助开发者调试和监控系统的执行过程。
参考文章
langchain_community.utilities.sql_database.SQLDatabase LangChain ️ 中文网跟着LangChain一起学LLM/GPT开发 LangChain官网 Rebuff: 防止提示词注入检测器
未完成 Build a Question/Answering system over SQL data langchain101 AI应用开发指南
总结 今天下大雨
