入门指南

LLMs: 从语言模型获取预测结果

LangChain 最基本的构建块是在某些输入上调用 LLM。让我们通过一个简单的示例来演示如何实现这一点。为此，假设我们正在构建一个服务，根据公司的产品生成公司名称。

为了实现这一点，我们首先需要导入 LLM 包，例如OpenAI。

from langchain.llms import OpenAI

接下来，我们可以使用任何参数来初始化LLM。在这个例子中，我们希望输出结果更随机一些，因此我们将使用较高的temperature（这也是OpenAI的API参数，温度代表了分子平均随机运动的快慢，因此借用温度来表示随机性）值来初始化。

llm = OpenAI(temperature=0.9)

现在我们可以调用它了！

text = "请用中文给生产彩色袜子的公司起个好名字。"
print(llm(text))

色活靓履

有关如何在 LangChain 中使用 LLMs 的更多详细信息，请参见 LLM 入门指南.

Prompt Templates (提示模板): 为语言模型管理提示

调用 LLM 是我们开始的第一步。但通常在应用中使用 LLM 时，您不会直接将用户输入发送到 LLM 中。您可能会按照业务场景需要，简化用户的输入。然后按适合当前场景的模式，对输入进行修饰和调整后再发送到 LLM 中。

例如，在先前的示例中，我们传递的文本是硬编码以要求为制造彩色袜子的公司命名。在这个想象中的服务中，我们希望做的是只获取描述公司的用户输入，然后使用这些信息格式化提示。

这在 LangChain 中非常容易！

首先，让我们定义提示模板：

from langchain.prompts import PromptTemplate

prompt = PromptTemplate(
    input_variables=["product"],
    template="请用中文给生产{product}的公司起个好名字",
)

现在让我们看看它的工作原理！我们可以调用 .format 方法来格式化它。

print(prompt.format(product="彩色袜子"))

请用中文给生产彩色袜子的公司起个好名字

想要了解更多详细信息，请参阅提示模板的入门指南。

Chains（链）：在多步流程中将 LLM（语言模型）和 Prompt Templates （提示模板）结合起来。

到目前为止，我们已经单独使用了 PromptTemplate 和 LLM 这些基础组件。他们不仅可以单独使用，还可以“链接”在一起组合使用。

在 LangChain 中，“链”由“链接”组成，“链接”可以是像 LLM 这样的基础组件或其他链。

例如：LLMChain 就是最核心的“链”类型，由 PromptTemplate 和 LLM 组成。

扩展之前的例子，我们可以构造一个 LLMChain，它接受用户输入，使用 PromptTemplate 进行格式化，并将格式化的响应传递给 LLM。

from langchain.prompts import PromptTemplate
from langchain.llms import OpenAI

llm = OpenAI(temperature=0.9)
prompt = PromptTemplate(
    input_variables=["product"],
    template="请用中文给生产{product}的公司起个好名字",
)

现在我们可以创建一个非常简单的链，该链将接受用户输入，然后用 PromptTemplate（提示模版）进行格式化，最后将其发送给 LLM（语言模型）：

from langchain.chains import LLMChain
chain = LLMChain(llm=llm, prompt=prompt)

现在我们可以运行该链，只需指定产品即可获得我们期望的结果！

chain.run("彩色袜子")
# -> '\n\n彩色星足!'

第一个链成功执行了！ - 一个 LLM 链。虽然这只是一种较简单的链，但理解它的工作原理会为您使用更复杂的链打下良好的基础。

要了解更多详情，请查看链的入门指南。

Agents(代理)：根据用户输入动态调用链

到目前为止，我们所讨论的链都是按照预定顺序运行的。

而代理不再是这样：它们使用 LLM 确定要采取的操作以及其顺序。一个操作可以是使用工具并观察其输出，或将结果返回给用户。

如果使用得当，代理可以非常强大。在本教程中，我们将通过最简单的、最高级别的 API，向您展示如何轻松地使用代理。

为了加载代理，您应该理解以下概念：

工具: 执行特定任务的函数。这可以是诸如 Google 搜索、数据库查找、Python REPL、其他链之类的工具。目前工具的接口是一个期望输入为字符串并输出字符串的函数。
LLM: 驱动代理的语言模型。注意：这里指代理通过语言模型自己判断选择使用哪些工具
代理: 通过引用代理类的名字字符串，指定要使用的代理。本篇介绍专注于最简单的、最高级别的 API，所以仅涵盖使用标准支持的代理类。如果要实现自定义代理，请参阅自定义代理的文档（即将推出）。

代理: 有关支持的代理及其规格列表，请参考 here.

工具: 有关预定义工具及其规格列表，请参见 here.

接下来这个例子需要安装 SerpAPI Python 包。

pip install google-search-results

然后设置环境变量。

import os
os.environ["SERPAPI_API_KEY"] = "..."

现在我们可以开始了！

from langchain.agents import load_tools
from langchain.agents import initialize_agent
from langchain.agents import AgentType
from langchain.llms import OpenAI

# 首先，让我们加载我们将用来控制代理的语言模型。
llm = OpenAI(temperature=0)

# 接下来，让我们加载一些要使用的工具。请注意，“llm-math”工具使用LLM，因此我们需要传递LLM。
tools = load_tools(["serpapi", "llm-math"], llm=llm)

# 最后，让我们使用这些工具、语言模型和我们想要使用的代理类型来初始化一个代理。
agent = initialize_agent(tools, llm, agent=AgentType.ZERO_SHOT_REACT_DESCRIPTION, verbose=True)

# 现在让我们来测试一下吧！
agent.run("What was the high temperature in SF yesterday in Fahrenheit? What is that number raised to the .023 power?")

> Entering new AgentExecutor chain...
 I need to find the temperature first, then use the calculator to raise it to the .023 power.
Action: Search
Action Input: "High temperature in SF yesterday"
Observation: San Francisco Temperature Yesterday. Maximum temperature yesterday: 57 °F (at 1:56 pm) Minimum temperature yesterday: 49 °F (at 1:56 am) Average temperature ...
Thought: I now have the temperature, so I can use the calculator to raise it to the .023 power.
Action: Calculator
Action Input: 57^.023
Observation: Answer: 1.0974509573251117

Thought: I now know the final answer
Final Answer: The high temperature in SF yesterday in Fahrenheit raised to the .023 power is 1.0974509573251117.

> Finished chain.

Memory(记忆)：将状态添加到链和代理中。

到目前为止，我们所讨论的所有链和代理都是无状态的。但通常情况下，您可能希望链或代理具有某种“记忆”概念，以便它可以记住有关其先前交互的信息。这种情况最清晰和简单的例子是设计聊天机器人 - 您希望它记住以前的消息，以便它可以利用上下文进行更好的对话。这将是一种“短期记忆”。在更复杂的方面，您可以想象链/代理随着时间的推移记住关键信息 - 这将是一种“长期记忆”。有关后者的更具体的想法，请参见论文.

LangChain 提供了几个专门为此目的创建的链。本笔记本演示了使用其中一条链（ConversationChain）和两种不同类型的记忆的方法。

默认情况下，ConversationChain 具有一种简单的记忆类型，它记住了所有先前的输入/输出，并将它们添加到传递的上下文中。让我们看一下如何使用这个链（将verbose=True，以便我们可以看到提示）。

from langchain import OpenAI, ConversationChain

llm = OpenAI(temperature=0)
conversation = ConversationChain(llm=llm, verbose=True)

conversation.predict(input="Hi there!")

> Entering new chain...
Prompt after formatting:
The following is a friendly conversation between a human and an AI. The AI is talkative and provides lots of specific details from its context. If the AI does not know the answer to a question, it truthfully says it does not know.

Current conversation:

Human: Hi there!
AI:

> Finished chain.
' Hello! How are you today?'

conversation.predict(input="I'm doing well! Just having a conversation with an AI.")

> Entering new chain...
Prompt after formatting:
The following is a friendly conversation between a human and an AI. The AI is talkative and provides lots of specific details from its context. If the AI does not know the answer to a question, it truthfully says it does not know.

Current conversation:

Human: Hi there!
AI:  Hello! How are you today?
Human: I'm doing well! Just having a conversation with an AI.
AI:

> Finished chain.
" That's great! What would you like to talk about?"

Contents

入门指南#

安装#

环境设置#

构建语言模型应用程序：LLMs#

构建语言模型类应用程序：聊天模型#