张高兴的大模型开发实战:(六)在 LangGraph 中使用 MCP 协议

什么是 MCP 协议

MCP(Model Context Protocol,模型上下文协议)是一种专为大语言模型设计的开源通信协议,使用 MCP 可以标准化模型与外部数据源、工具或服务之间的交互。也就是说通过 MCP 协议,可以使模型具备调用外部工具的能力,比如获取数据、执行外部操作等。

MCP 协议与 API 调用的区别

到这里,可能不少同学会有疑问,MCP 协议听起来和 API 调用差不多,就算不使用 MCP 协议,也可以通过 API 调用来实现模型与外部数据源、工具或服务之间的交互。MCP 协议的意义在于为不同的 API 创建了一个通用标准,就像 USB-C 让不同设备能够通过相同的接口连接一样。

与 API 调用相比,MCP 协议具有一些特性:

  • 上下文感知与会话状态管理:MCP 协议允许模型在多个请求之间保持上下文感知和会话状态管理。这意味着模型可以记住之前的对话历史、用户偏好和其他相关信息,从而提供更个性化和上下文相关的响应。API 调用通常是无状态的,每个请求都是独立的,模型无法记住之前的对话历史或上下文信息。例如,用户问“我的快递到哪了?”,MCP 会自动关联历史订单信息并返回物流状态,无需用户重复提供订单号。而 API 调用需要手动提供订单号才能查询物流状态。
  • 双向实时通信:MCP 协议支持双向实时通信,允许模型和外部服务之间进行实时交互。这使得模型能够在需要时主动请求信息或执行操作,而不仅仅是被动响应请求。API 调用通常是单向的,模型只能在接收到请求时进行响应。例如,MCP 服务在处理复杂任务时,可主动反馈中间结果(如“正在查询数据库,请稍候”)。
  • 动态工具发现与集成:MCP 协议允许模型动态发现和集成新的工具或服务,而无需修改代码或重新部署。这使得模型能够灵活地适应新的需求和环境。API 调用通常是静态的,模型只能使用预先定义的 API 接口。例如,用户问“帮我订机票”,MCP 会自动识别可用的航班查询工具和支付接口,无需提前配置。而 API 调用需要单独开发调用机票查询和支付的接口。

MCP 协议的连接方式

MCP 协议通常使用两种方式建立连接。

SSE(Server-Sent Events)

SSE 是一种基于 HTTP 的通信协议,它使用单向连接,从 MCP 服务端到客户端发送数据流。SSE 适用于需要实时更新的场景,例如聊天应用、股票行情等。在通过 SSE 连接时,你会用到类似 http://localhost:8001/sse 的 URL 地址,因此 SSE 连接更像传统的网络 API 调用。

stdio(标准输入输出)

stdio 通过标准输入输出流进行通信,通常 MCP 服务端是运行在本地的,适用于本地开发和调试。

在 LangGraph 中使用 MCP 协议

下面通过一个最简单的实例来演示如何在 LangGraph 中使用 MCP 协议。项目文件结构如下:

.
├── mcp_servers  # MCP 服务器
│   ├── math.py     # 数学计算
│   └── weather.py  # 天气查询
└── main.py      # 主程序

首先安装所需要的包。

pip install langchain-mcp-adapters mcp

然后在 mcp_servers 目录下创建两个 MCP 服务。math.py 使用 stdio 连接,实现了加法和乘法运算,用于解决数学计算问题。weather.py 使用 SSE 连接,实现了天气和时间查询功能。

math.py 代码如下:

from mcp.server.fastmcp import FastMCP

mcp = FastMCP("Math")

@mcp.tool()
def add(a: int, b: int) -> int:
    return a + b

@mcp.tool()
def multiply(a: int, b: int) -> int:
    return a * b

if __name__ == "__main__":
    mcp.run(transport="stdio")

weather.py 代码如下:

from datetime import datetime
from mcp.server.fastmcp import FastMCP

mcp = FastMCP("Weather", port=8001)

@mcp.tool()
def get_weather(location: str) -> str:
    return "晴天"

@mcp.tool()
def get_time() -> str:
    return datetime.now().strftime('%Y-%m-%d %H:%M:%S')

if __name__ == "__main__":
    mcp.run(transport="sse")

接着在 main.py 中引用相关的包。

import asyncio
from contextlib import asynccontextmanager
from typing import Annotated, TypedDict

from langchain.prompts import ChatPromptTemplate
from langchain_mcp_adapters.client import MultiServerMCPClient
from langgraph.graph import END, START, StateGraph
from langgraph.graph.message import add_messages
from langgraph.prebuilt import ToolNode, tools_condition
from langchain_ollama import ChatOllama

编写 load_mcp_tools() 方法,将 MCP 服务转换成 LangChain 中的工具(langchain_core.tools)。

@asynccontextmanager
async def load_mcp_tools():
    """加载 MCP 工具"""
    async with MultiServerMCPClient(
        {
            "math": {
                "command": "python",
                "args": ["mcp_servers/math.py"],
                "transport": "stdio",
            },
            "weather": {
                "url": f"http://localhost:8001/sse",
                "transport": "sse",
            }
        }
    ) as client:
        yield client.get_tools()

加载模型、设置提示词以及定义 LangGraph 图的状态。

model = ChatOllama(model="qwen2.5:7b")
prompt = ChatPromptTemplate.from_template("You are an assistant for question-answering tasks. If necessary, external tools can also be called to answer. If you don't know the answer, just say that you don't know. Answer in Chinese.\n\nQuestion: {question}")

class State(TypedDict):
    messages: Annotated[list, add_messages]

编写 create_graph() 方法,创建一个最简单的图,仅包含一个对话节点和一个工具节点。在 LangGraph 中调用工具,需要将工具转换成工具节点 ToolNode,工具节点会自动处理工具的调用和结果的返回。

@asynccontextmanager
async def create_graph():
    """创建图"""
    def agent(state: State):
        messages = state["messages"]
        state["messages"] = llm_with_tool.invoke(messages)
        return state

    async with load_mcp_tools() as tools:   # 获取 MCP 工具
        print(f"可用的 MCP 工具:{[tool.name for tool in tools]}")
        llm_with_tool = prompt | model.bind_tools(tools)    # 绑定工具并创建模型调用链

        graph_builder = StateGraph(State)
        graph_builder.add_node(agent)
        # 添加工具节点
        graph_builder.add_node("tool", ToolNode(tools))
        graph_builder.add_edge(START, "agent")
        graph_builder.add_conditional_edges(
            "agent",
            tools_condition,    # LangGraph 中预定义的方法,用于判断是否需要调用工具
            {
                "tools": "tool",
                END: END,
            },
        )
        graph_builder.add_edge("tool", "agent")

        yield graph_builder.compile()

最后编写主程序,运行观察一下结果。

async def main():
    async with create_graph() as graph:
        result = await graph.ainvoke({"messages": "徐州天气怎么样"})
        print(result["messages"][-1].content)
        result = await graph.ainvoke({"messages": "现在几点了"})
        print(result["messages"][-1].content)
        result = await graph.ainvoke({"messages": "(3+5)x12等于多少"})
        print(result["messages"][-1].content)

if __name__ == "__main__":
    asyncio.run(main())

可以看到输出结果如下:

可用的 MCP 工具:['add', 'multiply', 'get_weather', 'get_time']
徐州现在的天气是晴天。
现在的时刻是17:22:15。
(3+5)×12等于96。
From:https://www.cnblogs.com/zhanggaoxing/p/18889516
张高兴
100+评论
captcha