AI模型的回调能力的理解和实现

  1 import requests
  2 import re
  3 import json
  4 
  5 # Ollama API 配置
  6 OLLAMA_API_URL = "http://localhost:11434/api/generate"
  7 MODEL_NAME = "qwen3:0.6b"
  8 
  9 # 模拟的天气函数
 10 def weather(date):
 11     # 实际场景可调用天气 API，这里模拟返回 25 度
 12     return 35
 13 
 14 def find_goods(item):
 15     # 模拟返回商品信息
 16     return f"""
 17 List {item} brand: 
 18 - Apple: MacBook Pro, MacBook Air
 19 - Dell: XPS, Inspiron
 20 - HP: Spectre, Envy
 21 - Lenovo: ThinkPad, IdeaPad
 22 - Microsoft: Surface
 23 - Razer: Blade
 24 - Samsung: Galaxy Book
 25 - Sony: VAIO
 26 """
 27 
 28 def find_goods_prices(item):
 29     # 模拟返回商品价格
 30     return f"{item} 5999.00元"
 31 
 32 
 33 # 调用 Ollama API 的函数
 34 def call_ollama(prompt, model=MODEL_NAME):
 35     payload = {
 36         "model": model,
 37         "prompt": prompt,
 38         "stream": False,
 39         "temperature": 1 
 40     }
 41     response = requests.post(OLLAMA_API_URL, json=payload)
 42     if response.status_code == 200:
 43         return json.loads(response.text)["response"]
 44     else:
 45         raise Exception(f"Ollama API error: {response.text}")
 46 
 47 # 提取 </think> 之后的文本
 48 def extract_post_think_text(text):
 49     markers = ["</think>", "提示词", "提示词**", "输出：", "输出:"]
 50     last_pos = -1
 51     last_marker = None
 52     
 53     # Find the last occurrence of any marker
 54     for marker in markers:
 55         try:
 56             pos = text.rindex(marker)  # Get the last index of the marker
 57             if pos > last_pos:
 58                 last_pos = pos
 59                 last_marker = marker
 60         except ValueError:
 61             continue  # Marker not found, skip
 62     
 63     # If a marker was found, return text after it
 64     if last_pos != -1:
 65         return text[last_pos + len(last_marker):].strip()
 66     
 67     # If no markers found, return original text
 68     return text.strip()
 69 
 70 
 71 # 解析占位符并执行函数调用
 72 def process_placeholder(text):
 73     # 查找 ${function(args)} 模式的占位符
 74     placeholder_pattern = r'\${([^}]+)\}'
 75     matches = re.findall(placeholder_pattern, text)
 76     
 77     if not matches:
 78         return text  # 没有占位符，直接返回原文
 79     
 80     for match in matches:
 81         # 处理函数调用格式：${function(arg)}
 82         if '(' in match and ')' in match:
 83             func_name = match.split('(')[0].strip()
 84             func_arg = match.split('(')[1].rstrip(')').strip()
 85 
 86             if func_name == "weather":
 87                 result = weather(func_arg)
 88                 text = text.replace(f"${{{match}}}", f"{result}")
 89             elif func_name == "find_goods":
 90                 result = find_goods(func_arg)
 91                 text = text.replace(f"${{{match}}}", f"{result}")
 92             elif func_name == "find_goods_prices":
 93                 result = find_goods_prices(func_arg)
 94                 text = text.replace(f"${{{match}}}", f"${result}")
 95             else:
 96                 text = text.replace(f"${{{match}}}", "[Unknown function]")
 97         else:
 98             text = text.replace(f"${{{match}}}", "[Invalid placeholder]")
 99     
100     return text
101 
102 # 主逻辑
103 def main():
104     # 用户输入
105     # user_input = "今天我要穿什么衣服？"
106     # user_input = "请给我推荐一台性价比高的电脑"
107     # user_input = "我想买一个苹果笔记本电脑，需要准备多少预算？"
108     user_input = "列出中国历朝历代的名称"
109     print(f"用户输入: {user_input}")
110     print("======================")
111     
112     # 第一次调用模型，生成带占位符的提示词
113     initial_prompt = f"""
114 今天是2025年5月17日。
115 用户问题：{user_input}
116 可用函数：
117 - weather('2025-5-17'): 返回当天的摄氏温度。
118 - find_goods(item): 返回商品信息（item可以是商品类别、产品名、型号等，如“mobile”或“Samsung”货“Galaxy S”，基于用户问题的主关键词）。
119 - find_goods_prices(item): 返回指定商品的价格（item同上）
120 推理：回答需要什么信息？选择一个函数。若问题未指定具体item，从问题中提取主关键词（如“电脑”）作为item。
121      生成提示词，仅输出：${{function(arg)}}提供的信息，请回答：{{用户问题}}。禁止附加任何说明或逻辑。
122 例如：
123 - 输入：“今天热不热？”，输出：“${{weather('2025-5-17')}}提供的信息，请回答：今天热不热？”
124 - 输入：“推荐一台笔记本电脑？”，输出：“${{find_goods('laptop')}}提供的信息，请回答：推荐一台笔记本电脑？”
125 - 输入：“衬衫多少钱？”，输出：“${{find_goods_prices('shirt')}}提供的信息，请回答：衬衫多少钱？
126 - 输入：“爱因斯坦的生平”，输出：“请回答：爱因斯坦的生平
127     """
128     print(f"初始提示词: {initial_prompt}")
129     
130     response = call_ollama(initial_prompt)
131     print("======================")
132     print(f"模型第一次响应: {response}")
133         
134     # 提取 </think> 之后的文本
135     post_think_text = extract_post_think_text(response)
136     print("======================")
137     print(f"</think> 后的文本: {post_think_text}")
138     
139     # 处理占位符，调用外部函数
140     processed_response = process_placeholder(post_think_text)
141     print("======================")
142     print(f"处理占位符后的文本: {processed_response}")
143     
144     # 第二次调用模型，使用回填后的提示词
145     final_prompt = f"""
146     根据以下信息回答用户的问题：
147     {processed_response}
148     """
149     print("======================")
150     print(f"最终提示词: {final_prompt}")
151     
152     final_response = call_ollama(final_prompt)
153     print("======================")
154     print(f"最终回答: {final_response}")
155 
156 if __name__ == "__main__":
157     main()