AI模型的回调能力的理解和实现

1importrequests2importre3importjson45# Ollama API 配置6 OLLAMA_API_URL = "http://localhost:11434/api/generate"7 MODEL_NAME = "qwen3:0.6b"89#模拟的天气函数10defweather(date):11# 实际场景可调用天气 API，这里模拟返回 25 度12return351314deffind_goods(item):15#模拟返回商品信息16returnf"""17List {item} brand: 18- Apple: MacBook Pro, MacBook Air19- Dell: XPS, Inspiron20- HP: Spectre, Envy21- Lenovo: ThinkPad, IdeaPad22- Microsoft: Surface23- Razer: Blade24- Samsung: Galaxy Book25- Sony: VAIO26"""2728deffind_goods_prices(item):29#模拟返回商品价格30returnf"{item} 5999.00元"313233# 调用 Ollama API 的函数34def call_ollama(prompt, model=MODEL_NAME):35 payload ={36"model": model,37"prompt": prompt,38"stream": False,39"temperature": 1 40}41 response = requests.post(OLLAMA_API_URL, json=payload)42if response.status_code == 200:43returnjson.loads(response.text)["response"]44else:45raiseException(f"Ollama API error: {response.text}")4647# 提取 </think> 之后的文本48defextract_post_think_text(text):49 markers = ["</think>","提示词","提示词**","输出：","输出:"]50 last_pos = -151 last_marker =None5253# Find the last occurrence of any marker54formarkerinmarkers:55try:56 pos = text.rindex(marker) # Get the last index of the marker57if pos >last_pos:58 last_pos =pos59 last_marker =marker60exceptValueError:61continue# Marker not found, skip6263# If a marker was found, return text after it64if last_pos != -1:65return text[last_pos +len(last_marker):].strip()6667# If no markers found, return original text68returntext.strip()697071#解析占位符并执行函数调用72defprocess_placeholder(text):73# 查找 ${function(args)} 模式的占位符74 placeholder_pattern = r'\${([^}]+)\}'75 matches = re.findall(placeholder_pattern, text)7677ifnotmatches:78returntext#没有占位符，直接返回原文7980formatchinmatches:81#处理函数调用格式：${function(arg)}82if'('inmatchand')'inmatch:83 func_name = match.split('(')[0].strip()84 func_arg = match.split('(')[1].rstrip(')').strip()8586if func_name == "weather":87 result =weather(func_arg)88 text = text.replace(f"${{{match}}}", f"{result}")89elif func_name == "find_goods":90 result =find_goods(func_arg)91 text = text.replace(f"${{{match}}}", f"{result}")92elif func_name == "find_goods_prices":93 result =find_goods_prices(func_arg)94 text = text.replace(f"${{{match}}}", f"${result}")95else:96 text = text.replace(f"${{{match}}}","[Unknown function]")97else:98 text = text.replace(f"${{{match}}}","[Invalid placeholder]")99100returntext101102#主逻辑103defmain():104#用户输入105# user_input ="今天我要穿什么衣服？"106# user_input ="请给我推荐一台性价比高的电脑"107# user_input ="我想买一个苹果笔记本电脑，需要准备多少预算？"108 user_input = "列出中国历朝历代的名称"109print(f"用户输入: {user_input}")110print("======================")111112#第一次调用模型，生成带占位符的提示词113 initial_prompt = f"""114今天是2025年5月17日。115用户问题：{user_input}116可用函数：117- weather('2025-5-17'): 返回当天的摄氏温度。118- find_goods(item): 返回商品信息（item可以是商品类别、产品名、型号等，如“mobile”或“Samsung”货“Galaxy S”，基于用户问题的主关键词）。119- find_goods_prices(item): 返回指定商品的价格（item同上）120推理：回答需要什么信息？选择一个函数。若问题未指定具体item，从问题中提取主关键词（如“电脑”）作为item。121生成提示词，仅输出：${{function(arg)}}提供的信息，请回答：{{用户问题}}。禁止附加任何说明或逻辑。122例如：123- 输入：“今天热不热？”，输出：“${{weather('2025-5-17')}}提供的信息，请回答：今天热不热？”124- 输入：“推荐一台笔记本电脑？”，输出：“${{find_goods('laptop')}}提供的信息，请回答：推荐一台笔记本电脑？”125- 输入：“衬衫多少钱？”，输出：“${{find_goods_prices('shirt')}}提供的信息，请回答：衬衫多少钱？126- 输入：“爱因斯坦的生平”，输出：“请回答：爱因斯坦的生平127"""128print(f"初始提示词: {initial_prompt}")129130 response =call_ollama(initial_prompt)131print("======================")132print(f"模型第一次响应: {response}")133134# 提取 </think> 之后的文本135 post_think_text =extract_post_think_text(response)136print("======================")137print(f"</think> 后的文本: {post_think_text}")138139#处理占位符，调用外部函数140 processed_response =process_placeholder(post_think_text)141print("======================")142print(f"处理占位符后的文本: {processed_response}")143144#第二次调用模型，使用回填后的提示词145 final_prompt = f"""146根据以下信息回答用户的问题：147{processed_response}148"""149print("======================")150print(f"最终提示词: {final_prompt}")151152 final_response =call_ollama(final_prompt)153print("======================")154print(f"最终回答: {final_response}")155156if__name__=="__main__":157main()