最近把近10年来写的文章全部都整理好放到「跟我学机器学习」网站了涵盖机器学习、深度学习、大模型开发等内容超100万字4.2 Function Calling 概念介绍我们在使用大模的时候不怕大模型不会回答这个问题最怕的是它一本正经地胡说八道而且关键是此时你还根本分不清大模的回答到底是正确的还是错误。但遗憾的是大多情况下大模型并不会承认自己不会这个问题因为连它自己也不知道自己不会这个问题最终也就只会生成一些似是而非的答案这就是大家常说的大模型幻觉。4.2.1 大模型中的幻觉大模型幻觉Hallucination 是指大型语言模型在生成内容时一本正经地胡说八道的现象。具体来说模型生成的文本看起来非常流畅、逻辑自洽且自信满满但其中的事实、数据、引用或逻辑推理却是错误的、虚构的或与现实世界不符的。这就好比人类在做梦或产生幻觉时“看到”了实际上不存在的东西。例如你问大模型”我想去洗车洗车店距离我家50米你说我应该开车过去还是走路过去“图 4-2. 千问大模型回答结果从图4-2中可以看出尽管模型说了一大堆自己认为正确无误富有逻辑的回答但事实上却是错的而且在我们看来错得既离谱又好笑。那怎么解决呢解决方法就是打开模型的联网功能并再次提问。图 4-3. 使用联网工具时千问大模型回答结果从图4-3中的结果可以看出此时的回答才是正确且符合逻辑的。类似的例子还有问模型当前的时间、某个城市的天气、市场行情等具有实时性的信息。所以为了解决这样类似的问题就必须让大模型① 知道什么时候调用工具② 知道调用哪个工具③ 知道参数怎么填写。而这正是函数调用所要解决的问题。4.2.2 Function Calling 概念定义函数调用Function Calling 指的是一种让大模型能够稳定访问外部函数或工具的机制它是 OpenAI 于 2023年6月发布新一代 GPT-4gpt-4-0613时所提出[3]。简单来说函数调用让大模型具备“调用工具”的能力并且在这种机制下大模型不再只是生成文本而是可以① 根据用户问题判断需要调用哪个函数② 自动根据用户提问生成函数参数③ 调用函数并返回结构化调用结果。④ 根据结果生成回答内容。所以函数调用的本质是把理解问题交给大模型把执行任务交给程序它提供了模型链接外部世界的能力最终使得回答变得可验证、可信赖而不再局限于训练数据和上下文。借助这一能力大模型可以连接数据库、API、搜索引擎以及各种内部系统从而实现查询订单、获取天气、分析股票甚至执行 SQL 等实际操作。更进一步函数调用其实也是构建 Agent 的基础能力。例如类似“总结今日科技新闻并发送邮件”这样的任务Agent 可以自动完成搜索、总结、生成内容并调用邮件接口发送本质上其实就是多个工具调用的串联。因此无论是 Agent、RAG 还是智能助手其底层都离不开 函数调用所以未来的大模型系统大概也将逐步演进为 LLM Tools Memory Planning 的组合架构例如 OpenClaw 这类产品。4.2.3 Function Calling 调用逻辑在介绍完函数调用的基本定义和作用以后我们再来看它在整个用户与大模型交互中的生命周期。图 4-4. 大模型工具调用流程图如图4-4所示红色线条和蓝色线条分别是大模型在不使用工具和使用工具与用户交互时的调用流程图。1不使用工具调用流程对于不使用工具时的流程最为清晰这是最基础的 LLM 交互模式本质上就是一次调用完成对用户问题的回答。例如用户提问“中国的首都在哪里”程序调用大模型把用户问题传给模型然后大模型直接基于已有知识生成回答接着大模型输出结果返回给程序最后程序再将结果返回给用户。此时可以看出不使用工具时的特点便是只有一次模型调用、没有外部信息、完全依赖模型训练数据因此它所适用的场景有常识问答历史、概念、写作、总结、翻译等不需要实时信息的问题。2 使用工具调用流程对于使用工具时的流程来说它则是模型与外部能力协同的体现在回答用户问题时至少会涉及到两次调用大模型。例如用户提问“上海今天天气如何”。第1步程序调用大模型第一次把用户问题传给模型第2步大模型识别到回答该问题需要调用两个工具时间查询工具和天气查询工具并同时解析得到工具名和对应参数例如get_weather(location 上海)和get_current_date())第3步程序接收到工具名和参数信息调用工具并得到运行结果然后将结果返回给程序第4步程序根据结果和用户提问调用大模型第二次然后得到大模型给到的回复第5步程序接收到来自大模型的回复并将其返回给用户。可以看出使用工具时的特点便是多次模型调用并且程序负责“执行工具”提供真实世界的能力而模型则负责“决策 整合”。一句话总结无工具调用时是模型根据用户提问自己回答而有工具调用则是模型根据工具输出结果结合用户提问总结回答。在清楚函数调用的基本概念以及在整个大模型调用中的生命周期以后你是不是已经开始好奇应该如何定义一个工具并能同时在代码中进行使用了下面我们来开始一步步深入介绍这部分内容。4.2.4 工具的定义从上面的内容我们可以知道工具的本质其实就是一个函数或者外部 API 因此自然是需要定义一个函数来完成这部分功能。但是对于大模型来说它不可能接受一个函数作为输入因此我们还需要根据一定的规则将函数转换为大模型能够看懂的描述。以下完整示例代码参见Code/Chapter04/C02_function_calling.py文件。现在我们来定义上面提到的两个工具查询指定城市的添加和今天的日期。首先分别定义这两个函数如下所示1 def get_weather(location: str):2 weather_conditions [晴天, 多云, 雨天]3 random_weather random.choice(weather_conditions)4 return f{location}今天是{random_weather}。5 6 def get_current_date():7 date 随便写一个测试时间2025年3月5日8 return date由于这里是用于模拟测试所以上述两个函数的返回结果都是固定的。根据这两个函数的定义生成一个大模型能够看懂的工具描述并在调用大模型时将其作为输入。对于get_weather()函数来说其对应的工具描述为1 { 2 type: function, 3 function: { 4 name: get_weather, 5 description: 当你想查询指定城市的天气时非常有用可以通过该工具返回天气结果。, 6 parameters: { 7 type: object, 8 properties: { 9 location: {10 type: string,11 description: 城市或县区比如北京市、杭州市、余杭区等。,12 }13 },14 required: [location],15 }16 }17 }对于上面这个工具定义描述来说它整体上包括两个部分 LLM 厂商约定描述部分和get_weather()函数本身的 JSON Schema 描述部分。上面parameters字段对应的内容中除了对字段的描述description外其余部分便是get_weather()函数本身的 JSON Schema 描述其中type: object为固定写法properties表示对函数字段信息的描述required表示是否为必填。第2行中的type: function为固定写法function字段用于对工具进行描述name表示工具名称第5行description则是对工具作用的描述这个字段对于大模型来说是最重要的。同样的对于get_current_date()来说我们也可以得到类似的工具描述信息。最后我们可以将多个工具的描述信息以列表的形式放到一起如下所示1 tools [ 2 { 3 type: function, 4 function: {....} 5 }, 6 { 7 type: function, 8 function: { 9 name: get_current_date,10 description: 当你想知道今天的日期时非常有用可以通过该工具获取今天的日期,11 parameters: {12 type: object,13 properties: {}14 }15 }16 },17 ]4.2.5 发起 Function Calling 调用在完成工具的定义以后再来看如何让大模型在回答问题时使用这些工具。首先我们需要创建一个消息数组它包含有系统消息 System Message 和 用户消息 User Message本质上都是输入模型的提示词如下所示1 messages [ 2 { 3 role: system, 4 content: 你是一个很有帮助的助手。如果用户提问关于天气的问题请调用 ‘get_current_weather’ 函数; 5 如果用户提问关于时间的问题请调用‘get_current_time’函数。 6 请以友好的语气回答问题。, 7 }, 8 { 9 role: user,10 content: 上海今天的天气如何今天是什么日期11 }12 ]这里值得一提的是尽管上面在创建tools数组时已经对工具的作用与何时使用工具进行了描述但在 System Message 中强调何时调用工具通常会提高工具调用的准确率。进一步可以将创建好的tools和messages一起喂给大模型这样便发起了一次 Function Calling 调用流程示例代码如下1 def dashscope_function_calling(messages, toolsNone):2 response dashscope.Generation.call(3 api_keyos.getenv(DASHSCOPE_API_KEY),4 modelqwen-flash, messagesmessages, toolstools)5 return response注意不是所有模型都支持使用工具具体需要看对应模型的官网介绍。对于千问大模来说可以参见 [2] 中的描述。在上述代码运行结束以后可以得到类似如下结果{status_code: 200, request_id: 95e54ee6-c1f8-498c-8910-c1715e3c640c, code: , message: , output: {text: null, finish_reason: null, choices: [{finish_reason: tool_calls, message: {role: assistant, content: , tool_calls: [{function: {arguments: {\location\: \上海市\}, name: get_weather}, id: call_aafb567f7e05422c8dede7, index: 0, type: function}, {function: {arguments: {}, name: get_current_date}, id: call_916855efd1a844518abd2e, index: 1, type: function}]}, index: 0}]}, usage: {input_tokens: 289, output_tokens: 36, prompt_tokens_details: {cached_tokens: 0}, total_tokens: 325}}从输出结果可以看出由于用户既问了天气也问了日期所以大模型将两个工具都识别了出来并且可以发现工具信息存在于choices字段中的tool_calls里面。4.2.6 运行工具函数此时根据大模型的输出结果我们可以知道回答该问题应该使用什么样的工具。因此下一步要做的就是定义一个函数名到函数实体的映射关系根据从大模型回答中得到的函数名和参数发起函数调用获取结果。1 def conclusion(responseNone, messagesNone): 2 messages.append(response.output.choices[0].message) 3 tool_calls response.output.choices[0].message[tool_calls] 4 function_mapper {get_weather: get_weather, get_current_date: get_current_date} 5 for tool in tool_calls: 6 func_name tool[function][name] 7 func_para tool[function][arguments] 8 call_id tool[id] 9 result function_mapper.get(func_name)(**json.loads(func_para))10 print(f工具运行结果为: {result})在上述代码中第3行是从大模型第一次返回结果中获取得到函数工具的相关信息。第4行是定义一个函数名与函数的映射关系。第5~10行是分别取大模型结果中每个函数的名称和参数并发起运行得到结果。上述代码运行结束会得到类似如下结果工具运行结果为: 上海今天是多云。工具运行结果为: 随便写一个测试时间2025年3月5日这里需要注意的是对于千问系大模型来说需要确保工具的输出为字符串格式。4.2.7 大模型总结回复由于函数工具的输出格式较为固定如果直接返回给用户可能会有语气生硬、不够灵活等问题。因此可以让大模型综合用户输入以及工具输出结果生成自然语言风格的回复可以将工具输出提交到模型上下文并再次向模型发出请求。进一步在上面代码中继续实现后续逻辑1 def conclusion(responseNone, messagesNone,toolsNone): 2 ......11 messages.append({role:tool,content: result,tool_call_id: call_id})12 print(f拼接好的 messages:\n{messages})13 response dashscope_function_calling(messages)14 print(f总结输出结果:\n {response})在上述代码中第11行中tool_call_id是系统为每一次的工具调用请求生成的唯一标识符。因为模型可能一次性要求调用多个工具将多个工具结果返回给模型时tool_call_id可确保工具的输出结果能够与它的调用意图对应。上述代码第12行的运行结果为[{role: system, content: 你是一个很有帮助的助手。如果用户提问关于天气的问题请调用 ‘get_current_weather’ 函数;\n 如果用户提问关于时间的问题请调用‘get_current_time’函数。\n 请以友好的语气回答问题。}, {role: user, content: 上海今天的天气如何今天是什么日期}, Message({role: assistant, content: , tool_calls: [{function: {arguments: {location: 上海}, name: get_weather}, id: call_7e868ef43b8c4899bcf6b1, index: 0, type: function}, {function: {arguments: {}, name: get_current_date}, id: call_2bdd25a7b3e843229e9952, index: 1, type: function}]}), {role: tool, content: 上海今天是多云。, tool_call_id: call_7e868ef43b8c4899bcf6b1}, {role: tool, content: 随便写一个测试时间2025年3月5日, tool_call_id: call_2bdd25a7b3e843229e9952}]可以看出此时我们将把用户的原始问题、系统预置提示词以及工具返回的结果作为整体喂给大模型。最后第14行的输出结果如下所示{status_code: 200, request_id: b41ade97-de64-4f99-94a8-0619c4703166, code: , message: , output: {text: null, finish_reason: null, choices: [{finish_reason: stop, message: {role: assistant, content: 今天上海的天气是多云气温较为舒适建议出门时带件薄外套哦~ \n今天是2025年3月5日星期三祝你有美好的一天 }, index: 0}]}, usage: {input_tokens: 150, output_tokens: 46, prompt_tokens_details: {cached_tokens: 0}, total_tokens: 196}}从上述结果可以看出最终生成的结果的确是根据工具返回的内容总结而来。4.2.8 小结到此对于 Function Calling 的基本原理及使用方式就介绍完了包括什么是大模型中的幻觉、Function Calling 的定义与使用流程等。但是大家有没有发现一个问题整个过程有点繁琐需要我们自己实现的内容太多。那有没有更好的方法呢引用[1] https://help.aliyun.com/zh/model-studio/qwen-function-calling#72d1e52737f6x[2] https://help.aliyun.com/zh/model-studio/qwen-function-calling#c8feada2328us[3] https://openai.com/index/function-calling-and-other-api-updates附录打开任意大模型Web端输入如下内容输入messages [ { role: system, content: 你是一个很有帮助的助手。如果用户提问关于天气的问题请调用 ‘get_current_weather’ 函数; 如果用户提问关于时间的问题请调用‘get_current_time’函数。 请以友好的语气回答问题。, }, { role: user, content: 上海今天的天气如何今天是什么日期请输出对应工具的名称及参数 }, { role: tools , content: [ { type: function, function: { name: get_weather, description: 当你想查询指定城市的天气时非常有用可以通过该工具返回天气结果。, parameters: { type: object, properties: { location: { type: string, description: 城市或县区比如北京市、杭州市、余杭区等。, } }, required: [location], } } }, { type: function, function: { name: get_current_date, description: 当你想知道今天的日期时非常有用可以通过该工具获取今天的日期, parameters: { type: object, properties: {} } } } ] } ]将会得到类似如下结果️ 关于天气查询针对您询问“上海今天的天气如何”我将调用以下工具工具名称get_weather参数location: 上海市 关于日期查询针对您询问“今天是什么日期”我将调用以下工具工具名称get_current_date参数无该工具不需要额外参数学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
