本文介绍了大模型中的 Function Calling 功能解释了模型如何决定何时调用外部函数、选择哪个函数以及传递什么参数。文章详细阐述了 Function Calling 的工作原理、模型内部的机制、JSON Schema 的编写方法以及不同框架的实现方式。同时还列举了五个生产环境中容易犯的错误帮助读者更好地理解和应用 Function Calling从而构建更可靠的 AI 应用。你让 AI 查一下北京今天什么天气它说抱歉我无法获取实时数据。然后你给它接了一个天气 API问题来了——你怎么让模型知道什么时候该调这个 API该传什么参数2023 年 6 月OpenAI 在 GPT-4 上推出了一个叫 Function Calling 的能力。它做的事情一句话讲清让模型自己决定要不要调用一个外部函数、调哪个、传什么参数然后用自然语言把结果讲给用户。三年过去Function Calling 已经从 GPT-4 的一个新功能变成了所有主流模型的标配。OpenAI、Anthropic Claude、Google Gemini、DeepSeek、所有国产模型全都支持。它也从聊天机器人的锦上添花变成了Agent 工程的底层引擎——没有 Function CallingAgent 只是一个会聊天的对话框。Function Calling 到底是怎么工作的先说一个最容易搞混的点。Function Calling 里模型不执行任何函数。它只负责决定和填参数。真正跑代码的是你的应用层。整个交互是一个五步的循环。第一步你在请求里附上一份工具的 JSON Schema 清单告诉模型有哪些函数可以用、每个函数干什么、需要什么参数。pythontools [{ type: function, function: { name: get_weather, description: 获取指定城市的当前天气, parameters: { type: object, properties: { city: {type: string, description: 城市名如北京}, unit: {type: string, enum: [celsius, fahrenheit]} }, required: [city] } } }]第二步模型收到用户消息北京今天天气怎么样同时看到这份工具清单。它自己判断这个请求需要调 get_weather参数 city 应该填北京。第三步模型不生成自然语言。它直接返回一个结构化的 tool_calls 对象里面包含函数名和 JSON 格式的参数。finish_reason 标记为 “tool_calls”。json{ id: call_abc123, function: { name: get_weather, arguments: {/city/: /北京/, /unit/: /celsius/} } }第四步你的应用层拿到这个 tool_calls解析出函数名和参数真正去调天气 API。拿到返回值——“北京22°C晴”。第五步你把这条 tool result 作为一条新的消息发回给模型。模型看到查询结果用自然语言组织成最终回复“北京今天 22°C晴天。”这个五步循环是所有 Agent 系统的最基本骨架。你后面看到的 LangChain Agent、LlamaIndex Agent、MCP 协议、甚至 OpenAI 的 Codex——底层全在跑这个循环。模型内部发生了什么很多人以为 Function Calling 就是在 Prompt 里写一句’如果需要调工具就输出 JSON’。那个做法有而且确实能跑但跟原生的 Function Calling 稳定程度差了一个数量级。原生 Function Calling 是训练层面的事。模型在 SFT监督微调阶段被喂了大量用户说什么→该调哪个工具→参数怎么填的标注样本。这些样本教会模型三件事判断一个请求要不要调工具、从可用工具列表里挑最合适的、按照 JSON Schema 生成合法参数。更底层的是特殊 Token。不同模型厂商用了不同的 Token 体系但逻辑一样。OpenAI 用的是一套 XML 风格的标签Claude 用的是 tool_use 内容块Llama 3.1 用|python_tag|和|end_of_tool_call|DeepSeek 用了一组全角竖线符 。这些 Token 不是普通文本是词表里专门加的标记模型经过训练后当它决定调工具时会以这些 Token 作为切换信号。引擎层检测到这些特殊 Token 后立刻把后续的输出切到受约束解码Constrained Decoding模式。在这个模式下Token 的采样不再自由——解码器拿着 JSON Schema把所有不合法 Token 的概率直接遮罩掉。Schema 说某个字段必须是 integer解码器就把所有非数字 Token 的概率压成零。Schema 说 required 字段有三个模型跳不过去。这就是为什么原生 Function Calling 的 JSON 解析错误率能压到接近零而纯 Prompt 做 JSON 输出动不动就 15-25% 的格式错误。前者靠的是训练解码器夹持后者全靠模型自觉。JSON Schema 怎么写模型才听得懂定义工具 Schema 是 Function Calling 里最被低估的工程环节。Schema 写好了模型几乎不犯错。写烂了它能调出各种匪夷所思的参数。三条铁律。第一description 是模型决策的唯一依据。 模型不知道该调哪个工具时靠的就是每个工具的 name 和 description。description 不要写It’s a function that…“这种废话直接说这个工具干什么、适用于什么场景、不适用于什么场景。比如获取指定城市的当前天气包含温度、湿度和风速。不支持未来天气预报查询”。第二参数类型和约束写得越严模型越不会乱来。 每个参数的 description 要精准——不是城市名而是城市中文名如北京、上海不要带’市’字。能用 enum 的就用 enum——unit 字段写成enum: [celsius, fahrenheit]模型就不会传 kelvin 进来。required 数组只放真正必需的参数放多了模型会填一堆没意义的默认值放少了它该填的不填。第三用 strict 模式。 OpenAI 从 2024 年起支持strict: true强制模型输出的参数 100% 符合 Schema。Anthropic Claude 没有单独的 strict 参数但它原生的 tool_use 内容块本身就是强类型的。如果你不用 strict 模式模型偶尔会在 arguments 里塞进 Schema 没定义的字段——你代码里json.loads能解析但业务逻辑就直接炸了。python{ name: search_products, description: 在商品库中搜索。传关键词搜商品名和描述传分类ID按类目过滤。两者不能同时为空。, strict: True, parameters: { type: object, properties: { keyword: {type: string, description: 搜索关键词模糊匹配商品名和描述}, category_id: {type: integer, description: 商品分类ID}, max_price: {type: number, description: 最高价格单位元} }, required: [], additionalProperties: False } }不同框架怎么写先说清楚一个概念上的区分OpenAI 的 API、Anthropic 的 Messages API——这些是模型厂商的底层接口不是应用开发框架。你直接调它们写 Agent每次都要手写五步循环、手动管理消息历史、手动处理 tool result 回传。代码能跑但工程量大。LangChain 和 LlamaIndex 是真正意义上的 AI 应用开发框架。它们在厂商 API 之上做了一层封装把工具定义、调用循环、消息管理、并行处理这些重复逻辑都抽象好了。写 Agent 的时候不用从头手写循环一行tool装饰器就能把普通 Python 函数注册成模型可调用的工具。LangChain——用 tool 装饰器注册pythonfrom langchain.tools import tool tool def get_weather(city: str, unit: str celsius) - str: 获取指定城市的当前天气。 Args: city: 城市中文名如北京 unit: 温度单位celsius 或 fahrenheit return f{city}22°C晴 # LangChain 自动从类型标注和 docstring 生成 JSON Schema agent create_react_agent(model, [get_weather])tool 装饰器会自动把 Python 函数的类型标注转成 JSON Schema把 docstring 转成 tool description。不用手写 Schema——前提是你的类型标注和 docstring 写得到位。自动生成的 Schema 也杜绝了Schema 改了但代码没改的漂移问题。LlamaIndex——FunctionTool.from_defaultspythonfrom llama_index.core.tools import FunctionTool def get_weather(city: str) - str: 获取指定城市的当前天气 return f{city}22°C晴 weather_tool FunctionTool.from_defaults( fnget_weather, nameget_weather, description获取指定城市的当前天气包含温度和天气状况 )LlamaIndex 的 FunctionTool 和 LangChain 的 tool 本质一样——函数签名自动生成 Schema。LlamaIndex 跟 RAG 场景结合得尤其好QueryEngineTool 可以把整个检索引擎包装成一个工具Agent 既能查知识库又能调外部 API用一个统一接口管两种数据源。两套框架都解决了同一个问题不用手写工具定义的 JSON Schema、不用手动管理 tool call 的消息循环。选哪个取决于你的技术栈——已经在用 LangChain 的生态就 LangChainRAG 为主的应用场景就 LlamaIndex。Spring AI——Java 生态的工具调用方案。Spring AI 2.0 用 FunctionToolCallback 注册工具ToolCallingAdvisor 自动驱动调用循环ChatClient 统一入口javaBean ToolCallback currentWeather() { return FunctionToolCallback .builder(currentWeather, weatherService::getWeather) .description(获取指定城市的当前天气) .inputType(WeatherRequest.class) .build(); } // ChatClient 自动处理工具调用循环 chatClient.prompt() .user(北京天气怎么样) .tools(currentWeather) .call() .content();Spring AI 的做法和 LangChain、LlamaIndex 底层逻辑一致——函数签名自动生成 Schema框架接管调用循环。差异在于它是 Java 原生的跟 Spring Boot 的依赖注入、AOP、配置管理无缝集成。已经在用 Spring 技术栈的团队不需要引入 Python 依赖。AgentScope——阿里达摩院开源的 Python Agent 框架。用 Toolkit 注册工具函数ReActAgent 自动执行 Reasoning Acting 循环pythonfrom agentscope.tool import Toolkit from agentscope.agent import ReActAgent # 定义工具函数——docstring 自动生成 JSON Schema def get_weather(city: str) - str: 获取指定城市的当前天气。 Args: city: 城市中文名如北京 return f{city}22°C晴 # 注册到工具包 toolkit Toolkit() toolkit.register_tool_function(get_weather) # ReActAgent 自动管理工具调用循环 agent ReActAgent( nameWeatherBot, modelDashScopeChatModel(model_nameqwen-max, api_key...), toolkittoolkit, ) response await agent(北京天气怎么样)AgentScope 跟其他三个框架的关键差异有两点。一是它原生支持阿里 DashScope 的模型qwen 系列对国内开发者来说不用翻墙调 API。二是 ReActAgent 把工具调用循环完全封装在内部——你不需要手写 while 循环检查 tool_callsawait 一下 agent 调用它就自己思考、调工具、再思考直到返回最终结果。五个生产环境中最容易踩的坑并行调用没处理好。 用户问北京和上海今天天气怎么样OpenAI 和 Claude 都会在一个请求里返回两个 tool_calls。你的代码如果只处理了第一个第二个直接被丢掉用户只看到北京的天气。tool result 忘了回传 assistant message。 把函数执行结果发回给模型时必须先把模型上一条包含 tool_calls 的 assistant message 也追加到消息历史里。漏了这一步模型会一脸懵——“我什么时候让你查天气了”Schema 和实际代码不同步。 你改了函数签名加了参数但忘了更新 Schema。模型照着旧 Schema 传了三个参数你的函数只接受两个直接 TypeError。用 LangChain 的 tool 或 Pydantic 自动生成 Schema 能根治这个问题。不校验模型返回的参数。 即使开了 strict 模式模型仍然可能传合法但危险的值——比如 search_files 的 path 参数被传了../../../etc/passwd。工具执行前必须做输入校验和路径清理。工具太多时模型选错。 一个 Agent 挂了三十个工具每个工具的描述模型都要看一遍选错工具的概率随工具数量非线性增长。超过 20 个工具时加一层工具搜索或标签过滤——先缩小候选集再让模型决策。Function Calling 是大模型长出手的机制。在它出现之前模型只会说话。现在它能打电话、查数据库、订机票、写文件。但机制本身不复杂——就是一个五步循环靠 JSON Schema 约束、特殊 Token 切换、受控解码保底。把 Schema 写清楚把参数校验做严把工具数量的上限守好Function Calling 在生产环境里能跑得很稳。它不炫但它可靠。对于 Agent 工程来说可靠就是最稀缺的品质。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取