扫码与数据项目顾问沟通
我们会围绕项目场景、数据规模与交付节奏提供建议
数据采集 / 数据标注 / 算法支撑 / 项目协同 / 行业交流
行业洞察
构建 function calling 数据集的核心在于构造完整、高保真的结构化交互轨迹。模型能否准确识别何时调用工具以及如何组装参数,取决于 Schema 的精准度与规范性。
构建 function calling 数据集的核心在于构造完整、高保真的结构化交互轨迹。标准流程通常包含四个关键步骤:首先基于 OpenAPI 规范定义包含函数名、功能描述及字段约束的 API Schema;其次设计涵盖参数准确抽取、调用时机判定及多轮状态追踪的对话轨迹;随后注入 API 超时、校验失败与网络异常等报错修复数据;最后通过真实 API 回包或仿真 Mock 数据闭环验证。一份结构严密的工具调用数据集,能直接决定大模型在 Agent 场景下的指令遵循率与系统级鲁棒性。
构建工具调用数据集的第一步,是为大模型提供清晰、标准化的 API 定义。模型能否准确识别何时调用工具以及如何组装参数,取决于 Schema 的精准度与规范性。在准备数据集时,系统声明中的工具定义必须遵循统一的结构化表达(如 JSON Schema)。
一个完整的工具定义通常需要覆盖以下核心字段:
函数名(Function Name): 必须具备明确语义且符合命名规范(如 get_weather_forecast),避免使用模糊代号。
功能描述(Description): 准确阐述 API 的核心功能与适用边界,这是模型判断“调用时机”的核心依据。
参数结构(Parameters): 详细说明参数类型(type)、字段含义(description)、必填状态(required)以及枚举范围(enum)。
{ "type": "function", "function": { "name": "search_flight_tickets", "description": "查询特定日期和航线的机票信息", "parameters": { "type": "object", "properties": { "departure_city": { "type": "string", "description": "出发城市名称,如:北京"
}, "arrival_city": { "type": "string", "description": "到达城市名称,如:上海"
}, "flight_date": { "type": "string", "format": "date", "description": "航班日期,格式必须为 YYYY-MM-DD"
}, "seat_class": { "type": "string", "enum": ["economy", "business", "first"], "description": "舱位等级,默认为 economy"
}
}, "required": ["departure_city", "arrival_city", "flight_date"]
}
}
}
在数据集制作中,必须确保 Schema 的丰富度与多样性,覆盖简单基本类型、嵌套 JSON 对象、数组参数以及可选字段。
工具调用数据的核心在于模拟模型与外部系统互动的全流程。高质量的数据集需要对以下三个维度的场景进行针对性设计:
模型既需要学会“何时调用工具”,也需要学会“何时不调用工具”。
触发调用: 用户意图明确且与 Schema 匹配,模型生成结构化的 tool_calls 请求。
无需调用: 用户进行通用闲聊或提出无需外部工具的逻辑推导问题,模型直接输出自然语言答复。
澄清反问: 用户意图需要工具辅助但缺少必填参数(例如仅说“帮我查飞上海的机票”,缺少出发地和日期),模型不应盲目生成非法参数,而应向用户反问以补全信息。
将用户的自然语言(如“明天下午”、“下周三”)精准映射为接口所需的格式化数据(如 2026-07-29)。在标注数据中,必须精准处理嵌套字典、条件列表与格式约束,确保生成的 JSON 格式完全契合 API 规范。
实际 Agent 应用往往包含复杂的协同调用,例如并行调用(同时查询天气和机票)或链式多步调用(先查询订单 ID,再根据 ID 发起退款)。数据集需要完整映射包含 user、assistant(包含 tool_calls)及 tool(包含 tool_call_id 和执行结果)在内的完整上下文链条。
[
{ "role": "user", "content": "帮我查一下明天北京飞上海的机票,顺便看下上海明天的天气。"
},
{ "role": "assistant", "tool_calls": [
{ "id": "call_flight_001", "type": "function", "function": { "name": "search_flight_tickets", "arguments": "{\"departure_city\": \"北京\", \"arrival_city\": \"上海\", \"flight_date\": \"2026-07-29\"}"
}
},
{ "id": "call_weather_002", "type": "function", "function": { "name": "get_weather_forecast", "arguments": "{\"city\": \"上海\", \"date\": \"2026-07-29\"}"
}
}
]
},
{ "role": "tool", "tool_call_id": "call_flight_001", "content": "{\"status\": \"success\", \"flights\": [{\"flight_no\": "CA1234", "price": 850}]}"
},
{ "role": "tool", "tool_call_id": "call_weather_002", "content": "{\"status\": \"success\", \"temperature\": \"24-30℃\", \"condition\": \"晴\"}"
},
{ "role": "assistant", "content": "已为您查询到明天(2026-07-29)北京飞往上海的航班及天气情况:\n1. 机票:国航 CA1234,价格 850 元;\n2. 天气:上海明日晴朗,气温 24-30℃。"
}
]
在真实生产环境中,外部 API 的返回结果充满不确定性。如果训练数据全部是“一次成功”的理想路径,模型在遭遇接口报错或校验失败时极易崩溃或陷入死循环。
优秀的工具调用数据集必须包含 20%~30% 的异常处理与纠错轨迹:
参数缺失/类型错误纠错: 当外部工具返回 400 Bad Request(如“日期格式有误”)时,构造模型读取报错信息、自我修正参数并重新发起 tool_calls 的多轮轨迹。
业务逻辑报错恢复: 当外部 API 返回“无可用结果”或“权限不足”时,构造模型理解业务异常并向用户提出合理替代方案的数据(如“您查询的航班已售罄,是否为您推荐高铁行程?”)。
接口超时与降级响应: 模拟系统级异常(如 504 Gateway Timeout),训练模型直接给出优雅的降级解释,而非重复抛出底层代码错误。
为确保生产交付的数据集能够显著提升大模型的 Function Calling 成功率,须建立多维度的标准验收体系:
| 评估维度 | 质量关注点 | 检验方法 | 验收标准 |
| Schema 合规性 | JSON 语法正确性与参数类型匹配度 | 自动化脚本解析与 Schema 校验 | JSON 语法零报错,必填参数无遗漏 |
| 调用时机准确度 | 识别触发调用、拒绝调用与信息反问的边界 | 混淆样本交叉测试 | 误调用率与漏调用率均低于设定阈值 |
| 参数提取精准度 | 自然语言实体到结构化参数的映射关系 | 字段级准确率比对 | 复杂参数(日期/嵌套对象)映射正确率 > 98% |
| 多轮上下文一致性 | tool_call_id 映射链条与状态继承 | 轨迹连贯性检查 | ID 匹配率 100%,多轮长文本上下文不掉帧 |
| 容错修复能力 | 遭遇 API 报错后的自我修正动作 | 注入错误回包进行断言测试 | 成功执行“报错-解析-修参-重新调用”闭环 |
规范定义优先: 严格按照标准 JSON Schema 表达工具能力,明确参数字段约束与必填项,奠定模型理解基础。
覆盖多样场景: 数据集需按比例均衡配置单接口调用、多接口并行调用、嵌套参数抽取及长链条多轮交互。
强化边界识别: 专门构造无需工具调用与缺少关键参数需反问澄清的对话样本,防止模型产生“工具滥用”或盲目传参。
注入真实异常: 引入 API 400/500 报错、超时及逻辑失败轨迹,训练模型根据报错反馈自我修正参数的能力。
严格自动校验: 建立基于 JSON Schema 校验与 tool_call_id 匹配链的自动化质检机制,确保交付数据的零语法缺陷。
数据闭环验证: 构建沙箱测试环境,将数据集注入基座模型进行微调,通过实际运行成功率(Pass@1)评估数据集效能。
构建工具调用数据集通常采用“合成生成 + 人工校验与修复”的混合模式。针对标准 API Schema 的参数填充与单步调用,可以通过大模型配合 Seed 模板批量合成;但对于复杂的业务逻辑边界、错综的多轮上下文以及真实报错修复场景,建议引入专家团队进行高精度的流转规则设计与校验,人工介入比例一般保持在 20%~30% 以确保边缘场景的真实性。
这一问题主要源于训练集中缺少“负样本”与“不相关工具干扰”。在构建数据集时,应在系统提示词中传入 5-10 个不相关的 API Schema 作为干扰项,并构造用户提出超出现有工具能力范围的问题的数据,显式训练模型在缺乏对应工具时输出“无匹配工具,直接回复用户”的能力。
是的。包含 API 真实或高仿真(Mock)的返回结果(Tool Output)对于训练模型理解“如何根据工具回包生成最终自然语言回答”至关重要。若缺乏 Tool Output 节点,模型将无法学会解析 JSON 格式的接口响应,也无法在多步链式调用中提取上一步的返回值作为下一个工具的入参。
可以通过建立“工具图谱(Tool Graph)”和“领域 Prompt 模板”来提升效率。将有依赖关系的 API 抽象成调用链路图,自动生成符合逻辑顺承关系的骨架轨迹,再由标注人员补充多样化的自然语言提问与边界异常分支,从而大幅降低从零编写长轨迹的成本。
评估模型工具调用能力的泛化性,关键在于测试集中的“未见 API(Unseen Tools)”。构建评估集时,应保留一部分模型在微调阶段完全没接触过的新 API Schema,测试模型仅依靠 Schema 的 Description 与 Parameter 定义能否准确完成参数组装与调用。
针对大模型应用团队在 Agent 开发、Function Calling 微调过程中面临的数据结构不规范、错误恢复能力弱以及多轮上下文丢帧等痛点,我们提供全套工具调用数据集解决方案与工程化数据服务。
您可以获取:
标准 Function Calling 数据 Schema 规范与样例集(覆盖并行调用、多轮状态与纠错恢复)
行业专属工具调用数据集定制方案(涵盖金融查询、企业 ERP、智能家居、代码工具等场景)
大模型 Agent 工具调用评估测试集(Benchmark)
欢迎提交数据定制需求或申请测试样本,我们的技术专家将为您提供一对一的数据集建设评估与交付规划。


我们会围绕项目场景、数据规模与交付节奏提供建议
数据采集 / 数据标注 / 算法支撑 / 项目协同 / 行业交流
提交样本与需求,专业顾问为您评估周期、成本与交付方式。