遇见数据集

ZTE-AIM/Telecom-Function-Calling-Evaluation

收藏
Hugging Face2024-11-07 更新2025-04-12 收录
官方服务:

资源简介:

# TFCE(Telecom Function-Calling Evaluation)数据集 ### 数据集摘要 TFCE是一个评估通信领域函数调用能力的数据集,由1800余个函数构成917道Python题目,并应用于通信领域的Simple(简单函数)、Multiple(多函数)、Parallel(并行函数)、Parallel-Multiple(并行多函数)等场景,涉及4G LTE、5G技术与6G探索、无线通信与网络优化、物联网(IoT)与M2M通信、移动通信系统与实施、网络安全与协议等方面的内容。 ### 语言 数据集中question的文本是中文;其他部分的文本是英文。 ## 数据集结构 TECE数据集中的数据按照“question-function-required”的结构;其中,“function”由“name”、“description”、“parameters”组成;“parameters”由“type”和“properties”组成。 按照数据类别分类,TFCE数据集中的数据可分为简单函数、多函数、并行函数、并行多函数4种。 | 数据集类别 | 数据集介绍 | | ----- | -------------------------------------------------------------------------- | | 简单函数 | 简单函数是TFCE数据集中最简单但最常见的格式,包含1个问题、1个函数、1个答案,用户提供一个单一的JSON函数文档,且每次仅调用一个函数。 | | 多函数 | 多函数类别包含1个问题,2-4个函数、1个答案,并根据该问题从多个JSON函数文档中仅调用1个可用函数,其余函数对于该问题均不可用。 | | 并行函数 | 并行函数包含1个问题,1个函数、2-4个答案,根据需要多次调用该函数,因此产生了多个答案。 | | 并行多函数 | 并行多函数包含1个问题,2-4个函数、2-4个答案,可看作是并行函数和多函数两种类别的组合。使用并行多函数时,将根据需要对应调用可用函数及调用次数。 | ## 数据实例 ### 简单函数&并行函数 由于简单函数和并行函数在“question”与“function”的结构上基本相同,仅在“possible\_answer”部分,简单函数为1次调用的结果,而并行函数由于多次调用构成了列表形式。 以下是一个简单函数的举例:通过调用一个函数,根据给定的地理区域(亚洲)、频率范围(1-6 GHz)和服务类型(5G),找到适合该区域5G部署的频段。 ```JSON { "id": "base_simple_3", "question": "在亚洲地区,1-6 GHz频段内,适合5G部署的频段有哪些?", "function": { "name": "find_suitable_bands", "description": "Determines suitable frequency bands for 5G deployment based on regional specifications and frequency range.", "parameters": { "type": "dict", "properties": { "region": { "type": "string", "description": "The geographical region for which suitable bands are sought." }, "frequency_range": { "type": "string", "description": "The frequency range of interest (e.g., below 1 GHz, 1-6 GHz, above 6 GHz)." }, "service_type": { "type": "string", "description": "The type of service (e.g., 5G, IMT-Advanced)." } }, "required": [ "region", "frequency_range", "service_type" ] } } } { "id": "base_simple_3", "ground_truth": { "find_suitable_bands": { "region": "Asia", "frequency_range": "1-6 GHz", "service_type": "5G" } } } ``` ### 多函数&并行多函数 多函数和并行多函数同样在“question”与“function”的结构上基本相同,仅在“possible\_answer”部分,多函数为1次调用的结果,而并行多函数由于多次调用构成了列表形式。 以下是一个并行多函数的举例:通过调用两个函数来分别评估不同HARQ过程并计算28GHz信号在城市环境下的路径损耗。 ```JSON { "id": "base_parallel_multi_55", "question": "在进行毫米波通信测试时,如何评估不同HARQ过程并计算28GHz信号在城市环境下的路径损耗?", "function": [ { "name": "evaluate_v2x_sidelink_harq_procedures", "description": "Evaluates the HARQ procedures for V2X communications, including automatic retransmission without HARQ feedback, HARQ option 1 with NACK reporting, and HARQ option 2 with ACK and NACK reporting.", "parameters": { "type": "dict", "properties": { "automatic_retransmission": { "type": "boolean", "description": "Indicates whether the automatic retransmission procedure without HARQ feedback is properly understood, including the indication of resources for transmission in time and frequency by the SCI and the scheduling of up to three transmissions at the same time." }, "harq_option_1": { "type": "boolean", "description": "Indicates whether the HARQ option 1 procedure with NACK reporting is properly understood, including the reporting of NACK when a packet is not correctly received and the use of a distance range for reporting." }, "harq_option_2": { "type": "boolean", "description": "Indicates whether the HARQ option 2 procedure with ACK and NACK reporting is properly understood, including the reporting of ACK if the packet is correctly received and NACK if the packet is not correctly received, regardless of distance." } }, "required": [ "automatic_retransmission", "harq_option_1", "harq_option_2" ] } }, { "name": "calculate_path_loss", "description": "Calculates the path loss for a given frequency, distance, and environmental conditions in millimeter wave communication.", "parameters": { "type": "dict", "properties": { "frequency": { "type": "float", "description": "The frequency of the signal in GHz." }, "distance": { "type": "float", "description": "The distance between transmitter and receiver in meters." }, "environment": { "type": "string", "description": "The environment type (LOS, NLOS, Urban, Rural)." }, "rain_condition": { "type": "string", "description": "Rain condition (None, Light Rain, Moderate Rain)." }, "vehicle_distance": { "type": "float", "description": "Distance between vehicles in vehicle-to-vehicle communication scenarios.", "default": null }, "vehicle_speed": { "type": "float", "description": "Speed of vehicles in vehicle-to-vehicle communication scenarios.", "default": null } }, "required": [ "frequency", "distance", "environment" ] } } ] } { "id": "base_parallel_multi_55", "ground_truth": { "evaluate_v2x_sidelink_harq_procedures": { "automatic_retransmission": true, "harq_option_1": true, "harq_option_2": true }, "calculate_path_loss": { "frequency": 28, "distance": 200, "environment": "Urban" } } } ``` ## 数据字段 TFCE数据集中的数据按照“问题-函数-答案”的结构,以下为各字段的解释: * question:一道关于通信领域需要调用函数解决的问题。 * function:回答相应问题所需要调用的函数,该部分由函数名称、函数描述、必需参数组成。 * possible\_answer:函数调用的结果,由各个必需函数的结果组成。 ## 数据集组成 | 类型 | Simple | Parallel | Multiple | Parallel-Multiple | | -- | ------ | -------- | -------- | ----------------- | | 数量 | 300 | 166 | 88 | 363 | ### 鸣谢 感谢 [@MeiManlin](https://github.com/MeiManlin) [@ZhangJing](https://github.com/ZhangJing41) [@YuanKejia](https://github.com/KejiaYuan) 对本数据集的贡献。

提供机构:
ZTE-AIM
搜集汇总
数据集介绍
ZTE-AIM/Telecom-Function-Calling-Evaluation 数据集图片
构建方式
在通信技术迅猛演进的背景下,函数调用能力成为评估大模型在垂直领域应用潜力的关键指标。TFCE数据集以电信领域为根基,由1800余个函数精心编排,构建了917道涵盖4G LTE、5G技术、6G探索、无线网络优化、物联网及网络安全等核心议题的Python题目。数据集采用“问题-函数-答案”的三元结构,其中函数部分包含名称、描述及参数属性,参数进一步细化为类型与具体特性。依据调用复杂度与组合方式,数据被划分为简单函数、多函数、并行函数与并行多函数四类,分别对应单次单函数、多选单函数、单函数多次调用及多函数多调用等场景,全面模拟了真实通信任务中的多样函数调用需求。
使用方法
使用TFCE数据集时,研究者可将其作为大模型在通信领域函数调用能力的标准化评测基准。具体而言,模型需根据给定的中文问题,从提供的函数文档中识别并调用正确函数,生成符合参数规范的JSON格式调用结果。对于简单函数任务,模型需输出单一函数调用;多函数任务要求从多个候选函数中筛选唯一可用者;并行函数需对同一函数进行多次参数化调用;并行多函数则需同时协调多个函数的多次调用。评估指标可聚焦于函数选择准确率、参数填充正确性及调用次数的匹配度,从而系统性地衡量模型在电信场景下的工具使用与规划能力。
背景与挑战
背景概述
随着第五代移动通信(5G)技术的规模化部署以及第六代移动通信(6G)研究的深入推进,通信网络正朝着智能化、自动化和软件化的方向演进。在这一变革中,函数调用作为连接自然语言交互与底层网络操作的关键桥梁,其准确性和鲁棒性直接决定了智能运维系统的性能上限。在此背景下,由中兴通讯人工智能团队于2024年创建的TFCE(Telecom Function-Calling Evaluation)数据集应运而生。该数据集聚焦于通信领域的函数调用能力评估,由1800余个函数构建了917道Python题目,覆盖4G LTE、5G、6G探索、无线网络优化、物联网(IoT)以及网络安全等核心领域。通过设计简单函数、多函数、并行函数和并行多函数四种场景,TFCE为评估大语言模型在复杂通信任务中的函数选择与参数填充能力提供了标准化基准,对推动通信领域人工智能技术的落地具有重要影响。
当前挑战
TFCE数据集所面临的核心挑战首先源于通信领域本身的专业性与复杂性。函数调用不仅需要理解高度技术化的领域术语(如HARQ过程、路径损耗模型、频段规划),还需在多个候选函数中精准识别唯一可用的函数,这对模型的语义理解和领域知识储备提出了极高要求。此外,并行多函数场景要求模型同时处理多个函数的多次调用,其组合爆炸问题使得推理过程极易出错。在数据集构建层面,挑战同样显著:人工设计涵盖多粒度、多场景的函数文档与问题对需要深厚的领域专家知识,而确保函数参数类型、默认值、约束条件与真实网络协议的一致性则进一步增加了构建难度。最后,如何设计客观、可复现的评估指标以区分模型在简单与复杂场景下的性能差异,仍是当前面临的关键难题。
常用场景
经典使用场景
在通信领域的大规模语言模型(LLM)与工具调用能力评估中,TFCE数据集扮演着基准测试的核心角色。它精心设计了从简单函数到并行多函数的四类任务,模拟了现实通信系统中从单一参数查询到多维度、多函数协同调用的复杂场景。研究者通过该数据集,能够系统性地检验模型理解通信领域函数文档、精准提取参数并生成正确函数调用序列的能力,为评估LLM在专业垂直领域的工具使用智能提供了标准化的测试框架。
解决学术问题
TFCE数据集直击了当前LLM在专业领域函数调用研究中缺乏高质量、领域特异且结构层次分明的评估资源的痛点。它解决了如何量化模型在4G/5G、物联网及网络安全等通信子领域中,处理简单至并行多函数调用任务的泛化能力与鲁棒性这一学术难题。该数据集的提出,推动了从通用函数调用评价向领域深度理解评估的范式转变,为通信AI交叉方向的研究提供了可重复、可对比的基准,显著促进了该领域学术成果的规范化与可信度。
实际应用
在实际工程应用中,TFCE数据集为构建智能通信网络运维助手提供了关键的验证与优化基础。它直接服务于自动化网络配置、故障诊断与性能优化等场景,例如,使AI系统能够根据描述自动调用API查询特定频段、计算路径损耗或评估HARQ流程。通过在此数据集上的训练与测试,模型能更可靠地对接现实中的网络管理系统与协议栈接口,从而加速通信服务的智能化部署,降低人工干预成本,提升网络响应效率与精准度。
数据集最近研究
最新研究方向
随着6G愿景的逐步明晰与AI原生网络的深度融合,函数调用(Function Calling)能力成为连接大型语言模型与电信领域专用工具的关键桥梁。TFCE(Telecom Function-Calling Evaluation)数据集应运而生,它突破了传统NLP基准测试的局限,聚焦于通信领域特有的多层级、多粒度任务场景。该数据集不仅覆盖4G/5G核心网优化、6G探索性参数配置、物联网信道建模等前沿议题,还创新性地设计了简单、多函数、并行及并行多函数四种调用范式,精准模拟了实际电信系统中复杂的API编排与实时决策需求。这一研究方向的提出,为评估和提升大模型在通信协议理解、参数推理以及多任务协同执行方面的性能提供了标准化测试场,对推动AI驱动的网络自动化和零接触运维具有里程碑式的意义。
以上内容由遇见数据集搜集并总结生成
二维码
社区交流群
二维码
科研交流群
商业服务