next-tat/tat-llm-instructions

TAT-LLM-Instructions数据集是一个专门为金融领域设计的指令集，结合了表格和文本数据，旨在优化大型语言模型（LLMs）和外部执行器的性能。该数据集整合了三个公开的表格和文本问答数据集：FinQA、TAT-QA和TAT-DQA，并通过特定的模板将这些数据转换为适合LLMs的提示。数据集包含训练集和验证集，分别有32555和4136个样本，总大小为186799526字节。数据集的任务类别包括文本生成、问答和表格问答，标签为金融。

原始信息汇总

TAT-LLM-Instructions 数据集概述

数据集信息

• 特征:
  • resp: 字符串类型
  • id: 字符串类型
  • user_prompt: 字符串类型
• 分割:
  • train: 165619445 字节, 32555 个样本
  • validation: 21180081 字节, 4136 个样本
• 下载大小: 37315773 字节
• 数据集大小: 186799526 字节

配置

• 默认配置:
  • train: data/train-*
  • validation: data/validation-*

任务类别

• 文本生成
• 问答
• 表格问答

标签

• 金融

数据集描述

TAT-LLM-Instructions 数据集是一个精心收集的金融数据集，结构类似于指令。它从三个公开可用的表格和文本问答数据集（FinQA, TAT-QA, TAT-DQA）中聚合信息。通过使用专门的模板，TAT-LLM-Instructions 将原始数据集转换为优化的大型语言模型（LLMs）和外部执行器的提示，旨在显著提高它们的性能。

模板

FinQA 指令模板

Below is an instruction that describes a question answering task in the finance domain, paired with an input table and its relevant text that provide further context. The given question is relevant to the table and text. Generate an appropriate answer to the given question.

Instruction:

Given a table and a list of texts in the following, what is the answer to the question? Please complete the task in three steps:

1. In the first step, extract the relevant numerical values from the provided table or texts. Store these in the variable ‘{evidence}‘. If there are multiple values, separate them using the ’#’ symbol.
2. In the second step, generate an equation using the extracted numerical values. Store this equation in the variable ‘{equation}‘.
3. In the third step, calculate the answer based on the equation and store it in the variable ‘{answer}‘. Please organize the results in the following table: | step | output | | 1 | {evidence} | | 2 | {equation} | | 3 | {answer} | Finally, present the calculated answer in the format: "The answer is: {answer}"

Table {table}

Text {text}

Question {question}

Response

|step | output| |1 | {gold_evidence} | |2 | {gold_equation} | |3 | {gold_answer} | The answer is: {gold_answer}

TAT-QA 指令模板

Below is an instruction that describes a question answering task in the finance domain, paired with an input table and its relevant text that provide further context. The given question is relevant to the table and text. Generate an appropriate answer to the given question.

Instruction

Given a table and a list of texts in the following, answer the question posed using the following five-step process:

1. Step 1: Predict the type of question being asked. Store this prediction in the variable ‘{question_type}‘. The value of ‘{question_type}‘ can be one of the following:‘Single span‘, ‘Multiple spans‘, ‘Count‘, or ‘Arithmetic‘.
2. Step 2: Extract the relevant strings or numerical values from the provided table or texts. Store these pieces of evidence in the variable ‘{evidence}‘. If there are multiple pieces of evidence, separate them using the ’#’ symbol.
3. Step 3: if the ‘{question_type}‘ is ‘Arithmetic‘, formulate an equation using values stored in ‘{evidence}‘. Store this equation in the variable ‘{equation}‘. For all other question types, set the value of {equation} to ’N.A.’.
4. Step 4: Predict or calculate the answer based on the question type, evidence and equation. Store it in the variable ‘{answer}‘. If there are multiple values, separate them using the ’#’ symbol.
5. Step 5: If the value of the ‘{answer}‘ is numerical, predict its scale and store it in a variable named ‘{scale}‘. The value of ‘{scale}‘ can be one of the following: ‘none‘, ‘percent‘, ‘thousand‘, ‘million‘, or ‘billion‘. For non-numerical values, set the value of ‘{scale}‘ to ’none’. Please organize the results in the following table: | step | output | | 1 | {question_type} | | 2 | {evidence} | | 3 | {equation} | | 4 | {answer} | | 5 | {scale} | Finally, present the final answer in the format: "The answer is: {answer} #### and its corresponding scale is: {scale}"

Table {table}

Text {text}

Question {question}

Response

| step | output | | 1 | {gold_question_type} | | 2 | {gold_evidence} | | 3 | {gold_equation} | | 4 | {gold_answer} | | 5 | {gold_scale} | The answer is: {gold_answer} #### and its corresponding scale is: {gold_scale}

TAT-DQA 指令模板

Below is an instruction that describes a question answering task in the finance domain, paired with an input document that has one or multiple pages that provide further context. The given question is relevant to the document. Generate an appropriate answer to the given question.

Instruction

Given a document that has one or multiple pages in the following, answer the question posed using the following five-step process:

1. Step 1: Predict the type of question being asked. Store this prediction in the variable ‘{question_type}‘. The value of ‘{question_type}‘ can be one of the following:‘Single span‘, ‘Multiple spans‘, ‘Count‘, or ‘Arithmetic‘.
2. Step 2: Extract the relevant strings or numerical values from the provided document. Store these pieces of evidence in the variable ‘{evidence}‘. If there are multiple pieces of evidence, separate them using the ’#’ symbol.
3. Step 3: if the ‘{question_type}‘ is ‘Arithmetic‘, formulate an equation using values stored in ‘{evidence}‘. Store this equation in the variable ‘{equation}‘. For all other question types, set the value of {equation} to ’N.A.’.
4. Step 4: Predict or calculate the answer based on the question type, evidence and equation. Store it in the variable ‘{answer}‘. If there are multiple values, separate them using the ’#’ symbol.
5. Step 5: If the value of the ‘{answer}‘ is numerical, predict its scale and store it in a variable named ‘{scale}‘. The value of ‘{scale}‘ can be one of the following: ‘none‘, ‘percent‘, ‘thousand‘, ‘million‘, or ‘billion‘. For non-numerical values, set the value of ‘{scale}‘ to ’none’. Please organize the results in the following table: | step | output | | 1 | {question_type} | | 2 | {evidence} | | 3 | {equation} | | 4 | {answer} | | 5 | {scale} | Finally, present the final answer in the format: "The answer is: {answer} #### and its corresponding scale is: {scale}"

Text {pages}

Question {question}

Response

| step | output | | 1 | {gold_question_type} | | 2 | {gold_evidence} | | 3 | {gold_equation} | | 4 | {gold_answer} | | 5 | {gold_scale} | The answer is: {gold_answer} #### and its corresponding scale is: {gold_scale}

搜集汇总

数据集介绍

构建方式

在金融领域，表格与文本的联合推理是一项极具挑战性的任务。TAT-LLM-Instructions数据集正是为应对这一挑战而精心构建的。该数据集汇聚了FinQA、TAT-QA和TAT-DQA三个公开的金融领域表格-文本问答数据集中的信息，通过设计专门的指令模板，将原始数据转化为适用于大型语言模型和外部执行器的提示格式。每个模板都明确规定了推理步骤，例如从表格或文本中提取数值、生成方程、计算答案等，从而将复杂的推理过程分解为结构化的子任务。这种构建方式不仅保留了原始数据的丰富性，还大幅提升了模型对多模态金融数据的处理能力。

特点

该数据集最显著的特点在于其高度的结构化和领域专属性。所有样本均采用统一的指令格式，引导模型分步骤进行推理，这显著降低了模型在金融问答任务中的错误率。数据集中包含了多种问题类型，如单跨度、多跨度、计数和算术运算，覆盖了金融分析中的常见查询场景。此外，每个样本都配备了详细的中间推理步骤，包括证据提取、方程生成和答案计算，这种透明化的设计使得模型的决策过程可解释、可追溯。数据集规模适中，训练集包含32,555个样本，验证集包含4,136个样本，既保证了数据量的充足性，又便于高效训练。

使用方法

使用该数据集时，研究者可以直接加载Hugging Face上的预划分数据，即训练集和验证集。数据以JSON格式存储，每条记录包含用户提示、唯一标识符和标准答案。建议采用监督微调范式，将指令作为输入，将标准回答作为目标输出。由于数据集已针对大型语言模型优化，可直接用于训练TAT-LLM系列模型，或作为其他金融问答任务的微调数据。使用时需注意，模型输出应严格遵循模板中的表格格式，以确保与后续评估流程兼容。数据集的CC-BY-4.0许可证允许广泛的学术和商业使用。

背景与挑战

背景概述

在金融领域，大量关键信息以表格与文本交织的混合形态呈现，这对人工智能系统的深度推理能力提出了严苛要求。为应对这一挑战，新加坡国立大学NExT++实验室的研究人员于2024年推出了TAT-LLM-Instructions数据集。该数据集创造性地整合了FinQA、TAT-QA与TAT-DQA三个公开的表格与文本问答数据集，通过精心设计的模板将原始数据转化为适配大型语言模型与外部执行器的指令格式。这一工作不仅为金融领域的离散推理任务提供了标准化的训练资源，更开创性地建立了从多源异构数据到结构化指令的转换范式，对推动大模型在专业金融场景中的落地应用产生了深远影响。

当前挑战

该数据集面临的核心挑战在于金融领域推理任务的复杂性：模型需要同时理解表格的数值逻辑与文本的语义信息，执行跨模态的离散运算，这对现有大模型的符号推理能力构成了严峻考验。在构建过程中，研究团队需解决三大技术难题：其一，如何将三个来源、格式各异的问答数据集统一为标准化指令，确保模板既能保留原始语义又能激发模型的多步推理能力；其二，如何设计涵盖问题类型分类、证据提取、方程生成、答案计算与规模预测的完整推理链条，这要求模板具备高度的结构化与可解释性；其三，如何平衡不同数据集的规模差异与任务难度，使生成的指令集在覆盖多样化金融场景的同时保持训练样本的均衡性。

常用场景

经典使用场景

TAT-LLM-Instructions数据集专为金融领域中的表格与文本联合推理任务而设计，其经典使用场景在于构建和微调大型语言模型，使其能够从结构化表格与非结构化文本中协同提取数值证据、生成计算方程并输出精确答案。通过精心设计的指令模板，该数据集将FinQA、TAT-QA和TAT-DQA三个公开问答数据集转化为标准化的提示格式，引导模型分步完成证据抽取、方程推导与答案计算，从而显著提升模型在复杂金融问答任务中的离散推理能力。

衍生相关工作

基于TAT-LLM-Instructions数据集，研究者衍生了一系列经典工作，包括不同参数规模（7B、13B、70B）的TAT-LLM模型，以及采用低秩适应（LoRA）与全参数微调（FFT）两种训练策略的变体。这些模型在HuggingFace模型库中公开共享，为后续研究提供了可复现的基准。此外，该数据集催生了面向金融领域的大语言模型评估框架，推动了指令微调方法在表格与文本联合推理任务中的系统化探索，并启发了其他垂直领域（如医疗、法律）类似数据集的构建思路。

数据集最近研究

最新研究方向

在金融领域，表格与文本混合数据的离散推理任务正成为大语言模型能力评估与优化的前沿焦点。TAT-LLM-Instructions数据集应运而生，它巧妙整合了FinQA、TAT-QA与TAT-DQA三大公开金融问答资源，通过设计专用模板将原始数据转化为结构化指令，旨在增强大语言模型对表格与文本联合信息的理解与推理能力。该数据集不仅推动了大语言模型在金融场景中的细粒度推理研究，还催生了TAT-LLM系列模型的诞生，为处理复杂金融查询（如跨模态数值提取、多步算术运算与答案归一化）提供了标准化基准。这一进展紧密关联金融科技领域对自动文档分析、智能投研助手等热点应用的需求，其开源特性与多尺寸模型支持，显著降低了金融NLP研究的门槛，对推动可信、可解释的金融AI发展具有深远意义。