---
title: "MathChatSync Reasoning"
created: 2025-06-02
updated: 2025-06-02
type: concept
tags: [dataset, multi-turn-reasoning, math]
sources: ["[[goru-one-pass-to-reason-2025]]"]
---

# MathChatSync Reasoning

> [[goru-one-pass-to-reason-2025|One-Pass to Reason]] 论文中创建并发布的首个公开多轮推理数据集，基于 MathChatSync 用 GPT-4.1-mini 合成推理 token。

## 背景

现有的推理模型（[[deepseek-r1]] 等）主要在单轮推理数据上训练。缺乏公开的多轮推理数据集是 [[multi-turn-reasoning|多轮推理训练]] 研究的瓶颈。

## 构建方法

1. **源数据**：MathChatSync（Liang et al., 2024）—— 多轮数学对话数据集
2. **推理合成**：用 GPT-4.1-mini 为每个助手回复生成推理 token
3. **条件**：推理生成基于对话历史和当前助手回复内容

## 特点

- **多轮结构**：每个对话包含 N 轮交替的人类消息和助手回复
- **显式推理**：每个助手回复 ai = (ti, ri)，包括 reasoning token 和 response token
- **对话深度**：1–16 轮（受 MathChatSync 分布影响，偏 5–7 轮）

## 实验分组

论文按对话深度将数据分为三组：
- **G1**：1–5 轮
- **G2**：6–7 轮
- **G3**：8–16 轮

实验中验证了深度越大，[[one-pass-fine-tuning|1-Pass]] 加速越明显（符合 O(N²) vs O(N³) 的理论预测）。

## 获取

- HuggingFace: `devrev-research/MathChatSync-reasoning`
- 论文代码: `github.com/devrev/One-Pass-to-Reason`

## 相关

- [[multi-turn-reasoning]]
- [[goru-one-pass-to-reason-2025|One-Pass to Reason 论文]]
- [[synthetic-data|合成数据]]
