Parason: Revealing Subtask and Trial Parallelism in LLM Reasoning

长推理链需要逐 token 串行自回归解码，带来显著延迟。作者把推理中的可并行性分为两类：Subtask Parallelism（把任务拆解成互相独立的子任务分头解决）与 Trial Parallelism（并行地进行多次推测性尝试，分别探索、验证、聚合不同假设）。作者发现在 DeepSeek-V4 于 HLE 上的可并行推理步骤中，Trial Parallelism 占到 65.5%，且在难题上占主导地位——说明现有对"任务分解式并行"的关注遗漏了更大的一块。

Parason 通过一套无上下文文法（context-free grammar）把串行推理轨迹转换为结构化的并行轨迹，再用 Parallelism-Aware GRPO（PA-GRPO）训练模型，在准确率、延迟和并行化比例之间取得平衡。

在 AIME24 / AIME25 上，Parason 实现约 1.7x 的推理加速，同时保持有竞争力的准确率。