Berkeley AI Research·· 2026-05-08AI 评分34
自适应并行推理:高效推理扩展的下一个范式
Adaptive Parallel Reasoning: The Next Paradigm in Efficient Inference Scaling
AI 导读
自适应并行推理让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调它们。现有并行推理方法多由外部固定并行结构,如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS,以及 ParaThinker、GroupThink、Hogwild! Inference 等新变体,但都未让模型学会这种自适应行为。
来源:Berkeley AI Research · bair.berkeley.edu