本文提出了混合路由 (MoR) 方法，通过引入多子路由器协同决策-20250407051436

本文提出了混合路由 (MoR) 方法，通过引入多子路由器协同决策和主路由器动态权重分配，有效解决了混合专家模型中专家分配错误和负载不均衡的问题，显著提升了模型在直接微调任务中的性能，并揭示了在迁移学习场景下一致性路由加权 (CRW) 变体的优势，为 MoE 模型路由机制的优化提供了新思路。