Pekiştirmeli Öğrenme Modelleri, SFT'ye Göre Matematik Problemlerinde Daha Yapılandırılmış Temsiller SunuyorProbing the Origins of Reasoning Performance: Representational Quality for Mathematical Problem-Solving in RL vs. SFT Fine-Tuned Models

Araştırma, pekiştirmeli öğrenme ile ince ayar yapılan modellerin, süpervizyonlu ince ayarlı modellere kıyasla daha lineer ayrılabilir ve hiyerarşik temsiller geliştirdiğini göstererek, bu yaklaşımın matematiksel akıl yürütme görevlerinde üstün performans sağlamasının içsel mekanizmasını ortaya koyuyor.The research shows that models fine-tuned with reinforcement learning develop more linearly separable and hierarchical representations compared to supervised fine-tuned models, revealing the internal mechanism by which this approach yields superior performance on mathematical reasoning tasks.