宋哲元，字明軒，山東省樂陵市城關鎮趙洪都村人。1907年投筆從戎，考入北洋陸軍隨營武備學堂，畢業後服役於馮玉祥部，歷任哨長、連長、營長、團長。1922參加直奉戰爭，升任第二十五混成旅旅長，與鹿鐘麟、劉鬱芬、張之江、李鳴鐘成為西北軍早期五虎上將之一。
馮玉祥無法指定接班人
在中原大戰後期，隨著馮玉祥、閻錫山反蔣聯軍的慘敗，30餘萬西北軍兵敗如山倒。由於楊虎城的第17路軍占領瞭洛陽、潼關，不僅截斷瞭大動脈隴海線，也堵死瞭入陜回傢的退路，大批走投無路的西北軍將領在蔣介石的威逼利誘和叛將韓復榘、石友三等人的現身說法下，接收瞭改編或投降。
但也有一部分忠誠將領，如孫良誠、劉汝明、張自忠、趙登禹等人選擇北渡黃河，率領殘部向反蔣聯軍的最後據點——山西撤退，陸續進入晉南地區集結休整。下野蟄居的馮玉祥本來打算把殘軍交給大將鹿鐘麟，但對馮玉祥戒心甚重的蔣介石馬上明確下達命令，稱鹿鐘麟必須一同下野。因此，由馮玉祥指派接班人來整理殘部已無可能。
宋哲元恰好來到殘軍駐地
群龍無首的西北軍殘部深知，不但蔣介石及其麾下將領陳誠、胡宗南等人是吞並改編雜牌部隊的高手，他們身邊的晉綏軍眾將也都是落井下石、排斥異己的行傢。為瞭能夠繼續保留自己的團體，重振軍威，避免中央系和晉綏軍的吞並，殘軍必須在最短時間內推舉出新的領袖，否則遲早要仰人鼻息，成為“後娘養的”。
就在此時，第4路軍總指揮宋哲元乘著小木船北渡黃河，也來到瞭晉南地區。但此時曾統兵十餘萬人的宋哲元身邊僅剩數名警衛，成瞭完完全全的“光桿司令”。但在晉南殘軍中掌握兵權的7位師長、旅長裡，馮治安、趙登禹、張維藩都曾是他的直接部下，張自忠等人也都曾在其麾下作戰，這也是當時大傢能夠接受的唯一人選。
蕭振瀛的居中協調
恰在此時，在西北軍中被稱“蕭大哥”的蕭振瀛來到瞭晉南。此人曾經擔任國會議員，非常善於縱橫捭闔，與西北軍內大小頭目都稱兄道弟，人緣極好。同時，他也是宋哲元的生死之交，兩人見面後緊急協商，很快達成瞭保持西北軍傳統，組建自己部隊的共識。
此時，雖然宋哲元手中無兵，但畢竟是晉南殘軍中資歷最老、職務最高的軍事將領，而且性格樸實、愛護部下，在各級官兵中有相當的威信。因此，在蕭振瀛召集殘軍各部開會提出組建新軍、推舉宋哲元為領袖時，這些人都表示擁戴。隨後，蕭振瀛利用自己曾經在奉系擔任吉林省田賦局局長的關系，得到瞭執掌華北軍政大權的張學良接見，恰當的表達瞭宋哲元的擁戴之情。
1931年1月，在張學良的積極斡旋在，蔣介石與其聯名發佈命令，正式任命宋哲元為東北邊防軍第3軍軍長，後改編為第29軍。