16师大多投降或被俘，所剩寥寥无几；第28师只有三分之一，也就是说只有1个旅的兵员逃回了东北。直奉战结束后，回归东北的仅有3万余人。惨重的损失既使张作霖感到悲伤，同时却又使他清醒。他深深地认识到，以他的绿林班底为基础组成的奉军——这帮纪律松弛，素质低劣，缺乏训练而又指挥不灵的乌合之众，实难肩负起称霸中原，统一中国的重任。
他决定对奉军来一次脱胎换骨的大整顿。
然而，当张作霖作出这样的决定时，他又有些犯难。他是一个有头脑、有野心的人，但毕竞从来没有接受过正规的军事教育，对于怎样才能把军队整顿好，他心中并无大的把握。那么，究竟让谁来协助自己完成这一艰巨而又重大的任务呢？
他首先想到了杨宇霆。杨宇霆既是新派的代表人物，同时又是自己多年重用的“活智囊”，他不仅具有丰富的军事理论知识，同时更具有对奉军各阶层的透彻了解，用他来整顿奉军，应该再合适不过。
可是，张作霖始终下不了决心。因为，杨宇霆仅有的一次越轨行为始终萦绕在他的脑海，使他想忘也忘不了。
在经过反复周密的考虑之后，张作霖还是取消了由杨宇霆来整顿奉军的打算。他决定把这一任务交给自己的亲生儿子，年仅21岁的张学良。
张学良刚出生的时候，张作霖还是个很不起眼的绿林之王，但正是张学良出生的那一年，即1901年，张作霖打了投身绿林以来的第一次大胜仗，所以，张学良被他视为“千金之子”，一生下来便得到了他特别的疼爱。
张学良，字汉卿。他长大成人的过程，也正是张作霖由匪成官，由绿林之王转为东北之王的过程。张学良长到十七八岁时，张作霖已在东北完全站稳了脚跟，可谓事业上的春风得意时期。所以，他在苦心经营自己的霸业时，也把莫大的希望寄托在张学良的身上，希望他能接受最好的教育，掌握最好的知识，以便将来能够继承自己为他创下的霸业。
但是很可惜，初长成人的张学良似乎对政治、军事并没有表现出多大的兴趣。相反，他的兴趣在学医，在出国留学。对此，张学良晚年在台北接受日本广播电视台记者访问时曾经提及：“当年我本人是想学医的。我非常喜欢日本当时的南满医科大学，我有很多那方面的关系。南满医科大学预科有我的一个很好的朋友，所以那里我常去。我很想进南满医科大学的。我本来是想学医的，我父亲也不说不答应，他就不吱声，不让我去，我就没法子了。当时我想到美国念书去，并不想当军人。所以我现在说笑话，我说我原来想学救人没成功，结果后来学会杀人了。”
很明显，由于张作霖的反对，张学良既未学医，也未去国外留学，而是留在国内做了一名他父亲希望他做的军人。
1919年，19岁的张学良在父亲的安排下，成为东三省讲武堂（奉天最有名的军官学校）的首届学员，这是他几十年戎马生涯的开端。
张学良本不想当军人，但一进入讲武堂，他便很快进入了角色，学习异常刻苦，成绩异常优秀。对此，他晚年的回忆曾这样记述：“我19岁在东北讲武堂念书，考试成绩最好。但有人认为是我父亲的关系，教习才给我好成绩。后来考试有严格监督，我仍得了第一。所以我在讲武堂很有名气。”
正因为在讲武堂崭露头角，张学良尚未毕业便担任了张作霖卫队营的营长，后来又担任了第3混成旅第2团团长，这虽然只是些挂名头衔，但对培养张学良的将帅意识无疑起了积极的作用。
1920年，加冠之年的张学良从东三省讲武堂毕业，张作霖立即任命他担任了东三省巡阅使署卫队旅旅长。张学良将自己在讲武堂的战术教官郭松龄调来自己身边担任参谋长。在郭的辅佐下，张学良在卫队旅旅长的职务上干得有声有色。张作霖看在眼里，喜在心上。为了使张学良进一步经受磨练，张作霖还特意安排他与郭松龄率部参加了吉林、黑龙江等地的剿匪战斗，张学良在剿匪战斗中表现不错，屡立大功，并从此在奉军中名声鹊起。
1921年5月，张学良被任命为奉军第3混成旅旅长，郭松龄也被任命为第8混成旅旅长，成为奉军中高级军官中的新生代。郭、张二人一上任，便采取讲武堂中的一整套选兵、练兵、教兵之法，对所辖部队进行了整编和严格的军事训练，短短的几个月之内便收到了奇佳的效果，这种效果随即便在直奉战争中得到了充分的检验。