军，省长毕竟是省长，一个军务帮办的闲职是无论如何也不能与之相提并论的。所以，当张作霖真的带着一笔巨额办公费用前往冯处劝其赶快屈就帮办一职时，冯不仅拒他于门外，而且当日便擅自率领28师全部人马返回了广宁驻地，以示自己绝对不受张的约束。
受到冯德麟如此怠慢，张作霖并没有气馁，他还没有放弃软攻的最后一线希望。
冯德麟率部回广宁后的第三天，张作霖派27师54旅旅长孙烈臣前去拜见冯。孙烈臣不仅带去了大批军用物品，而且带去了30万元巨款，说是专程前来犒赏28师的。其实，孙烈臣此行的用意，还是恭请冯德麟回省城就职，当孙烈臣辞行前表达了自己的真实来意后，冯德麟竟然非常爽快地答应了。
1916年5月下旬，冯德麟果然率领他的部分精锐开进了省城。张作霖满以为冯受自己的诚心打动，当即前往28师驻省城办事处拜会。当天晚上，张还专门在督军署为冯德麟设宴洗尘，可是，冯既没有回拜，也没有赴宴。至此，张作霖才猛然意识到，冯德麟此行带兵回省，并不是受自己的诚心打动，而是向自己示威来了。
在以后的日子里，张作霖虽未完全放弃软的一手，但更着重使用“硬”招。不过，他的“硬”招自始至终只是一种为应付冯德麟挑衅所做的必要准备，如他曾命令在督军署后院建起一座炮台，将炮口直接对准28师驻省办事处，但他并没有对冯进行武力恫吓，因为他不仅不希望自己与冯真的火并起来，给人造成一种奉天不稳定的坏印象，而且他更知道冯德麟根本就是一个不怕硬的角色。事实正如张作霖所想象的那样，当冯德麟知道张作霖架起炮台对准自己时，果然气势汹汹地上门问罪，并以28师全体将士名义向北京政府提出了总辞职的要求。北京政府为避免奉天内乱，专派曾在奉天工作多年的赵尔巽前往调解，但结果也是无功而返。
正当张作霖与冯德麟软争硬斗难解难分之际，汤玉麟内部发难使这场争斗更具复杂色彩。冯德麟知道张作霖后院“起火”的消息后，立即派人主动与汤玉麟取得联系，并表示愿与其联合反张。在冯德麟的煽动下，汤玉麟果然率领自己的队伍离开奉天，进驻其老家新民。不久，冯又专程前往新民，用热烈而真诚的礼义将汤玉麟的队伍迎接到北镇，正式与自己的28师会合。
冯、汤会合后，一方面联名致电北京政府，要求罢免张作霖的职务；一方面则从各个场合放出风声，声称奉天是冯、汤的奉天，不是张氏的奉天，张作霖只有乖乖让权，才是惟一的出路。摆出了一副与张作霖拼个鱼死网破的架式。
面对冯、汤的联合挑衅，张作霖没法继续再软下去了。为了保住自己在奉天的统治地位，他开始考虑采取强硬的手段。
首先，他召开了27师营以上干部会议，要求各级军官团结一致，共同对敌。张作相、张景惠等人原本对汤玉麟抱同情态度，现在见他与冯德麟联合，打出与27师对着干的旗帜，觉得他未免太过分，因此纷纷表态支持张作霖。在张景惠等人的影响下，一些中下级军官也纷纷作出了相同的表示。特别值得一提的是，作为四大重镇之一的洮南镇守使吴俊升，在听说冯、汤联合反张的消息后，特地赶到奉天向张作霖表示：“如果大帅想打仗，我吴俊升愿带队打前阵，一定狠揍这些王八羔子。”
其次，张作霖与北京段祺瑞政府取得联系，希望得到段的支持。张作霖与冯、汤之间的争斗，表面看来是奉天的内部之争，其实与北京政府关系密切。袁世凯死后，北京政府分裂成以总统黎元洪为首和以内阁总理段祺瑞为首的两派，形成民国初年有名的“府院之争”，府院两派在各地都有自己的爪牙，就东北而言，冯德麟、汤玉麟实际是“府”派的支持者，而张作霖则是段祺瑞实力派即“院”派的支持者。当张作霖向段祺瑞发出求助信息后，段当即表态派第9师和第13师援助奉天“勘乱”。得到段的表态支持，张作霖信心大增，立即正式宣布免除了汤玉麟的53旅旅长职务，改由团长邹芬代理，同时，他正式命令54旅旅长孙烈臣和骑兵团团长张作相率兵讨伐汤玉麟。
冯与汤的联合本来就只是为了各自的利益而达成的一种松懈联合，这种联合极不稳固，当张作霖真的对汤玉麟采取武力行动，而且又得知张作霖的行动有段祺瑞全力支持时，冯德麟立即变成了缩头乌龟，他不仅带领自己的队伍离开了汤玉麟，而且丢下一句让汤玉麟听起来很不是滋味的话：“老弟保重，后会有期！”