1921年春，冯玉祥得知曾与已结下夙怨的鄂督王占元将由武汉乘京汉路火车晋京公干的消息，曾经召集营长以上军官密议，在王占元路过信阳车站时把他扣留，要挟他清还积欠半年的全旅粮饷。
由于张维玺与王占元同为馆陶县的小同乡，张维玺竟把这个秘密计划偷偷地透露给王占元。王占元遂改道乘船至南京，转乘津浦路火车北上。冯玉祥对于王占元的忽然改道，断定有人泄密，经过百般访察，始知是张维玺所为。
但一因此事不便向外张扬，二因正值部队即将开拔，张维玺身任团长，且系一员有勇知方的战将，当时冯玉祥姑且隐忍未发。及至萧耀南从信阳抢占列车运兵鄂省时，张维玺知道冯玉祥不敢在明面上反对吴佩孚，因此驻守车站的他下令不予阻挡。
于是冯对他新旧账一齐算，用这个理由就把张维玺的团长职撤掉，转任师属修械所所长，这是一种降职降级的待遇。张汉卿就利用这一点，他派于学忠夜会张维玺，进行劝降。
于学忠在武汉与张维玺曾有一面之缘，彼时不过是一营长，不出两年时间，一跃而团长、旅长，现在是代理第8师管有1万5千人的少将师长了，估计要不了多久，第三颗星将会让他的星辉更灿烂。两人多年前即已惺惺相惜，此时相见，大有不胜唏嘘之感。
张维玺还在等待冯玉祥再复召用：冯一手训练出来的官和兵，尤其是军官，是轻易不让走开的。犯了过失的，或撤职或降级，过了一段时间，仍可恢复原职原级，并且不影响升迁。
但是于学忠带来张汉卿对他的赞赏却让他非常动心。张汉卿允诺：只要张维玺肯加入人民军队伍，立即将是少将旅长军衔。有于学忠这个例子，张维玺不由得不心动。张汉卿知人善任的名声在外，而且人民军如今的力量也大有席卷天下之势，作明星还是泯然众人不用多说了。
冯玉祥出身平民，因而能接近下层，与士兵同甘苦，从而得到下级的拥戴。但冯氏的带兵方法却是封建家长式的，甚至对师长以上的高级军官也是呼来唤去像对小孩子一样，像韩复榘当了师长以后还曾被冯氏当着士兵的面打了40军棍，毫不留情面。
这种带兵方法加上其它因素，导致冯系军官后来的纷纷背叛。张维玺也曾被当众打过耳光，记忆深处对冯玉祥的管教非常不满。
直奉交手已落于下风，与其碌碌在冯玉祥帐下做一败军之将，何如另起炉灶，打开一片新天地？于是在一个月高夜黑的晚上，张维玺投奔了张汉卿。
张维玺的到来，让张汉卿非常高兴，他兴奋地对张维玺说：“你来了，人民军中多了一员猛将。”可是在他心中，让他最感兴趣的还是此时名不见经传、正史上后来成为著名抗日将领、民族英雄，同时也是第二次世界大战中同盟国牺牲的最高将领的张自忠。
张自忠刚毅寡言，但有较高的带兵天赋。在他就任连长三个月后，他的第二连便在全旅各连军事考核中夺得第一，成为十六混成旅的“模范连”。
模范连是冯玉祥治军的样板，张自忠得此殊荣，干得更加起劲了。经他训练出来的全连126名士兵，后来几乎个个成才，仅军长、师长就出了十个，旅长、团长就更多了。从这时起，张自忠注重军纪、治军严厉的风格已经十分突出。遇有违反军纪者，他初则说服教育，再则严厉训斥，三则军棍伺候。正如士兵们在歌谣里所唱的：“教你学好不学好，鸭嘴军棍挨上了。”
后来，因张自忠对于违反军纪的官兵常说一句口头禅：“看我扒不了你的皮!”于是，被官兵们冠以“张扒皮”的诨号，全军上下无人不晓。一首顺口溜说：“石友三的鞭子，韩复榘的绳，梁冠英的扁担赛如龙，张自忠扒皮真无情!”
“张扒皮”的浑号使人误以为此公是个无情无义、粗暴蛮横的武夫，实则不然。张自忠爱兵如子，严中寓恩，深知“治兵先治心”的含义和“恩威并用”的运用之妙。以打军棍为例，张自忠并不是遇过即打，滥施棍杖，而是实行“八不打”，即：有病不打，盛气不打，盛暑不打，饭前不打，无恩不打，罚过不打，夯兵不打，不知不打。
可见，张自忠对于如何使用军棍是十分讲究轻重分寸的。
这样一个人才，怎样才能招到帐下？用金钱、名誉来引诱这位一身正气的年轻军官无疑行不通。如果可行，搞不好张汉卿会对自己的看人能力表示怀疑。