在抗击李仙洲进攻根据地的同时，罗荣桓也注视着北面于学忠部的动向。八路军需要于学忠有所动作。不出所料，随着李仙洲进入山东，蒋介石同于学忠的矛盾便直接表现为李仙洲同于学忠的矛盾。李仙洲尚未入鲁时，便大挖于学忠的墙角，派人联络属于于学忠管辖的山东各地方实力派，加委封官。于学忠怀疑李仙洲要吃掉他，因此从心里恨李仙洲。这时，李仙洲率部进入山东，这就使于学忠更加心存疑惧。为保持自己在山东的地位，于学忠即以省政府主席牟中珩的名义，将山东所有小股地方武装，统编为县和专署的保安队，使李仙洲无隙可乘，同时对向李仙洲频送秋波的保安第二师张步云部，以不听指挥为名，实行军事讨伐。
于学忠的防地在沂、鲁山区和诸（城）日（照）莒（县）山区。沂山位于沂水县北，鲁山位于莱芜县东，两山峰峦连绵，山崮耸立，形势险要，西连泰山，南连蒙山，北抵胶济铁路，东达诸城、莒县、安邱，纵横数百里，构成山东中部最大山区，是山东的屋脊。诸日莒山区，是滨海区北部的重要地区，北与沂山山区相衔接，南与甲子山区相连，是沟通滨海区与胶东区联系的重要依托。
这些山区本来是八路军的地盘。抗战开始时，共产党领导的游击队首先开辟了这些地区作为根据地。可是，1939年春季以后，先后为沈鸿烈、于学忠等部所占据。国民党的山东省政府和鲁苏战区总部，都集中到这些地区。这些地区在国民党苛捐杂税的压榨下，民不聊生，有些地方已变成了无人区。
于学忠的日子也不好过。在国民党内部，他得不到重视；在统一战线内，他本可以与八路军站在一起，但又心存疑虑；在外部，他又受日伪军的不断打击。抗战以来，于学忠部已遭到重大损失，部队减员，地盘缩小，士气低落，处境十分困难。而沈鸿烈系统的吴化文部，于1943年1月间公开投敌，吴化文当了伪和平建国军第三方面军司令，在日军的支持下向于学忠发动进攻，已划归李仙洲管辖的张步云部，也进逼日莒山区，使于学忠部处境更加险恶。
在这种情况下，于学忠太需要同盟者了！