这个臭名昭著的汉奸头子的还露骨地说：“此为东北人之希望，亦为关东军之意见”。阎锡山闻之大惊。他虽然知道自己要想东山再起不能没有日本的帮助，但是如果只是一味的卖身投靠，却有着身败名裂之虞。何况日本人对于自己所扶植和操控的傀儡一向心狠手辣，一旦枭雄张作霖便是前车之鉴。现在要扶他做东北傀儡将会送他的命，于是决计回避，但他又不想得罪日本人，思索再三，只能派人赶到的赵欣伯寓所向对方解释了自己不能亲自会见的苦衷，得到了对方的“谅解”。事后阎锡山对部下说：“这种人远不得、近不得，见了面就麻烦了。”而精于算计的阎锡山对赵欣伯的这种态度正是其对日本若即若离，既防备又利用最好写照。
但是关东军依旧对阎锡山寄以厚望，努力一直保持着密切的往来与合作关系。1931年夏更曾鼓动阎锡山拟订过一份四方联合反奉作战计划。中原大战之后，张学良的东北军在华北形成了一家独大的局面，一度接管山西，开始实行“整军缩编”。少帅曾召集晋军的主要将领徐永昌、商震、傅作义等晋军将领到天津商讨“整编”晋军方案。
张学良按照南京国民政府的意愿，将晋军的数量将由原来的14个军40余师压缩为4个军8个师。徐永昌等人苦苦请求放宽限制，多给编制，但张学良坚不允许。徐永昌折回太原传达实施方案，引起各级军官的强烈反对．后经反复争吵，张学良终于同意再增加一个正太护路军及骑、炮兵独立旅等几个单位以缓和矛盾，“整编方案”这才得以确定。
而张学良掌握北方军政大权后，原属西北军系统的石友三、韩复榘两部也大为不安，颇有反张情绪。因此1931年夏，日本关东军在张学良开始“整编”石友三部时，即与阎锡山联合石、韩，四方秘密商定了讨张行动计划。由石友三所部从平汉线北攻，韩复榘所部出山东北上，晋军及宋哲元部自山西出兵，日本关东军则出兵沈阳抄其后路，共同打击张学良。但在石友三开战以后，山西方面徐永昌等得到情报说宋哲元已被蒋介石拉拢，图谋乘机抢占晋、绥二省，阎锡山急令停止军事行动，因而关东军、韩复榘都未能遵约出兵。石友三孤军战败，反张计划流产。但是阎锡山对这次失信于日本人“深感不安”，事后曾专程派人赴日向关东军参谋长板垣征四郎表示歉意。
1931年8月间，阎锡山得悉确切消息：日本人将在东北“有所行动”，便立即决定离开大连重返山西。他向日本方面求助，答应了回山西后继续发动反蒋内战的条件，出了四万美金的高价。包租日本一架仅乘四五人的小飞机，由一名日军少校驾驶飞返山西。
阎锡山临行，还颇有些准备“一去不复返”的悲壮气慨，对留在大连的亲信赵戴文说：“万一有不幸，妻儿便托你照应了。咱们打出来的晋绥天下，决不能让人抢走。”果然飞机起飞后曾一度迷失方向，盘旋很久才找到平绥铁路。飞临大同时油已耗尽，阎锡山尽管出了几身大汗吃了几回虚惊。但终于回到了大同。
阎锡山先住在时任平绥护路司令、大同警备司令赵承绶家中，不久便潜回河边村老家。当赵承绶问他；“你回山西，不怕蒋介石和张学良压迫吗？”阎锡山回答：“恐怕不久全国就要行动起来反对他们，他们将自顾不暇。对我也无可如何。”果然，一个月后就发生了九一八事变。日本关东一举鲸吞东三省，全国各地掀起了广泛的抗日热潮，蒋介石、张学良穷于应付国内外压力，的确没有精力去过问阎锡山的去留。
不过此一时彼一时，回到山西的阎锡山已如“潜龙入海”，重新一心构筑起自己的独立王国。早已将曾经向关东军承诺过的“反蒋”计划束之高阁了。经过了中原大战之后的阎锡山已经清楚的认识到了自己与蒋介石中央军实力上的差距。而日本关东军的步步进逼，但其目的无非是想变华北为其吞并全中国的后勤基地而已。自己充当其“马前卒”的结果只能是遭到国人的唾骂和众叛亲离而已。连落魄军阀—吴佩孚都不吃日本人的“嗟来之食”，阎锡山自问是一方诸侯，自然“宁为鸡首，不为牛后”。因此当关东军参谋长板垣征四郎亲赴太原，以期促成阎锡山出面推动“华北五省自治”之时，重掌山西的阎锡山表现出来的却是兴趣缺缺。
但对于曾经在日本陆军士官学校的教官板垣征四郎访问完太原后提出要在山西境内旅行观光的要求，一向老谋深算的阎锡山竟一时大意，未多加考虑便满口应允，或许在他看来，向虎视眈眈的日本关东军炫耀一下自己的重回山西的执政成绩，多少可以震慑一下对方的动兵之念。但阎锡山或许忘记了在历次中日交兵之中，日本都以先掌握中国方面的地形地貌、风土人情为先。板垣征四郎在山西的“旅行观光”，最终为晋军此后在山西保卫战中的失利埋下了伏笔。
而与此同时，时任第二十九军军长的宋哲元、河北省主席商震、山东省主席韩复榘也均对关东军方面大力推动的“华北五省自治”冷淡敷衍。为了向日本军部有所交代，长于策反工作的土肥原贤二只能找到时任冀东“蓟密区”专员的国民政府亲日官员—殷汝耕，在河北通州以“冀东防共自治政府”的名义，窃取中华民国冀东二十二县和延庆、龙关、赤城三县的主权。汉奸殷汝耕的卖国行径虽然也算为日本人撕开“华北自治”的口子。但是却引发了中国上下声势更为浩大的“救亡图存”运动。中国**“停止内战、一致对外”的抗日主张更在北平学生的“一二九”救国示威游行之中得到了广泛的传播。
在全国风起云涌的抗日风潮面前，已经在陕北站稳脚跟的工农红军以“卖国贼阎锡山勾结日帝侵略华北，危及晋、绥，复受日帝指挥，派兵六旅之众，屠杀陕北苏区民众。国人痛愤，罪不容诛。鉴于日帝之迈进华北之急，特遣抗日先锋军东渡黄河抵抗暴日……”的名义组织大军渡河东征。当然指责阎锡山为卖国贼，其实很大程度上是红军这时军事行动的一种需要。实际上，在抗日图存的问题阎锡山的立场与张学良相近，也在找共产国际及**的关系进行协商。
到1936年2月红军东征之前，阎锡山本人至少已经与**北方党部的代表有过三次谈话。当然阎锡山所担心的自然还是山西能否继续保持在自己的控制之下，对于**代表所称中国唯一出路在组织国防政府和抗日联军，阎锡山明确表示赞同。但是他也声称**的说法不论站在民族方面、国家方面或民众方面，都是对的，只是在房子里谈可以，站在他的立场，站在******的立场却不可以，“因为一谈就是很大乱子”。但是对于**代表所说山西方面唯一出路是与红军订立协定，阎锡山则表示异议。他也知道山西确在危机之中，东有日本，南有蒋军，西有红军，但他的态度却“对谁也不妥协，保持中立”，坚持继续独立控制山西局面。他还声称，他的防共保卫团计划每年训练15万人，三年可训练45万人，到那时他什么都不怕。
1935年，红军在陕北建立了革命根据地之后，阎锡山开始了“思想防共，民众防共，政治防共，武力防共”，进而要用“九分政治一分军事来防共，七分政治三分军事来剿共”。他在山西还准备实行土地“村公有”，作为防共的根本办法；设立“防共保卫团”和“主张公道团”组训民众“防共保乡”。
但事实证明阎锡山的种种防共手段在工农红军强大的攻势面前根本不值一提。1936年2月20日晚，工农红军东征的战役正式打响。红一军团和红十五军团兵分两路，从北起绥德的沟口，南到清涧县的河口百余里的河防线上发起突击强渡。红十五军团先后从辛关渡、贺家凹、舍塔里、咀头等地渡过黄河，进占义牒，直趋石楼；红一军团从沟口过河后，连克三交、留誉，进逼中阳。阎锡山苦心经营的黄河堡垒线被轻松摧毁。红军乘胜追击，长驱东进，接连取得了关上、篷门大捷，于3月上旬，两个军团已经会师于孝义县兑九峪以西的大麦郊地区(今属交口县)。<div>