第3章 晋系军阀——阎锡山：三颗鸡蛋上跳舞的“不倒翁”
他以辛亥首义就任山西都督，却转身投靠袁世凯；他为既得利益一会儿联蒋抗冯，一会儿联冯抗蒋；在对蒋、对共、对日关系上，三颗鸡蛋上跳舞；他以万无可守之太原，令部下死绥，以致破城之日，尸与沟平，为世人所痛恨。赴台后“山西九尾狐”失灵。
小档案
姓名字号：阎锡山，字百川，号龙池
籍贯：山西省五台县
祖籍：山西省洪洞县
生卒年月：1883.10.8—1960.5.23，卒年76岁
毕业院校：日本陆军士官学校
军衔：陆军一级上将
最高官职：国民政府行政院院长
军阀派系：晋系
生辰八字：癸未辛酉乙酉甲申
属相：羊
个人爱好：读书、写作。
家世：
始祖——阎思悦，号存诚，迁到山西省五台县河边村，靠给大户人家做零活度日。其后几代人都靠打短工维持生计。
第4代孙——阎合义，生活稍有好转。
第5代孙——老大阎锦绣，老二阎锦芳，老三阎锦美，均为贫苦农民。
第6代孙——老大阎安泰，老二阎兴泰，阎氏家族自此由衰转盛，人丁开始兴旺，逐渐在河边村形成东股、中股、西股三大族支。阎锡山属东股，属锦绣一支。
第7代孙——阎青云，是一个半帮工的自耕农，生有二子一女，老大阎书堂，老二阎书典，女儿阎改变。
第8代孙——阎书堂，夫人曲月清，仅有阎锡山一个儿子。曲氏逝世后，续娶陈秀卿，陈氏一生没有生养。
妻妾子女：
元配夫人徐竹青，无子女。
姨太太徐兰森，生长子志恭（早夭），二子志宽，三子志信（早夭），四子志敏，五子志惠，女儿早夭。
简历
1883年——10月8日出生于山西五台县河边村。
1888年——母亲去世。
1892年——入私塾读书。
1902年——考入山西武备学堂。
1904年——被保送到日本留学。先入东京振武学校，毕业后入日本陆军士官学校第六期。
1905年——加入同盟会。
1909年——任山西陆军小学教官，3个月后升任监督。
同年，以上等（分优、上、中三等）成绩被赐陆军步兵科举人，授协军校（相当少尉）军衔。
同年，升任新军八十六标教练官。
1910年——升任新军八十六标标统。
1911年——被起义军推举为山西省政府都督、山西省政府民政长。
1912年——被袁世凯任命为山西都督。
1914年——被授“同武将军”。
1915年——被封一等侯。
1916年——改任山西督军。
1917年——出任山西省长。
1927年——被蒋介石任命为北方国民革命军总司令。
1928年——任平津卫戍总司令。
同年，任国民政府内政部部长。
1929年——任黄河水利委员会委员，首都建设委员会委员，赈灾委员会委员。
同年，任全国陆海空军副总司令。
1930年——被反蒋将领们拥戴为“中华民国陆海空军总司令”。
同年，被反蒋派推举为“国民政府主席”。
1932年——任太原绥靖公署主任。
1935年——任军事委员会副委员长。
1937年——任第二战区司令长官。
1949年——任行政院院长兼国防部部长。
1950年——任“总统府资政”、国民党中央评议委员。
1960年——逝世，终年76岁。
投机革命，登上大都督宝座
坐落在五台山下的五台县河边村，原本是一个名不见经传的小山村，在20世纪上半叶，却因一个名不见经传的小人物的崛起，使它声名大振。而这个小人物便是统治山西长达38年之久的阎锡山。
阎锡山原本可以按照父亲为他安排的“农商”之路，沿着父亲的生命轨迹走下去，然而，一个偶然的机会改变了他的一生。这个偶然的机会，便是山西武备学堂一张普通的招生告示。
1902年春季的一天，19岁的阎锡山与他的父亲阎书堂行色匆忙地行走在太原街头，不远处熙熙攘攘的人群引起父子俩的好奇，走近一看，墙上贴着一张山西武备学堂的招生告示，阎书堂连连摇头，拉起儿子就走。阎锡山却一步三回头，恋恋不舍。
投身军旅，阎锡山从未想过，但从看到招生告示那一刻起，这个念头在他的脑海里便再也挥之不去。但他知道父亲不会同意，父亲给他铺就的人生之路是从商。他出生于一个地主兼商人的家庭，无奈6岁丧母，继母进门前首先提出不抚养前房儿子，致使年幼的阎锡山被寄养在外婆家，但从15岁辍学起，他就跟着父亲在县城开设的“吉庆昌”钱铺学做生意。只是好景不长，1900年因一次“打虎”惨败，导致阎家一夜之间破产，并负债2000吊，父子二人被迫外出逃债，过着颠沛流离的生活。后来流落到太原，拜访了同乡魏老五，魏老五见阎锡山脑瓜灵活，是块做生意的材料，遂收为义子，安排在自家“裕盛店”里当伙计，阎锡山父子的生活才算稳定下来。在这个时候，父亲怎么会同意他报考武备学堂呢？
果然，阎锡山一张口，便被父亲驳了回来：“好不容易被你义父收留，还是好好学生意吧，还指着你东山再起呢！”
好在阎锡山早有准备，他已经打听好读武备学堂的待遇，除了供给学生吃穿，每月还发饷银一两。学堂每月有月考，每季有季考，倘若三个月成绩均名列甲等，每月又可得饷银三两，乙等为二两，丙等为一两，只要用功学习，绝对比做伙计挣钱多。阎锡山将武备学堂的好处如此这般说了一大堆，然后话锋一转，道：“虽然眼下生活有了着落，可这点钱也只够填饱肚子，什么时候能攒下钱做生意？”
这句话说到了阎书堂的痛处，他叹口气说：“读武备学堂还不是一样，就算生活宽裕点，也做不起生意。”阎锡山立刻反驳：“那可不一样，将来说不定能混个一官半职呢，到时候还怕没钱做生意？”父亲沉默半晌，最后终于点头。
阎书堂无论如何不曾想到，他这一点头，阎家竟出了一个山西都督，岂止是重振家业做生意办钱铺，阎家无论在政治上还是经济上都毫无疑问地成为山西第一家，他本人更是摇身一变成了河边村的“老太爷”。
得到父亲应允后，阎锡山随即拉上做小伙计结拜的把兄弟黄国梁、张瑜，一同报考山西武备学堂。考试初试为论文，题目是《韩信将兵多多益善论》。学堂入学考试要求不高，粗通文字即可，阎锡山曾读过5年私塾，所以顺利通过。在口试中，阎锡山表现出色，对答如流，而且很有军人风范，得到考官赏识，很快顺利过关，与黄国梁、张瑜同时被录取。
阎锡山深知这一步对自己前途意义深远，入学后不敢懈怠，学业和人际关系都处理得当，并当了学生班长。正因如此，两年后，阎锡山及另外19名学生被学校选中，保送到日本留学，先入东京振武学校，毕业后入日本陆军士官学校第六期。在日本留学期间，阎锡山深受资产阶级民主革命思潮的影响，于1905年10月加入同盟会及孙中山为吸收骨干力量而组成的“铁血丈夫团”，曾会见孙中山并参与制订了同盟会“南响北应”的战略决策，即同盟会在“南部各省起义时，须在晋省遥应”。至此，阎锡山通过进入武备学堂学习这一契机，迈出了登上政治舞台的第一步。
1909年3月，阎锡山毕业回国。回国之前他便打听到山西新军第四十三混成协协统（相当于旅长）姚鸿法的父亲姚锡光，时任陆军部侍郎，因此他没有直接回太原，而是绕道北京，以留日归国学生代表身份拜见姚锡光，对其百般奉承，因而得到赏识。姚锡光随即给儿子姚鸿法写信举荐阎锡山，称阎锡山为不可多得之人才。
有了姚氏父子做靠山，阎锡山回到太原后仕途一帆风顺，做山西陆军小学教官仅三个月便升任监督。此外，他还在太原等地四处活动，结识、讨好了许多山西省的头面人物。1909年11月，清政府为了选拔军事人才，由陆军部组织留日归国士官生赴京参加会试，阎锡山以上等（分优、上、中三等）成绩被赐予陆军步兵科举人，授协军校军衔。回到山西后，阎锡山即被升任新军八十六标教练官，三个月后又在姚鸿法的举荐下升任标统（相当于团长）。
尽管阎锡山在清廷的军队中一路升迁，但京城会试，为留日军校生中的同盟会员提供了交流情况的机会，也使阎锡山从南方的同盟会活动中得到启发，使他敏感地意识到，推翻清王朝的革命运动正在全国各地迅速兴起，清王朝统治已经岌岌可危。一旦清廷覆灭，最终鹿死谁手尚未可知，在这个特殊时期一定要做好各方面准备。
于是，他一方面与同盟会一些中坚人物如李烈钧、唐继尧、严昌衡保持联络，一方面召集山西留日士官生中的同盟会员，商议夺取军权的办法。阎锡山升任第四十三协第八十六标标统后，便在四十三协所辖的八十五、八十六标里组织了以同盟会员和同情革命的积极分子为骨干的“模范队”，并任命一部分同盟会员在八十六标里担任要职。还凭借他曾被选入“铁血丈夫团”的身份，与温寿泉、黄国梁在太原成立了由他一手控制的核心组织，以备革命爆发之际发动起义。
1911年10月10日武昌起义爆发后，各地纷纷响应，湖南、陕西两省于22日同时举义。西安光复后，山西的革命党人加快步伐，积极策动太原起义。但因当局害怕新军起义收走了子弹，一时未能发动。恰在此时，山西巡抚陆钟琦以防止陕西革命军东进为由，决定将倾向革命的黄国梁的第八十五标调离太原。陆钟琦的决定打乱了太原起义的部署，但同时也使第八十五标因此领到了子弹。
29日凌晨，被推为义军司令的姚以价率八十五标打响了太原起义的第一枪。八十五标第一营攻打满洲城，其余营队随姚以价攻打抚署。阎锡山虽参与了太原起义的筹划，但他对起义能否成功并无信心。为了实现成则居功，败则诿过的目的，阎锡山做了两手准备。他一方面令八十六标官兵把守抚署东西两边街巷口，让人看起来是在保卫抚署，一面又令其攻打抚署后门的巡防队，让人看来是在配合起义。当起义军攻占山西抚署，将陆钟琦父子及派兵镇压起义军的第四十三混成协协统谭振德击毙后，阎锡山立刻宣布八十六标参加起义，成为太原光复功臣之一。
起义成功后，阎锡山立刻抓住领导权，以领导者的身份召集同盟会员到自己的标部开会，商议大都督人选。他先是假意推举姚鸿法为都督，因姚的父亲任职清廷，姚本人不可能出任都督。而他本身是同盟会员，又任标统，很自然地被推选为大都督。
大都督人选商定之后，各路义军首领与同盟会员立刻在省咨议局召开有各界头面人物参加的紧急会议，选举山西都督，成立军政府。
选举大会由咨议局长立宪派首领梁善济主持。梁善济先是坚持说官厅不可推倒，引起同盟会员的强烈反对，而后又主张投票公开选举都督，他本人大有当仁不让的架势，而在场立宪派也都有选举梁善济的倾向。一旦立宪派首领当了都督，即宣告革命党人的起义失败。在这种情况下，同盟会员张树帜首当其冲，立即持枪跳到主席台上，将梁善济挤到身后，大声疾呼：“我们应当推选阎锡山为都督，不要票选，要举手表决！”台下一呼百应，革命党人全部拔出手枪，高喊：“选阎锡山，举手表决！”
于是，与会者一个个左顾右盼，相继举起手来。张树帜又进行了检查，看到与会人员全部都举了手，即宣布一致通过。粱善济见势不妙，从后门离开会场。张树帜又提议推选温寿泉为副都督，大家也一致通过。
阎锡山与温寿泉出任山西省正副都督后，立即组织山西军政府，建立统治机构，委派各部负责人，发布安民告示，悬挂“八卦太极图”旗。
就任都督当天，正是阎锡山29岁生日，正所谓双喜临门，亲友们纷纷前往道贺，阎锡山好不风光。可刚刚应酬完毕，亲友们尚未散去，便有八十五标三营管带熊国斌带部队前来面见阎锡山。熊国斌是满族人，对革命极为不满，他把部队停在阎锡山的寓所外，进门就喊：“我给都督请安来了！”
阎锡山一听，知道来者不善，平静地说：“你把部队集合好，我要给他们训话。”熊国斌本为行刺而来，听阎锡山如此一说，觉得正是刺杀的好机会，随即出去集合部队，示意杀手做好准备。但当他进来报告时，还没来得及开口，便被阎锡山一枪击毙。
就这样，29岁的阎锡山通过参加起义，坐上山西都督的宝座，开始了对山西长达38年的统治。
拥袁投段，平生最怕袁世凯
山西光复后，阎锡山知道清廷会出兵镇压，首先派兵扼守娘子关，同时出兵直隶，占据正定，巩固山西门户。清廷闻讯大为震惊，急忙任命北洋第六镇统制吴禄贞为山西巡抚，率兵入晋，镇压革命。
吴禄贞是早于阎锡山数年的留日士官生，革命党人。他率部到达石家庄后，即停止不前，派第六镇参谋周维桢持其亲笔信赴晋拜见阎锡山。吴禄贞在信中说：“革命之主要障碍为袁世凯，欲完成革命，必须阻袁入京。若袁入京，无论忠清与自谋，均不利于革命。”继而提出与晋军共组燕赵联军，合力阻止袁世凯北上。
阎锡山深受鼓舞，却又担心吴禄贞为谋就任山西巡抚使诈，在复信的同时又与吴电话联络，以开玩笑的口吻试探：“将军是为巡抚一职所动吧？”吴禄贞当即说：“百川兄多虑了，我们还是当面谈谈，以达成共识。”
为了表示诚意，吴禄贞只带少数参谋人员进入娘子关与阎锡山会晤，双方约定组织“燕晋联军”，以吴禄贞为总司令，阎锡山、张绍曾为副总司令，共同进军北京，推翻清廷，建立民国。这个决定令阎锡山热血沸腾，想到一旦进军北京成功，自己瞬间便可成为革命首屈一指之功臣，前途无量，立刻响应吴禄贞，于11月5日派晋军两营抵达石家庄。
然而，11月7日，一个不幸的消息传来，吴禄贞于当日凌晨被袁世凯派人暗杀于临时任所。顷刻间，一切希望化为泡影，阎锡山与其幕僚们紧急磋商，一面令晋军在井陉、雪花山严密布防，一面令两营晋军撤回。由于当时吴部清军已溃散，晋军将石家庄存储的弹药、粮秣、服装等全部运回太原。
吴禄贞被害后，袁世凯顺利进京，于11月15日任命张锡銮为山西巡抚，调北洋第三镇曹锟所部，由保定至石家庄，前往山西镇压革命军。12月8日，北洋军与山西革命军在娘子关展开争夺战。
娘子关防线有井陉、乏驴岭、固关、雪花山等数处要塞关隘，地势险要，易守难攻。阎锡山亲临前线督战，起义军士气高昂，顽强抵抗。但终因兵力少，武器装备落后，无法与北洋军相抗衡。12月12日，娘子关陷落，北洋军直逼太原。
阎锡山感到太原已不保，而娘子关距离太原不过半日路程，返回太原召开紧急会议，磋商对策。他已领教过北洋军炮火之猛烈，主张弃太原北上。副都督温寿泉则以太原是革命根据地而主张坚守太原。双方各执己见，最后各行其是。
12月12日，阎锡山乔装成和尚，骑着毛驴与赵戴文等人仓皇北逃。当他逃到五寨时，孔庚等人从雁门关前线赶来会合，孔庚一见到阎锡山，直呼失策：“都督放弃太原实在是失策，大大影响了太原起义者形象啊！”此时，阎锡山已从出逃时的惊慌中冷静下来，仔细一想也觉得此举未免太轻率，毕竟南北议和已基本成为定局。但后悔晚矣，只能想办法弥补，于是通电全国，声明他离开太原乃为“北伐”。
接下来，阎锡山选择了战事相对较少的西线进行“北伐”，一路上接收了不少民军，亦有不少起义失败的革命党率部前来投靠，阎锡山的队伍很快激增到3000余人，一时士气大振，当即决定兵分三路攻打包头。
这是阎锡山“北伐”以来第一次作战，三路大军围攻包头，清军很快溃败逃遁。1月12日，阎锡山所部占领包头。清绥远城将军堃岫闻讯大惊：“包镇为各厅西北门户，该镇既失，归绥（呼和浩特）危险至极！”
1月13日，阎锡山率军进城，城内各界组织队伍欢迎。阎锡山想到包头局势尚未稳定，难免有清兵混入欢迎队伍，或埋伏于暗处，趁乱行刺，于是对左右提出不出面接受欢迎。但城内特意组织欢迎，都督不露面实在说不过去，这时赵戴文自报奋勇，提出由他假扮都督，率军入城。阎锡山并不想让别人替自己承担风险，于是一口回绝。
赵戴文却不以为然，坚持说：“就算让我过一回都督瘾，总可以吧？”阎锡山无话可说，只好点头。赵戴文即高高兴兴地穿戴起都督的全套服装，骑上高头大马，领军进城。就在队伍行进时，果然有清兵躲在街边房屋后朝“都督”开了一枪，赵戴文惊出一身冷汗，好在没有击中。此时，真都督阎锡山则躲在民军队伍里，安全进城。
进驻包头后，绥远将军堃岫即派谭永福率兵2000人前来攻打，阎锡山派王家驹率兵迎战，1月16日，两军在鄂尔格逊东边地区激战14小时，最终清军大败，民军乘胜追击，经过一个多月的战斗，民军先后攻占诸多城镇，光复了晋北广大地区。
此时，南北议和即将告成，太原当局为缓和与革命军的矛盾，派人前往包头迎接阎锡山回晋。2月7日，阎锡山下令南返，2月18日抵达忻州，并在此建立军政府临时机关，为重返太原做积极准备。然而就在此时，刚刚被选为临时大总统尚未宣誓就职的袁世凯电令阎锡山：“就地待命，不准前进，如违令擅动，即以军法从事！”
真是晴天霹雳，满心欢喜的阎锡山登时被震得目瞪口呆。他知道袁世凯要报“燕晋联军”的一箭之仇，此时才后悔当初没有准确把握局势。而袁世凯以太原起义后阎锡山北逃为借口，拒不承认山西是成功起义之省，从而不承认阎锡山的都督之职，而是打算另派亲信出任山西都督。但此时袁世凯尚无控制山西之力，倘若阎锡山强行返回太原，想必袁世凯也不会把他怎样。但阎锡山没有违抗袁世凯的命令，而是老老实实待在忻州，四下疏通，希望能名正言顺返回太原。
由于南北议和中，袁世凯答应孙中山，不能更换首批起义省份的都督，所以阎锡山首先向孙中山求救。孙中山多次致电袁世凯，表示：“如不承认山西为起义省份，即使南北和议破裂，在所不惜。”同时，阎锡山还请出袁世凯的门生董崇仁到北京活动，表示自己对袁世凯的拥护与归顺，以减少袁世凯对他的猜疑。在多方活动尤其是孙中山的努力争取下，袁世凯终于在3月15日任命阎锡山为山西都督。但袁世凯对阎锡山并不放心，因此在1913年三次传见阎锡山。
第一次晋见袁世凯，阎锡山带着赵戴文、张树帜一起进京，进总统府之前对两人说：“此次晋见，怕是凶多吉少。如果我长时间不出来，你们要想办法打探。”待见到袁世凯，立刻被其声色俱厉、气势汹汹的样子所吓倒，不由得“汗流浃背，俯伏在地，行了跪拜大礼”，对袁世凯的严词呵斥更是胆战心惊，唯唯诺诺。出来后，阎锡山对赵戴文、张树帜说：“太可怕了！”
第二次晋见时，袁世凯见阎锡山不过如此，不是什么有骨气有心计之人，态度便缓和了一些。阎锡山回去后对赵戴文等随从人员说：“这一次很好，总统好像不那么生气了，远没有上一次厉害。”
第三次晋见时，袁世凯觉得阎锡山不过是平庸之辈，对他的猜忌便减少了许多，说起话来也有了些心平气和。阎锡山晋见回来非常高兴，对随从说：“太好了，总统让我们回去。今天没事了，你们出去玩玩，洗洗澡看看戏，明天动身回太原。”
其实，阎锡山在袁世凯面前不过是演戏，尽量让自己表现得平庸无能，以减少对他的猜忌与防范。尽管如此，袁世凯仍然给阎锡山留下了不可磨灭的恐怖印象，阎锡山不止一次对身边人说：“我平生所畏惧的只有一个人，那便是袁世凯。”
但此时阎锡山并没有完全依附袁世凯，“二次革命”爆发后，他采取两方都不得罪的中立态度，直到国民党败局已定，才坚定立场站到了袁世凯一边，这是他第一次公开放弃革命旗帜。然而，袁世凯对他依旧不能放心，特地派其亲信金永出任山西巡按使，以削弱阎锡山的权力。
金永一到任便飞扬跋扈，对阎锡山颐指气使，不仅掌管民政，而且插手军事，完全不把阎锡山放在眼里。阎锡山为了博取袁世凯信任，保住山西都督之位，索性以退为进，故意在金永面前表现出一副无为姿态，让金永以为他无能而减少戒心，同时将军务全权交由十二混成旅旅长黄国梁处理。当有人向他请示军务时，他都会打发到黄国梁那边，而黄国梁也乐于担此重任。久而久之，就算遇有大事，黄国梁也独自做主，不与阎锡山商量。政务方面，阎锡山则全部交给金永，无论金永如何横征暴敛、滥杀无辜，甚至建立11个营的警备队，明摆着是与他相抗衡，他都不管不问。
久而久之，金永真的以为阎锡山是无能之辈，并向袁世凯如实汇报，袁世凯这才对阎锡山稍稍放心。后来，各省同盟会员任都督的大多都被袁世凯换掉，唯阎锡山稳坐其位。1914年6月，袁世凯改各省都督为将军，阎锡山被授“同武将军”。
1915年袁世凯蓄谋称帝，阎锡山又有了对袁世凯大献殷勤的机会。他首先向筹安会提供经费6万元，接着又连电劝进，认为“以中国之情决不宜沿用共和制度”，“非厉行军国主义不足以图强，欲厉行军国主义非先走君主立宪”不可，要求“废共和而行帝制，以帝制而行宪政”，并恳求袁世凯“以大有为之才，乘大有为之势，毅然以救国救民自任”，登基称帝。袁世凯阅后喜不自胜，批复“颇有见地”。袁世凯称帝后，于12月21日封阎锡山为一等侯。
甚至，当护国运动爆发，全国人民对袁世凯倒行逆施大加讨伐的时候，阎锡山仍站在袁世凯一边。1916年3月，袁世凯被迫撤销帝制，阎锡山仍通电要求滇黔诸君“痛加悛悔”，否则他将把护国军将领“视为公敌，与众共弃，愿效前驱，以伸挞伐”。可惜这一次的效忠没有捞到丝毫好处，袁世凯不但回任大总统处处受阻，而且很快一命归西，令阎锡山只赚个“拥戴帝制”的骂名。
袁世凯死后，阎锡山认为已无畏惧之人，不必再给人装孙子，决定放开手脚，独揽山西军政大权。他要做的第一件事，就是收回黄国梁手中的军权。此时的黄国梁，已完全不把阎锡山放在眼里，不仅霸着军权不放手，还挪用军费，培植个人力量，一心要与阎锡山抗衡。特别是总统黎元洪派代表金筱陶来山西巡视工作时，竟被黄国梁接到家中留住，让阎锡山怒火万丈。
为了夺回军权，阎锡山致电北京政府，称“黄国梁独断军事，虽无叛逆事实，实已迹近骄横”，请北京政府撤销黄国梁一切职务。接着在夜里派宪兵包围黄国梁住宅，逼迫他次日离开山西。黄国梁被迫离开后，阎锡山将空缺出的旅长交给亲信孔繁蔚。
接着，阎锡山将视线放到了管辖一个混成团的南北镇守使身上。当年，为感谢董崇仁帮助他讨好袁世凯，阎锡山任命他为晋南镇守使，然而董崇仁作风散漫，对晋南反阎势力不加控制，阎锡山对他早就心怀不满。如今董崇仁已无用处，阎锡山毅然撤掉他，换上亲信张培梅，然后又令亲信张树帜继任晋北镇守使，并以武力为后盾，赶走金永，收编了金永的警备队。如此一来，阎锡山将山西军权全部收回。
下一步，就是掌握山西行政权，即争取山西省长一职。为此，他需要给自己找一个后台，这便是国务总理、皖系首领段祺瑞。早在阎锡山进京谒见袁世凯之时，就得知当时任陆军总长的段祺瑞好为人师，于是投其所好，备了门生帖子，拜段祺瑞为师。凭着这层“师生”关系，阎锡山轻而易举地找到了新后台。1916年7月，阎锡山改任山西督军，1917年9月，北洋政府正式任命阎锡山为山西省长。至此，阎锡山终于集山西的军政大权于一身。
在1917年的“府院之争”中，阎锡山坚定地站在段祺瑞一边，第一个追随段祺瑞反对国会。后来张勋借调停“府院之争”之名，率辫子兵进京搞复辟，阎锡山又与段祺瑞站在一起声讨张勋，出兵反对张勋复辟。段祺瑞重新执政后，拒绝恢复被袁废弃的《中华民国临时约法》，孙中山因此在广州成立护法军政府，就任陆海军大元帅，下令讨伐段祺瑞。此时，阎锡山仍站在段祺瑞的一边，通电表示山西军队遵从段祺瑞命令，随时可供调用，并派晋军第一混成旅旅长商震率部赴湘与护法军作战，结果全军覆没。
拥袁称帝与反对护法的相继失败，迫使阎锡山接受教训，奉行“三不二要主义”，即“不入党、不问外省事、不为个人权力用兵，要服从中央命令、要保卫地方治安”。后来概括为“保境安民”，要求“与邻省联络，使能不为我患，或竟邻疆乐与合作，进而为我用，代我御侮”。在此后近十年的军阀混战中，阎锡山扯起“保境安民”的大旗，多次拒绝参加军阀混战，1920年的直皖战争，1922年的第一次直奉战争，阎锡山都是以局外人的身份宣布中立，冷眼旁观，使山西维持了数年的和平与安定。
此间，阎锡山以兴利除弊为施政大要，采取一系列稳定社会秩序、发展生产力的积极措施，使山西出现了前所未有的稳定与发展的新局面。与此同时，阎锡山一面建立军火工业，修建了可以大量制造步枪、机枪、大炮和弹药的兵工厂，一面大力扩军，将民国初年的两个混成旅7000多人扩编为四个旅2万多人，初步形成其晋系军阀班底。
1924年第二次直奉战争爆发，直奉双方都派人频繁出入太原，争取阎锡山的支持，阎锡山也已经踌躇满志，打算扩张势力。但在战争开始时，由于战争前途莫测，阎锡山继续采取中立态度，对双方来人表示：“山西的力量还很弱，谁也得罪不起，只能保持中立”。
但当冯玉祥发动“北京政变”成功后，阎锡山见直系曹锟、吴佩孚大势已去，大局已定，考虑到与段祺瑞的师生关系，便公开反直，出兵石家庄，扼断京汉铁路交通，阻挡直系援军北上，加速直军兵败，以讨好奉系张作霖及筹谋出任临时执政段祺瑞。因此在段祺瑞的执政府内，阎锡山仍有功可居。
在一年多后的“讨赤”中，阎锡山又与奉系及吴佩孚结为同盟，共同攻打冯玉祥的国民军，将其逼至西北，不仅将地盘由山西扩大到绥远，还趁机收编了一部分国民军，晋军遂改称晋绥军。1927年3月，阎锡山再一次扩军，使晋绥军拥有8个军17个师，兵力达13万之多。
联冯反蒋，中原大战中惨败
1926年7月，蒋介石就任广东国民革命军总司令，誓师北伐，政治嗅觉敏锐的阎锡山立刻察觉到此次北伐声势浩大，自己恐不是北洋军阀的对手，于是立刻着手联系蒋介石，并缓和与冯玉祥的关系，保持与直、奉的距离。1927年，蒋介石发动“四·一二”反革命政变，成立南京国民政府，阎锡山见时机已到，于6月接受蒋介石的委任状，摇身一变，成为了“北方国民革命军总司令”，飘扬在山西的五色旗换成了青天白日旗，9月19日，晋绥军正式加入北伐军阵营，誓师讨奉。
1928年4月10日，二次北伐拉开序幕，蒋、桂、冯、晋四大主力部队改为四大集团军，阎锡山任第三集团军总司令，率15万晋绥军沿京汉路、京绥路进攻奉军，先后占领石家庄、保定。此时奉军四面受敌，连连溃败，张作霖于5月3日下达总退却令，6月4日在退回奉天途中，于皇姑屯被炸身亡。
为了顺利接收京津，扩大地盘，在张作霖下达退却令之前，阎锡山便派南桂馨到天津，与日本驻屯军司令新井和中校参谋三野以及关东军特务参谋取得联系，得到日军“阎军如果占领保定，日军保证北京、天津不用再放一枪，唾手可得”的支持。此时阎锡山已顺利占领保定，因此对南桂馨大加赞赏，称其“不愧是一名外交家，一片舌头，顶得上10万雄兵”。
与此同时，阎锡山也取得了蒋介石的支持。早在5月蒋介石到石家庄与阎锡山会面时，阎锡山为了抵制冯玉祥接收津京，刻意挑拨蒋、冯关系，对蒋介石说：“你可以翻开历史看一看，谁没有吃过冯玉祥的亏？”
此话正中蒋介石下怀，一方面蒋介石对于“倒戈将军”冯玉祥根本不信任，另一方面冯玉祥的实力大于阎锡山，蒋介石本有“抑冯扶阎”之意。而桂系李宗仁为保存实力，此次战争并未派出全部兵力，令蒋介石心存不满。相比之下，阎锡山更让他放心。如此权衡一番后，蒋介石以列强对冯玉祥“均无好感”为由，拒绝了冯玉祥，而令列强“均无恶感”的阎锡山接收京津。
6月8日，阎锡山进占北京。7月6日，四大巨头齐聚北京西山碧云寺开会，会议决定将北京改称北平，改直隶省为河北省，任命阎锡山兼任平津卫戍总司令，晋系张荫梧为北平警备司令，傅作义为天津警备司令，商震为河北省主席，赵戴文为察哈尔都统，徐永昌为绥远都统，至此，晋、察、冀、绥四个省区和平津两大城市全部落入阎锡山控制之中。
此后，阎锡山又先后被任命为国民党中央政治会议太原分会主席、北平分会代主席、国民政府内政部长等职，可谓盛极一时，其政治影响力空前增强，其势力亦达到一生中的巅峰。
表面看起来，蒋介石北伐统一了全国，但北伐过程中，冯、阎、桂系势力都有很大发展，蒋介石要实行独裁统治，必然要削弱其他各派实力，因此，他企图以编遣会议达到“裁军”的目的。但军队是军阀的命根子，有兵才有权，兵有多少权就有多大，这是每个军阀都深知的道理。于是，从西山会议到南京会议，蒋介石利用阎锡山打压冯玉祥，排挤桂系李、白，导致蒋、冯公开分裂，蒋、桂矛盾激化。1929年2月中旬，编遣会议不欢而散。
谈判桌上摆不平的自然要付诸武力，同年4月，蒋介石首先拿桂系开刀，开始了武力“削藩”。为了孤立桂系，蒋介石派人联络阎锡山和冯玉祥，阎锡山发表通电响应蒋介石的讨伐令，冯玉祥则采取观望政策。
孤立桂系之后，蒋介石以武力围剿与内部瓦解相结合的办法，花重金收买桂系将领，没费多大力气就占领了桂系地盘武汉等地。桂系一除，冯玉祥立刻成为蒋介石“削藩”的下一个目标。蒋介石故伎重演，先是收买冯玉祥的部将，分化西北军，然后调冯玉祥到中央供职，剥夺其兵权。冯玉祥岂能如此任人宰割，他的第一个反应是武力反抗。蒋介石闻讯立即下令将冯玉祥革职查办。冯玉祥以退为进，宣布将进山读书，从此不问军事。在此情况下，蒋介石找不到开战理由，只好拉阎排冯，任命阎锡山为北路军总司令，想利用阎锡山逼冯玉祥出国。
阎锡山自然明白蒋介石如此“厚待”他的目的，挤走冯玉祥后，下一个目标便是晋系。而阎锡山与之相对的政策是：联蒋压冯，同时拉冯抗蒋。一方面，阎锡山企图继续扩张地盘，而冯玉祥的西北军占据河南、陕西，成为阎锡山扩张的阻碍；另一方面，阎锡山只有与冯玉祥联合，才有实力与蒋介石抗衡。对冯玉祥来说，亦是如此。
为了防止蒋介石各个击破，阎锡山致电冯玉祥，劝他以大局为重，不要开战，同时表示自己打算把军队交给中央，辞职出洋，请冯玉祥与自己同行，并真的派人到天津购买船票、在日本安排住处。冯玉祥认为阎锡山有与他合作的诚心，于是通电下野，携妻女前往山西。1929年6月24日，冯玉祥如约到达山西介休。
见到冯玉祥，阎锡山高兴得嘴都合不拢了，赶紧大摆宴席，热情款待冯玉祥及家人、随从。席间，冯玉祥问起出国等事宜的安排，阎锡山说：“不急，不急，票一拿到手我们就起程。”冯玉祥很高兴：“好！我们联合起来以退为进，看这次蒋总统找什么理由给我们动武。”
听了冯玉祥的话，阎锡山只是嘿嘿地笑，冯玉祥压根就没想到这只是他玩的一个圈套，他怎么会和冯玉祥联手要挟蒋介石呢？他的目的是把冯玉祥控制在手中，以此与蒋介石讨价还价。
当晚，阎锡山将冯玉祥一行安排住在晋祠，不久又转到五台县建安村西汇别墅，派重兵“保护”起来。
稳住冯玉祥，阎锡山即到北平会见蒋介石，听说阎锡山要与冯玉祥一同出国，蒋介石果然担心两人联合，赶紧以“全国陆海空军副总司令”的任命笼络阎锡山，以期阎锡山尽快逼走冯玉祥，然后解决西北军问题。
然而，事情远没有阎锡山想象的那么简单，冯玉祥发现自己被软禁后，立刻明白了阎锡山的诡计。他首先化装出逃，失败后又想出另一妙计，用米汤在一本《三国演义》上书写密令，由下人带出转交主持西北军的宋哲元，令其向蒋介石靠拢对付阎锡山。宋哲元等人收到密令后，立即对蒋介石表示臣服。如此一来，阎锡山对蒋介石失去用处，随即受到冷落。
1929年8月，蒋介石在南京召开编遣实施会议，强行实施编遣计划，令阎锡山感到巨大威胁。9月中旬恰逢中秋节，阎锡山到西汇别墅面见冯玉祥，向他诚恳道歉，希望能与他联手抵抗蒋介石。冯玉祥命属下投蒋本为权宜之计，以达到间离蒋、阎关系，连阎反蒋的目的，因此对阎锡山的提议表示赞同。阎锡山又提出由冯玉祥幕后操纵，令其部下宋哲元等人出兵反蒋，阎锡山率晋军响应，冯玉祥表示同意，双方就具体细节做了策划。
然而，当10月9日西北军首先向蒋介石发难后，阎锡山见蒋介石大张旗鼓地出兵讨伐西北军，又担心没有获胜把握，于是待在太原城里袖手旁观，不肯如约参战。蒋介石见冯、阎并未联手，趁机拉阎倒冯，于10月28日又一次任命阎锡山为“全国陆海空军副总司令”，并请阎锡山负责处理西北问题。阎锡山在蒋介石的利诱下欣然受命，又一次出卖了冯玉祥。
令阎锡山始料不及的是，蒋介石打退西北军后，立刻故伎重演，如当初逼迫冯玉祥，将矛头对准阎锡山，宣布“在中央有职务者不得再兼省职，国府委员应驻京，无公事不能离职”，这明明是调虎离山之计，欲夺阎锡山兵权，令阎锡山大为恐慌。
然而，当占据北平的唐生智准备讨伐蒋介石，想要获取阎锡山支持时，蒋介石也密电阎锡山出兵郑州攻打唐部。阎锡山终究对蒋介石寄予希望，权衡利弊之后，于1930年1月毅然出兵郑州，与蒋军对唐生智形成夹击之势，使其反蒋失败。
助蒋反唐又立一功，阎锡山本以为会得到奖赏，最低限度能获得蒋介石“宽容”。却不料等来一个令他魂飞魄散的消息：蒋介石以阎锡山软禁冯玉祥为借口，密令冯部韩复榘秘密抓捕阎锡山，并置之死地。好在属下及时得到消息，阎锡山慌忙带晋军逃回山西，这才躲过命中一劫。
回到太原老巢，阎锡山惊魂未定，便已下定决心联冯反蒋。2月26日，阎锡山驱车前往西汇别墅，见到冯玉祥后，“扑通”一声跪倒在地，声泪俱下：“小弟悔不该软禁大哥，请大哥原谅我。上次联合反蒋，我因为担心失败没有及时出兵，使西北军受到损失，我实在罪该万死。如果大哥不肯原谅我，我只有在大哥面前自裁，以明心迹！大哥回去以后，要是带兵打我，我决不还击！从今以后，晋军吃什么穿什么，享受什么待遇，西北军也吃什么穿什么，享受什么待遇，绝对一视同仁。”
冯玉祥见阎锡山终于决心反蒋，决定以大局为重，当即说：“过去的事就让它过去吧，都不要再提了，我们现在要同心协力对付蒋中正。”阎锡山听后心花怒放：“好，大哥宰相肚里能撑船，这次小弟是下了决心，与大哥联合反蒋，一反到底，决不食言！”
为表示诚意，在冯玉祥返回潼关时，阎锡山特地赠送冯玉祥50万元，手提机关枪200挺，面粉2000袋。
3月，阎锡山对蒋介石展开电报战，吁请蒋介石下野，并联合冯玉祥、李宗仁等45人通电要求由全体国民党党员投票决定党统。3月24日，汪精卫提出“解决党务纠纷须用武力制裁”，阎锡山随后表示与蒋介石彻底决裂，获得李宗仁、白崇禧、张发奎、黄绍竑、胡宗泽等各反蒋军阀的积极响应。这些昔日打得不可开交的派别终于在同一个目标下联合起来，与蒋介石集团拉开架势，准备一决雌雄。阎锡山则凭借其实力坐上了盟主之位，被反蒋将领们拥戴为“中华民国陆海空军总司令”。
1930年5月，中原大战拉开序幕。战争初期，反蒋军南北夹击，声势浩大，兵力总数也超过蒋军，双方打得难解难分，蒋军步步后退。晋军占领济南，蒋介石本人在柳河车站险被冯军俘虏。
但不久战局开始发生变化，由于阎军注重保存实力，没有与冯军很好的配合，双方矛盾凸显，蒋介石利用冯、阎之间的矛盾，采取把晋军打垮后把冯军拖垮的方针，将军队集中到津浦线攻打晋军。晋军战斗力向来不强，根本无法招架蒋军的新式武器，不久便退缩了。冯军被拖在陇海线上，本来待遇就低，阎锡山又背弃承诺，停止了提供给养。在冯军官兵叫苦连天的时候，蒋介石大搞“银弹”、“肉弹”攻势，大批官兵被收买，冯军斗志锐减，冯玉祥只得率部退回陕西。
而在此时，反蒋派的政客们决定在北平成立一个国民政府，与南京政府分庭抗礼。在北平“中国国民党中央部扩大会议”上，阎锡山被推为“国民政府主席”，于民国十九年九月九日九时，在北平怀仁堂宣誓就职，人称“四九小朝廷”。
然而，由于各派实力为乌合之众，各怀异志，勾心斗角，有的观望不前，有的投降叛变，加上指挥失当配合不力难以协同作战，致使战局急转直下。蒋军于8月初全面反攻，在大战中处于举足轻重地位的张学良，开始时坐山观虎斗，当局势日趋明朗后，于9月18日通电拥蒋，派兵入关。晋军、冯军等反蒋军全线崩溃，蒋介石取得了中原大战的胜利。
此战历时半年之久，军民死伤近30万人，豫鲁两省赤地千里，饿殍遍野，国力损耗，元气大伤；而东北军进驻关内，边防空虚，客观上为日本帝国主义创造了发动“九一八”事变的条件。
反蒋军兵败后，阎锡山于10月15日宣布归隐，于12月底逃避大连。
投蒋拒蒋，三颗鸡蛋上跳舞
在大连蛰居期间，阎锡山通过其亲信商震、徐永昌等人遥控山西政局。此时晋绥军由张学良改编，但实力尚存。由于蒋介石想方设法瓦解晋系骨干，阎锡山担心离晋日久军队离心，于1931年8月5日，出高价租用一架日本小型飞机，秘密潜回山西。
阎锡山回到老家河边村不几日，蒋介石便得到消息，不禁大为震怒，立刻令何应钦等人连发电报逼其迅速离晋，否则将施以武力解决。阎锡山的部下、亲友都担心蒋介石和张学良对他不利，他却一副无所谓的样子说：“放心吧，日本马上就要对东北采取行动，到时候怕他们请我都来不及呢！”
果然，一个月后发生了“九一八”事变，日本侵略者迅速占领东三省，蒋介石的不抵抗政策遭到全国人民强烈反对，一致对外、抗日救亡的呼声日益高涨。蒋介石不得不表示“捐弃前嫌”，与曾经的反对势力言归于好，“团结御侮”。为此，蒋介石于1932年2月委任阎锡山为太原绥靖公署主任，阎锡山终于咸鱼翻身，东山再起。
重新上台后，阎锡山首先利用学生运动清除蒋介石的势力，同时将山西境内10余万“客军”驱逐出境，接着大力整军，使晋绥军面貌为之一新。鉴于中原大战失败的教训，以及强邻入侵的民族危机，阎锡山决定不再参与国内派系之争，向蒋介石做出“不扩充武力，专心于经济建设”的承诺，并制订出《山西省政十年建设计划案》，专心于山西经济建设。但随着日军的全面侵华，十年建设计划仅实行五年即被迫停止。
尽管如此，蒋介石对阎锡山割据晋绥两省仍耿耿于怀，一心想着渗透、分化乃至吞并晋系。他首先从晋系各级大员入手，进行收买分化，从内部瓦解阎锡山的势力，同时从经济上对山西大搞“统一”，各路中央军也虎视眈眈伺机入晋，最终以支援阎锡山“反共”为借口，找到进驻阎锡山地盘的机会，为吞并山西迈出第一步。而首先将中央军引进山西为蒋介石立下汗马功劳的，则是其收买的晋军高级将领李生达。
早在1928年10月，李生达便与蒋介石有了一面之交。当时蒋介石从南京去北平路过天津时，李生达陪同傅作义在天津迎接蒋介石并护送其北上。蒋介石见到李生达，对其慰勉有加。李生达因不愿局限于山西一方小天地，对蒋介石大献殷勤，二人自此建立联系，此后不仅经常有信函往来，还时常互赠礼品。1931年李生达前往南京出席国民党五中全会，竟携带3000瓶汾酒和5石沁州黄小米，赠送给蒋介石及其左右之人，而蒋介石更是单独召见李生达并赠送其巨款。此后，李生达秘密同蒋介石建立电台，向他汇报山西情报。阎锡山获悉后大为震惊，从此对李生达百般防范。
1934年8月，蒋介石调晋军第七十二师到江西参加对中国工农红军第五次“围剿”，李生达即第七十二师师长，当他率部抵达南昌后，蒋介石给予其师一流的招待，让晋军第七十二师觉得在这里比在山西待遇好得多，还赠送李生达五辆小汽车、军饷若干。此时，阎锡山因李生达的背叛，故意克扣其军饷，令李生达对他心生不满。
1935年7月，李生达率部返回山西，阎锡山派代表到李部慰问，当这名代表对李部训话提到“蒋委员长”时，七十二师全体官兵立即自行立正，而提到“阎主任”时，他们却毫无反应。阎锡山得知后，对李生达更是怀恨在心。12月，有消息称李生达将出任山西省主席，这让阎锡山惊恐万分，顿时心生杀意。
1936年2月，晋军在阻拦红军东渡黄河抗日时，遭受重创，损失兵力一万多人，李生达见有机可乘，立刻密电蒋介石，请求派中央军前来支援。蒋介石立刻派出五个师十几万兵力开进山西。后来东征红军主动撤到黄河以西，蒋介石的军队却赖着不走，而且于6月成立了晋陕绥宁四省边区“剿匪”总指挥部，以陈诚为总指挥，对阎锡山构成严重威胁。正如国民党中央军一名士兵所说：“我们不是来和红军战斗的，我们是来赶走老阎的。”阎锡山则恼怒地说：“我不亡于共，也要亡于蒋了。”
尽管在面对红军连吃败仗时阎锡山也曾向蒋介石求援，但仍将中央军赖在山西不走这笔账记在李生达头上，特别是李生达还被蒋介石任命为“陕甘宁青四省剿匪副总指挥”，代行总指挥职权，掌握四分之一以上晋军指挥权，新仇旧恨加在一起，阎锡山决定除掉李生达，于是他派人收买其卫士熊希月，趁夜将李生达杀害，随后又派第三者将熊希月灭口。
此时，日军已不断南侵，直趋绥远。阎锡山自从1909年从日本陆军士官学校毕业，一直与日方保持着较为友好的关系，在与蒋介石的斗争中，也曾经利用和依靠日本人的势力，但随着日本帝国主义对中国的入侵，尤其是对绥远的进犯，阎锡山由亲日变为抗日。由于蒋介石实行“攘外必先安内”的政策，不给予阎锡山国防准备的经济援助，而红军英勇善战坚决抗日，是一支可以利用的力量，阎锡山遂改反共为联共。
1936年7月，阎锡山在山西成立了具有统一战线性质的“山西牺牲救国同盟会”，并延请共产党人薄一波主持工作。次年，又在太原举办了“国民军军官教导团”，训练进步青年，组织“山西青年抗敌决死队”，即后来的新军。这是第二次国共合作期间诞生的唯一一支统一战线性质的正规军队。从此，共产党在山西同阎锡山建立了特殊形式的抗日民族统一战线，即共产党员戴着山西帽子，参加阎锡山的官办团体，贯彻执行党的抗日民族统一战线的方针政策，开展抗日救亡运动。
在“牺盟会”的领导下，太原的抗日救亡运动蓬勃发展，一时成为了全国抗日呼声甚高的城市，二十几个省市的数千名进步青年慕名到太原参加军政训练，为抗日战争开始后组建新军、开展武装斗争和创建抗日根据地奠定了基础。
1936年10月底，驻绥日本特务机关长田中隆吉指挥伪蒙军进犯绥远，占领大庙子和百灵庙。阎锡山提出“守土抗日”的主张，把最好的部队拉出去由傅作义指挥，进行绥远抗战。为了支援前线士兵，阎锡山又将其父遗产87万元捐助绥远抗战。在他的带动下，晋军将领、山西人民纷纷捐款抗日。
在阎锡山的支持下，傅作义不负重望，取得红格尔图战役和百灵庙战役的胜利，挫败了日本妄图建立伪“蒙古帝国”的阴谋。北平、上海、广州等大城市纷纷派选代表团携带巨款到绥远鼓励阎锡山部，阎锡山的“守土抗战”成为山西抗战的一面旗帜。
此间，阎锡山还和张学良秘密商讨联共抗日的问题，在许多具体问题上达成共识。1936年10月31日是蒋介石50岁寿辰，祝寿活动在洛阳举行。前往洛阳祝寿前，阎锡山先抵达西安，与张学良、杨虎城商定，趁给蒋介石祝寿之机，力劝他停止内战，一致对外。
第二天到达洛阳，在蒋介石祝寿典礼举行后，阎、张一起晋谒蒋介石，试探着向蒋介石提出联共抗日的主张，蒋介石听后却不以为然，说：“攘外必先安内，这个基本国策是不能改变的。如今共匪已日暮途穷，只要我们再坚持一下，就会取得最后胜利。”
阎、张听罢面面相觑，仍不死心，继续劝说：“此事关系到国家民族生死存亡，请蒋委员长慎重考虑。”不想，这一下激怒了蒋介石，他厉声质问：“你们只答复我一句话，是我该服从你们，还是你们该服从我？”阎、张二人只好诺诺道：“自然是我们服从委员长。”
阎锡山见蒋介石态度坚定，退出后对张学良说：“看委员长的态度咱们不能再说话了，咱们自己怎么做慢慢找机会吧。”
然而，1936年12月12日，张学良、杨虎城为逼迫蒋介石抗日，将其扣留在西安，毅然发动“西安事变”。13日阎锡山收到张学良的电报，请他赴西安共商救国大计。阎锡山震惊之余，对张学良颇有怨言：“小六子（张学良乳名）太蛮干了，还没有商量好办法就闹出事来，行动前也不吭一声！”
于是，阎锡山于12月14日给张学良复电，提出四个问题：“第一，兄等将何以善后？第二，兄等此举增加抗日力量乎？减少抗日力量乎？第三，移内战为对外战争乎？抑移对外战争为内战乎？第四，兄等能保不演成国内极端残杀乎？”并建议将蒋介石送到山西。
阎锡山此举虽令张学良大失所望，极为不满。但阎锡山有他自家的考虑，此时正值绥远抗战之际，阎锡山需要国民党中央政府给他以经济上和军事上的支持。如果全国陷入混乱，他以晋绥之力是无法抗击日军的。而西安事变本身就具有内战的潜在可能，如果处理不当，马上就会演变成大规模的内战。而此时除了蒋介石，谁有能力来领导这场对日战争呢？因此，他虽然与蒋介石有过深刻的矛盾，仍坚决站在国民党主和派一边，力促和平解决西安事变。
此时南京方面与西安方面中断联系，与两方都有联系的阎锡山的举止有着举足轻重的影响。南京政府代行政院长孔祥熙致电阎锡山，赋予其营救蒋介石的全权。
张学良虽极不满阎锡山的所为，但为了顾全大局，促使蒋停止内战，达到兵谏目的，仍派代表李金洲赴晋。张学良在李金洲离开前对他说：“你告诉他，现在我已经做了，看他怎么办，此事他不要想摆脱干净。必要时我将调华北部队，会师太原。”
阎在接见李金洲后，即电报南京，太原的报纸也报道张、杨的代表到晋，蒋介石安然无恙的消息，以安定全国人心。后来张、杨接受中共代表团和平解决西安事变的提议，与南京方面建立了联系，在阎锡山翘首以待继续充当调停人时，张学良已将蒋介石送回南京。
西安事变后，国共建立了抗日统一战线。1937年全面抗战开始，阎锡山被蒋介石任命为第二战区司令长官，负责指挥晋绥两省部队抗战，这些部队包括晋军编成的第六、七集团军，驻绥远的汤恩伯第十三集团军，和由红军改编的第十八集团军。
山西地势险要，素称“华北要塞”，日军要完成其军事上占领华北，非攻占山西不可。因此，日军在攻陷平津之后，兵分三路会攻山西。由于援军未到，汤恩伯率第十三军和第十七军在南口孤军奋战，致使南口失守。之后，由于阎锡山防御部署失误，雁门关、平型关相继失陷，阎锡山将最后的希望放在忻口一战上。
忻口位于太原北100公里处，是最后一处可以防守并阻止日军进攻太原的山口，阎锡山在此布下八万大军，于10月11日与日寇展开殊死搏杀。就在中国军队顽强抵抗，致使两军形成胶着状态时，日军突然由正太路向娘子关展开进攻。而阎锡山在娘子关几乎没有布下重兵，在此防守的孙仲连部和四川、云南、陕西等省地方部队，不仅装备差，战斗力也弱，日军于10月下旬攻克娘子关，直逼太原，致使忻口晋军腹背受敌，不得不于11月2日撤退。至此，历时23天的忻口战役落下帷幕。忻口战役是全面抗战爆发以来，华北战场上规模最大、战斗最激烈的一次，共消灭日军两万人，给日军以重创。在阎锡山苦守忻口时，曾给蒋介石发电请求支援，结果石沉大海。
此间，为了适应抗战形势需要，在共产党的建议和推动下，阎锡山先后组织了第二战区“民族革命战争战地动员委员会”、“抗日决死队”、“工人武装自卫纵队”等进步组织，使第二战区开创了全国抗战中心的“特殊局面”，一时成为中外瞩目的“模范战区”。
然而，当共产党领导下的隶属于阎锡山的第二战区的八路军和山西新军日益发展壮大，山西抗日游击根据地不断发展时，阎锡山开始感到不安，害怕大权旁落无法掌控，为维持其在山西的统治地位，开始采取“内部分化”、“制造摩擦”、“派兵监视”等措施，限制进步活动。
战争进入相持阶段后，日本改变了侵华策略，即对国民党军队以诱降为主，军事打击为辅，集中力量进攻中共领导的抗日根据地。驻晋日军提出“专打八路军，不打晋绥军”口号，还提出把掠夺的西北实业公司及其他厂矿财务的49%归还阎锡山。阎锡山自有对日尺度，不到无法生存的地步不会轻易做汪精卫第二，但却开始转变对日态度，走上“防共、限共、反共”的道路。1939年12月，阎锡山发动对山西新军的进攻，史称“十二月事变”，为国民党第一次反共高潮打响头炮。
为了重振队伍、巩固实力，1940年4月，阎锡山将第二战区司令部和山西省政府迁往山西隰县南村坡。由于南村与“难存”同音，遂把南村坡改为“克难坡”，把战区司令部驻地称为“克难城”，还把1940年命名为“克难年”。
此时，阎锡山的管辖地只有隰县、乡宁等七个完整县和临汾、洪洞等十多个不完整县，且北有共产党，东有日本人，南有蒋介石六个中央军，处境十分艰难。在此情况下，阎锡山在他这一小块地盘上开始了“克难运动”，大搞“烘炉训练”，培养“同志魂”，为将来的反共培植死党。同时推行新的经济政策，搞“兵农合一”，尽可能地集中物质资源，竭力维持拥有20余万人的庞大军政机构，为将来收复失地奠定基础。
1945年8月15日，日军宣布投降。阎锡山以第二战区受降长官的身份，重返阔别8年之久的太原。
反共到底，内战中败走台岛
早在8月15日之前，阎锡山已得到日本将无条件投降的消息，他随即派赵承绶到太原与日军头目接触，商定日军在原防区防堵八路军并听候阎锡山受降的方案。阎锡山返回太原后，通过受降收编四万日伪部队，编成五个“省防军”，同时留用7000日军，整编了原有部队，紧接着开始了收复上党的军事行动。
上党位于晋东南，指以长治为中心的19县、镇，由于地势险要，战略地位极其重要。占有此地，即扼住晋省东南门户。抗战爆发时，晋军放弃此地，之后八路军在此建立晋东南抗日根据地。抗战期间阎锡山几次想要夺回此地，均未得手。日军投降后，阎锡山迫不及待地命第十九军军长史泽波率部向上党地区挺进，从日军手里和平接收长治、屯留、长子、襄垣、潞城、壶关六县。
9月初，八路军在刘伯承、邓小平指挥下发起反击，迅速攻克五县，将史部围于长治。阎锡山令第七集团军副总司令彭毓斌率部2万余人驰援，结果史、彭两部先后全军覆没，气得阎锡山连63岁大寿都没有过。
1946年6月蒋介石发动全面内战，阎锡山即向晋南、晋北、晋西和晋察冀解放区发动进攻，却连吃败仗，最终被解放军逼至晋中地区，晋南、晋北只剩大同、临汾和运城几个孤城。1947年解放军转入战略反攻后，阎锡山连连败退，大部分部队被歼灭，到1948年晋中战役结束，山西已只剩太原与大同两座孤城，且处在解放军的包围之中。此时太原与外界的所有地面联系全部被切断，所需粮食物资全部依靠美国人陈纳德调集飞机从上海、青岛等地空运到太原。
1948年10月，华北人民解放军发起太原战役，摆在阎锡山面前的只有两条路，要么投降，要么顽抗到底。中国共产党一直想争取阎锡山和平解放太原，解放军前线总司令徐向前，派阎锡山的老师——一位年届80岁的老秀才，带着徐向前的亲笔信进城劝降。不料，阎锡山为了表示反共到底的决心，不顾师生情分将老师杀害。
蒋介石下野前曾指示阎锡山迅速退往西安，担任西北行营主任，他计划用陈纳德的飞机将军政大员全部接走，部队向西突围，但阎锡山不为所动。在太原包围圈日益缩小的情况下，阎锡山的众多部下及亲友劝其离开太原，阎锡山不但严词拒绝，甚至连陈纳德表示迫不得已时接其脱险都予以回绝，表示要“舍生取义”，“与太原共存亡”。
1949年2月，几名美国新闻记者来到太原，阎锡山举行记者招待会，指着桌上的毒药和地上摆放的棺材对美国记者说：“如果太原不保，我立即和我的手下饮此毒药，决不退缩。”同时，他还物色了一名具有“武士道”精神的日本人，令他在情况危急时将自己杀死。他不断激励手下将领说：“我们要学习古时的田横，誓死保卫太原。”
但在背地里，阎锡山早在1948年下半年，就已将家人送到上海，同时用公营事业的流动资金抢购金银，运往上海营造新窟。李宗仁任代总统后，阎锡山又指示在南京的亲信徐永昌、贾景德等人，与李宗仁拉关系，希望能被任命为行政院长，以便在太原危难时以赴南京就职为由出逃。
然而，3月12日，李宗仁任命何应钦为行政院长，当贾景德将这个消息电告阎锡山后，阎锡山十分恼怒。贾景德在电报中表示，副院长自然未便屈就，他将另想办法。此时解放军已逼近太原城郊，南郊机场与北郊机场已被解放军占领，只有新建的洪沟机场尚可使用，却也在解放军的炮火射程之内。倘若眼下不逃，一旦洪沟机场被占领，阎锡山将插翅难飞。在此情况下，他哪里还顾得上面子，只好直接电告贾景德：“名位高下，在所不计，虽副席亦可”。
令阎锡山更为恼怒的是，即使是个副职，李宗仁仍不愿给他。好在李宗仁没想置他于死地，最终还是以商讨国事的名义请他离晋赴京，给了他一条生路。
1949年3月29日，李宗仁的电报终于发到太原，阎锡山立即召开军政大员会议，待人员到齐，立即命秘书长吴绍之宣读电报：“和平使节定于月杪飞平，党国大事，诸待我公前来商决，敬请迅速命驾，如需飞机，请即电示，以便迎迓。”
接着，阎锡山询问在场要员有何意见，众人自然表示赞成，阎锡山无可奈何称：“也许三天五天，也许十天八天，和平商谈有了结果我就回来。”说完，他的姨表侄、刚被任命为山西省政府代主席的梁化之即在一旁催促，说飞机早已备好，请阎锡山立即前往西门外洪沟机场。阎锡山只好“恋恋不舍”地与众人告别。
离开太原前，阎锡山指定梁化之、王靖国、孙楚、赵世铃、吴绍之组成五人组，在太原继续抵抗，要求他们“与太原共存亡”。安排好后事，阎锡山登机而去。为了稳定军心，阎锡山将一直尽心服侍他的堂妹阎慧卿留在了太原，以造成他还会回太原的假象。由于阎锡山对这个堂妹向来宠爱有加，甚至是言听计从，阎锡山此举，令所有军政大员无不相信他还会返回太原。
逃到南京后，阎锡山四处活动以争取国民党中央给予太原物资与兵力支持，不断向行政院和国防处索要粮饷，并一直通过电报与五人小组联系，遥控太原局势。他鼓舞留守太原的要员，说国民党中央已经答应派两个师前去援助太原，又说陈纳德已经组成“飞虎队”，很快便会到太原参加战斗，甚至还说英美海军决定参加南京、上海、武汉保卫战。他不断捏造谎言，给守城部属以希望，令其坚守太原，为自己卖命。
然而，五人小组不是傻瓜，十几天过去了，他们逐渐感到阎锡山根本没打算回太原，于4月11日急电阎锡山：“太原人心浮动，请主任回来坐镇”。阎锡山则复电说：“明日即去溪口，回来后即回。”
第二天，阎锡山果然前往溪口，面请已经下野的蒋介石批准他回太原，与太原军民同生死。蒋介石听后沉吟良久，他何曾不了解阎锡山此行目的。以阎的个性，如果想回太原，根本用不着跑来请示蒋介石，即使蒋介石在位也阻拦不住，何况已经下野。
见蒋介石迟迟不肯开口，阎锡山心里直发毛，生怕蒋介石点头将他送上不归路。但蒋介石终究会给他这个面子的，尽管两人勾心斗角多年，眼下蒋介石却需要这个反共帮手，也需要利用他对付李宗仁，于是，蒋介石挽留说：“太原虽重要，但乃国家之一隅，有国家始能有太原，应以国家为重。阎先生应留京，参加主持大计。”
总算有了留在南京的正当理由，阎锡山如释重负。
此间，正值国共北平谈判，中共出于减少战争损失，保护太原古城不被摧毁的考虑，指出：太原若接受和平，可允许城内重要反动分子乘飞机出走，其余照北平方式解决。但阎锡山不点头，五人小组遂以“老头不在，无人做主”为由，放弃了走和平道路的最后机会。
4月21日，因国民政府拒绝在《国内和平协定》上签字，毛泽东、朱德发布了向全国进攻的号令，仅三天时间，太原外围据点便被一扫而光。此时阎锡山已经飞往上海，连续发出一道道指令，先称，“太原城事，如果军事没有把握，可以政治解决。”后见情况危急，遂改称，“万一不能支持，可降；惟靖国、化之两人性命难保。”
由于王靖国是军事总负责人，梁化之则为组织、行政、经济、特务等工作总负责人，既然两人性命不保，又如何会令部队投降，阎锡山此举仍是逼军政要员为其反动政权的覆灭殉葬。
4月24日，解放军对太原发起总攻击，仅用了四个小时，太原城便全部被解放军占领。躲入太原绥靖公署二号楼地下室的王靖国、孙楚、赵世铃、吴绍之、薄毓相、孟际丰等要员全部被俘。
阎锡山飞离太原时，虽然令他的干部们学习“田横五百壮士”，准备“杀身成仁”，并为他们准备了毒药。但阎的干部们大部分投降了解放军。为阎锡山“殉节”的主要是梁化之及其手下特务，共计46人。当解放军攻到太原绥靖公署时，梁化之胁迫阎慧卿在绥靖公署东钟楼地下避弹室，与其同时服毒，并由卫士遵其命将二人尸体浇汽油焚为灰烬。
1949年4月24日，太原宣告解放，29日，大同和平解放。
阎锡山看到太原解放的消息，顿时沉痛不已。为了安慰自己和欺骗世人，他编造了以梁化之为首的“太原五百完人杀身成仁”的神话。当时国民党在大陆正处于崩溃阶段，为了给官兵鼓劲，国民政府配合阎锡山大力宣传所谓“五百完人”。但国民党中仍有人对阎的做法提出异议，章士钊和邵力子在1949年5月8日给李宗仁的信中说：“夫阎君不惜以其乡人子弟，以万无可守之太原，己遁去，而责若辈死绥，以致破城之日，尸与沟平，屋无完瓦。晋人莫不恨之。”
南京解放后，李宗仁受蒋介石幕后掣肘，府院矛盾加深，在财政、军事等问题一筹莫展的情况下，何应钦内阁于5月30日集体辞职。李宗仁随即提名国民党元老居正组阁，却在立法院表决时未获通过。阎锡山的机会终于来了，他知道李宗仁已别无选择，但没有蒋介石的支持，这个行政院长谁也当不成。适逢其继母在台北逝世，阎锡山以为继母料理后事为名飞赴台湾，乘机晋见蒋介石，获得蒋介石的支持。
于是，李宗仁提名阎锡山为行政院长，以200票对50票的绝对优势获得立法院通过，阎锡山遂成为国民党在大陆的最后一届行政院长兼国防部长。
对于阎锡山出任行政院长一职，他的手下并不十分赞同，徐永昌曾劝阻说：“我们手无寸铁，看人眼色，仰人鼻息，有名无权的内阁，恐将换来断送江山的千古罪名。”阎锡山却满不在乎说：“本内阁仅为大夫，开出对症药方，即算尽到责任。至于病人是否服方，则非我能过问。”于是，6月13日，阎锡山在广州宣誓就职。
阎锡山上台后，内阁成员基本还是原来的人，阎的亲信只有贾景德一人做了秘书长，还有几人只是挂名。尽管受命于危难之中，且手中并无实权，阎锡山仍然尽职尽责，平日里除了开会必须到行政院或国防部，其他时间就待在寓所里，苦心孤诣地“开药方”，编写各种解决时局的方案。当时最为紧迫的问题无外乎军事与财政，军事部署多为参谋总长顾祝同直接受命于蒋介石，阎锡山非但无权过问，即使开出的药方，到蒋介石那里也是废纸一张。倒是财政方面，为转嫁财政危机，阎锡山改金圆券为银圆券。但由于国民党统治区地盘不断缩小，银圆券兑现困难，“国统区”很快发起拒用银圆券风潮。大陆全部解放后，银圆券被彻底废除。
面对解放军的节节推进，阎锡山虽使出浑身解数，想要挽救时局，却既无还手之力，亦无招架之功，只好于8月8日将国民政府由广州迁往重庆，11月28日再迁往成都。两天后重庆解放，成都危如累卵。在四面楚歌中，颇有耐心的阎锡山在大陆再也待不下去了，只好带着他的“政府”飞往台湾。
阎锡山的逃亡旅途也颇为不顺，1949年12月7日，他乘坐的飞机抵达四川与湖北交界处时遇到寒流，飞机两翼结冰，机身下坠，飞行员只好驾机返回成都。
阎锡山逃往南京时，把“国防部”拨给他的军饷以及西北实业公司在太原、上海、天津等地的资金和物资一律兑换成黄金运走，最后剩了十多箱金条没来得及运，只好随身带上。没想到，就是这十多箱金条造成严重超载，致使飞机下坠。当第二天政府大员们再次登机时，飞行员请求陈立夫去和阎锡山商量，能否卸下金条减轻重量。
“卸下金条？”阎锡山眼珠子都瞪圆了。未来前途未卜，离了钱寸步难行，金条哪能卸下？但飞机超重不能起飞，总不能因此误了性命。阎锡山略一思忖，随即决定减少登机人数，留下几名贴身卫士，这才带着十多箱金条顺利飞往台湾。
隐居深山，菁山草庐度余生
阎锡山带着他的“政府”逃往台湾后，仍然做着“光复大陆”的美梦，并为此制定种种计划方案，妄图把台湾建成“反攻大陆基地”。1950年元旦，阎锡山一片忙碌：举办团拜会，发表“元旦献词”、“告全国民众书”、“告海陆空军将士书”等，宣称“坚决地切实地告别过去的失败，开始新的胜利”，希望新年能给他和他的“政府”带来好运。
然而，卧榻之侧，岂容他人酣睡。一心要把台湾建成家天下的蒋介石，岂容他的老对手在“行政院长”的宝座上耀武扬威。阎锡山当初是作为蒋、李冲突的调停人出来执掌中枢的，如今冲突一方已远走美国，调停人自然已成为多余。活跃了没多久阎锡山便意识到这个问题，也看清了自己如今的处境：手无寸铁，不过是寄人篱下。他略带伤感地对贾景德说：“我的责任已尽，以后应是辞修（陈诚字）为总裁分忧了，我们准备交代吧。”阎锡山知道蒋介石很快就会复职，而铺平人事上的道路是其第一步，于是决定主动请辞以落个面子上的光彩。
事实上，蒋介石对阎锡山到台后的一番表现早已忍无可忍，未等阎锡山主动请辞，蒋介石便采取了行动。1月25日，国民党中央非常政治会议决定，辞去阎锡山“国防部长”一职。3月1日，蒋介石宣布复职，阎锡山即呈请辞职，3月6日，国民党中常会临时会议通过阎“内阁”总辞职，同时提名陈诚任“行政院长”。3月15日，阎锡山在一片非议中卸任，结束了为期9个月居无定所的“行政院长”生涯。
阎锡山受命于国民党在大陆覆灭之际，为挽救国民党在大陆的统治“呕心沥血”，因此一个外国记者称他是“激流里身负泰山的愚公”。蒋介石在1954年2月19日第一届“国民大会”的报告中这样表彰阎锡山的“功绩”：“‘中央政府’幸有阎‘院长’锡山，苦心孤诣，撑持危局，由重庆播迁成都，复由成都迁移台湾，继续至当年三月为止，‘政府’统绪，赖以不坠者，阎‘院长’之功实不可泯。”尽管如此，阎锡山仍难脱被赶出权力机关的命运，正如阎本人所说：“东山的土地爷到西山就不灵了。”
被免职的阎锡山同大多数大陆时期显赫一时的国民党要员一样，获得了蒋介石赏赐的两个职位——“总统府资政”和国民党中央评议委员。
在“行政院长”一职卸任前，阎锡山住在台北市中山北路1段105巷16号，卸任后即搬到丽水街8号，以显示住所和自己的地位相称。见到蒋介石的许多原嫡系军政要员都被闲置起来，阎锡山对自己的处境毫无怨言，自己独处一楼，开始从事写作。不久因为厌恶各种应酬，也不喜欢台北的噪杂，于1950年8月12日再次迁居，这次他远离了市区，搬到僻静的大山里——台北郊区阳明山菁山草庐，开始了他“10年隐居，10年著作”的晚年生活。
阎锡山早在到达上海时，便对家人一一做了安排：1949年4月初将他的发妻、继母和二儿媳送到台湾，在台北设立了“阎公馆”，并为分居的发妻另辟寓所；将四子阎志敏夫妇送到美国，在美国设置了寓所；又派他的内弟徐士珙携五子阎志惠赴日本，在日本购置了寓所，以便逃亡之后根据情况决定定居台湾还是定居海外，真可谓“狡兔三窟”。阎锡山被免职后，本想去美国或者日本定居，但考虑到蒋介石不会允许，只好留在台湾菁山，直到去世。
菁山，是台北市北郊阳明山的一部分，此地原是日本人没有完工的农场，只有一片废耕的茶园，杂草丛生，蒿草长得有半人高，十分荒凉。山上没有电灯、电话、自来水等现代化设施，甚至连公路也没有，汽车只能开到山下，然后经过一条崎岖坎坷的石子路上山。
阎锡山当初在这里选址时，许多朋友都反对他搬到这里居住。但阎锡山喜欢这里的安静，以“越静越好”四个字，表达了他选择住宅的标准。然后带着几名随从，以茅草代瓦，竹泥代墙，不几日便建好草庐住了下来。
8月下旬，蒋介石与夫人宋美龄前来菁山草庐探望阎锡山，以示关心，见这里条件艰苦，立刻令有关部门整修道路，架设电话线路，开通电话。不久又有陈纳德偕夫人陈香梅前来拜访，见缺少电灯照明生活极为不便，遂赠送一台小型发电机。但由于当时缺少汽油，发电机很少使用，直到数年后，阎锡山才与附近居民一起用上了电灯。
搬到菁山草庐不久，阎锡山才发现自己对这里的气候很不适应。这里不仅气候炎热，而且时常有台风光顾，茅草搭盖的房屋既无法抵挡炎热，又经不起台风袭击，每过一段时间就要进行修补，这让阎锡山想起山西冬暖夏凉、不怕风雨的窑洞。他问台湾朋友：“为什么这里没有窑洞？”这位朋友回答说：“窑洞有三个缺点：一潮湿，二空气不流通，三怕地震，适合于北方，不适合于台湾。”
阎锡山不死心，经过研究后发现，这三个缺点都能够得到补救：使用洋灰可防止潮湿；开前后窗户则空气流通；至于地震，窑洞和楼房性质一样，主要看建筑材料与建筑质量如何。于是，他对台湾朋友说：“我决定建筑一所窑洞，取中国式、西洋式、日本式三者所长，使它适合于台湾，为台湾同胞作试验。”
阎锡山说干就干，很快雇人在地势较低，依山背风之处用石头碹了窑洞，洞顶为五孔钢筋水泥，并命名为“种能洞”。之所以叫种能洞，是为了配合其宇宙观，因为阎锡山喜欢以种能观察宇宙。阎锡山还向金铜矿务局租了地，建了一个“种能农场”，种植松杉、柑橘，俨然要建起一个属于他自己的“世外桃源”。
阎锡山的生活很有规律，每天早晨7点起床，晚上10点睡觉，午饭后要睡两个小时“子午觉”。晚饭后他要独自一人去野外散步，就寝前有时静坐，有时读《易经》，其余时间就是会客、座谈、写作。
阎锡山向来以洁身自好自诩，到台湾后他坚持不看电影、不看戏、不赌博、不吸烟、不饮酒；基本不参加官场上的活动，除了当局有大的庆典、召开宪政、评委会议等阎锡山必须出席外，他一般不会回台北市；他不参与剪彩、证婚之类的活动，只是一门心思地做学问。他对侍从人员和友人说：“言语道断，心思路绝，乃可语学问修养。”
10年时间，阎锡山在“种能洞”中写下不少著作。一般由他本人口述，秘书记录。然后由秘书宣读，他本人口授修改，改后再做一遍宣读修改，最后邀请学者座谈讨论定稿。先后出版的著作有：《世界和平与世界大战》、《与日本友人谈话纪要》、《怎样胜过敌人》、《收复大陆与土地问题》、《反共的哲学基础》、《大同之路》、《孔子是个什么家》、《三百年的中国》、《中国国民党理论研究》等。他在去世前，还在改写《三百年的中国》书稿。这些著作集中体现了阎锡山“中”的哲学思想，绘制了他臆想中未来中国与世界的巨幅“蓝图”——“大同主义”。
由于阎锡山在学术研究上兴趣很广泛，涉及政治、经济、军事、文化、社会发展、社会道德等各个领域，到菁山草庐来与阎锡山分析局势、探索经济、交流学术的人络绎不绝。既有学者教授、神父牧师，又有实业巨子、军政显要，澳洲大学教授林迈可、意大利记者巴吉利，都曾专程到菁山草庐拜访，和他交换学术意见。台湾著名历史学家唐祖培也曾与他数次交换有关历史研究方面的意见。
为了宣传自己的学术观点，阎锡山还经常到一些高校和学术团体讲学，如《中国文化的真谛》、《中国政治的病根》、《孔学与中国的未来》等。他运用自己的“种能”宇宙观，在宇宙学领域也提出了他特有的观点，还和教会的一位姓牛的副教主用商榷的办法，阐述了“宇宙本体发生万象及人事的主宰”问题。
在菁山草庐，阎锡山还建立了一个小组会，成员多是他昔日在山西的部署，还有一些失势的军政要人。小组会上人们畅所欲言，各抒己见，进而作深入的理论探讨。而阎锡山经常在小组会上讲解古代圣贤义理，介绍现代各种思潮，指示做人做事及治学之道，以期“修身治人”。阎锡山的讲话、总结，后来被整理为《菁山草庐讲学录》，该书共10万余字，内容小至饮食起居，大到政治经济，无所不及。其中有些是一般具有哲理性的为人处世方法，有些是对共产主义的评说，其间始终贯穿着反共防共的思路。
隐居阳明山后，阎锡山虽远离政坛，但台湾军政要人蒋介石、陈诚、顾祝同以及其他国民党要人都曾前往看望，朋友、旧部更是时常登门拜访。他的五子阎志惠夫妇与长孙女阎树榕，也曾由美国回台陪他小住，使他尽享天伦之乐。
一妻一妾，难比知心堂妹
阎锡山的一生中有妻妾二人，其元配夫人徐竹青，是距阎锡山老家河边村十里地的大建安村人，从小没有读过书，恪守女子“无才便是德”的祖训，颇为贤惠善良且通情达理。
徐竹青16岁时嫁给同龄的阎锡山，婚后不到两年便遇到阎锡山与其父阎书堂“打虎”失败，逃回河边村躲债的噩运。这是阎锡山一生中最艰难的日子，徐竹青和婆婆陈秀卿一起，不眠不休地给别人做针线活，背地里默默支持着阎锡山。阎书堂父子逃到太原前，徐竹青将自己所有的积蓄交给阎锡山，令阎锡山颇为感动。
阎锡山与父亲走后，徐竹青继续做针线活赚钱，支撑阎家生活。直到阎锡山从日本留学归来，日子才有所好转，徐竹青被阎锡山接到太原，两人终于得以长相厮守。此时，阎锡山每月有160两白银的薪俸，见徐竹青每日操持家务十分辛苦，劝她雇个佣人，却被徐竹青一口拒绝。徐竹青生性节俭，即便有了钱也是省吃俭用，将积攒下来的钱带回家孝敬父母公婆，就连阎锡山为她买来的各种衣料，徐竹青也大多捎回家里，阎锡山开玩笑地对徐竹青说：“你这是天生受罪的命，有钱不会花，有粉不往脸上搽。”
辛亥一二年间，阎锡山在太原秘密从事反清活动，徐竹青虽然日夜为丈夫担心，十分不愿意阎锡山冒险，但仍是默默相助，严守秘密，每每遇到赵戴文、南桂馨、张树帜等人深夜来访，与阎锡山商讨问题时，徐竹青都会亲自下厨，为他们供应酒肴。辛亥革命后，阎锡山贵为都督，阎家生活日渐富足，两人将双方父母都接到太原，日子过得很舒心。这是徐竹青一生中最为幸福的一个时期。
后来阎锡山纳妾，渐渐疏远了徐竹青。徐竹青留恋夫妻恩爱的日子，经常拿出与阎锡山在内府花园的合影，一看就是半天。
其实阎锡山并无纳妾之意，但徐竹青一直没有生育，阎锡山又是独子，所以阎锡山的父亲阎书堂和继母陈秀卿都很着急，逼着阎锡山纳妾以传宗接代，并对徐竹青许诺：“不管娶了谁，都不能和你比，大小名分不能改变。凡家里大事，寿宴喜宴都由你出面；本家亲戚，按大小辈数叫你‘嫂嫂’、‘大娘’，不能叫新娶来的‘嫂嫂’、‘大娘’；所生的孩子，一定要叫你‘妈’，叫生母‘姨’。”话说到这个份儿上，徐竹青没有理由不同意。
于是，1914年12月1日，阎锡山同一个从大同高价买来的15岁许姓姑娘结为夫妻，按照习俗，许姓姑娘改认徐竹青的父母为父母，改姓徐，取名兰森。
徐兰森刚进府时，徐竹青虽有些吃醋，但仍是将其当作亲妹妹一样对待。由于徐兰森是用钱买来的，进府之前已有约在先：今后不能与娘家有任何往来。但徐兰森年龄小，十分想念母亲，还因此大病一场，徐竹青看在眼里，疼在心里，忙将买徐兰森的副官长李德懋叫来，对他说：“二太太离家已经一个多月了，十分想念娘家，你自己或者派个人到她娘家走一趟，看看情况，再给他娘300块钱贴补家用，记得捎一件二太太或者她娘用过的东西，这样二太太见了东西，可能就不会这么难过了。”
李德懋按照徐竹青的吩咐，亲自前往大同问候许家人，将徐兰森在阎府的情况说了一遍，让许家放心，并要了一个徐兰森曾经用过的绣花荷包。之后又到大同县衙门会见知事，命知事对许家人多加照顾，这才返回阎府。
徐竹青将绣花荷包交给徐兰森，并告知她许家一切安好，县知事今后也会好好照顾许家，徐兰森非常感动，她跪在地上对徐竹青保证，今后一定听她的话，要孝敬她一辈子。
为了让阎家传宗接代，子孙满堂，徐竹青主动提出让阎锡山多和徐兰森住在一起。开始，阎锡山觉得过意不去，没有答应，但后来见徐竹青没有改变初衷，也就按徐竹青所说，经常留宿徐兰森房间。为了弥补徐竹青，阎锡山对她言听计从，还经常带着她出入社交场合，让她增长见识。
随着徐兰森为阎锡山相继生育了五子一女（其中长子、三子和女儿幼年夭折），阎锡山与徐兰森感情越来越好，与徐竹青越来越疏远。与此同时，阎家人也开始重视徐兰森，每次见到她都问长问短，完全将徐竹青晾在一边，徐竹青心生嫉妒、怨恨，却无从发泄，只能将苦闷积聚在心。
1930年12月底，阎锡山逃往大连。后来，徐兰森也携儿子们前往大连，徐竹青则一人在河边村照顾公婆，心里很不是滋味。1931年8月，阎锡山终于回到河边村，徐竹青非常高兴，本想和阎锡山住几天，结果阎书堂立刻让阎锡山带着徐兰森和儿子去西汇别墅居住，这时，无论是阎书堂还是阎锡山，都没有注意到徐竹青的情绪变化。在他们眼里，徐竹青是好儿媳、好媳妇，能吃苦耐劳、宽宏大量，徐竹青照顾公婆成为理所当然，阎锡山日日与徐兰森住在一起也成为顺理成章。徐竹青没有想到，她多年的付出竟换来如今的境遇。
就在徐竹青愤愤不平时，忽然听到四毛、五毛（阎锡山的四子、五子）叫徐兰森“妈妈”，徐竹青脸色骤变，感到自己最后的一点面子也被剥夺，终于忍无可忍，气势汹汹地找到阎锡山理论。
却不料，听完她的质问，阎锡山却是一脸无所谓的样子，说：“唉，什么大不了的事呢？不就是个称呼吗，叫什么还不都一样。”徐竹青听罢怒火冲天，顺手抄起家什就朝窗户上砸去，一气之下竟将房间的窗子全部打碎。阎锡山顿时火起，气得掀了桌子。夫妻俩30多年来第一次吵得如此激烈，徐竹青怒气的背后，却是彻底地心碎。
面对儿子、儿媳打得一塌糊涂，阎书堂出面了，他首先对徐竹青训话：“让娃娃们叫你‘妈’，叫生母‘姨’，是我规定的，这么多年不都是这么叫的吗？在大连时，四毛、五毛见你不在，顺口叫兰森‘妈’，有什么大惊小怪的？娃娃们不懂事，你若不高兴，教训他们几句就行，你倒好，又吵又闹还砸玻璃，成何体统！兰森为阎家养育了三个儿子，是阎家的功臣，既然娃娃们叫她‘妈’，以后就这么叫吧，咱们改改规矩，娃娃们以后叫兰森‘妈’，叫你‘波’（当地话妈的意思）。”
阎书堂显然护着徐兰森，在他看来，辛苦照顾自己、操持家事的徐竹青，远不如为阎家传宗接代的徐兰森功劳大，阎书堂早先对徐竹青的许诺也只是敷衍，毕竟让徐兰森生养的孩子叫徐兰森“姨”是不公平的。
徐竹青听阎书堂说完，立刻转身离去，第二天便离开河边村，乘车前往太原，住进通顺巷阎锡山的私宅里，从此与阎锡山正式分居，也从此离开了居住多年的河边村阎府。后来阎锡山多次派人到通顺巷，向徐竹青说情，请她回府，阎书堂夫妇逢年过节也派人去请徐竹青回家住住，徐兰森还时常派儿子们给徐竹青请安，徐竹青虽与阎家关系有所缓和，但再也没回河边村阎府居住。她每日念佛，热衷慈善事业，从中寻找心灵寄托。
抗战爆发后，考虑到继母陈秀卿年事已高，徐竹青也已经50多岁，而阎锡山的二儿子阎志宽身患重病，又有一双襁褓中儿女，经不起颠沛流离的生活，阎锡山便把他们送到大后方，先后住在成都与灌县。1949年4月，阎锡山又将徐竹青与继母及寡居的二儿媳送到台湾定居。
徐竹青与阎锡山分居后，徐兰森取代了她在家庭和社会中的地位，开始以“阎夫人”的身份出头露面，出席各种社交场合，蒋介石偕夫人到山西时，徐兰森又以阎锡山夫人的身份接待了宋美龄，此后又接待了孔祥熙夫人宋霭龄。
随着徐兰森身份地位的提高，原先卖身时的约定也成为一纸空文，徐兰森不仅可以带孩子回大同探亲，还把弟弟带到河边村川至中学读书。她本人和孩子有时住在太原绥靖公署，有时住在河边村上将军府，可谓风光无限。
日军打到山西后，徐兰森带着四毛、五毛陪伴在阎锡山左右，在两年多的时间里，跟随他辗转于晋西南与陕西之间，翻山越岭、跋山涉水，历尽千难万险，整日里过着提心吊胆而又饥一顿饱一顿的日子，直到1940年阎锡山率部在克难坡稳定下来，情况才有所好转，徐兰森与孩子的生活也总算安定下来。
然而，日子刚刚好转，徐兰森便于1941年患上重病，险些性命不保，从此再无力照顾阎锡山。阎锡山便由堂妹阎慧卿和侍从长张逢吉全权照料，与徐兰森渐渐疏远。
徐兰森独居一处养病，难免孤独苦闷，时常到阎锡山的住处去散步，每逢听到阎锡山与阎慧卿在屋里又说又笑，心里便十分痛苦。尤其在晚上，看到阎慧卿在床前为阎锡山按摩、捶背，尽管阎慧卿是阎锡山的堂妹，徐兰森仍免不了醋意大发，有一次竟然闯进屋去，非要亲自照顾阎锡山的生活。
突然见到徐兰森，阎锡山满脸的不悦，对徐兰森说：“你自己都需要人照顾，哪里能照顾别人呢？你还是好好养病吧。”第二天又让司令部医生出面，劝她安心静养。虽然两人分居两处，但阎锡山承诺，每年腊月三十都要与徐兰森住在一起。
1946年5月，阎锡山12岁的长孙患麻疹夭折，徐兰森受此打击，病情加重。当1948年春节即将到来的时候，正在北平协和医院接受治疗的徐兰森惦记着阎锡山的承诺，乘飞机返回太原。但久别重逢，阎锡山并没有想象的那般热情，甚至对病恹恹的徐兰森有些冷落，徐兰森伤心而泣，当夜便突发急病，于2月9日凌晨不治身亡，享年49岁。
口授遗嘱，留下疑云一片
阎锡山在大陆的最后近十年里，基本是在堂妹阎慧卿的陪伴下度过的。阎慧卿是阎锡山叔父阎书典的女儿，排行第五，人称“五姑娘”，比阎锡山小27岁。阎锡山担任都督后，在家乡河边村办起育英女子学校，阎慧卿便入校就读，那时她刚刚12岁，后在太原天主教会办的女子学校学习。虽然念了几年书，但阎慧卿天性贪玩，并没有学到多少知识。
阎慧卿文化不高，相貌也比较一般，先后有过两次失败婚姻，第一任丈夫曲佩环曾留学日本，任榆次晋华纺织厂经理，阎慧卿嫌弃他长得又黑又瘦，婚后感情冷漠。曲佩环为了让二人得到解脱，主动提出离婚。第二任丈夫梁綖武于清华毕业后也曾留学日本，英俊潇洒，阎慧卿十分倾心，对他百般顺从。然而，梁綖武娶阎慧卿完全是为了寻求阎锡山这座靠山，他曾公开宣称两人只是“政治夫妻”，对阎慧卿十分冷淡，阎慧卿依旧没有得到幸福。当阎慧卿还在克难坡的时候，梁綖武已在太原秘密纳妾，从此很少再与阎慧卿相聚，两人渐渐断绝来往。也就是从那个时候起，阎慧卿开始照顾堂兄阎锡山的生活。
阎慧卿善于察言观色，很会哄阎锡山高兴。对阎锡山喜欢听的就多说，不喜欢听的则绝对不说。阎锡山高兴时，她会讲些笑料事，让阎锡山更开心。阎锡山愁闷时，又讲些家乡的风土人情，为阎锡山解闷。她对阎锡山的生活起居安排得极为周到，深得阎锡山的喜爱。
在克难坡时，阎锡山常常边吃东西边想问题，思维活跃，有时不免食多伤身，引发病痛。而医护人员劝说毫无用处，后来便专门派人监督其用餐，既不让多吃，也不让少吃。开始时派一般侍从监督，阎锡山非但不听从其劝告，而且动辄谩骂，只好改由徐兰森监食，但仍不起作用，最后换成阎慧卿负责。
阎慧卿自有办法，每到吃饭时，她就坐在炕桌前，看着阎锡山吃饭。如果阎锡山不想吃，她就拿筷子尝尝，并讲些笑话；见阎锡山吃多了，又劝不住，便将饭夺过来，命令副官端走。为了给阎锡山调节饮食，阎慧卿除了亲自过问主副食外，还经常让厨房做些家乡饭豆面抿尖、高粱面擦擦子、莜面窝窝等等。除了监食，阎慧卿还在阎锡山睡前为其捶背、按摩，成为阎锡山生活中不可缺少的助手。
由于阎慧卿时时刻刻陪侍在阎锡山左右，日子一长，难免会有些闲言碎语，连徐兰森也心生猜忌，对阎慧卿产生敌意，其子四毛、五毛受其影响，在徐兰森突然去世后，怀疑母亲去世与阎慧卿有关，特地找到膳食组长阎东槐询问情况，阎东槐刚刚被阎慧卿骂了一顿，心怀怨恨，故意对四毛、五毛说：“这事只有五姑娘清楚，你们还是去问问她吧。”
四毛、五毛一听，阎东槐的意思分明是阎慧卿害死了自己的母亲，两人怒不可遏，立刻纠集了一帮人，准备到阎慧卿住处讨个说法。好在阎慧卿提前得到消息，赶紧跑到阎锡山那里说明情况。阎锡山对外面的谣言也有耳闻，而他与阎慧卿本来就是清白的，阎慧卿完全因为阎锡山是阎家的支撑、阎家的英雄，是她堂兄才对他尽心服侍，而阎锡山对阎慧卿也只有对妹妹的疼爱，两人都是具有根深蒂固传统思想的人，如今被人泼污水不说，还捏造出人命关天的“大案”，顿时非常生气。
阎锡山将两个儿子找来，狠狠训斥一番，得知是阎东槐在此胡说八道，立刻把阎东槐叫来，见面未曾开口，便狠狠抽了阎东槐一个大嘴巴，恨恨地骂道：“养你还不如养一条狗，你这不是挑家不和吗，看我不枪毙了你！”
话虽如此，阎锡山并没有真想毙了阎东槐，不过是吓唬他一下。不料阎东槐却被吓昏了，当即躺在地上不省人事。待苏醒后，竟然变得疯疯癫癫，见人就说：“好怕好怕，再也不敢胡说了。”或者问别人：“你看我有脑袋没有？你看我有脑袋没有？”不久便因惊吓过度死去。
此时阎锡山已离不开阎慧卿的照顾，但在1949年3月29日逃离太原时，为了稳定军心，不得不狠心将阎慧卿留在太原。当时，阎慧卿并不知道阎锡山的用意，为了能随时照顾阎锡山，提出与阎锡山一同去南京。阎锡山一直对阎慧卿言听计从，这次却说：“太原也少不了你，虽然有五人小组保卫太原，但我仍不放心，还得靠你帮忙。”
但阎锡山此举不过是权宜之计，只是为了自己先顺利脱身，到达南京第三天，便发电报至太原，让阎慧卿即刻赴京。然而，电报被梁化之等人拦截，不仅没有告诉阎慧卿，而且以阎慧卿能稳定军心为由，回复阎锡山说不能让她离开。
4月18日，阎锡山又派副官孔庆祥乘美国飞机，专程去太原接阎慧卿。然而，就在阎慧卿兴冲冲地收拾好东西，准备赶往机场时，却接到孔庆祥从机场打来的电话，说飞机已经起飞。因为当时解放军正在炮轰太原城，美国驾驶员吓得魂不附体，连下了飞机的孔庆祥都顾不得管，径自驾机逃回南京去了！
4月21日晚，阎锡山再次致电太原五人小组，让他们做好准备，第二天上午将派机前去接出阎慧卿。然而22日早晨，五人小组回电说机场已经失守，飞机无处降落。阎锡山随即要求五人小组另辟机场，让飞机降落。五人小组再次回电，说解放军炮火猛烈，无法另辟机场让飞机着陆。
至此，阎锡山再也没有办法救出阎慧卿。解放军攻进太原时，阎慧卿在梁化之的逼迫下与其一起服毒自尽。阎锡山得到消息后，老泪纵横，不停地念叨：“为什么要自杀，为什么要自杀……”
其实，阎慧卿和梁化之不同，梁化之杀人无数，即便投降也恐难以保住性命，但阎慧卿只是扮演了一个佣人的角色，即使她参加过一些政治活动，也不至于性命不保。然而阎慧卿向来对阎锡山的话深信不疑，由于阎锡山反共，阎慧卿潜意识里就认为共产党一定不会放过自己，加上梁化之逼迫，阎慧卿在无可奈何之下，结束了自己的生命，这一年，她40岁。
没能及时接出阎慧卿，是阎锡山后半生的遗憾，也使他后半生的生活失去许多色彩与乐趣。阎锡山晚年患有冠心病、糖尿病、冠状动脉硬化等病症，如果有阎慧卿在身边，定然会得到更好的照顾与保养，或许也会得到及时的更好的治疗。遗憾的是，斯人已去，即使身边有跟随他二三十年的侍从长张逢吉，自然也无法取代善解人意、耐心细致的五姑娘。
1959年3月，阎锡山的健康状况已大不如前，经台大医院检查，医生以动脉硬化严重为由，要他留院观察，但阎锡山为完成《世界大同》等书稿的写作，执意返回菁山草庐。
1960年5月，阎锡山病情突然加重，腿部浮肿已经无法行走，只得卧床休息。19日，阎锡山又患感冒，发高烧，经治疗有所好转。然而22日，病情再次加重，以至呼吸困难。次日，其私人医生检查认为有转肺炎的危险，加上他心脏动脉硬化，建议尽快住院治疗。
上午10时，阎锡山气喘加剧，呼吸愈发困难。此时张逢吉并不在场，老秘书长贾景德已经赶到，赶紧与副官胡庆祥、井国枝等人护送阎锡山前往台大医院。
然而，就在阎锡山刚刚被送到医院后，便于当日下午1时30分去世，享年77岁。由于病发突然，连他的夫人徐竹青也未能及时通知。
临终前，阎锡山对一直看护他的老部下贾景德交代了后事。他因痛惜自己不能追随蒋介石回大陆而深感遗憾，所以留下了七点遗嘱：
一、一切宜简不宜奢；
二、收挽联不收挽幛；
三、灵前供无花之花木；
四、出殡以早为好；
五、不要放声而哭；
六、墓碑刻他的思想日记第一百段及第一百二十八段；
七、七日之内，每日早晚各读他选作之《补心录》一遍。
阎锡山还自作挽联数副，嘱家人在他死后贴在指定位置。
贴在灵前的是：
避避避，断断断，化化化，是三步功夫；
勉勉勉，续续续，通通通，为一等事功。
横批：
朽嗔化欲。
贴在檐柱前的为：
摆脱开，摆脱开，沾染上洗干净很不易；
持得住，持得住，掉下去爬上来甚为难。
横批：
努力摆持。
贴在院中的为：
有大需要时来，始能成大事业；
无大把握而去，终难得大机缘。
横批：
公道爱人。
贴在院门上的为：
对在两间，才称善；
中到无处，始叫佳。
横批：
循中蹈对。
中间两副较易为人理解，对前后两副，人们大都莫名其妙，不解其意。有人说：“阎一生喜弄玄机，临终还留此谜联，让人动脑筋。”
阎锡山死后，台湾成立了以何应钦为首的治丧委员会。委员有于右任、张群、贾景德、唐纵、李石曾、张道蕃、谷正鼎、梁寒操等人。
5月29日，阎锡山遗体入殓，阎锡山的夫人徐竹青、四子阎志敏、三堂弟、四堂弟、五堂弟，以及族人、亲戚等100多人举行了家祭。在阎锡山得病时，他侨居美国的四子阎志敏一家、侨居日本的五子阎志惠一家及长孙女阎树榕都未得知，死后也只有四子阎志敏一人闻讯回台北奔丧。
在何应钦的主持下，1500多人参加了大殓公祭，蒋介石亲临致祭，赠送手书匾额“怆怀耆勋”，以示哀悼。7月29日，蒋介石为阎锡山颁发“总统褒奖令”，极尽溢美之词。
阎锡山遗体入殓后，灵柩暂厝“种能洞”，12月6日，葬于阳明山七星山之阳。
历史评说
阎锡山自辛亥首义就任山西都督，历经军阀混战、北伐诸役、中原大战、省政建设、抗日战争等重大事变，在波诡云谲的旧中国政治舞台上，肆应自如，主持山西省政长达38年，成为与中华民国相始终的绝无仅有的地方实力派人物。在归顺于国民党中央后仍能长期保持相对独立，这除了山西独特的封闭型行政地理环境外，还得益于阎锡山特有的交际手段。
阎锡山善搞投机，善阿谀逢迎，为人油滑，常常表面一套背后一套。在北伐之后为了保住既得利益与扩张地盘，一会儿联蒋抵冯，一会儿联冯抗蒋，反反复复，变换之快令人咋舌。在“三颗鸡蛋上跳舞”时，更将其“山西九尾狐”本性演绎得淋漓尽致，对蒋、对日、对共的态度，以维护其在山西的统治为中心，不断变换，一会儿联日抗蒋，一会儿联共抗日，一会儿又与日本人勾勾搭搭对付共产党。
抗战胜利后，阎锡山不能顺应历史潮流，始终坚持反共立场，参与发动新的内战，给国家和人民带来巨大灾难。在国民党大势已去，解放军兵临太原城下之时，共产党为减少战争损失、保护太原古城不被摧毁，提出和平解放太原，阎锡山却在本人出逃后，命令部下顽抗到底。章士钊曾痛斥阎锡山：“夫阎君不惜以其乡人子弟，以万无可守之太原，己遁去，而责若辈死绥，以致破城之日，尸与沟平，屋无完瓦。晋人莫不恨之。”
但阎锡山也曾保境安民，致力于发展经济，使山西社会相对稳定，对山西的经济发展作出了一定贡献。在其联共抗日时期，也曾对抗战做出过积极贡献。
纵观阎锡山一生，依蒋拒蒋，亲日抗日，联共反共，一切以维护其割据势力、保卫其山西地盘以及建设山西为中心，不负其复杂多变“山西九尾狐”之称。