安内乎？攘外乎？阎锡山一时拿不定主意。就在这关键的时刻，偏偏从上海来了个电影明星陈波儿，而且陈波儿还闹出了一场风波，就是这场风波，使得一贯反共的阎锡山突然对共产党“情有独钟”起来。
阎锡山乡土观念极浓，他手下的重要军政高官赵戴文、杨爱源、赵承绶、梁化之、王靖国、傅作义、陈长捷、续范亭全都来自五台或五台附近，以至当时社会流传开“会说五台话，就把洋刀挎”的民谣。
但令他始料不及的是，两个直接与他进行针锋相对的斗争并最终葬送他在山西统治的，也正是两位五台籍的共产党人。一个是消灭他十几万大军的徐向前。另一个就是应他主动邀请，参与组织山西“牺盟会”，创建山西新军，并最终导致5万山西新军拖枪投向共产党的薄一波。
1935年，日本继侵占东三省后，又侵占了热河全省。得陇望蜀，欲壑难填，5月，又开始在华北制造事端，先后逼迫国民政府签订了《何梅协定》《秦土协定》，攫取了冀察两省的大部主权。紧接着又策动“华北五省自治”活动，企图使河北等华北五省脱离中华民国政府，从而成为第二个“满洲国”。
在这一阴谋中，日本将山西视为“华北事变”能否成功的最重要一环，除了因为山西具有重要的战略地位，拥有丰富的煤、铁资源外，就是他们看中了阎锡山，认为在资历、威望、军事与经济实力、政治领导能力几个方面，阎锡山无人能够替代。
阎锡山对于日本人的侵略野心早有警觉，并主张进行坚决的抵抗。1932年初，他复出后不久，鉴于“九一八”事变带来的民族危机，就向国民党四届二中全会提交了《请政府检拨十万劲旅死守锦州以救危亡案》，提案指出，“日本既以武力占我领土，我即不愿轻与宣战，亦宜以铁血主义，坚抗死守，不使日军横冲直撞，如入无人之地，得寸进尺，而后乃可以徐图自存也。锦州为东省之要口，北方之屏障，其覆亡之祸，势必迫于华北全部，锡山等心念及此，良心用悸。夫国家兴衰存亡，固政府之责，国民牺牲奋斗，乃民族之光。……处此艰穷危急之时，图国家民族继存之道，政府宜速检拨十万劲旅，增防铁州。”
可见，阎锡山对日本帝国主义的侵略是痛恨的，也是主张对日本的侵略进行坚决抵抗的。而他对日本扩张野心的预料，也被后来的事实所证实。
1935年冬，红军抵达陕北后，阎锡山置中共“停止内战，一致抗日”，并要求阎锡山允许红军借道山西，开赴华北抗日前线的声明而不顾，想凭借精心构筑的多层防线，将红军阻挡在黄河以西。可他万万没有想到，才到达陕北的红军决定东渡黄河，打到他的地盘上来建立共产党的根据地。由毛泽东、彭德怀率领的“中国人民红军抗日先锋军”3万余人，于1936年2月20日一夜之间便突破了他的河防工事，东渡黄河。双方第一次交火，红军就歼灭晋绥军一个团和一个炮兵连。阎锡山大为震惊，赶紧将主力部队编成4个纵队，组织“汾孝会战”，企图不惜一切代价把红军赶过黄河。经过一个多月的战斗，晋绥军被打得落花流水，红军将阎锡山的地盘夺占了几乎三分之一。紧跟着，红军又兵分三路，实行战略展开，一路由徐海东、程子华率领红25军团直插晋中，一路由林彪、聂荣臻率领红一军团挥师南下，杀向晋南，另一路则由毛泽东、彭德怀率领总部和警卫团少数兵力，在晋西北继续周旋。徐程的先头骑兵曾一度逼近太原近郊的晋祠。红军所到之处，发动群众，宣传群众，打击土豪劣绅，并筹款和扩大红军。
阎锡山惊慌万分，在绥靖公署大门前垒起沙袋，构筑街垒，同时令正在追击红军的主力火速回防太原。
阎锡山还在“汾孝会战”之前，看到红军来势凶猛，以一己之力恐难对付，情急无奈之下，不惜饮鸩止渴，主动打开向中央关闭多年的“大门”，冒引狼入室的危险，请蒋介石火速派兵驰援。蒋介石喜出望外，视若天赐良机，急令驻扎在河南的关麟征25师，河北商震之第32军，火速入晋协剿红军。同时电令张学良部向黄河西岸挺进，以断红军之退路。当红军兵分三路后，阎锡山又以“匪军分股流窜晋省，现有兵力已不足遏阻匪祸”为辞，再电蒋介石增拨援兵。3月中旬，蒋介石再派汤恩伯3个师又3个旅入晋。这样一来，前后增援阎锡山的中央军达到了12万人之多，沿正太、同蒲路星夜兼程，直插山西腹地，并派空军一队进驻太原，并在太原成立陕甘晋绥四省“剿匪总指挥部”，任命陈诚为总指挥。
前门防虎，后门又涌进一群狼，阎锡山不免陷入左右为难的境地。
3月21日，中央军与晋绥军联合向东征红军发起进剿。
毛泽东见蒋阎联军来势汹汹，遂果断决定渡河红军回师陕北，把矛盾扔给蒋、阎二人，并于5月5日发表《停战议和一致抗日》的通电。东征之役，就此结束。红军在晋活动75天，扩充红军8000余人，而阎军损失万余兵力。
东征红军主动撤回陕北，阎锡山虽然暂时松了一口气，但他却怎么也高兴不起来，因为由红军东征而引发的各种问题和矛盾马上就摆在了他的面前。首先，蒋介石派赴山西的十几万中央军根本就没有离开山西的意思，他们在山西各地大肆发展国民党组织，收买拉拢阎锡山的高级军官，甚至猖狂到在晋南策动河东道独立。不但如此，1936年4月，蒋介石还命令阎锡山从晋绥军中挑选15个团的兵力，附以骑、炮各一个团，西渡黄河，围剿红军。而担任这支部队总指挥的又恰恰是被蒋介石竭力拉拢、提拔，由蒋介石明令升任为第19军中将军长的李生达。在此次行动中，蒋介石系汤恩伯13军、李仙洲21师、高桂滋84师、高双成86师，均归李生达节制。
果不出毛泽东所料，矛盾发生了变化，阎锡山立即就感受到了蒋介石杀气腾腾的锋芒。眼下对他威胁最大的已不是已经主动退过黄河的红军，而是此刻掐住了他咽喉让他喘不过气来的蒋介石。他忧心忡忡地对将领们说：“百川未亡于共产党，这下也要亡于草字头了。”
阎锡山当然不甘心让蒋的如意算盘得逞，为了粉碎蒋的这一阴谋，阎锡山来了个釜底抽薪。于是，便出现了下面这一幕惊险的场面。
1936年5月31日凌晨，月落风轻，四周十分安静。
山西离石县城里到处驻满了晋绥军。在县城内的一所大院子门口，4名手持冲锋枪的士兵往来巡逻值哨。
院子里边也有数名巡逻的士兵，他们是晋绥军第19军军部警卫营的卫士。院子里北屋内点着一盏昏暗的煤油灯，第19军军长李生达就住在这间屋里。
这时，一条黑影在院子里贴着北屋的墙溜过来。他环视了一下周围的情形，敏捷地跃上北屋的台阶，轻轻地推开了虚掩的房门，顺势钻进屋里。只见他摸到床前，迅速地从怀中摸出一把锋利的匕首，对准睡在床上的人的心窝全力刺下。
“啊——”
受害者的一声惨叫，惊动了巡逻的士兵。他们在惊愕中只看见一个黑影溜了出来，没命地朝外面跑去。
“谁？”
卫士的话音未落，一声清脆的枪声响起，当场一个士兵倒在地上，胸口上鲜血直往外冒。那名凶手一边开枪，一边朝后院的院墙窜去。这时，后院的警卫一齐赶来，吵吵嚷嚷，把凶手逼到了墙角处。凶手眼见难以逃出重围，当下举起手枪，对准自己的太阳穴扣动了扳机。
被刺者定是李生达无疑，而凶手，竟然是专门负责他安全的卫士熊希月。
待“噩耗”传到太原，阎锡山又扮出一副悲痛万分的模样，亲率高官到灵前致祭，轰轰烈烈地厚葬李生达。同时致电蒋介石：“李生达被暗杀，军心不稳，请准于缓期入陕。”
蒋介石明知这是阎老西儿玩的一个小手段，可是，又能拿他怎么样？
由此，阎锡山渡过了一场危机。
由于蒋介石坚持“攘外必先安内”的政策，尽管其对日态度开始有所改变，但其政策的重心仍然放在加紧军事剿共和消耗各地方实力派的力量方面，这就不能不引起阎锡山强烈的不满。
阎锡山除感到蒋介石、日本的强烈威胁外，对于来自共产党方面的威胁也十分忧虑，红军东征渡过黄河进入山西后，东突西奔，战略战术运用得十分娴熟，而其战斗力又是那样的强盛。他曾对其部属说道：“现在共匪虽然被我们打跑，赶过河西去了，但是大家千万不要以为从此就可以放心了。因为黄河长达千余里，处处可渡，我们如果要把这千余里的黄河处处都用兵把守，你们想得用多少兵？得花多少钱？人民哪里能负担得起？如果不处处设防，又怎能保证共匪不再偷渡？”
尤其令阎锡山感到压力的是，红军东征期间，对共产党“停止内战，一致抗日”主张的广为宣传，及其发动群众进行的土地革命，已在广大民众中产生了深刻的影响。他们要求抗日救国，要求实行民主的呼声日益高涨。共产党播撒的这些星星之火，一旦燃烧起来，后果不堪设想。非但如此，在阎锡山统治集团内部，居然也有人对红军的标语和减租减息的法令、布告争相传诵，甚至还有人认为与红军作战就是同室操戈，令亲痛仇快，只能对日本帝国主义有利。
蒋、共、日，三股力量三把刀，刀刀见血，都能要阎锡山的命。险恶的局势，迫使他不得不在抗击日军侵略的同时，又在蒋介石的阴谋和红军的进攻之间进行比较，以寻求对自己更加有利的出路。他清楚地知道，以己之力，断不能消灭三方中的任何一方，更无可能同时对付这三股强大的敌人。绞尽脑汁，审时度势后，他终于看到，在民族危机空前严重的形势下，如果完全投向日本人一边，等于是在国人面前自寻绝路，会遭到全国人民的唾弃。可是，要守住山西这块根据地，那他就只能在共产党、蒋介石和日本人这三者之间左右逢源，巧妙周旋了。
北有共产党，东有日本人，南有蒋介石的中央军，形势险恶，已达极点。来自三方面的巨大压力压在阎锡山头上，使他如同生活在夹缝之中。
就是在这种情况下，阎锡山提出了“存在就是真理”的观点。他开导军政高干们说：“所谓真理，就是指为人类谋幸福的道理，是客观实际需要的道理。我们主张的是人类谋幸福的道理，所以我们的组织就代表了人类的真理。因此我说，我们的存在就是真理，就是国家的、社会的、世界的真理。”
他还把这句话的发明权归于列宁。他说：“存在即真理这句话，是列宁与德国签订布列斯特条约时讲的。当时有人对整体利益与局部利益的关系不理解，反对他割地求和，长篇大论提出尖锐质问，列宁只用一句话回答他，存在就是真理”。
由此出发，阎锡山进一步引申出“需要就是合法”。既然“存在就是真理，则存在上的需要，就一定合法”。因此他强调说：“我们无论如何要以存在为目的，为了存在，采取任何手段，真理都在我们手里。”
他对自己的这种处境有一个形象的比喻，说好比是：“在三颗鸡蛋上跳舞，踩破哪一颗都不行”。他还郑重其事地告诫自己的将领们：“日本人、共产党，草字头，哪一方都要巧妙周旋。眼下对我们来说，第一是生存，第二是生存，第三还是生存。”
因此，对于阎锡山来说，如何在这夹缝中求得生存，如何不踩破任何一颗鸡蛋，找出一条既可利用共产党的长处和力量发动组织群众，来抵抗日本人的侵略，保存和发展壮大自己的实力，来作为和日本人讨价还价的资本，又可顶住蒋介石对他的吞并，并使共产党不再对自己采取军事行动这样的道路，就成为他必须做出的选择。
就在阎锡山左右为难，一筹莫展之时，在“汾孝会战”中被红军俘虏的郭登瀛回来了，而且还给他带来了一封毛泽东给他的亲笔信。
关于郭登瀛，程子华晚年回忆说：
我15军团前卫75师将该敌392团一举全歼，敌团长郭登瀛被俘。
郭登瀛被俘之后，极度紧张恐惧。但出乎他的意料，红军不仅不打不骂，连他的怀表和几十块钱晋钞也全部未动。为解除他的恐惧心理，战斗刚一结束，我就和徐海东、周士第在村外的河滩接见了他，并让他给被俘官兵讲话，安慰大家不必害怕，要相信红军优待俘虏的政策。
郭登瀛是红军渡河以来被俘的第一名敌高级军官，对他的教育和处理，在晋军官兵中必将引起极大的反响，如能像东北军的高福源一样，做好争取教育工作，对于沟通我党和阎锡山的联系，推动和发展抗日民族统一战线将发生一定作用。因此，部队在大麦郊休整期间，我又专门找他做了一次长谈。为消除他的思想顾虑，我一开始就坦率地对他说：“我也是咱山西南路解县人，在太原国民师范念过书，后来当了红军。在红军中我当过师长、军长、军团长，也做过政治工作。在我们红军队伍中，没有薪水，官兵一样，一天只管三顿饱饭，只是想使普天下穷苦百姓都有好日子过。”
接着我又讲述了我党关于建立抗日民族统一战线的主张和政策，中肯地向他指出：“国家兴亡，匹夫有责。目前大敌当前，国难日深。我们应团结一致，奋起抗日，有钱出钱，有力出力，有知识出知识，有武装出武装。我们红军此次渡河东征，就是要到第一线去抗日。”
最后，我又针对他关注个人命运和出路的急切心理，坦率地对他说：“我们叫你在窳里多住几天，没有别的意思，只是想让你更好地明了我们的主张。”
这次谈话后，我们即派人把郭登瀛送到了红军总部保卫局驻地康城附近的南窳。
为使郭登瀛对我党抗日民族统一战线的政策有进一步深刻的了解，也鉴于当时我军已作出了回师西渡的决定，这次会谈后，郭登瀛被送到了瓦窑堡红军大学学习。
红军回师陕北后，毛泽东和周恩来同志再次接见了郭登瀛，详尽地阐明了我党关于建立抗日民族统一战线的政策，希望他回去之后动员和说服阎锡山走上“联共抗日”的道路。临行前，毛泽东同志让他给阎锡山、赵戴文、杨效欧等晋军首领带回了亲笔信件，周恩来同志托他给阎锡山带了口信。同时还发给他10元边币，90元山西省钞作为路费，又送他一匹战马，派两名警卫人员把他一直送到了黄河岸边。
郭登瀛回太原后，向阎锡山汇报了他被俘的前后经过，转达了毛主席在康城接见时所提的三点要求，面交了毛泽东同志的亲笔信件。在信中，毛泽东同志不仅重申了我党、我军联合抗日、共赴国难的一贯主张，而且一针见血地指出了蒋介石企图借“剿共”之名，染指山西的险恶用心。这是阎锡山的根本利害所在，也是他眼前的心腹之患。[11]
毛泽东的这封亲笔信，对于促使阎锡山在重大的历史转折关头做出明智抉择，起到了极为重要的作用。
阎锡山曾对高干们提出一个问题：“东北失守以后，张学良退出东三省，坚持抗战的都是共产党，没有一个国民党。假如日本人打进山西来，山西抵抗不了，蒋介石也抵抗不了，怎么办？[12]”
毫无疑问，阎锡山是个大军阀。
中国的军阀分低、中、高三个层次。
低层次的军阀是深谙枪杆子里面出政权——这个谁都会，否则就当不了军阀。
中层次的军阀是发展经济。上马打天下，下马治天下。大军阀基本都会。但懂得用什么样的办法把治下地方的经济搞上去的，就极为鲜见了。阎锡山肯定是军阀中的佼佼者。1931年“九一八”事变后，阎锡山利用国民党镇压山西学生运动激起公愤的机会，重新上台，随即制定并推行《山西省政十年建设计划案》，几年时间，山西经济快速发展，就连蒋介石都不耻下问：“山西经济的发展经验如何在全国推广？”军事工业是经济发展的集中体现，又是军阀发展经济的根本目的。到1937年全面抗战爆发前，阎锡山的兵工厂计有分厂18座，厂房6100余间，设备5000余部，职工上万。月产迫击炮100门，轻重大炮35门，炮弹15000发，机枪、步枪4000支，子弹420万发。在同时代军阀中，晋军最先装备现代化榴弹炮团，甚至据说还在研制战斗型直升机。
高层次的军阀则是探索理论。用什么理论指导巩固政权、发展经济？到了这个境界的军阀，可谓凤毛麟角。能够探索出自己的一套政治经济理论，环视全国众多的军阀，真的就唯有阎锡山一人了。早在1920年6月，阎锡山就开始在山西省政府院内的梅山组织“进山会议”，从思想上、理论上、学术上研究、论证他提出的一系列社会问题。“进山会议”每星期三、六开会，每次4小时，参加会议的都是当时山西有水平、有地位的骨干分子和社会名流，最初只有12人，后来增加到134人。阎锡山给会议提出了研究目标，即研究“人群组织怎样对”的问题。他还给会议规定了三条研究公例：一是研究的结论必须“得乎人心之所同然”，而不是附庸风雅沽名钓誉；二是研究的结论必须无父母，就是不掺杂成见；三是研究的结论必须不绝后有儿子，就是要有发展前途。会议得出的初步结论是：“人群之真富真强真文明，土地公有私种，资由公给”，而对共产主义制度则认为是只有“人人为圣人斯可办到的制度”。
蒋冯阎大战后，阎锡山落难那两年，更是苦苦思索着这些问题，最后终于捋出了一个头绪。重新上台后，阎锡山把他捋出的这个头绪写成一本书，叫作《物产证券和按劳分配》。
1934年11月，蒋介石听说山西经济发展形势一片大好，亲自赴晋巡视，看到果不其然，于是向阎锡山探问，一是国事如何处理，以济危难？二是山西建设经验如何能推行全国？
阎锡山捧出一本《物产证券和按劳分配》送给蒋介石，并解释说：“废金银制改行物产证券制，废劳资合分制，改行按劳分配制。也就是说，开辟造产途径，解救失业恐慌。在积极方面，以物本位的物产证券，改革金代值的货币，以消弭因物产滞销引起的失业恐慌弊端。以‘资公有’、‘产私有’的按劳分配，取消私产剥削。消极方面，指出马克思对现社会病之认识及医治的错误，在思想上彻底粉碎共产主义。”
如果要详细探论阎锡山的这套理论到底是什么、是对是错，何对何错，那恐怕不是一个简单的事情。总之，阎锡山自己心里明白，就凭他一介武夫，虽然搞出了这套理论，一是难免存在许多说不清楚的伤病之处，二是恐难令天下信服。正在这时，省政府主席赵戴文给他推荐来一位留德归来的学者杜任之（中共秘密党员）。这位在马克思老家研究哲学的杜先生听说阎锡山提出了“永久性按劳分配”的学说，不禁大感兴趣，而阎锡山为使其学说完善化，也极愿请人与他辩论。杜任之对阎锡山的“学说”颇多疑问，阎锡山便欣然请杜任之到他的老家河边村一起研究。
两人在河边村进行了三次学术大讨论，杜任之反复用马克思主义的基本原理，对阎锡山学说中的漏洞提出质疑，搞得问题越辩越多。
就是在这种情况下，阎锡山于1934年秋，派张隽轩秘密赴北平，约请侯外庐、张友渔来晋，讲授马克思主义理论。
1934年9月，张友渔去到山西之后，北方特科派遣打入张学良“剿总”的潘东周身份暴露。11月7日，北方特科成员李光伟、杨青林等20余人突然全部被逮捕。张友渔回忆说：“徐冰（邢西萍）、温健公在北平待不住，也去太原讲学。”
张友渔说，阎锡山“并不敢用共产党人，只想利用两种人来达到他的目的：一种，曾是共产党员，现在脱离关系的，特别是叛徒；一种，讲马列主义理论，但不是共产党员的学者”。
恐怕后面一种也不尽然，因为阎锡山知道他们是共产党。
阎锡山曾兴高采烈地说：“我请来一批共产党的理论家，就在河边村讨论我的学说。我要和他们展开辩论。他们驳不倒我的学说，就得听从我的主张。道理是越辩越明，真理终究要战胜。让他们也敞开讲一讲马克思主义，我也愿意听听马克思谈的究竟是个什么道理！”
1934年9月到11月，阎锡山派人把张友渔、侯外庐、温健公、邢西萍等共产党的教授学者请到了山西，结果11月蒋介石来访，12月阎锡山老爸去世治丧，理论研讨的事情就拖了下来。
趁着这个空当，杜任之向阎锡山提了个建议，把这些共产党理论家拢起来，成立一个学会，专门研究这个“物产证券和按劳分配”理论。阎锡山一听很好，起了个遮人耳目的名字叫“中外语文学会”。阎亲任名誉会长，杜任之任秘书主任与编辑主任，潘泽卿、周北峰为副主任。杜任之又把法学院他的学生阎又文找来做实际工作。
这个“中外语文学会”，名义上说是研究阎锡山的“物产证券和按劳分配”理论，实际上是在宣传马列主义。学会办了一份《中外论坛》，主要任务是翻译和介绍国内外的进步书刊，甚至翻译《共产国际通讯》，介绍各国共产党情况，翻译马克思、列宁的原著，宣传马列主义。
杜任之回忆说：“刊物的翻译人员大多数是革命者（共产党员）和进步人士，其中有侯外庐、张友渔、徐冰和温健公、李毓珍，还有潘泽卿、高叔康、王辑五、焦敏之，以及徐冰介绍来的孔祥祯（就是后来往草岚子监狱里送信的人）、我介绍的山大教授史景苏等人”。
当时从北平大学毕业回到山西的青年学生余振后来回忆说，杜任之听说他学的是俄语，就请他给《中外论坛》翻译文章。余振翻译了一篇《苏联货币》。“后来，杜先生提名让我参加编委会。编委会的编委都是一些有名的学者，如侯外庐、张友渔、邢西萍（徐冰）、温健公、周北峰等，都是北平、太原各大学的教授。后来，我参加过一次编委会，会议决定大家分头翻译《列宁全集》。记得学会里的全集是俄文第二版，全部30多卷”。可见当时他们搞的规模有多大。
不但如此，这些共产党的大理论家们还给阎锡山的青年团骨干讲“科学社会主义”。以“中外语文补习班”的名义在社会上办班讲课，把《中外论坛》发到全国各地。
到了1935年2月，阎锡山的理论研讨班终于在他老家五台河边村开课了。由这些阎锡山礼请来晋的共产党的大理论家们给山西各派政治力量的代表人物们讲马列主义基本原理。三天时间里，阎锡山仔细地耐心地听着，认真做着笔记，还不时提出一些问题请求解答。听完课后，阎锡山说了一段话：“马克思真了不起，他分析观察事物，就像一只显微镜一样，竟然能看到人们所看不到的东西。”不过，“阶级斗争要不得！要革命，马克思就要挑起阶级斗争，让人们互相残杀，这是不人道的。阶级斗争为什么不对？因为问题出在社会制度上，这不能怪人！”
这段话很能代表当时阎锡山对共产党的认识。
而且，阎锡山还有一个特点，他非常长于用朴实生动的话语，来表达他对枯燥的理论的认识。
有次课后讨论时，阎锡山问手下大将赵承绶：“什么叫政治？”
赵承绶引经据典，滔滔不绝。
阎锡山淡淡一笑：“没那么复杂！所谓政治，就是让对手下来，咱们上去！”
阎锡山又问：“什么叫宣传？”
赵前一问题失了分，又抢着回答，依旧洋洋洒洒，说古论今。
阎锡山更加不屑：“没那么复杂！所谓宣传，就是让大家都认为咱们好，别人不好！”
这时候的阎锡山面对着三大强敌——老蒋、日本、共产党。如何在“在三个鸡蛋上跳舞”？阎锡山的办法是“拒蒋又要拥蒋，抗日又要联日，反共又要容共”。
比如对共产党，搞阶级斗争、暴动造反夺取政权，他就反对，因为他认为这样不对（当然也是出于他的集团利益）。不搞阶级斗争，不搞暴动造反，他就包容。
所以，当时的阎锡山对陕北红军采取“剿灭”政策，对共产党在山西的基层组织采取抓捕政策，而对这些共产党的理论家采取容留甚至是保护的政策。
要知道，1934年秋到1935年底这段时间，正是国民党在全国各地最严厉捕杀中共地下党的时期，这些共产党理论家在上海、平津等地待不下去，正好受邀来到山西，在阎锡山面前热热闹闹地宣传起了马克思主义。
问题是，阎锡山知道他们是共产党吗？当然知道。就算不知道，蒋介石的特务机关不是白吃饭的，肯定也会让他知道。
张友渔回忆说，国民党抓他的原因，是由于叛徒出卖，说他是中共北平市委主要领导，企图派人在平绥线上埋炸药，炸死去绥远视察的蒋介石。他到太原后，“国民党知道我在太原，就打电报给阎锡山派的山西省主席徐永昌，要他把我押送南京”。“阎锡山让徐永昌给南京回电说：‘此人不在太原’。但因山西省党部是蒋介石派，我在太原他们是知道的，阎不好再留我，就把我送走了。”
张友渔由此去了日本。《何梅协定》后，国民党中央势力退出华北，“留在太原同我一道做特科工作的徐冰、温健公通知我，形势变化，可以回来。我于八月间回国，仍在太原工作”。
看看，如此明确无误的共产党人，阎锡山都能瞒着蒋介石容留保护。而杜任之的重要情报任务之一，就是把阎锡山的思想动态报告出去。可惜的是，当时最后的特科以及白区各地的地下党与长征到达陕北的中央已经完全断绝了联系。
1936年2月红军的大规模东征，使得阎锡山的思想动态发生了很大的变化。
对于如何防共，阎锡山说了两个办法：“一是用法西斯方法防共。一是建设农业社会主义的防共方法”。他在《防共的两个根本大法》和《清除社会不平与防共》等文件中写道：“我认为这两条路，均可以彻底地防共。所谓法西斯的防共方法，是要富人增加负担，与政府合作，巩固现有的政权，抵抗共产势力的侵入。建设农业社会主义的防共方法，是废除土地私有权，树立土地公有制，消灭共产发生的基础。然而不走前一条路，就不能走后一条路，不走后一条路，就不能走前一条路。这两条路均能达到防共的目的，也可以当作防共具体做法的两个阶段来看，不但不冲突，并且是前后呼应的。”
在红军攻入山西之前，阎锡山更多考虑的是“建设农业社会主义的防共方法”，为此甚至可以把共产党的理论家们请来，共同研究探讨。一旦红军攻入他的地盘，阎锡山必然地就要转向“法西斯方法防共”。
在这样的形势下，阎锡山除调动各路晋军防堵红军外，在全省实行白色恐怖。从3月1日起，阎锡山连续发布命令查拿共产党员、红军侦察人员和其他所谓“影响治安”的嫌疑分子。6日，宣布全省戒严，给予各县县长、县公道团团长和地方团队的大队长以对共产党“先行枪毙，事后呈报”的权力。8日，又发布悬赏令：“一、凡在省内拿获有证据之共产党者，每名赏大洋100元；二、拿获密探者，每名赏大洋200元；三、通风报信因而拿获者每名赏大洋50元；四、赏洋立时向绥署请领。”在此煽动之下，各县竟然惨无人道地开展杀人竞赛，多杀者奖，少杀者罚；各县向阎锡山逐日报告，评定优劣。各县为邀功请赏，争相大肆捕杀外省籍商贩、乞丐。遇有腰系红裤带，衣服打红补丁，扎红头绳，身带一二枚国民党新发行镍币或小圆镜者，或衣服上纽扣特殊及短缺者，均被认为是与红军联络之标志，立即扣捕，或刑讯逼供，或拷打致死。省城太原街警林立，戒备森严，熟人相遇，不敢顾视，偶有所语，即被留难。国民师范、山西大学等校频遭军警围捕，一次逮捕学生就达百人，一批爱国师生惨遭毒手。
1935年8月，北方局派王文达以特派员身份去山西恢复重建山西地下党组织。他回忆当时的情况时说：“红军东征后，为了配合红军东征，我就急派武永祥同志去晋西一带，设法与红军取得联系。但是过了几天武来信说，白军封锁很严，不准一般人来往行动，只好待在家里，暂时也回不到太原。同时太原城里也紧张起来了，查户口，要铺保。报纸上也登出要每个市民带标志的规定。我记得是：能找到两个铺保的戴一个花的标志，能找到一个铺保的戴两个花的标志，找不到铺保的戴三个花的标志。”
不但地下党存不住身，张友渔等教授学者也待不住了。1936年4月，南京给阎锡山发来电报：“查《中外论坛》专门翻译外国共产党的文章，宣传共产主义，混淆视听，应予查办。”这回阎锡山没有含糊，二话不说批示“照办”。《中外论坛》停刊，“中外语文学会”解散。张友渔、徐冰等人只好又撤回北平。
那么，阎锡山后来又是为什么采取了联共政策呢？
关于这段历史，许多著述说，是因为“入晋剿匪”的十万中央军在红军回师陕北后迟迟不退，阎锡山惧其用心叵测，担心“我不亡于共，也要亡于蒋了！”于是他停止反共，转而联共。
这个说法其实问题很大，因为1936年6月，李宗仁等发动“两广事变”反蒋，5月26日刚刚被任命为“剿匪总指挥”的陈诚，6月4日就从太原飞南京，5日飞武汉，被蒋介石派去处理“两广事变”，晋绥军事大权重又回到阎锡山手中，入晋增援的中央军主力关麟征、胡宗南部也已于7月南调离境了。
中共中央认为，“九一八”事变之后，特别是在日本帝国主义窥视华北准备大举入侵之时，民族矛盾上升到主要地位，应该建立最广泛的抗日民族统一战线，一致对外。
蒋介石说，不对，“攘外必先安内”。
可在这一问题上，阎锡山与蒋介石存在分歧。
阎锡山一针见血地对蒋介石指出：“安内则势难攘外，攘外则无力安内。”
蒋介石又是什么反应呢？他对老谋深算的阎锡山无计可施，只得在日记中发泄不满，批评阎锡山“无定识与定力”。
在如此严峻的情况下，安内乎？攘外乎？阎锡山一时拿不定主意。
就在这关键的时刻，偏偏从上海来了个电影明星陈波儿，而且陈波儿还闹出了一场风波，就是这场风波，使得一贯反共的阎锡山突然对共产党“情有独钟”起来。
1936年4月，日军配合德王的伪军进攻绥东，阎锡山命傅作义奋起反击，取得了胜利，在全国引起轰动。为此，上海著名电影演员陈波儿率领一个抗日慰问团，赴绥远慰问伤员。这本是一件很好的事，没想到却引起了阎锡山集团内一部分上层人物的反对，说陈波儿是个共产党员。
偏偏阎锡山对此不以为然，在一次高干会议上严厉批评这种排斥共产党的论调，他说了一段相当精彩的话：“天下第一等的好事不做，第一等的好人就离开你；第二等的好事不做，第二等的好人也会离开你；第三等的好事也不做，第三等的好人也离开你。现在抗日就是第一等好事，人家一讲抗日，你就说他是共产党，这样就把第一等的好人推到共产党方面去了，有人到绥东慰问一下伤员，你就当人家是共产党，也会使这些人离开你，这是把长四条腿的动物全都当成老虎了。”
阎锡山决定成立牺盟会的消息传开后也同样引起了一场大风波，首先遭到邱仰睿、王靖国、孙楚、薄右丞等高干的强烈反对，他们甚至把阎锡山围起来又吵又闹，坚决不同意阎锡山这样做，连一向唯阎锡山马首是瞻的赵戴文，也站出来反对阎锡山的做法。
面对众多反对者，阎锡山力排众议，说：“冬天穿皮袄，夏天穿汗衫，需要什么就来什么，现在是需要牺牲救国的时候，成立牺盟会有什么不好？”他甚至当着反对者们的面，很不客气地指责老朋友赵戴文，“你自己说，是你聪明，还是我聪明？”
赵戴文是最了解阎锡山的，再三玩味这句话，他终于明白了阎锡山的苦心，并对其他反对者说：“我觉得还是总司令看得明白。”
8月下旬，阎锡山派亲信梁化之赴天津找朱蕴山[13]接洽，请朱蕴山来太原与阎锡山会谈：“百公嘱转先生，扫径以待，敬候高轩。”
朱蕴山与共产党领导王世英、南汉宸商量一番，来到太原面见阎锡山，与阎锡山达成三条：“第一，取消反共团体‘公道团’；第二，取消对陕北红军的封锁；第三，成立一个以抗日为宗旨的独立群众团体。”
朱蕴山离晋前，适逢阴历七月十五中元节，在太原市中山公园文流湖散步时，发现太原市竟召开追悼晋绥“剿匪”阵亡将士大会，很不痛快，写《中元节夜游太原中山公园》五言长歌50句，次日交梁化之转阎锡山，并责问说：“百公既然决定联共抗日，仍召开‘剿匪’追悼大会，恐与执行政策不利。”梁化之说这是过去决定的会，今后“剿匪”标语可以改正。午后，梁化之来送行说，以后山西方面可以保证不再有“剿匪”标语出现。
但是无论如何，让阎锡山做到这三条是相当困难的。“公道团”是阎锡山遍布全省城乡的基层组织，不是一声令下就可以取消的；在与陕北红军建立直接联系前，取消封锁实际上难以执行，他阎锡山总不能把黄河边的晋军都撤走吧；而抗日民众团体，阎锡山既不会主动去建立，恐怕也缺少这方面的能手。
然而想什么就来什么，1936年8月底，在阎锡山举办的“公道团暑期训练团”任指导员的杜任之，与他领导下的五个政治干事联名贴出一张壁报，发起组织‘抗日救国同盟会’，号召全国不分党派、不分阶级、不分男女老幼团结起来抗日救国。这张壁报，顿时就轰动了整个训练团。公道团的薄右丞当天就把此事报告了阎锡山。
阎锡山在日本留学时加入孙中山先生创建的同盟会，并在同盟会之下，与李烈钧等人组织了“铁血丈夫团”，他喜欢这类富有牺牲精神的名称，派梁化之亲自到训练团找杜任之谈话说：“会长认为组织民众救国会很好，不过‘抗日救国’是共产党的口号，我们不能用。会长主张‘守土抗战’、‘牺牲救国’，就把‘抗日救国同盟会’改成‘牺牲救国同盟会’好了”。
就这样，阎锡山同意梁化之开始筹备建立后来闻名全国的山西“牺盟会”。
牺盟会是1936年“九一八”事变五周年大会上正式宣布成立的，由阎锡山兼任会长，其表侄梁化之任总干事，主持具体工作。牺盟会成立之初虽然仍是阎锡山的御用团体，但由于形势的变化和左派进步青年实际的工作，它一开始就有了明确的宗旨和工作纲领，宣布“本会以铲除汉奸、武装抗敌、牺牲救国为宗旨”，号召“不愿做亡国奴的人们，我们不分党派，不分阶级，不分职业，不分穷富，不分性别，凡是愿意争取民众的生存与个人的出路的人们，都团结到牺牲救国同盟会来，我们要从晋绥人民和军政领袖的团结扩大到华北人民与军政领袖的大团结。在联合的力量之下抗战！抗战！抗战！抗战到底！”
在延安，毛泽东看到那份刊有牺盟会成立消息的宣言和报纸后，十分高兴地对周恩来说：“恩来呀，这和我们蒋委员长讲的‘和平未到绝望时期，外交途径未到最后关头’的调子不一样嘛！看起来，山西方面也开始和蒋介石的对日妥协政策唱反调了！好啊！”
这样一个公开宣传抗击日本侵略者的组织，自然立即引起了日本人的强烈反应。日本政府指令其驻太原的特务机关向阎锡山提出抗议，并由其外务省向南京国民政府外交部提出质问。
在南京，蒋介石得知牺盟会成立的消息后十分恼怒，对部下吼道：“这牺盟会的矛头何指？阎百川又在搞什么把戏！”
而阎锡山周围的反共势力，也趁机发难，要求取缔牺盟会。面对种种压力，阎锡山采取了一个能左右逢源的新策略，即：牺盟会采取共产党的某些进步措施和口号，但在提法上要换成“山西语言”；重用一些坚决抗战有号召力的共产党人，但这些人不能以共产党员或共产党代表的身份，而是以山西抗日进步分子的面目出现。说穿了，就是要借助于共产党善于发动群众、组织群众的特长，利用共产党的影响力，但又必须打着山西的旗号。
不难看出，在民族危亡关头，阎锡山在对蒋、对日、对共三方面关系的处理上，是把中日或阎日矛盾放在主要矛盾考虑的，而要解决这个矛盾，靠国民党中央不行，仅凭自己的力量也不行，还必须借助共产党的力量，唯有如此，才能抵抗日本人的侵略，保住山西。经过反复权衡，阎锡山终于下定决心，做出了“迎共抗日”的正确选择，开始走上联共抗日的道路。
国难当头之际，阎锡山能够摒弃党派之争，甚至敢于起用比自己的部属更能干的共产党，无疑反映了他超乎寻常，较为宽阔的政治胸襟。历史早已证明，阎锡山此举是正确的，也是他人生中最为辉煌的一抹色彩，当时包括国民党在内的许多人，对于阎锡山“迎共抗日”的举措，都是持肯定态度的。
然而，事隔多年后，国民党方面在这个问题上仍有人对阎锡山进行诘责，认为阎锡山于中原大战后，一面阻挠国民党在山西的活动，致使国民党不能公开活动长达6年之久，“一面招纳平津及全国各地共党分子，大量训练所谓青年干部、民训干部、行政干部及村指导员等，从此山西各县，即成共党天下。”
因而，山西“赤化”，乃阎锡山之过。
这些人还说，抗战初期，由于阎锡山让共产党人担任好几个行政区的行政专员，又兼抗日决死队各纵队政治委员，结果，“晋西事变”后，山西新军及各县地方团队约50个团，约15万人同时“叛变”，携带新的武器装备，与朱德、刘伯承、林彪、贺龙等公然合股，“你的本意是想利用共产党，结果反为共产党所利用，朱毛经此装备，如虎添翼，所有华北军略要地，几尽为其盘踞，其势如火燎原。后来大陆沦陷，实种因于此[14]。”
也就是说，阎锡山是国民党垮台的罪魁祸首。
正因为如此，阎锡山1960年5月23日在台北去世，台湾当局准备为其举行“国葬”时，台湾《民族晚报》5月29日发表的社论《阎锡山值得国葬吗？》认为，抗战前后，“阎氏大量培植‘左倾’分子，卒使共党势力在山西做大”，综观其一生历史，“纵不能说是罪大于功，至少是功过兼有，瑕疵互见”，所以，不符合“国葬法”所规定的“有特殊勋劳，有伟大贡献”，“我们对阎锡山先生国葬之论，期期以为不可”[15]。
