晋商兴起于明初。为了防范蒙古人的骚扰和侵袭，明王朝从东北的鸭绿江到西北的嘉峪关一线厉兵八九十万、秣马三十多万，设立了九边重镇，这就人为地建造了一个高额的消费区。为解决这些兵马的生存和需要，山西的大商小贩，捷足先登，蜂拥而至，操起贩运各种货物的生意。
山西自古就有表里山河的称谓。意思是说山西外是山内是河，它夹在太行山脉和吕梁山脉之间，在北边和内蒙古草原相邻，南边紧挨着广阔的中原腹地，这种独特的自然环境给精明的山西商人的崛起指明了方向。
而山西独有的商业模式与同一时期的徽商一样，都是农耕文明商业运作的结果。无论是乔致庸的驼队深入草原，还是胡雪岩的船只游走于江浙，他们的商业路线都围绕在传统农业文明的视野范围之内。他们大多非常熟悉农业生产，了解中国农民的生产生活需求，深刻认识到在农耕社会中互通有无的重要性，不甘于以农养农的现状，于是他们背井离乡，凭借吃苦耐劳的精神和贯穿前人的智慧，最终获得了成功。
在农业社会时代发迹的晋商必然带有农业社会的一些特点，比如说与军事政治的关系，晋商的发展是与其紧密相连的。明朝洪武年间，为了解决北边驻军军饷不足的问题，明政府效仿宋朝的做法，制定了“召商输粮而与之盐”的政策，即“开中法”。具体方法是商人把粮食运到边境粮仓，政府在收到粮食后，向商人发放贩运食盐的盐引，商人可凭盐引到指定的盐场领取食盐，再到政府规定的地方去贩卖，获取利润。所以在那种情况下很多晋商都是跟着军队走的，军队走到哪儿，晋商就跟到哪儿。
山西商人的商业模式虽然依托于农耕文明，但是也有很多出奇制胜的创新之处。在乔家大院、王家大院、常家大院等很多地方，拥挤的院落中曾经是豪华奢侈的财主生活之处，院落的上空是一块狭小的巴掌大的天空。他们接受的文化是内敛的传统文化，他们所处的社会是“农为天下根本”的农业社会，从根本上来说，晋商文明是植根于农耕文明中的商业文明，在其中处处浸透了农耕文明的特点，但是这些土财主却是号称“汇通天下”的大东家，他们的经商事业早已超出了农耕文明的范围。
清王朝许多大规模的军事活动得力于晋商的赞助。康熙年间西北准噶尔叛乱，清政府调集重兵征剿，当时因路途遥远，运输粮秣成为最突出的问题。晋商得知后积极地随军进剿，代运军粮。除此之外，在平定三藩之乱，平定大小金川叛乱以及镇压太平天国、川楚陕白莲教大起义、捻军起义等军事行动中，清政府都得到了晋商在财力物力上的大力支持。据说有个叫王绳中的晋商一次赠给乾隆皇帝白银一百万两作为军饷，被称为“百万绳中”。
等到山西票号创立后，晋商又为清廷代垫代办汇兑军饷、筹借汇兑抵还外债、代理部分省关的财政金库等。因此就有了“山西票号是清廷的财政部”的说法，此话并非民间戏言。
在晋商这里，农耕文明和军事文明相汇交融了，这为人类文明开创出一条崭新的道路。晋商及晋商时代的东方商人为此做了可贵的尝试，成为人类文明发展史的典范。如果不是军事文明和农耕文明之间展开了一场声势浩大的战争，如果不是西方列强的战争侵略，中断了中国文明转型的自然进程，“和为贵”的儒教伦理及“和气生财”的经营理念，将衍生出一个最具东方特色的文明古国。
