晋国的国君姬重耳在公元前7世纪即位晋国国王时，追随他流亡的那些大臣，组成了一个世袭的贵族统治集团，这个统治集团曾为晋国建立了长期的霸权。但他们的后裔却不能和睦相处，经过100多年的互相排斥，到了公元前6世纪50年代，只剩下了6个大家族：范家、中行家、智家、韩家、赵家、魏家。这六大家族共同掌握权力，如同鲁国的三桓政治，晋国国君也同鲁国国君一样，地位日益降低。
又经过100多年的排挤倾轧，到公元前5世纪40年代，范家和中行家被驱逐出国，六大家族只剩下四大家族，这剩下得四大家族都占有广大的领土，并且拥有强大的私家军队。当时的晋国国君姬错认为四大家族一定会对自己的王位造成威胁，于是，仿照鲁国的做法，秘密向齐国借兵，想要齐国帮助其解决四大家族。四大家族立刻得到了消息，便将姬错赶下王位，姬错逃出了晋国，但在途中就死亡了。
然而不久之后，四大家族也破裂了。智家是他们中最强大的一家，族长智瑶是一位极其聪明的人，因而也是骄傲自大的花花公子，产生了吞并其他三家的念头。于是开始向其他三家勒索土地，韩家和魏家不敢不答应，只有赵家拒绝。智瑶因此迁怒于赵家，周贞定王十三年（公元前456年），他联合韩家和魏家进攻赵家的根据地晋阳（山西太原），并约定把赵家灭掉之后，三家瓜分它的土地。晋阳城又大又坚固，围攻了两年，都无法攻下。周贞定王十六年（公元前453年），联军决开汾水的堤防灌城，水势浩大，仅差一点就要灌到城里去，形势万分危急。
就在这时，赵家族长密秘派人潜入联军营帐，向韩虔、魏驹两位族长分析了当前的形势：所有人都知道智瑶的欲望是没有止境的。赵家和韩、魏两家实际上是嘴唇和牙齿的关系，没有了嘴唇，牙齿也就很危险了。在力量相等的时候，韩家和魏家要割地给赵家，但是如果赵家灭亡了，韩家和魏家就不能分到土地了，即使能够分到，也不一定会永远拥有，所以，赵家、魏家和韩家应该联手，把智家的土地瓜分。这样，赵家能够保住地位，就会感激韩家和魏家，这样，韩家和魏家就能够永远免除被并吞的恐惧了。
韩家和魏家听了这样的分析，都认为很正确，便采取了行动。于是，一夜之间，形势完全变了。韩家、魏家和赵家联合兵力向正在睡梦中的毫无防备的智家兵团发起了猛烈的攻击，原本灌城的汾水汹涌地奔向智家防地，智家兵团全军覆没，赵、韩、魏瓜分了智家的土地。
唇亡齿寒
至此，晋国只剩下三大家族。史学家为了方便，像称“三桓”一样，称韩、魏、赵三家为“三晋”。如此一来，晋国国君的地位就更低了，反而到三家去朝见。
到了周威烈王二十三年（公元前403年），早被人遗忘了的，住在洛阳穷苦王宫里的周威烈王姬午，在收到三家的巨额贿赂后，非常高兴，下令擢升三大家族为国君，就在他们现有的地盘上建立国家。于是晋国灭亡，三个强大的新封国出现在了国际舞台上。
