垣崇祖，字敬远，下邳人也。族姓豪强，石虎世，自略阳徙之于邺。曾祖敞，为慕容德伪吏部尚书。祖苗，宋武征广固，率部曲归降，仍家下邳，官至龙骧将军、汝南新蔡太守。父询之，积射将军，宋孝武世死事，赠冀州刺史。
崇祖年十四，有干略，伯父豫州刺史护之谓门宗曰：“此儿必大成吾门，汝等不及也。”刺史刘道隆辟为主簿，厚遇之。除新安王国上将军。景和世，道隆求出为梁州，启转崇祖为义阳王征北行参军，与道隆同行，使还下邳召募。
明帝立，道隆被诛。薛安都反，明帝遣张永、沈攸之北讨，安都使将裴祖隆、李世雄据下邳。祖隆引崇祖共拒战，会青州援军主刘弥之背逆归降，祖隆士众沮败，崇祖与亲近数十人夜救祖隆，与俱走还彭城。虏既陷徐州，崇祖仍为虏将游兵琅邪间不复归，虏不能制。密遣人于彭城迎母，欲南奔，事觉，虏执其母为质。崇祖妹夫皇甫肃兄妇，薛安都之女，故虏信之。肃仍将家属及崇祖母奔朐山，崇祖因将部曲据之，遣使归命。太祖在淮阴，板为朐山戍主，送其母还京师，明帝纳之。
朐山边海孤险，人情未安。崇祖常浮舟舸于水侧，有急得以入海。军将得罪亡叛，具以告虏。虏伪城都将东徐州刺史成固公始得青州，闻叛者说，遣步骑二万袭崇祖，屯洛要，去朐山城二十里。崇祖出送客未归，城中惊恐，皆下船欲去。崇祖还，谓腹心曰：“贼比拟来，本非大举，政是承信一说，易遣诳之。今若得百余人还，事必济矣。但人情一骇，不可敛集。卿等可急去此二里外大叫而来，唱‘艾塘义人已得破虏，须戍军速往，相助逐退’。”船中人果喜，争上岸。崇祖引入据城，遣羸弱入岛，令人持两炬火登山鼓叫。虏参骑谓其军备甚盛，乃退。崇祖启明帝曰：“淮北士民，力屈胡虏，南向之心，日夜以冀。崇祖父伯并为淮北州郡，门族布在北边，百姓所信，一朝啸咤，事功可立。第名位尚轻，不足威众，乞假名号，以示远近。”明帝以为辅国将军、北琅邪兰陵二郡太守。亡命司马从之谋袭郡，崇祖讨捕斩之。数陈计算，欲克复淮北。时虏声当寇淮南，明帝以问崇祖。崇祖因启：“宜以轻兵深入，出其不意，进可立不世之勋，退可绝其窥窬之患。”帝许之。崇祖将数百人入虏界七百里，据南城，固蒙山，扇动郡县。虏率大众攻之，其别将梁湛母在虏，虏执其母，使湛告部曲曰：“大军已去，独住何为！”于是众情离阻，一时奔退。崇祖谓左右曰：“今若俱退，必不获免。”乃住后力战，大败追者而归。以久劳，封下邳县子。泰豫元年，行徐州事，徙戍龙沮，在朐山南。崇祖启断水注平地，以绝虏马。帝以问刘怀珍，云可立。崇祖率将吏塞之，未成。虏主谓伪彭城镇将平阳公曰：“龙沮若立，国之耻也，以死争之。”数万骑掩至。崇祖马槊陷阵不能抗，乃筑城自守。会天雨十余日，虏乃退。龙沮竟不立。历盱眙、平阳、东海三郡太守，将军如故。转邵陵王南中郎司马，复为东海太守。
初，崇祖遇太祖于淮阴，太祖以其武勇，善待之。崇祖谓皇甫肃曰：“此真吾君也！吾今逢主矣，所谓千载一时。”遂密布诚节。元徽末，太祖忧虑，令崇祖受旨即以家口托皇甫肃，勒数百人将入虏界，更听后旨。会苍梧废，太祖召崇祖领部曲还都，除游击将军。沈攸之事平，以崇祖为持节、督兖青冀三州诸军事，累迁冠军将军、兖州刺史。太祖践阼，谓崇祖曰：“我新有天下，夷虏不识运命，必当动其蚁众，以送刘昶为辞。贼之所冲，必在寿春。能制此寇，非卿莫可。”徙为使持节、监豫司二州诸军事、豫州刺史，将军如故。封望蔡县侯，七百户。
建元二年，虏遣伪梁王郁豆眷及刘昶马步号二十万，寇寿春。崇祖召文武议曰：“贼众我寡，当用奇以制之。当修外城以待敌，城既广阔，非水不固，今欲堰肥水却淹为三面之险，诸君意如何？”众曰：“昔佛狸侵境，宋南平王士卒完盛，以郭大难守，退保内城。今日之事，十倍于前。古来相承，不筑肥堰，皆以地形不便，积水无用故也。若必行之，恐非事宜。”崇祖曰：“卿见其一，不识其二。若舍外城，贼必据之，外修楼橹，内筑长围，四周无碍，表里受敌，此坐自为擒。守郭筑堰，是吾不谏之策也。”乃于城西北立堰塞肥水，堰北起小城，周为深堑，使数千人守之。崇祖谓长史封延伯曰：“虏食而少虑，必悉力攻小城，图破此堰。见堑狭城小，谓一往可克，当以蚁附攻之。放水一激，急逾三峡，事穷奔透，自然沈溺。此岂非小劳而大利邪？”虏众由西道集堰南，分军东路肉薄攻小城。崇祖著白纱帽，肩舆上城，手自转式。至日晡时，决小史埭。水势奔下，虏攻城之众，漂坠堑中，人马溺死数千人，众皆退走。初，崇祖在淮阴见上，便自比韩信、白起，咸不信，唯上独许之，崇祖再拜奉旨。及破虏启至，上谓朝臣曰：“崇祖许为我制虏，果如其言。其恒自拟韩、白，今真其人也。”进为都督号平西将军，增封为千五百户。崇祖闻陈显达李安民皆增给军仪，启上求鼓吹横吹。上敕曰：“韩、白何可不与众异！”给鼓吹一部。
崇祖虑虏复寇淮北，启徙下蔡戍于淮东。其冬，虏果欲攻下蔡，既闻内徙，乃扬声平除故城。众疑虏当于故城立戍，崇祖曰：“下蔡去镇咫尺，虏岂敢置戍；实欲除此故城。政恐奔走杀之不尽耳。”虏军果夷掘下蔡城，崇祖自率众渡淮与战，大破之，追奔数十里，杀获千计。上遣使入关参虏消息还，敕崇祖曰：“卿视吾是守江东而已邪？所少者食，卿但努力营田，自然平殄残丑。”敕崇祖修治芍陂田。
世祖即位，征为散骑常侍、左卫将军。俄诏留本任，加号安西。仍迁五兵尚书，领骁骑将军。初，豫章王有盛宠，世祖在东宫，崇祖不自附结。及破虏，诏使还朝，与共密议。世祖疑之，曲加礼待，酒后谓崇祖曰：“世间流言，我已豁诸怀抱，自今已后，富贵见付也。”崇祖拜谢。崇祖去后，上复遣荀伯玉口敕，以边事受旨夜发，不得辞东宫。世祖以崇祖心诚不实，衔之。太祖崩，虑崇祖为异，便令内转。永明元年四月九日，诏曰：“垣崇祖凶诟险躁，少无行业。昔因军国多虞，采其一夫之用。大运光启，频烦升擢，溪壑靡厌，浸以弥广。去岁在西，连谋境外，无君之心，已彰遐迩。特加遵养，庶或悛革。而猜贰滋甚，志兴乱阶，随与荀伯玉驱合不逞，窥窬非觊，构扇边荒，互为表里。宁朔将军孙景育究悉奸计，具以启闻。除恶务本，刑兹罔赦。便可收掩，肃明宪辟。”死时年四十四。子惠隆，徙番禺卒。
