夏朝的监狱称作圜土。《今本竹书纪年》载：“夏帝芬三十六年作圜土。”《尔雅·释名·释宫室》解释：“狱……又谓之圜土，筑其表墙，其形圆也。”因而，夏朝的监狱大体是用土筑成圆形的围墙用以拘押囚犯，这是一种很原始的形式。
至西周，对监狱的称法多有不同。有称“囹圄”者，《风俗通》载：“狱，周曰囹圄。”西周的囹圄，不仅是拘押罪犯的意思，而且包含着“令人幽闭思衍”的思想，这是奴隶主阶级其狱政思想不断发展的结果。有谓“圜土”者，如《周礼》郑玄注：“圜土谓狱城也。”周代的圜土是带有收容与囚禁这样双重性质的机构。也有曰“犴狱”者，即“乡亭之系曰犴，朝廷曰狱”。这皆表明西周的狱制在夏商的基础上有了较大的发展，形成了不同类型的监狱。
春秋对监狱的说法和西周大致相同。如“囹圄”、“圜土”等。此外，还称监狱为“狴犴”。《孔子家语·始诛篇》载：
“孔子为鲁司寇，有父子讼者，夫子同狴执之。”狴者，狱牢也。狴也叫狴犴，是一种传说中的野兽，力猛似虎。后人常用狴犴作为狱门的装饰，以达渲染恐怖气氛，显示监狱的威慑作用。
战国时期的狱名叫囹圄，如《管子·五辅篇》说：“善为政者，仓廪实而囹圄空；不能为政者，仓廪虚而囹圄实。”因各诸侯国争霸，战争俘虏增多，七国普遍设狱。《尉缭子·将理》就有“小圄不下十数，中圄不下百数，大圄不下千数”的记载。
由汉代始，我国监狱才正式称狱。《汉书·刑法志》载：
“天下狱二千余所。”不仅只此，汉代监狱的管理制度，如系囚制、呼囚制、颂系制、孕妇缓刑制、录囚制等都达到了比较完备的程度，为后来历代监狱管理制度的发展奠定了基础。
直到清代，古代的“牢狱”，才正式更名为“监狱”，监狱的名称被正式列在大清会典中，对监狱的称谓就这样一直延续到今天。
