建武三十年（公元54年）春二月，张纯等大臣借刘秀在齐鲁一带东巡时上言，以为本朝“受中兴之命”，应“守唐虞之典，继孝武之业”，乘东巡之机举行封禅大典，“以告成功焉”。没想到大臣们这一计好的举动遭到刘秀拒绝。
刘秀为了这件事还下诏说：“即位三十年，百姓怨气满腹，‘吾谁欺，欺天乎？’‘曾谓泰山不如林放’，何事污七十二代之编录！桓公欲封，管仲非之。若郡县远遣吏上寿，盛称虚美，必髡，兼令屯田。”意思是说，我即皇帝之位已经30年了，老百姓心里一肚子怨气，用孔子的话说，就是我能欺骗谁呢，难道要去欺骗上天吗？孔子说过泰山之神不如鲁人林放懂礼的话，又因为什么事非要去污秽七十二代封禅的先圣呢？当年齐桓公准备打算到泰山封禅，管仲非难而制止了他。如果地方郡县老远派遣吏员上寿，大肆进行称赞虚美，必定处以髡刑，并同时罚以屯田。这以后大臣们不敢再建议封禅的事了。
古代祭祀天地，有一种特殊的形式，便是封禅。这实际是“封”与“禅”两种祭祀的合称。按《史记·封禅书·正义》的解释，“封”即“泰山上筑土为坛用来祭天，报天之功”；“禅”即“泰山下小山上除地，报地之功”。由这里可以看出，“封”是祭天的仪式，“禅”是祭地的仪式。《白虎通·封禅篇》讲：“王者易姓而起，必封升泰山何？报告之义。始受命之日，改制应天，天下太平，功成封禅，以告太平也。”这就是说，凡受命的天子，必须封升泰山，向天地报告成功与太平；如果没有到泰山去祭天祀地，那就不算完成就位天子的礼制。
古人之所以一定要到泰山上封禅，这是因为泰山是山之尊者，为五岳之长。传说远古之时，曾有七十二位君主在泰山举行过封禅，这就是前文刘秀诏书中所讲“七十二代之编录”的由来。当然，传说并不等于信史。历史上真正把封禅大典付诸实践的第一人，是千古一帝秦始皇，时在公元前219年。西汉雄才大略的汉武帝，继秦皇之后，也举行了封禅大典。其首次礼典，在公元前110年，为此特地把这一年的年号改为“元封”。这之后，武帝遵循五年一封修的定制，分别于元封五年（公元前106年）、太初三年（公元前102年）、天汉三年（从元前98年）、太始四年（公元前93年）、征和四年（公元前89年），共进行了五次封修。
元狩四年（公元前119年），大将霍去病出击匈奴，获胜后曾“封狼居前山（今蒙古国乌兰巴托以东），禅于姑衍（今乌兰巴托东南，狼居胥山之西）”，可见出征将军也可以进行封禅之礼。由于秦汉以来有这么多的封禅实践，所以东汉建国30年后，刘秀的臣子们上言皇帝举行封禅大典，也就是理所当然的了。
对于封禅的重要性，像刘秀这样精明的帝王，自然是不会不知道的。那么，他为何要拒绝大臣关于封禅的建议昵？诚然，他诏书里所讲的“百姓怨气满腹”，应该可以算是一个原因，但却不是这个问题惟一的原因。
实际上，问题的关键在于当时刘秀还没有找到举行封禅的谶纬根据（或者说，这类谶言还没有精心编制好）。这让人想起当年起兵反莽时等候谶纬依据的情形是一样的。果然，过了一段时间当刘秀找到谶纬依据后，他对于封禅的态度突然来了一个180度的大转弯，竟主动张罗起封禅了。事情的经过，史书记载是这样的：
建武三十二年（公元56年），上（刘秀）斋，夜读《河图会昌符》，曰“赤刘之九，会命岱宗。不慎克用，何益于承。诚善用之，奸伪不萌。”感此文，乃找松（梁松）等复案索《河图》谶文言九世封禅者。松等列奏，乃许焉。
所以刘秀立即命梁松等人收集整理《河图》中有关赤汉九世当封禅的谶文，而梁松等依据典籍也很快就找到有关实例三十六事。于是司空张纯等复奏请封禅，这次被立即批准。这时的刘秀，与两年前下诏严禁“盛称虚美”的刘秀，让人感觉就不像似一个人。
为准备封禅，刘秀诏有司“求元封时封禅故事”（即借鉴汉武封禅的做法），并“议封禅所施用”。然后有司回奏：“当用方石再累，玉检、金泥”。整个过程十分复杂。
在刘秀看来，如此复杂的祭祀用器，“石工难就”，因为刘秀一心要按照《虞书》所谓的“岁二月，东巡狩，至于岱宗，柴”的说法，一定要赶在二月举行封禅，所以打算“因孝武故封石，置玉牒其中”，“更加封而已”。梁松等都认为这个作法不妥，说这样“恐非重命之义”。于是乎只好采取了一个折中的办法，“乃命石工取完青石，无必五色”。即用一种常见的“完青石”作封石，而不按旧制，采用“各以方色”的五色石。
到了这年正月二十八，刘秀从洛阳出发，东巡封禅。二月九日抵鲁（今山东曲阜），十二日至奉高（今山东泰安东）。这时，造侍御史与兰台令史带领工匠先上山刻石。直到二十二日，封禅大典才正式开始：
晨，燎，祭天于泰山下南方，群神皆从，用乐如南郊。事毕，至食时，天子御辇登山，日中后，到山上，更衣。哺时，升坛背面，尚书令奉玉牒检，天予以寸二分玺亲封之，讫，太常命趋骑二千余人，发坛上方石，尚书令藏王牒已，复石覆讫，尚书令以五寸印封石检。事毕，天子再拜。群臣称万岁，乃复道下，夜半后，上乃到山下。百官明旦乃讫。
二十五日甲午，禅，祭地于梁阴，以高后配，山川群神从，如元始中北郊故事。
在这次封禅过程中，最先用的“燎”，亦作“燔”，即烧柴祭天，为汉代祭祀最常使用的方法之一。那时候的人认为，烧柴冒出的烟通达九霄，能够沟通天人。所谓“用乐如南郊”，是说这次泰山下祭天所使用的音乐与南郊祭天的音乐是相同的。所谓“如元始中北郊故事”，是说粱阴祭地的礼仪和元始年间北郊祭地的礼仪完全一样。“元始”为汉平帝的年号，当时王莽秉政，曾进一步规范祭祀天地的礼典，史称“元始之制”或“元始故事”。刘秀的泰山封禅活动，除参用汉武的“元封故事”而在有地方稍加变通外，其不少祭典，则遵循的是“元始故事”，即王莽手定的制度。
刘秀泰山封禅，总的来看，还是较为成功的。他没有像秦始皇那样在下山的半道上，被“暴至”的风雨浇得浑身精湿。不过，此后不久也发生了一件令他不怎么愉快的事，三月份，积极倡言并主持操办封禅的司空张纯回程的路上死掉了。张纯字伯仁，京兆杜陵（今陕西西安东南）人，出身于官宦家庭，少年时便继袭爵士。为人敦谨守约，通晓礼典。建武初年，他归附刘秀，并且受到刘秀重用。由于明习故事，朝中每有疑议，辄访问之，“自郊庙婚冠丧纪礼仪，多所正定”。对于他的突然去世，虽很容易被好事者穿凿附会，却也没有因此而引起过多的问题。夏四月，刘秀回到洛阳，随即颁诏大赦天下，改元，以建武三十二年为建武中元元年，同时免征博县（今山东泰安东南）、奉高、赢县（今山东莱芜北）一年的田租和刍藁。这样，整个的封禅活动，可以说算是画上了一个完满的句号。
