1950年秋，陈沂离开第四野战军兼屮南军区后勤部政治委员岗位，到总政治部文化部任部长。1958年3月他被错划为右派，被迫离开总政。陈沂在总政八年，为中国人民解放军的文化建设呕心沥血，取得了很大的成绩。
《上海滩》杂志上曾刊登姚征人写的《徐玉兰、王文娟从军记》，提到了陈沂当年抓军队文化建设的气魄：
1952年7月初，这是个百业倶兴，欣欣向荣的年代，上海市文化局戏改处刘厚生同志的办公室里，坐着两位北京来的不速之客，一位是剧作家黄宗江同志，另一位是总政歌舞团兰茜同志。他俩是奉总政文化部陈沂部长之命，来上海扩展一个一流的越剧团去北京，因为总政文化部正准备以前苏联大剧院模式，创建一个包括十大戏曲剧种的中国大剧院。
在1996年12月163召开的中国文联第六届代表大会上，陈沂同志荣获名誉委员称号。此次会议共授予33人为名誉委员，以表彰他们为中国文艺所作出的重大贡献。陈沂获此殊荣，根本原因在于他对解放军文化建设的贡献。
田禹同志在《陈沂与解放军文化建设》一文中，为我们展现陈沂当年的风采：
一、部属文化实体的建设
毛泽东同志说过：没有文化的军队是愚蠢的军队，而愚蠢的军队是不能战胜敌人的。我军从红军时代开始，就注意部队的文化建设。建国以后，部队在文化建设方面投入大量的人力和物力，总政设立文化部专门抓文化工作。陈沂为首任部长，对全军的文化建设制定了颇为宏伟的规划。
在1950年12月召开的全军第一届宣教文化工作会议上，陈沂作了题为《把人民解放军的文艺工作提高一步》的报告。报告总结了近年来人民解放军文艺工作的成绩和不足，提出了今后的方针和做法。
在这个方针指导下，文化部制定了军队文艺工作的年度计划及今后发展的规划。对部队文艺队伍的建设，陈沂尤为重视。他提出，部队领导者应把文艺军队当成自己的一种兵种，把领导文艺工作当成领导与组织战争和政治工作的一部分。在这一思想指导下他下大力抓好文艺队伍的组建工作，首先是抓文化部直属文工团、队、文艺编辑部及制片厂、体工队等的建立和发展工作。
到任不久，陈沂就承担了筹办中国人民解放军战绩展览的重任，趁机调集了一批人才，圆满完成任务。他以这批人才为基础，组建部属各级处室及文工团、队等。
首先筹建总政文工团，由陈其通负责。文工团最初设有了3个专业团体：话剧团约100人，歌舞团约300人，歌剧团约100多人。
话剧团先上演了《冲破黎明前的黑暗》、《曙光照耀莫斯科》、《伏契克》等大型剧作，在首都戏剧界很有影响。他们后又创作、演出了《万水千山》（陈其通）、《战斗里成长》（胡可）、《钢铁运输兵》（黄梯）、《战线南移》（胡可）、《地下长城》（傅铎）、《保卫和平》（宋之的）等大型话剧，在海内外均有影响。
歌舞团的节目健康清新，很有生活气息和时代色彩。周总理很欣赏，凡有外事活动，都让总政歌舞团去演出。1954年下半年，陈沂被任命为中国人民解放军文化代表团团长，率领总政歌舞团270余人赴前苏联、罗马尼亚、捷克斯洛伐克和波兰访问演出，历时半年。该团富有中国民族和民间特色的精彩歌舞，使各国的观众为之倾倒。
歌剧团演出的《白毛女》、《血泪仇》等，在巡回演出中，给战士极大的教育和鼓舞。后来，文工团还建立了评剧团、京剧团、越剧团，以及曲艺队、杂技团等，规模更加扩大。
其次，筹办《解放军文艺》、《解放军画报》等刊物。
陈沂深知文学作品的教育感染作用，积极筹办部队文艺刊物。他先办《解放军文艺》，请朱德总司令题写刊名，由宋之的任主编，马楠（女）、张桂任副主编（后来调魏巍来任副主编），编辑人员从各野战军及各特殊兵种抽调，有陆柱国、冯秀娟（女）、许以（女）、李津勋（女）、王愿坚等，组成编辑部；加上美工、出版、发行人员共20余人。办刊宗旨是：以反映部队生活的题材为主，对部队和人民进行拥军爱民的教育，宣扬人民军队的英雄事迹，密切人民和军队的鱼水关系。
陈沂狠抓《解放军文艺》的办刊方向，要求一方面反映部队文艺创作，以之对人民进行宣传；一方面对战士进行文化教育，以战士为主要创作者，培养军队的作家。如创刊号上就首发战士的诗歌《美军十大怕》；有的期号用战士作品发头条。有的同志为此有异议，认为太大众化、太普及、缺少名人作品。陈沂认为：名人作品要有，千千万万的战士的作品也要有；要有战斗性、群众性，面向基层、面向连队。由于坚持了正确的办刊方向，充分调动了全军文学爱好者的创作热情，涌现了一大批部队作者，有的后来成为颇负盛名的作家。刊物的质量也日渐提高，受到了军内军外群众的喜爱，声誉日隆，发行量达30余万份。名作家丁玲说：
《解放军文艺》一开始就以崭新的面貌出现，给人以新鲜的感觉。
陈沂在山东办过画报，积累了一些经验。经过一番努力，组成了解放军画报社，他兼任社长、田野任副社长，从全国各地调来一批有水平的编辑、摄影和美术工作者。他请毛泽东主席题写刊名，并确定办刊宗旨是：以反映部队生活、战斗为主，兼及民间活动，着重宣扬革命英雄主义、革命乐观主义，继承和发扬我军优良传统。此刊发行以来，40年不曾中断，它比较系统地反映我军现代化建设的历程，表现了海、陆、空三军及广大民兵的战斗风彩。此刊不仅深受全军指战员的喜爱，也深受全国各族人民的欢迎；发行量达数十万份，普及到全国各县、乡、镇以及我军各连队。
此外，总政文化部还办了《解放军歌曲》、《解放军战士》等刊物，在全国都很有影响。
第三是创建八一电影制片厂。初建时，中央电影局只派来一位导演和一位摄影，只搞点军事科教片和新闻纪录片。陈沂决心要办一个像样的制片厂，要独立摄制故事片，配备齐导演、演员、编剧、摄制等人员。
夏国瑛在美国学过电影，陈沂先把她调来筹建厂房，从跑地皮、画图纸到建厂房、宿舍，直到正式投产；又调唐瑜任技术副厂长，由他购置摄影器材，组装摄影棚，开拍故事片；还调王苹（宋之的同志的爱人）来任导演。他们首先拍摄了军事教育片《河川进攻》，然后拍了故事片《柳堡的故事》、《冲破黎明前的黑暗》、《战斗里成长》等。
此外，为创建八一体工队，陈沂也花费不少心血。体工队的篮球队、排球队和足球队，在全国性比赛中，经常名列前茅，很有名气。陈沂被推选为中华体育总会常委。
1952年，全军召开第。届运动会，主要由文化部筹办。比赛项目除通常者外，还开设了跳伞、空中旋转、赛马、冲碉堡、穿火山、架云梯等，与部队日常训练科目相适应，很受战士们欢迎。
除抓好文化部直属实体的组建之外，陈沂还抓了全军各部队文化实体与文艺队伍的建设。他要求各野战军、大军区成立文化部、创作室，军、师、团建立文工团、队，连队也要办业余文艺演出队、俱乐部。当时全军上下，形成了一支专业与业余相结合的文艺大军，足有十万之众。有了这支文艺大军，极大地丰富了部队的文化生活，对提高部队的思想文化素质，提高士气与战斗力等方面，都有相当的推动作用。
二、专业人才的物色与培养
为了把解放军的文艺工作提高一步，陈沂提出了部队文艺工作者向专业作家学习，向军队以外的社会生活学习的要求。学习的基本原则是要保持人民解放军永远是个战斗认的特点，一不盲目学习，二不丢掉光荣传统。向外、向专业作家学习是为了丰富自己，更大胆地进行创造，也是为了更好地指导、提高和推动连队和文化活动，丰富部队文化生活，进一步借重专业作家的特长去锻炼他们；同时也通过部队生活的深入体验，逐渐改造、提高专业作家水平，从而把人民解放军的文艺工作提高一步。这种提高是双向的，专业作家与一般文艺工作者在部队这个大熔炉里都得到锻炼，共同提高，进而达到整个文艺工作的提高。
为物色对部队文艺工作有用的专业文艺人才，陈沂是尽心竭力的，也卓有成效，其中有不少生动的事例。
如南京著名曲艺演员高元钧，他表演的山东快书《一车高粱米》，使陈沂听得入迷。他感到这种曲艺形式，道具简单，内容生动活泼，引人入胜，很适合在连队开展，于是想把高元钧请入部队。当时高元钧的月薪是600万元（后改新币600元），是高薪演员。他本人以入伍为最大光荣，很乐意，但部队是供给制，除吃穿外，分文工薪倶无。他得养家糊口，不能没有工资陈沂经总政领导同意，每月给高元钧200万元。高元钧为了成为光荣的文艺兵，为人民的军队脤务，甘愿放弃每月600万元的工薪。在职别上，高元钧穿上呢军服，享受级千部待遇。他一心一意培养部队的快书人才，使这一曲艺形式普及到每个连队，并推动山东快书的创作，出了一批好作品。
又如唐瑜，是位华侨，早年是党的同情者。他家很有钱，抗战期间，在重庆开了个招待所，专门接待无职无业的进步文化工作者，吃住不取分文。郭沫若也经常出入此处，与其他文化工作者交往，还戏题了二流堂的榜额赠给唐瑜。唐瑜精通电影制作技术，陈沂调他入伍，任电影处副处长。他从香港带回大批摄影机和其它器材，无偿赠给部队。1954年，他加入了中国共产党，成了八一电影制片厂主管业务的副厂长，对八一厂的建设做了很大贡献。
著名舞蹈家吴晓邦李陈沂的动员下，也光荣入伍，创作了《进军舞》，有很高水平，深受战士们的欢迎。由于宋之的多方奔走，一批著名的地方剧团演员相继入伍，建立了一批文工分团。如徐玉兰、王文娟带了越剧团入伍，她们去朝鲜慰问演出达半年之久，荣获朝鲜人民共和国颁发的功勋章。李明盛、李丽芳、谭元寿等京剧名角也入伍，组成总政文工团的京剧团。名角新凤霡也-度入伍，成立了一个评剧团。还有以潘家班为基础的杂技队，也成了解放军文艺战士，继承民族优秀传统，在军内巡回演出和出国演出中均受欢迎，为全军和全国人民赢得荣誉。
还有著名导演王苹，陈沂把她从上海调来八一制片厂，充分发挥她的才智。她接连导演了多部影片，如《柳堡的故事》、《永不消逝的电波》、《闪闪红星》、《中国革命之歌》等，在国内外都享有很高声誉。
为了提高文艺人才的水平，除通过国内招收专家之外，他还从国外聘请专家。如从德国聘来指挥家德夫曼来文工团教指挥，聘请保加利亚声乐教授切尔金夫妇来教声乐。他们对提高歌舞团和歌剧团的技术水平都发挥了较好作用。
对部队的青年作家，凡发现他们有好的创作题材，或有基础的稿本，就尽力提供良好条件，促使其早出成果。如他得知杜鹏程在写《保卫延安》，就把他调来北京，提供住宿和写作地点，让他安心创作，终于完成这部名作。又如陈其通原在东北军区文化部当科长，陈沂听说他在写话剧《万水千山》，就调他来抓文工团，让他创作完成这部作品。
战士中涌现出一些有文艺才能的苗子，陈沂就要《解放军文艺》编辑部派人去辅导，使之早日成才。如战士高玉宝，文化水平很低，但有很丰富的生活和很高的创作热情。经辅导后，高玉宝文化水平提高很快，终于创作了长篇小说《高玉宝》，其中《半夜鸡叫》、《我要读书》等，被选入中小学语文课本，并被改编成多种艺术形式，传播很广。其它如崔八娃等，都是由战士中培养出来的作家。
有的部队作家，因受偏激的文学批评而处于逆境的时候，陈沂常站出来为他们说话，抵制教条主义的批评，给受屈的作家以道义上的支持。如1953年某期《解放军文艺》发表了中篇小说《地上的长虹》，引起争论，否定的批评措词尖锐，作者徐怀中受到了很大的精神压力。陈沂与马楠以东木的笔名发表评论文章，给这篇小说以实事求是的评价，批评那些吹毛求疵、主观臆断的指责，使这位年轻的作者很受鼓舞，继续深入生活，坚持创作，后来成了著名作家。
在人才培养方面，陈沂有明确的目标：为部队培养名作家名演员。在当年视名利为猛兽，把成名成家等同于资产阶级思想的时代氛围中，人们往往谈名色变。陈沂从军队文艺工作要提高的目标为出发点，公开提出培养名作家、名演员，是很有胆略的。在他的倡导与激励下，部队的文艺工作者不怕扣白专的帽子，力争提高自己的写作能力与表演水平，争取成为名作家和名演员。各大军区的文化部，也把培养名作家名演员作为自己努力的方向，给有才华、有潜力的作家、文艺工作者提供合适的条件，充分发挥其才智，使之尽快成才、成名。经过十几年的锻炼、培养，全军上下涌现了一批知名文艺家。如作家和剧作家有陈其通、胡可、魏巍、刘白羽、杨朔、华山、丁毅、白桦、陆柱国、顾国璋、宋之的、沈西蒙、沈默君、沈亚威、吴强、曲波、赵襄、白刃、傅铎、徐怀中、叶楠、魏传统、冯德英、黎汝清、王愿坚、史超等；诗人有李瑛、魏钢焰、吕通、马寒冰、田歌等；著名演员有田华、王晓棠、蓝马、张良等；歌唱家、音乐家有马玉涛，作曲家时乐蒙、傅庚辰等；导演除王苹外，还有严寄洲等。真是人才辈出，誉满神州。
三、鼓励创作，发展批评
文艺工作的提高，主要以创作的质量与数量为标志。对文艺作品的价值，陈沂在《把人民解放军的文艺工作提高一步》中作了这样的论述：
应当看重一个真正为士兵的文艺工作者（作家和演员），经过考验的他们创作出的作品，其重要性并不亚于打一次胜仗，缴获多少门大炮，几十辆汽车。
这正是对文艺工作者的最高评价。
