当他正在闷闷不乐，害怕蒋介石忘记了他的时候，一个出乎意料的新的任务落到了他的身上。蒋介石决定派他担任军调处执行部北平办事处国民党方面的代表，叫他利用国民党和共产党进行“和平谈判”的机会，去对解放地区进行特务活动。这个平日反共最积极的特务头子，对中共情况比较了解，感到这一任务非常棘手，不容易完成。他急忙找戴笠商量，一连谈了两三天。戴笠向军统局各单位负责的大特务宣布，一定要尽全办协助郑介民去完成任务，要人给人，要钱给钱，要电台、武器、交通工具等都要尽先尽量供给，不准有任何借口拖延。戴笠认为蒋介石挑选郑介民去担任这个任务，不仅仅是对郑介民的信任，也是对军统的信任，因此无论如何要抓住机会，把多年来对解放地区布置工作屡遭失败的情况挽转过来。戴笠一面赞扬蒋介石这一决定的英明，一面破口大骂有人提出反对用这样一个公开的特务头子出任国民党方面的代表，说这些提不同意见的人没有头脑，没有常识，不了解抗日胜利后国内唯一的敌人是共产党。
在戴笠召开的紧急会议上，郑介民的心情表现得很沉重，不像往日那样指手画脚。他只简单地说了一些任务很重大，关系到党国前途，他个人力量有限，要大家一齐竭力帮助他，相信有蒋介石的“英明领导”和戴笠的随时指示，他有信心和决心把这一工作做好。他打破以往惯例，没有大谈他的分析看法。大家也了解，因为有戴笠在座，怕他不耐烦听，谁也没有向他提出什么问题。
过了两三天，郑介民又去军统找毛人凤，几个处长级的特务一下把他包围起来，问长问短，他才谈了一会。他认为最大最难的任务是如何在短期内恢复交通。他说，这些被共产党占据了的几条铁路是国民党的动脉，要想拿过来是有困难的。因为多年来国民党和共产党打打停停、停停打打，不容易使得对方相信自己的“诚意”，单靠运用政治手腕办交涉，开谈判，不用强大的军队作后盾，不会轻易得到圆满结果。他认为靠几十架飞机运送部队，只等于撒撒胡椒面一样，起不了多大作用，一定要把铁路交通恢复。
当有人问到他苏联会不会公开阻拦国民党接收东北和帮助共产党的时候。这个以了解苏联情况最多的专家自居的郑介民，便打开话匣滔滔不绝地谈了起来。他认为苏联不会公开阻拦只是暗中加强援助中共，并举出了许多理由证实他的看法。
对于向解放地区搜集情报，他认为机会很好，平日不能进入的地区现在可以公开进入。他以开玩笑的口吻说：“过去你们老是说这方面的情况太少，将来你们连看都看不过来的时候可不要怪我！”
临走的时候，他很严肃地提出警告，叫大家千万不能麻痹大意，把问题看得太简单，把一切寄托在双方谈判上，而一定要比过去任何时期都要加强对中共的工作。他认为“和谈”只是解决问题的一个方面。他说，美国在这个问题上一定是站在国民党一边，美方指派的代表饶伯逊（以后改吉伦)和他关系很好。他说：“三个人开起会来，要表决问题时，总是可以做到两票对一票的。”
他去北平之前，在军统局和军令部第二厅的特务中挑选了胡屏翰，邹陆夫、温天和、黄维勤、黄长新、潘志民、涂叙五、肖凤岐、郭子祺、董承烈、黄介新等100多人担任各地调处小组的工作，把军统中共科科长郭子明调去当顾问。
当报上公布他出任国民党代表的消息后，许多报纸的新闻记者便去访问他。他在重庆和北平接见记者时，总是说“我们不再算旧账了。算也算不清楚。过去谈了八九年，再谈下去，我们都已经老了。”他一开始就想把过去谈判失败的责任完全推在中共方面，好像国民党很有诚意。可是还没有开始谈判，他和戴笠就暗中在积极进行向解放区布置特务活动了。
1946年3月17日戴笠摔死后，蒋介石于20日决定派郑介民继戴笠任军统局局长。毛人凤急电郑介民，请他立即回重庆。郑介民原定22日由北平起程，可是到了22日上午又接到他的电报，因军调部方面有紧急工作分不断身，改为24日中午才能动身。
24日下午，毛人凤带着几个处长去机场迎接他。飞机迟了两个多钟头才到达，大家和他的老婆都非常着急，不断地要航空检查所的特务去航空公司问情况，虽然知道没有事，但都不放心。因为那一天天气不好，飞机顶风飞行，所以迟误了两个多钟头。郑介民走下飞机便向欢迎的人打趣地说：“今天天气很恶劣，我还担心戴先生找我去吃晚饭呢！”
当晚郑介民去见了蒋介石，第二天上午便到军统局召集各单位负责人开会。毛人凤首先宣布蒋介石已指定由郑介民继戴笠代替局长职务，希望大家在郑介民的领导下继承戴笠的遗志把军统工作做好。接着，毛人凤请郑介民训话。郑介民那次说得很简单，只说，他目前的工作非常重要，因此不能亲自主持军统工作，仍旧由毛人凤领导，除重大问题和他研究外，一般问题仍照过去一样办。他还说，他过去对军统情况很少过问，许多事还不大接头。
当有人问他军调部工作情况时，他回答也很简单，只说问题很难办，对手不容易对付。他说，人家(指中共)工作做得非常细致，不像国民党那么粗糙，有些地方值得学习，
下午他找毛人凤谈了几小时。以后据毛人凤向人说，郑介民主要是想了解军统的经费和人事方面的情况。因为他过去怕为这些和戴笠发生摩擦，一向不过问，现在要他负责，不能不了解一下。他听到军统经费月月入不敷出，总是寅吃卯粮，负债很多，过去完全靠戴笠到处张罗，移东补西，人数超过编制几倍，大为吃惊，当时便表示一定要实行紧缩和裁汰人员，并认为这个摊子过去摆得太大，以后谁也没有这样的魄力来维持，工作比过去繁重而困难，只有汰弱留强一项办法。
郑介民口头上虽宣布他在北平工作期间，军统工作仍由毛人凤主持，但他早已心中有数，戴笠多年来一意培植毛人凤，并且已经大权独揽。过去他可以不过问。但现在蒋介石把这个担子交给了他，他怕出乱子，所以在他离开重庆之前去见蒋介石。他向蒋介石提出，请唐纵来代理他主持军统工作。他刚一走，蒋介石派唐纵代理郑介民的命令也随之到达。毛人凤看到这一情况，知道郑介民一定在蒋介石面前说了什么话，使蒋介石不放心，才叫唐纵来代理。唐纵也看出郑介民的用意，要他出面作难人，就干脆来个代而不理，一切还是由毛人凤主持。从这时起，郑、毛之间便种下了不和的根子。
郑介民在重庆只停留4天便又去北平。郑介民去北平不久，国民党的报纸于3月底前后刊出新闻，说戴笠死后由郑介民继任军统局局长，唐纵、毛人凤任副局长。郑介民看到这一消息非常生气，4月初便在北平向中央社记者发表谈话，公开否认这一事实，说他没有继任军统局局长。
郑介民在与中共的和谈中耍尽各种手法，却自认为很聪明。他除了在国民党报纸上连篇累牍发表诬蔑诽谤中共的一些材料外，还指使特务捣毁军调处中共办公室。
军统北平站有一个特别小组，是专门监视跟踪在北平的中共人员的，站长经常要向郑介民汇报情况。郑介民对这些很注意，这个小组直到军调部结束后才停止活动。
郑介民在军调部工作期间，和美国人沆瀣一气对中共进行许多阴谋活动。他每次回到南京，在保密局向一些大特务谈到恢复交通的问题，都说这问题使他大伤脑筋。蒋介石对此也经常催促和责备他。
郑介民认为中共在“大问题”上是“错误”的，因为中国情况不适合共产主义。可是他对中共人员的工作精神和作风这些“小问题”，却认为值得学习。他认为中共人员普遍的特点是生活朴素，勤俭刻苦，工作认真踏实，组织纪律性很强，待人态度平和。他最感到头痛的是国民党许多人做事马虎，不负责，反映的情况不真实。这使他在同中共办交涉时，往往由于没有把问题弄清楚，而大碰钉子下不了台。而中共提出的反驳，每点都是有根有据。他常说，幸好他有一套对付办法（即强词夺理和耍无赖的办法），总算可以勉强应付一下场面。
他埋怨特务们不争气，不好好工作，生活腐化，连他最得力的重要助手他的参谋长也包括在内。郑介民把许多事情的失败都归咎到别人身上，好像只有他最能干最有办法。他做梦也希望从北平坐火车回南京，可是始终没能实现。
军调部工作结束，郑介民发表一篇和中共商谈经过的谈话，极尽造谣诬蔑和颠倒黑白之能事，把全都责任推到中共“缺乏诚意”上面，用以混淆视听。当时。保密局许多外勤单位从各方面搜集到许多情况，全国人民对国民党有许多责难的地方，毛人凤都送与他看。他除了将一部分送给蒋介石去看外，其余大多作为档案保留下来，不敢把各方面对国民党不满的情况全部让蒋介石知道。
他把大部分精力用在反共大业上，以发泄他对中共的愤恨和配合蒋介石的军事进攻
1946年10月1日，军统局改组为国防部保密局，蒋介石派郑介民为局长，毛人凤为副局长。正式编制发下以后，组织、人事、经费等都比军统局时期大为缩减，不到以前的1／3。军委会结束，改组为国防部，各厅局部在7月间先后成立，郑介民的第二厅厅长也在那时发表，而保密局却拖了3个多月才决定下来。郑介民对这个改头换面新成立的特务机构，是极力主张紧缩的。他对戴笠那种不受编制和经费约束乱来的作风一向反对，戴笠在世时他管不了，戴笠死后要他来顶这个破摊子，他感到无法维持，不能不管。
郑介民从北平回到重庆，在军统局准备迁往南京之前，曾召集军统各部门负责人开会。他在会上强调今后军统工作是和共产党作斗争，必须有精明强干的人才能担负起这项重大任务，所以宁可少些但要精干一些，目标不宜太大，他在会上还提到朱德总司令早有电报要蒋介石撤销一切特务机关，为了不增加蒋介石的困难，应主动提出“汰弱留强”和“紧缩开支”的办法，并且一定要把工作做好。当时以毛人凤为首的军统各单位负责人，都希望能保持原来的庞大机构和众多人员，所以他针对这个问题提出这些意见。
郑介民在北平期间，他的国防部二厅厅长的职务先后由侯腾和龚愚代理，保密局局长则由毛人凤代理。1946年6月以后，他经常回到南京，照例只召集两个单位的负责人开开会，简单讲讲他在军调部工作的情况。他一贯诬蔑中共，企图掩饰蒋介石“假和谈，真备战”的阴谋。他多次举出国民党的一个组员在宴城被流弹击毙的事，作为中共不守信用枪杀军调部调处小组国民党人员的例子，对中共进行诽谤。
当蒋介石发动大规模内战的部署已经完成时，军调部工作停顿下来，郑介民把参谋长蔡文治留在北平，自己坐着飞机回南京。蒋介石交给他“恢复铁路交通”的任务没有完成，受到蒋介石的严厉责备之后，他对中共更加仇恨。1947年，郑介民主持保密局对各地中共地下党的迫害，达到了空前的程度。他几乎把大部分精力用在这方面，以发泄他对中共的愤恨和配合蒋介石的军事进攻。
这年9月初，保密局北平站发现中共北平地下党组织和电台的线索，郑介民和毛人凤研究之后，立即派保密局行动处(主管侦防、行动、策反、心战等)处长叶翔之赶到北平，主持破坏工作。叶到北平后，以案情重大涉及保定绥靖公署许多高级人员，郑介民便立刻亲自飞到北平指挥卫作。
由于这一案件的发展，以后又在西安、兰州等处破坏了电台，逮捕了十多位中共地下工作人员，还在东北也破坏了一处地下党组织。郑介民对这次破坏极感兴奋，除随时向蒋介石报告外，并连续在保密局召集大特务们开会研究，认为这是最得意的大事。他强调今后为了配合前方军事进攻，对后方活动的中共党组织必须用全力来进行破坏，以安定后方秩序。他最感兴趣的是搜查出来的中共地下电台。他在没有看到以前，曾断定这些地下电台一定是苏联供给中共专作秘密活动的新型电台，很不容易侦测出来。
当特务们把搜获的文件和电台送到南京后，他急于要看一看，结果使他大出意外，这些电台不但不是苏联制造的什么新型秘密电台，而且做得很粗糙。他看了以后，先是用讽刺的口吻说：“这些东西我们早就扔到垃圾箱里去了，他们还当作宝贝在使用。”等他翻过一些档案材料之后，他又改口说：“用这样的电台能做出这么多的工作，真不简单，这是人家比我们强的地方。”
同年11月间，军统在上海破坏中共的一个补给机构，也是郑介民亲自赶去指挥的。
一天，军统派在第一绥靖区司令部第二处的特务们，在苏北射阳口检查来往船只时，发现一只可疑的木船，装了一些禁止运往苏北解放区的物资。特务们将全船人员扣留，在细密搜查和酷刑逼供下，知道这是与中共地下补给单位有关系，除继续搜寻线索外，并向保密局报告。毛人凤马上把这一情况告诉郑介民，郑介民便亲拟电稿，指示该处处长蒋剑民务必追出有关人员，扩大破坏。蒋剑民对被捕的人员多方威逼利诱之后，有一人动摇叛变，供出了上级领导机关设在上海，但不知详细地点，只了解接头办法。郑介民得报后，即嘱蒋剑民将该叛徒带往上海。他自己也连夜赶去，召集在上海的大特务——淞沪警备司令部稽查处长陶一珊和保密局上海站长刘芳雄，以及在上海市警察局工作的张师等，密商选派精干特务，会同蒋剑民在上海搜捕中共地下工作人员。
第二天，蒋剑民带着那个叛徒和几个特务来到上海，郑介民立即接见了他，并叫他和陶一珊等密切配合。在郑介民亲自领导下，先将中共设在上海的后勤补给总站破坏，总站长冯伯昌、柳明等20余人被捕，抄出大批文件和存在仓库中的布匹1000多匹，颜料几十桶以及许多其他物资，并在吴淞口外查出一艘小火轮和物资。
当陶一珊、蒋剑民等兴高采烈地认为收获不少的时候，郑介民却认为这不够，必须“趁热打铁”继续猛打穷追。结果又在上海××路破坏了中共华中局、苏皖边区政府、华中银行等单位设在上海的联合办事处，又搜捕了10多人。
