坐上日本军事调查部部长的宝座，这使得东条英机的晋升之路看上去更加的平坦。因为，东条英机的上司就是永田铁山——时任日本军务局局长的永田铁山是东条英机的学长，当时的他是日本军队中灵魂人物，被誉为军中“第一智囊”，是很多人眼中“肩负着日本陆军未来的重头人物”。就是这样一位重量级人物，在和东条英机一起共事之后不久，就对东条英机做出了这样一句评价，“东条是将来肩负日本陆军的人物”。
永田铁山的这一句评价让东条英机在军队中的声誉更旺，但是也引来另外一些人的诋毁，日本陆军部对他的看法也是毁誉参半，其中被誉为“日本第一军事家”的石原莞尔中将就非常不同意永田铁山的说法。在石原莞尔的眼中，东条英机不但是一个无能之辈，而且就连相貌也是丑得令人看到就不舒服的那一类。因此，石原莞尔给东条英机的评价就是“给他十挺机枪，他能够看管的很好，但是给他十一挺机枪就不行了，因为他是一个只能管好十挺机枪的人，我们应该喊他‘东条上等兵’”。日本陆军的元老级人物宇垣一成在日本战败投降后曾经回忆说：“提起东条，我印象最深刻的就是他那一本正经的样子，动不动就拿出笔记本不停地记这记那，根本就无法想象这样一个人竟然也能当上一国的总理大臣。”
正是因为日本陆军总部对于东条英机的看法分歧比较大，一心想着迈上更大舞台的东条英机马上遭遇了晋升过程中的“滑铁卢”，原本一路高升的他，在军事调查部长的位置只坐了四个月，便被调到陆军士官学校，随后又先后任职于步兵第24旅团和第12师团司令部，而且只是一个闲职，这里连一张办公桌都没有为他准备，就连去不上班也没有人过问。
此时的东条英机就像一个受宠一时的宠臣被皇帝突然被贬官一样，整日里无所事事，一点儿精神也提不起来。
就在东条英机感到自己将会从此沉寂下去的时候，一个人的出现又改变了他的命运——1935年9月，东条英机在陆军幼年学校时的校友、时任陆军部人事局长后宫淳在得知其在闲职上无所事事之后，马上向陆军部推荐东条英机出任关东军宪兵司令官。
日本关东军号称“皇军之花”，它因侵驻中国东北的金县、大连地区的“关东州”而得名。成立于公元1919年是日本陆军驻扎在中国东北最精锐的一支军队，编有31个步兵师团，11个步兵和坦克旅团，1个敢死队旅团和2个航空军，以及伪满洲国部队等，共约120万人。其中防疫给水部本部（满洲第731部队）从事生物细菌战，并以中国人及同盟国军战俘作人体试验。
不过，日本关东军的宪兵司令并不是特别显赫的职位，人数只有200多人。但是因为其是日伪军警镇压机关的总负责人，手中有着很多的特权。因此，东条英机一上任就将这一职位视作为侵入中国捞取军功，并向法西斯的最高权利中心冲击的跳板。东条英机上任之后，马上将宪兵队的人数扩充到1000人，此后又随着中国军民的反抗将宪兵队增加到2000人，几乎所有进行镇压和屠杀中国人民的暴行之中，都用关东军宪兵队活动的身影，而且他们都处于核心和指挥位置。
为了迅速进入法西斯最高权力中心，东条英机便积极地为日军大举侵华做好准备工作，他在东北设立了非常庞大的特务间谍网，将哈尔滨特务机关改名为关东军情报部，并把活动的触角伸向了中国内地。
此外，东条英机还通过实施警宪统一，既扩大了宪兵队的实力范围，又解决了多年的棘手问题。在当时的伪满洲国，实际上存在着三个系统的警察组织，即伪满民政部的警察、日本领事馆的警察和关东厅的警察。围绕着废除治外法权的问题，持反对观点的关东厅警察和持促进观点的领事馆警察之间针锋相对，互不相让。面对这一局面，东条英机不容分说，断然决定将两部分警察统一置于宪兵司令部的指挥之下。东条英机的这一“剃刀”作风，使得关东军内部许多对他持怀疑态度的人受到强烈的震动，他也通过此举大大提高了在关东军中的“威望”。为进一步树立威信，加强对宪兵队的控制，东条英机还向全体宪兵队员发出“要忠于职守”的训示，同时还特意将自己的肖像贴在印刷的训示上。
一时间，东条英机的肖像贴遍了伪满宪兵各分驻所的墙壁，被称之“剃刀将军”。
在中国关东声名鹊起之后，东条英机便开始了另一项工作——抓实权。此后，东条英机通过各种手段将监督、执行和财务三大权力都抓在手中，成为了关东军中的实权人物之一。
就在东条英机在中国东北大为全面侵华而努力的同时，日本本土的法西斯势力也暴涨到了顶点。1936年2月26日黎明时分，“皇道派”青年军官率领的近卫步兵第三联队为中心的1500名日本军人，袭击了首相官邸等数处枢要部门，杀害了内大臣斋藤实、教育总监渡边锭太郎和大藏大臣高桥是清，重伤天皇侍从长铃木贯太郎，之后占据永田町一带达四天之久。这些人起事的目的是“尊皇讨奸”，实行“昭和维新”，实际上却是支持荒木贞夫等“皇道派”首领掌权组阁，建立法西斯体制，史称“二·二六”兵变。
“二·二六”兵变之后，工于谋略的东条英机虽然在内心深处较为支持“皇道派”军官的行为，但是他却马上意识到这是他通往日本法西斯权利中心的一个大好机会。因为，关东军中的“皇道派”军官也开始响应了——驻哈尔滨的第十一特混旅团真川少将发出通电，声称支持国内的“兵谏”；驻“东满”的一六师团已自行出动，赶往“新京”；佳木斯守备营发生暴动，已占领东站、拦截火车……
面对突然而来的机会，东条英机马上组织宪兵队展开大搜捕，立即处决叛乱的军官，击毙了长春的全部“皇道派”高级军官。同时，东条英机以最快速度向天皇和军部发出通电，表示关东军宪兵队全力支持天皇和军部，强烈反对“皇道派”军官们所实施的“兵谏”。
东条英机在“二·二六”兵变中的突出表现赢得了日本天皇和军部高层的赏识和嘉奖，他的名字开始经常在军部高层会议上被提及。1936年12月1日，东条英机被晋升为陆军中将。1937年3月，东条英机接替板垣征四郎登上关东军参谋长的宝座。坐上关东军参谋长宝座的东条英机再也压抑不住自己的野心了——他要向更为的职位发起冲击，为天皇建立辉煌的功勋，而这将以展开全面侵华战争为开始。
