杜鲁门是一个坚定的反共产主义分子，这注定了他的第二任期中要与共产主义阵营国家发生各种冲突的命运。
继“杜鲁门主义”、马歇尔计划、“第四点计划“和“希一土”援助计划之后，杜鲁门为“冷战”作的又一“贡献”是参加北大西洋公约组织。早在1948年3月，杜鲁门在纽约的一个圣帕特里克庆祝仪式上就发表了关于共产主义威胁的演说，他希望在这种形势之下西欧能够团结起来，捍卫自己的“自由”。与此同时，英国、法国、荷兰、比利时、卢森堡为加强经济合作与共同防御侵略，正在布鲁塞尔开会，并签定了一个为期50年的合作协议。4月，英国外交大臣贝文会见杜鲁门总统，认为：如果一个集体安全体系能够有效地建立起来，那么苏联人很可能会重新估计形势，变得合作一些。他同时说明，如果没有美国的参加，这个集体安全体系将没有保障，暗示出要求美国参加的意图。
适应于美国加入这个条件，杜鲁门一手炮制了范登堡决议案，并命令国务院立即着手与布鲁塞尔条约国家进行初步会谈。经过一系列妥协与让步，杜鲁门在1949年4月4日在“北大西洋公约”上签字。在签字仪式的讲话中，杜鲁门希望12个国家能够团结一致，防止第三次世界大战的爆发。7月25日，杜鲁门在国会投票赞同美国加入条约之后，签署了公约批准书。8月24日，北大西洋公约组织正式成为事实。
北大西洋公约组织，简称“北约”，是战后美国集团安全理论的实践，它不仅是一个政治联盟，也是一个军事同盟。当苏联为了对抗它而建立“华沙条约组织”后，“冷战”的两大对立集体就正式建立了，它们的对抗持续到90年代才告一段落。
“北约”是杜鲁门在欧洲拼凑起来的对抗苏联东欧的军事集团；在亚洲，他所关注的就是东亚地区——中国、朝鲜和日本。以麦克阿瑟为首的驻日美军实际担负着美国控制本地区的任务，同时密切注意苏联和中国共产党的动向。
朝鲜，作为一个统一的国家具有悠久的历史，它与中国的友好关系也源远流长，自汉代开始便有交往，此后一直保持着友好关系。1894—1895年的中日甲午战争便是因日本占领朝鲜而起，1910年，《日韩合并条约》签订，朝鲜正式被日本吞并，朝鲜人民沦为猪狗不如的殖民地居民。在全面的抗日战争爆发后，以金日成为首的朝鲜革命者们壮大起来，在中国东北和中朝边境坚持抗战，并在苏联的帮助下最终取得胜利。胜利后的金日成在苏占区站稳了脚。
朝鲜在美国的战略计划中本来并不重要，杜鲁门也对它不屑一顾。1943年11月，开罗会议决议中决定“使朝鲜自由独立”，1945年2月，雅尔塔会议决定由中、苏、美三国托管朝鲜。实际上，杜鲁门对抗战胜利后美苏以“三人线”分治朝鲜也没有任何异议，因为他的目光焦点是在日本岛，而不是在朝鲜半岛。曾有人建议由美军接管整个朝鲜半岛，但杜鲁门认为那样会延缓美军在日本的登陆。
美苏“三八线”分治后，实际上出现了南北分裂的趋势。北部朝鲜有日本遗留的大量工业基础设施，而南部朝鲜则有肥沃的土地，朝鲜人民渴望统一，重新振兴祖国。无论是在苏占区，还是在美占区，都发生了大规模的游行示威，反对外国军队占领，要求独立。有鉴于此，驻朝美军司令霍季将军认为“目前最迫切的任务是取消三八线这个障碍以统一朝鲜”。1946年1月美苏举行会谈，双方都无意让步，不欢而散。
杜鲁门根据报告，对朝鲜问题的看法发生了新的转变，他宣称：“这个地方是一个进行思想斗争的战场，我们在亚洲的整个胜利就决定于这场斗争。”他把朝鲜问题夸大成“共产主义”与“民主制度”之战，美国逐渐重视起地图上这块小小的半岛了。
1946年秋，北部占领区人民举行了当地“人民委员会”的选举，有9913%的人参加了投票，以金日成为首的朝鲜劳动党一枝独秀，实际掌握了政权。杜鲁门闻讯非常恐慌，他紧急召开军事会议，将领们普遍认为美国以人员不足的部队占领朝鲜，并没有什么战略价值，美国可能在亚洲大陆进行的任何进攻，多半会绕过朝鲜半岛。根据这样一种战略考虑，美方同意苏联的建议，在1948年初美苏两军同时撤离朝鲜，在联合国的监督下，双方同时举行选举，以期建立一个全国性的政府。美国占领区的选举在1948年5月10日举行，国民议会在5月31日进行了第一次会议，李承晚被选为主席。8月15日，大韩民国宣告成立，李承晚任总统，美国军政府宣告结束。针对南朝鲜自立国家的行动，9月9日，北朝鲜宣布成立“朝鲜民主主义人民共和国”，苏军在年底全部撤离。这样，朝鲜半岛无外国驻军，南北政府开始了较量。
1949年10月1日，中华人民共和国政府宣告成立，中国人民从此站起来了。蒋介石仓皇逃往台湾，这不仅是他的失败，也是美国在亚洲的重大失败。杜鲁门在当时既不满蒋介石的无能，又仇视中国共产党政府，因此，他对蒋介石政府一方面不予援助，另一方面又在国际上承认其合法地位。同时，朝鲜半岛的战略地位也突出起来，一旦占有它，进军中国的陆上门户便打开了。杜鲁门又把目光转向了这座半岛，命令魏德迈将军帮助南朝鲜建立和训练它本国的国防军，以对抗北朝鲜，威胁中国大陆。
1950年的北纬38度线上，火药味十足，南北朝鲜的军队不断互相发生冲突，杜鲁门感到战争迫在眉睫了。果然，1950年6月24日，当他正在家乡独立城度周末的时候，国务卿在晚10点多打来电话，紧急报告：朝鲜战争爆发了。杜鲁门第二天便从堪萨斯城飞回华盛顿。
在国防部的会议上，国务卿迪安·艾奇逊报告说，联合国安理会以9对0的票数，一致宣布北朝鲜行动破坏了和平，要求他们撤回自己的部队。杜鲁门在讨论后发布命令：命令麦克阿瑟将军撤走一切在南朝鲜的美国人员；空投军火和给养给李承晚部队；命令第七舰队进入台湾海峡。同时，他指示三军参谋长作好准备，一旦联合国“号召”向北朝鲜采取行动，美军要首当其冲，这时的杜鲁门已预谋侵略朝鲜了。
朝鲜战局的发展快得令杜鲁门吃惊，南朝鲜军队不堪一击，迅速败退，金日城的人民军已接近南朝鲜首都汉城市，杜鲁门确信：韩国需要立即援助！他命令麦克阿瑟指挥他手下的空军和海军去支援韩国，但只限于“三八线”以南地区；又命令第七舰队迅速在台湾海峡布署，防止中国共产党军队解放台湾；他还向联合国紧急呼吁，要求援助南朝鲜。
杜鲁门曾与助手们探讨过美军打过“三八线”的可能；但他非常担心苏联和中华人民共和国的行动。就在这时，在台湾的蒋介石传来消息，他愿意出兵，在美国的帮助下击退北朝鲜。这显然是蒋介石又作起了“光复大陆”的美梦，杜鲁门害怕蒋介石的行动会激怒毛泽东，就严辞拒绝了。他命令麦克阿瑟使用一个团的兵力先行支援南朝鲜。接下来要做的，就是为美国的出兵寻找一个堂而皇之的理由。7月初，他同英国首相艾德礼举行会谈，大力鼓吹反击共产主义的进攻，要求出兵朝鲜。艾德礼唯唯喏喏，附和他的观点。7月7日，安理会不顾苏联代表的缺席通过了议案，授权组织联合国部队去“维护朝鲜半岛的和平”。杜鲁门同时提请任命麦克阿瑟为联合国军总司令。同日，麦克阿瑟提出他的反攻的基本计划：尽量利用对海空方面的控制；采用水陆并进的办法，打击敌人密集的地面部队的后方。其首要的行动就是从仁川和釜山登陆，向北进攻。7月19日，杜鲁门请求国会取消对武装部队数量的限制，增加国防费用。7月31日，他批准征调国民军上个师参加联邦军队在朝鲜作战。
7月27日，杜鲁门在国家安全委员会上阐述了对华政策：给予国民党中国以广泛的军事援助；由麦克阿瑟总部对蒋介石军队的需要作军事方面的调查；计划在中国海岸作侦察飞行，以确定对台湾的攻击的紧迫性。杜鲁门不希望新中国政府解放台湾，也不想把它引到朝鲜战争的轨道上来。麦克阿瑟也来电表示不要因为台湾和大陆关系问题使战局复杂化。8月14日，杜鲁门指示麦克阿瑟：在台湾的美军行动只限于辅助行动，不在该岛使用武装部队，重要行动要得到参谋长联席会议的批准。
8月26日，风云突变，麦克阿瑟在一份声明中公开叫嚣要“保卫台湾”，以台湾为推行军事侵略政策的据点。与此同时，苏联驻联合国代表马立克在安理会谴责美国派舰队进入台湾海峡。杜鲁门恼羞成怒，考虑要解除麦克阿瑟的远东战区指挥官职务，不再让他管台湾和朝鲜的事。然而，这位将军的名声如此之大，杜鲁门唯恐他会影响自己的形象，只好忍气吞声。在和艾奇逊等人讨论后，他回电麦克阿瑟，希望他收回关于台湾的声明。
尽管在台湾问题上有分歧，杜鲁门仍旧全力支持麦克阿瑟在朝鲜的登陆计划。他从美国大陆、波多黎各、夏威夷等地抽调兵力支援朝鲜美军。9月1日，杜鲁门发表广播讲话，为自己的军事行动辩解和鼓吹，他将美国的战略意图归结为八点，每一点都粉饰以“正义”的外衣。就在美军正式作战前，杜鲁门根据国家安全委员会决议，授权麦克阿瑟将军采取“必要军事行动”，把北朝鲜军队“赶回三八线以北”。如果中国共产党的军队或苏联军队没有支援北朝鲜，他可以率军占领北朝鲜。
1950年9月15日，美陆军第七步兵师和第一陆战师在仁川登陆，9月26日，第八军在釜山登陆成功，与第七步兵师会师。9月28日，美军又占领汉城。杜鲁门致电表示祝贺。美军依靠先进的机械化部队和充足的后备给养，迅速全线推进，至10月2日，已打过三八线，向北朝鲜腹地推进，金日城政府已作好向中国东北地区撤退的准备。
正当杜鲁门自鸣得意之时，中华人民共和国政府发表声明：坚决反对美帝国主义对朝鲜的侵略。10月3日，杜鲁门接到了印度驻中国大使的消息，周恩来总理警告美国：如果美军越过三八线，中国政府将派军援助金日成。杜鲁门急忙又电令麦克阿瑟：美国部队不准越过朝鲜和中国的边界或朝苏边界；非朝鲜部队一概不准在和苏联接壤的地区或和中国接壤的地区使用，严禁对中国或苏联使用空军和海军。
中国有句古话，“将在外，君命有所不受”。麦克阿瑟将军身在远东，也颇有不受杜鲁门总统之命的意味。为了笼络住这位桀傲不驯的指挥官，杜鲁门亲劳大驾，于10月11日前往太平洋中的威克岛，与麦克阿瑟进行会面。
10月15日，杜鲁门与麦克阿瑟在威克岛进行单独会议。麦克阿瑟向杜鲁门保证，朝鲜战争的战局美国赢定了，中华人民共和国政府不会进攻；他还对自己过去对台湾问题的声明表示抱歉。杜鲁门向他通报了欧洲局势，并表达了对他的信任。麦克阿瑟口出狂言：在感恩节前，战争就会结束，他将把第八军撤回日本，第二年1月，美军将全部撤出朝鲜半岛。
10月16日，杜鲁门乘机返回美国，在旧金山歌剧院发表了演说。他称赞麦克阿瑟是“一个非常伟大的战士”，并相信“联合国军”一定会很快恢复朝鲜的和平。他同时指责苏联，攻击社会主义国家的正义行为。在这次演说中，杜鲁门充分暴露了美国妄图控制朝鲜、日本，威胁中国、苏联的野心。
10月份的最初战局对美国人似乎很有利，杜鲁门高兴地知道他的军队在10日占领了平壤，而且已有42个国家派兵参与“联合国军”行动，然而，好景不长。10月31日，他收到确切消息，证明中国共产党已派兵在朝鲜作战。实际上，他得到的消息已晚了许多。以彭德怀元帅为总司令的中国人民志愿军在10月19日就跨过鸭绿江，“抗美援朝，保家卫国”。并从10月25日开始，发动了第一次战役，迫使美军撤回清川江以南。
妄自尊大的麦克阿瑟在11月4日仍不相信志愿军已开始作战，他给杜鲁门的电报中仍怀疑中国共产党支援朝鲜的真实性。而正在忙于大选的杜鲁门的头脑还算清醒，密切注意北京的动向。11月6日，他接到艾奇逊的电话，说麦克阿瑟要求空军轰炸在鸭绿江上连接朝鲜新义州和中国辽宁省丹东市的大桥。杜鲁门顿时感到事态的严重性，他立即指示：电告麦克阿瑟，政府正在对朝鲜局势作紧急考虑，所有离中国东北五英里以内的目标，都要暂缓轰炸。然而，麦克阿瑟立刻发电反驳，认为炸桥是截断“敌军”补给线的唯一办法。杜鲁门只得同意轰炸，但命令不要轰炸中国的水坝和发电厂。
随着英勇的中国人民志愿军和朝鲜人民军发动的第二次攻势的节节胜利，杜鲁门才恍然大悟，意识到中国共产党政府真的参战了。尽管他在公开场合叫得很凶，但他并不敢真的与中国大陆发生战争。他认为，那将引起第三次世界大战。而无论是美国人民还是西方盟友，都反对这样一场世界大战，他们已被战争给拖垮了，成了惊弓之鸟。因此，杜鲁门不敢冒天下之大不韪，尽量避免直接针对北京的军事行动，“明哲保身”罢了。与杜鲁门相反，麦克阿瑟到处扬言，如果美国打击中华人民共和国，那么朝鲜问题便早就解决了。他又在11月底发动了一场失败的攻势，更使杜鲁门气恼。而他重提国民党参战的旧事，则为杜鲁门所不屑。
为了恐吓中国政府，杜鲁门在1950年11月30日发表了一份态度强硬的讲话，其中多次提到使用“原子弹”的问题，这本来是他用来威胁中苏两国的，却引起了他的盟国的不安。12月4日，英国首相艾德礼来到华盛顿，商谈朝鲜半岛局势。
在杜鲁门与艾德礼的会议中，杜鲁门透露出许多美国对朝鲜问题的真正看法。杜鲁门认为，在朝鲜的战争表面上是南北朝鲜军队的对抗，实质上是美苏、美、中国家间的较量。北朝鲜的军事进攻，中国共产党政府的介入，在杜鲁门眼中都是受了苏联的唆使和怂恿。因此，美国决不能跟中国或苏联交战，那样会正中“敌人”的下怀。谈到蒋介石，杜鲁门对之嗤之以鼻，他不认为蒋介石集团在台湾能有什么作为，但为了构成对大陆的威胁，美国还是要阻止台湾的“沦陷”，把它作为“不沉的航空母舰”。
艾德礼提出了中国与苏联区别对待的观点。他认为，中国与苏联（前身是沙俄）自古以来就是劲敌，中华人民共和国政府不会受苏联控制的，势必走自己的社会主义之路。他提出，如果让新中国加入联合国，就可以用宪章约束它，而它游离于联合国之外则是一个危险。杜鲁门不以为然，他担心中国进入联合国后会加强苏联的势力，而且有台湾问题在，新中国政府也不会与美英合作。最令英国首相担心的是原子弹的问题，杜鲁门保证美国并没真的打算使用它。双方最后发布一个公告，会谈便结束了。
1950年12月，杜鲁门听到了很糟糕的消息，“联合国军”已被迫大规模撤退。很明显，中国人民志愿军的强大火力把美国人打垮了。同时，麦克阿瑟开始考虑对新中国的行动，他计划：由联合国封锁中国海岸，飞机轰炸大陆；在朝鲜利用国民党军队，还要通过香港把蒋介石军队引导到中国南方去。当杜鲁门得知这个秘密后，大吃一惊，他惊呼：“麦克阿瑟将军准备冒险发动一次大战！我可不这样干！”
杜鲁门并不是真的“爱好和平”，就在亚洲十三国向联合国提出在朝鲜半岛停火的提案后，他公然表示：“我可不愿在条件没谈妥时就停止战斗！”1950年12月15日，他发表广播讲话，宣布将进入全国的紧急状态时期，号召全国人民起来支持美国的“和平行动”。于是，这位“冷战”总统又把人民拖进了“热战”。
对于杜鲁门来说，1951年的到来是灾难性的。麦克阿瑟要求增兵日本，杜鲁门却无一卒可派；麦克阿瑟一再提议袭击中国东北机场，封锁中国海岸和利用台湾部队，杜鲁门置之不理；麦克阿瑟公开指责杜鲁门的“无意扩大战争”是在“逐渐缩小美军的阵地”，杜鲁门有口难辩。终于，1951年1月1日，中国军队占领汉城，重新将美军压缩到南部一隅。麦克阿瑟大发雷霆，他回电国务院，抱怨自己的权力受限，任务和权力不明确，“联合国”军已筋疲力尽，士气低落，后果严重。杜鲁门虽深感不满，但为了全局考虑，只得回电安抚他，并说明目前美军战略意图。
1951年1月开始，朝鲜半岛的对峙军队进入相持阶段，杜鲁门和麦克阿瑟的矛盾也激化了。3月21日，杜鲁门发表声明。他首先指出，现在朝鲜的敌对双方已恢复到战前的占领地区，应该按联合国决议恢复该地区和平，组成统一的政府，接着，他宣称联合国的军事行动将继续下去。不幸的是，这篇粉饰太平的声明枉费了杜鲁门的心机。3天后，麦克阿瑟发表声明，决心用武力击溃新中国政权。这等于向中国下了最后通牒，引起了国际上一阵恐慌，各国纷纷致电杜鲁门要求不要发动对华战争。
杜鲁门忍无可忍了，他认为这是一个职业军人对他所效忠的政府的不忠，他不能再眼睁睁地看着自己的计划一次次地被破坏，他决心撤换麦克阿瑟。但是，对这样一个著名将领的处理不是轻而易举的，各界的压力纷至沓来。杜鲁门在公开的解释中这样说：“政策是由选出来的政治官员来决定的，而不是由将领们决定的。然而，麦克阿瑟将军却表示他不愿接受政府的政策，实际上他用他的政策反对总统的政策。”在与马歇尔将军、艾奇逊国务卿等磋商了多次后，杜鲁门在1951年4月9日起草命令，解除麦克阿瑟将军的各项统率权，并由驻朝第八军司令官李奇微中将接替他的职务。4月11日，杜鲁门召开特别记者执行会，正式宣布解职命令。
这样，在朝鲜战争中最著名的“杜鲁门与麦克阿瑟之争”结束了，一位五星上将解甲归田，而杜鲁门再次维护了自己作为总统的尊严，但他的代价也是巨大的，因为他对麦克阿瑟的解职，使他在公众中的支持率急剧下降。
从此，朝鲜战争打打停停，双方僵持不下。杜鲁门只好下令进行和平谈判，从1951年7月到1953年7月，双方在谈判桌上唇枪舌剑，你来我往，就双方占领区问题、战后各方处理问题、选举问题、外国军队问题，特别是战俘遣返问题进行了“拉锯战”。这段时间的杜鲁门，既已经完成了总决策，又有了顺从的将军，便不再显著地活跃在这个舞台上了。朝鲜战争从1950年6月一直拖到1953年7月，在《朝鲜停战协定》在板门店签字时，杜鲁门已为一介平民了。无论如何，杜鲁门在这场举世瞩目的战争中是最重要的决策者之一，他的决策在某种程度上决定了战争的进程。众所周知：美国失败了，中国胜利了，朝鲜半岛陷入了持续到今天的分裂。
杜鲁门，被人们斥为“对美国第一次战败负责的人”，因为他的专横而被载入美国史册，而麦克阿瑟却因此得到了广泛的同情。
