当时远在北京的康熙不知俄人重返雅克萨，但他从永戍黑龙江的宗旨出发，于同年九月命筑墨尔根城，命令萨布素及副都统一人率兵驻之；瑷珲城派副都统一员率兵驻守，在其间增设驿站二十余处，开拓由吉林至茂兴，经齐齐哈尔、墨尔根，越小兴安岭至瑷珲的驿路。新设驿路、驿站，增设驻兵，为第二次雅克萨战役做好了充足的准备。
1686年（康熙二十五年），康熙得知俄军重占雅克萨，立即降谕布置第二次雅克萨战役。命萨布素速修船舰，统领乌拉、宁古塔官兵驰赴黑龙江城（瑷珲），又派副都统郎谈、班达尔善、马喇参赞军务，派兵两千往攻雅克萨。
五月上旬，复职的黑龙江将军萨布素率兵两千从瑷珲出发，月底进逼雅克萨。俄侵略军负隅顽抗，清军于六月初从南北两个方向发起猛攻，经多次激战，毙敌百余人，包括俄督军托尔布津，迫使俄军退回城中固守。因城坚墙厚，一时难以攻克，萨布素便于城周筑垒挖壕长期围困。到年底，清军长期围困取得成效，八百余俄军大部死亡，仅剩不足两百人，粮食、弹药严重缺乏，危城指日可下。
俄沙皇对康熙的多次和平倡议都漠然置之，但当他得知雅克萨失利，而且救援不成时，才不得不坐到谈判桌前，接受停战谈判。
康熙帝为表示诚意，主动撤了雅克萨之围，但俄见有机可乘，又增兵于雅克萨。对此，康熙一在敦促俄使团快速到京，一边再次强调增兵贮粮黑龙江的重大意义。谕令兵部密切注意边境动向，不可滋生麻痹情绪。
俄使团为显示其武力，加强在谈判中的地位，建议谈判地点在色棱额地方，康熙表示同意。针对俄使团庞大和有两千军队护送的情况，派领侍卫内大臣索额图，都统佟国纲、尚书阿喇尼、左都御史马齐、护军统领马喇等率八旗前锋兵两百、护军四百、火器营兵两百同往。
在使团出发前，康熙向索额图等发布谕旨，着重阐述黑龙江流域自古以来即是中国领土，环江诸民族皆久居此地，若不取之，边民终不能获得安宁。最后，郑重申明清政府立场：尼布楚、雅克萨、黑龙江上下及通此江的一河一溪皆是我领土，不可弃于俄罗斯，我之逃人根特木儿等人应都向其索还，如其遵谕而行，归还逃人，则立即归还我兵所获，招抚者，与之划定疆界，准其通使贸易。
索额图领旨前往，但因噶尔丹进攻喀尔喀土谢图汗，行至喀尔喀蒙古地区受阻，遂被康熙召回，与俄另行商议会谈地点。
1689年（康熙二十八年），双方商定会谈地点在尼布楚，时值噶尔丹叛乱最猖狂时期，康熙预见到与噶尔丹的战争在所难免，为避免两面作战，决定对俄作出重大让步，争取早日达成协议。康熙向索额图面谕谈判方针：边界以尼布楚为界，若俄方恳求尼布楚，可以额尔古纳河为界。俄方最初的条件很高，想要占领整个黑龙江北岸，最低要以雅克萨为界，但要求在精奇里江和牛满河佯留中俄共同渔场，但因其在俄土战争中受挫，沙皇决定可以放弃雅克萨，以换取尼布楚及周围广大地区的占领。这样，中俄双方的条件基本趋于一致。
1689年（康熙二十八年），中俄双方签订《中俄尼布楚条约》，共六款，中俄边境以格尔必齐河、外兴安岭、额尔古纳河为两国分界线。俄国撤出雅克萨及所有在中国境内的军队和据点。外兴安岭与乌第河之间的地区，暂行存放，待议定。
《尼布楚条约》的缔结，使俄国取得了原属于中国的尼布楚及其以西的领土，中国收回了雅克萨等长期被俄国霸占的领土，并以法律形式明确了中俄东部国界，使东北边疆安定下来，也使得清政府可以集中力量抗击噶尔丹的侵扰，进一步实现国家的统一与巩固。中国虽在领土方面做了很大让步，但相对于统一和巩固多民族国家来说是值得的。所以，《中俄尼布楚条约》亦是中国与外国签订的第一个平等条约。康熙在抗击俄国、保卫边疆的事业上做出了很大贡献，受到后世的好评。
当康熙集中精力经营东北事务的同时，居住在天山北路漠西蒙古的封建大领主噶尔丹乘机叛乱。
准噶尔部原游牧于巴尔喀什湖东南、伊犁河谷一带，十七世纪初势力日益强大起来。1670年（康熙九年），在西藏当喇嘛的噶尔丹声称奉达赖喇嘛之命回准噶尔部平定内乱，乘机杀死同父异母兄车臣台吉及继任部长，囚禁自己的叔父楚琥尔乌巴什，夺得准部领导权。
1677年（康熙十六年），噶尔丹乘中原发生三藩之乱之机，出兵袭击西河套的和硕特部；第二年又乘“回部”伊斯兰教内部教派之争攻取天山南路叶尔羌（今莎车）等回部各城，并侵占哈萨克、布鲁特等地。
康熙平定三藩之乱后，为了表示庆贺，派内大臣奇塔特等到厄鲁特诸部大加赏赐，给噶尔丹的敕书中虽不赞成其兼并战争，但未认定其是对朝廷背叛，将其看成少数民族之间的纷争。但噶尔丹并没有放弃进一步武力兼并的计划，将康熙的敕书放置一旁，继续奉行武力兼并的政策，将矛头瞄准了喀尔喀蒙古。
喀尔喀蒙古自康熙元年以来内部诸部矛盾激化，内讧不断。噶尔丹在吞并西北地区后，插手其内部争斗，以土谢图汗等为首的喀尔喀蒙古不甘示弱，针锋相对，战争迫在眉睫。
康熙主张在朝廷的主持下和平解决纷争，意在限制噶尔丹在政治上进一步膨胀的野心。
噶尔丹并未死心，于1688年（康熙二十九年）借土谢图汗贸然杀死其弟等为口实，出兵喀尔喀左翼诸部，时值俄军在贝加尔湖镇压蒙古人民抗俄斗争，土谢图汗在包围楚库柏兴与俄军对垒之时，噶尔丹突然从背后袭击，土谢图汗两面受敌，屡战失利。当年九月，土谢图汗与其弟哲布尊丹巴请求清廷保护，康熙立即批准。将其诸部安置在苏尼特、乌珠穆沁、乌拉特诸部牧地，并谕旨噶尔丹要求居中调停。但噶尔丹拒绝康熙调停的建议，一再向清廷索要土谢图汗和哲布尊丹巴，均遭康熙拒绝。
1690年（康熙二十九年），噶尔丹率二万余众顺索约尔济河南下，进入内蒙古乌珠沁境内，并于六月大败理藩院尚书阿喇尼所率蒙古兵，康熙本欲亲征，但又恐声势过大而吓跑噶尔丹，于是任命其皇兄和硕裕亲王福全为抚远大将军，皇长子允褆副之，出兵古北口；皇弟和硕恭亲王常宁为安北大将军、和硕简亲王雅布副之，出兵喜峰口，意图打一场围歼战。
康熙虽未亲征，但在福全等人出发后几天，便以“巡幸边塞”为名启程北上，意在亲临反击战前线，起到实际指挥作用。可惜的是由于水土不服而不得不流泪撤回，将大权交给了其皇兄及皇长子。
大军将至，噶尔丹并未引以为惧，而是更加叫嚷索要土谢图汗与哲布尊丹巴，并率兵南下，占据有利地形，构筑工事，清军虽地形不利，但还是一举击溃了噶尔丹的防守，噶尔丹率众逃离乌兰布通，到达科布多。
福全因接受噶尔丹罢战请求而未乘胜追击，丧失了一举全歼噶尔丹的机会。噶尔丹一改过去傲慢的态度，誓言再不犯喀尔喀诸部，康熙下谕斥责其行径，警告噶尔丹。
击退噶尔丹后，重新编组喀尔喀蒙古各部的工作立即提到日程。清太宗皇太极在位时，曾欲按照四十九旗蒙古（内蒙古）例，在喀尔喀设立盟旗制度，但未及实行即去世。康熙决定实现祖父的遗愿，将喀尔喀有效地管理起来。
1691年（康熙三十年），康熙决定于清明前后与喀尔喀蒙古诸部会盟于多伦。
五月初，康熙与喀尔喀诸部在多伦会盟，康熙在平息了诸部之间的矛盾之后，颁赏封爵，按照内蒙古四十九旗例编组喀尔喀诸部，给地安插。共编喀尔喀为三十四旗，改其为西、北、东三路（扎萨克图汗部为西路，土谢图汗部为北路，车臣汗部为东路），按等级授予诸部贵族亲王、多罗郡王、多罗贝子、固山贝子、镇国公、台吉等衔。
五月四日，康熙亲临喀尔喀各寨阅兵，给穷困者银布，赐赏诸部贵族。五月七日，启程回京。在回京之前，康熙应诸部所请于多伦兴建汇宗寺，纪念此次盛典。
多伦会盟结束了喀尔喀蒙古长期以来内部纷争的局面，促进了北方蒙古族的团结，使喀尔喀声势复振，吸引了大批流亡俄国的蒙古族回归祖国，对于巩固清北部边防起了积极重要的作用。
噶尔丹兵败乌兰布通后，只销声匿迹一段时间。1695年（康熙三十四年），噶尔丹又纠集骑兵三万，以流寇方式，在外蒙古地区到处骚扰。十一月，康熙在积极准备的同时得知噶尔丹正屯驻巴颜乌兰过冬，其活动范围在土拉河与克鲁伦河流域决定兵分东、中、西三路出征噶尔丹，并派人诱噶尔丹深入。
三十五年二月，康熙不顾诸大臣劝阻，亲率中路军征噶尔丹。在行军途中，康熙见军士未安营，自己也不入行宫，“雨朋露立”，等众军士结营完毕才进入行宫，此时康熙已年过四十，仍保持着其祖辈与士卒同甘共苦的优良作风。
康熙一面进军，一面遣使拖住噶尔丹，待西路费扬古大军一到即成夹击之势，料噶尔丹难逃。当康熙率大军进抵克鲁伦河时，噶尔丹闻风而逃，康熙一连五日，身先士卒，追击噶尔丹，但因此时粮饷不继，遂组成一支精悍骑兵前追，自己亲率大军迎粮。西路的费扬古因路途遥远，水草皆被噶尔丹破坏，所以行军缓慢，但闻知康熙已到克鲁伦河，士卒莫不冒死急行。五月十三日，费扬古命都统阿南达等将噶尔丹主力引到昭莫多附近，将其团团围住，双方结阵而战，清军居高冲击噶尔丹阵地，至下午，胜负未分。费扬古遥望噶尔丹后阵未动，知是辎重妇女，便派精骑绕路三十余里到敌后冲击，噶尔丹军大败，被斩首级三千余，其妻被杀，只有噶尔丹率数骑先逃，余部投降，噶尔丹主力被歼。康熙得知噶尔丹逃脱，料其必西去集结旧部，卷土重来。于是派驻西宁的阿南达沿途堵截。但青海诸部声称遵依达赖喇嘛之言而行，未必会堵截噶尔丹，于是康熙决定第二次亲征，切断噶尔丹去回部、青海及西藏的道路。
康熙于亲征途中时刻不忘招抚噶尔丹，重点是分化其上层人物。同时，康熙派阿南达争取噶尔丹妻弟噶尔亶归附朝廷，屯驻哈密，另外命土尔扈特部阿玉台吉，准噶尔部策妄阿拉布坦（噶尔丹侄），发兵两千驻阿尔泰，在西北组成联合防线，从根本上遏制噶尔丹西窜的通路。康熙于喀林托会坐镇指挥。不久，噶尔丹之子及其儿女亲家等人均被清廷截获，噶尔丹想依赖达赖喇嘛回部召集旧部之梦彻底破灭，处于孤立无援之境，遣使议降。康熙让使者转告噶尔丹，令其亲身来降，如不克期来降必征讨之。噶尔丹计穷而逃。康熙收服其众，遏断其外援，达到了亲征的目的，遂于当年十二月返回北京。
在第二次出征噶尔丹结束之前，康熙已开始了第三次亲征的准备工作：派户部尚书马齐，前往陕甘安设通往宁夏的驿站；派副都统阿南达调查从宁夏及嘉峪关西路出兵，至噶尔丹盘踞的萨克萨特呼里克的道理远近。
1697年（康熙三十六年）二月，康熙第三次亲征，前往宁夏部署征剿噶尔丹。三月抵达宁夏，康熙派人送还噶尔丹亲信重臣吴尔占扎卜之母。此时噶尔丹已走投无路，身边的亲信重臣纷纷离去，只剩人丁三百余，驼马很少，牛羊全无，全靠射猎谋生。康熙立即亲命孙思克、博雯率兵出嘉峪关，费扬古领喀尔喀蒙古诸部兵出宁夏，会合于郭多里巴尔哈孙（今蒙古人民共和国境内达兰扎达加德）。
康熙在宁夏安排诸事后，于银川起，亲至狼居胥山（河套西北狼山）地区，不久即接到费扬古奏报，噶尔丹至阿察阿穆塔台地方饮药自尽，其余部来归。
五月十六日，康熙凯旋而归。三次亲征噶尔丹，康熙不畏鞍马劳顿，终于取得胜利。扫除了漠北、西北地区的一大不安定因素，加强了清政府对喀尔喀蒙古、厄鲁特蒙古的统一管辖。使清西北部边疆安定下来。正如康熙所云：“本朝不设边防，以蒙古部落为屏藩耳。”
在平定噶尔丹叛乱时，康熙认为蒙古问题事关重大，于是在内蒙古昭乌达盟、卓索图盟、锡林郭勒盟和察哈尔蒙古东四旗接壤之地建立起了总面积约一万余平方公里的木兰围场。该场既是清军打猎习武的猎场和练兵场，又是康熙绥远的禁苑，每年康熙都举行大规模的秋猕大典，接见蒙古上层人物，既显示清王朝的武功，又彼此密切感情，增进团结。意在巩固北部边防。
在建立木兰围场的同时，康熙在今承德市修建避暑山庄。初称热河行宫，也称承德行宫。后来康熙亲笔提名为避暑山庄。并在行宫外围东、北山麓分别建置外八庙。建热河行宫一是因康熙为游牧民族后代，符合夏天避暑的习惯，更重要的是每年的秋狝大典要有驻足供给之地，修建外八庙亦是利用宗教团结外蒙古、青海、西藏等少数民族的需要，这对于一生崇尚节俭、反对大兴土木的康熙来说，完全是出于政治上的需要。
康熙一生文治武功俱佳，平定噶尔丹即可见其武功一斑，其文治的成就主要体现在察吏安民、治理河工上。
康熙在吏治方面的指导思想是“端本澄源”、“源清流洁”。正如他所说：“朝廷政治，惟在端本澄源。臣子服官，首宜奉公杜弊。大臣为小臣之表率，京官为外吏之现型，大法则小廉源清则流洁，此从来不易之理。”基于此种认识，他把察吏安民重点放在考察高级官吏上。其中主要是地方大员总督、巡抚及在京二品以上堂官。
康熙亲政后，他对官场的种种弊端观察十分仔细，十分重视对高级官吏的考察。对外官与京官勾结行贿纳贿进行教育、警告，但因积弊很深，一时难以奏效。为彻底改变这种京官与外官勾结的非法联系，特规定：凡督抚司道官员与在京各大臣相见馈送、行贿纳贿者“俱革职”；官员本人不知其事降两级，经手此事家人“俱正法”。
针对问题不能彻底解决的情况，康熙在原有“京察”（即考察京官，六年一次）、“大计”（即考察外官，三年一次）和“军政”（即考察武官，五年一次）之外，另行“两年举劾”之制，由军政长官举劾属下功过，举廉惩贪，升赏降革。
此外，康熙还十分重视亲察，与官员进行接触，并提出建立注册考核制度，掌握官员出勤情况。而且，康熙通过亲阅亲信的密奏，在不同程度上掌握了朝内廷外官员的廉贪情况。但密奏并非十分可靠，关键是对其甄辨和正确掌握。
康熙朝考察官吏的专门队伍是六科给事中和各道监察御史，简称科道。其品级虽不高，但职权颇重。为防止其结党营私，蔽贪隐恶，康熙主要截断其闻风言事，限制科道官的权力。
禁止闻风言事虽起到一定的积极作用，但客观上也造成了言路不通，不敢畅所欲言的局面，于是康熙重开言路，倡导无私参劾。
