19世纪60年代，处于内外交困的清政府，为了应付日益严重的内政和外交形势，采纳了曾国藩、左宗棠、李鸿章、沈葆桢等“有识之士”的建议，开始着手创立采用新式战舰和西方管理、训练方式的近代海军。
1867年（同治六年），清朝闽浙总督兼福州船政大臣沈葆桢在福州马尾建立福州船政局，“购机器，筑船坞”，制造船舰，是“中国海军萌芽之始”。同时，李鸿章在上海着手筹建江南制造总局，准备制造船炮。
到1871年（同治十年），共造出“惠吉”等兵舰6只。制造这些舰船，从原料到工匠都来自外国，造价高昂。为了尽快建成海军，李鸿章又提出造船不如买船的主张。认为“在外国定造更为省便”。
1874年（同治末年），日本借口台湾牡丹社番民杀害琉球船民而出兵侵台，大清朝野上下俱为震动。
李鸿章于1870年（同治九年）继曾国藩出任北洋大臣，驻节天津。上任伊始便碰到日本派专使来华，要求与欧美各国相等的“条约权利”，李鸿章为之愕然。
1874年在日本又发起挑衅，又在台湾登陆，得知日军侵犯台湾消息后，李鸿章急调淮军精锐部队6000人直赴台湾。日军由于不服台湾水土，士兵病死较多。日军不能立即军事占领台湾，于是转而用外交手段解决问题。最终清政府与日本政府于10月31日签订《北京专条》，清政府付给“日本国从前被害难民之家”抚恤银10万两和日军在台“修道建房等”40万两，日军这才从台湾全部撤走。
对日本蠢蠢欲动的野心，李鸿章由此时有了更为清醒的认识，决心自建海军御侮。李鸿章明白了当下大清最可怕的敌人不是海外的西方列强，而是新兴的日本，他知道清日迟早必有一战，他开始未雨绸缪。李鸿章奏请朝廷解散所有旧制水师而迅办新式海军。
从1874年（同治十三年）开始，清政府加快了筹建海军的步伐。同时，江苏巡抚丁日昌提出《海洋水师章程》6条，建议购买和制造大型兵舰，选择沿海险要地带修筑炮台，编练水师，精选优秀人才到海军任职。并建议于沿海建立北洋、东洋、南洋3支舰队。
北洋负责山东、直隶沿海防务；东洋负责浙江、江苏沿海防务；南洋负责广东、福建沿海防务。每支水师各设大兵舰6艘，快艇10艘。3支舰队成军，即可将北自直隶湾，南达广东的漫长海岸线的防御“联为一气”。
但由于清政府经费困难，同时建立3支水师，力量不及，遂决定先在北洋设立水师一军。1870年（同治九年），清政府派李鸿章为北洋通商事务大臣，督办北洋海防事宜；派沈葆桢为南洋通商事务大臣，督办南洋海防事宜。并拟由粤海关、江海关和江苏、广东、福建、浙江、江西和湖北等省厘金内提取银400万两，作为海军经费。
然而事实上，北洋舰队建设之初，每年用度不过120万两。400万两海军经费预算巨款，打了3折。其他280万两到哪里去了？官场惯例，其中的贪污腐败，李鸿章久经宦途，自然知道，而且他也没有办法。
不过，即使120万两，李鸿章也可以有一番大作为了。
从1874年（同治末年）起，李鸿章靠着这120万两海军经费，苦心经营，终于建立了一支像模像样的北洋海军舰队，当时号称世界第八位。
详细的情况是：
从1875年（光绪元年）7月起至1877年（光绪三年）6月止，海军经费统归北洋支配；从1877年7月起，海军经费南北洋各得一半。清政府希望用10年的时间，完成北、东、南洋舰队的组建。
1879年（光绪五年）沈葆桢去世。此后，海军筹建大权统归李鸿章。李鸿章在天津设立水师营务处，负责办理海军事务。1885年（光绪十一年）中法战争中，福建水师在马尾海战全军覆灭后，清政府官僚中要求购买外国铁甲舰的呼声日高。清政府也痛感西方列强恃其船坚炮利横行四海。于是，下决心以购买外国兵舰来扩建海军。
1885年10月13日，清政府发布设立海军衙门的决定。海军衙门的设立，标志清政府筹建海军的活动，进入了一个新阶段。
海军衙门设立后，清政府本着重点办好北洋舰队的方针，全力支持李鸿章筹建北洋舰队。早在1880年（光绪六年），李鸿章就通过驻德大使李凤苞向德国弗尔干造船厂订造铁甲舰2艘，取名为“定远”“镇远”。委派刘步蟾、魏瀚、陈兆翱、郑洁濂等赴德监造。德国在制造过程中，偷工减料，被揭发后，重新修整。直到中法战争后的1885年（光绪十一年）7月3日，两铁甲舰才由德国溪耳海口起航，11月驶抵中国天津。与此同时，经李凤苞购买之“济远”舰，也同时到达中国。
1887年（光绪十三年），李鸿章在英国订购之“致远”“靖远”及在德国订购之“来远”“经远”等4艘快速巡洋舰，经由英国教官琅威理（CaptainLang）和北洋海军管带（舰长）邓世昌亲赴验收驾驶回国。11月抵厦门，次年春抵天津。以上从英、德两国所购7艘舰船，共耗银800万两。
从此，北洋舰队实力大增，声势日壮。
到1888年（光绪十四年），北洋舰队已是一支拥有“镇远、定远铁甲2艘，济远、致远、靖远、经远、来远、超勇、扬威快速巡洋舰7艘，镇中、镇边、镇东、镇西、镇南、镇北炮艇6艘，鱼雷艇6艘，威远、康济、敏捷练船3艘，利运运船1艘”，合计大小舰艇25艘，官兵近4000人，具有相当规模的一支近代海军了。
为了把北洋舰队的建设引上正轨，同年9月，海军衙门以英国海军制度为蓝本制定了《北洋海军章程》。《章程》分船制、官制、升擢、事故、考校、俸饷、恤赏、工需杂费、仪制、钤制、军规、简阅、武备、水师后路各局共14款。
《北洋海军章程》是参照西方近代海军规则制度，制定的中国近代第一个海军章程。从内容看，规定得相当细致完备，井井有条。《北洋海军章程》的制定，标志了北洋舰队的正式成军。
北洋舰队成军以后，清政府根据李鸿章的推荐，委派淮系将领天津镇总兵丁汝昌为水师提督（舰队司令）。由曾留学英国，通晓海军业务知识的刘步蟾、林泰曾分任右翼、左翼总兵兼定远、镇远舰管带（舰队副司令兼主力舰舰长）。聘英国海军上校琅威理为总教习。
清政府在筹建北洋舰队的同时，在南方其他省份也陆续筹建了另几支舰队。到1894年（光绪二十年）甲午战争爆发前，清政府除拥有较大的北洋舰队外，还建立起南洋、福建及广东3支舰队。
总计甲午中日战争前，清政府的4支舰队，共拥有各种大小军舰78艘（不包括其他武装运船）、鱼雷艇24艘。排水量总共8万余吨。但其中除北洋舰队拥有巨型铁甲舰及大型巡洋舰，能从事外海作战外，其余3支舰队，舰船数量虽不算少，但大多是陈旧小船，根本不能胜任近代海战。
福建舰队原来曾是一个有相当规模的舰队。但是在1884年（光绪十年）8月23日的马尾海战中，舰队的全部家当，计军舰11艘，商船19艘，被击沉击毁，几乎全军覆没。甲午战争时，仅有小型炮舰、运输舰、通报舰10艘。其中大者不过1000余吨，全部木造或铁骨木皮制造。
广东舰队舰船号称30艘，但其中除广甲、广乙、广丙3舰超过千吨外，其余均为数百吨小船。最大者800余吨，小者仅150吨，也全部是木造或铁骨木皮，根本不能出海作战。
同时，清政府的这些舰队分别由南北洋大臣、闽浙总督、两广总督各为节制，不相统属，兵力分散，不能联成一气。
这次战争名义上是中日两国间的战争，实际上海战方面，只是北洋舰队与日本海军的较量，其余3支舰队完全作壁上观。甚至出现过这样的笑话：1895年（光绪二年）2月，日军占领威海卫，俘获了停泊在威海港内的全部中国军舰。两广总督写信给日本联合舰队司令官伊东佑亨，要求日本将被俘获之广丙交还给广东舰队。理由是广丙系广东舰队所有，广丙北来，只是依例参加海军检阅，而非参加战争。此次战争与广东舰队无涉，故应将被俘之广丙交还。结果，被伊东佑亨拒绝，碰了一鼻子灰。
意大利人弗拉基米尔在甲午战争后1896年（光绪二十年）出版的《中日战争》一书，评论中国海军时曾写道：“中国海军同陆军相比是非常优越的。”许多海军军官在专业方面受过很好的训练。“即使在和平时期，海军也需要经常关心和掌握一定的专业知识；船员如果没有受到科学教育是不能将军舰驾驶出海的。”而北洋舰队则是“目前中国唯一具有战斗力的一个舰队。此外，它还是中国舰队中最难对付的一个，它是为保护首都而组成的，并且占有两个辉煌的港口旅顺和威海卫”。
这一评论，基本上符合北洋舰队的实际情况。从两次会校可以看出，北洋舰队不论在战阵训练和军职技术方面，都称得起是一支具有一定战斗力的近代海军部队。
日本海军的创建远较西方资本主义国家为晚。甚至比中国近代海军的建立也略晚一些。1857年（咸丰七年、日本安正四年）到1868年（同治七年、日本明治元年），从欧洲国家购买小型军舰7艘，均为数百吨小船，最大的不超过千吨，最小的仅30余吨。当时日本的海军力量还是很弱小的。
1868年（同治七年）明治维新以后，日本政府特别重视海军的发展。明治政府成立不久，天皇睦仁就在大阪天保山湾举行观舰式。当时参加观舰式的舰只只有6艘，总共不过2452吨，因此，天皇睦仁于10月间谕令军务官说：“海军为当今第一急务，务必从速建立。”表现了日本明治政府扩充海军的急切心情。
19世纪70年代以后，日本加紧了所谓“富国强兵”的步伐，积极着手扩充军事实力。特别是1874年（同治十三年、明治七年），日本侵略台湾的失败，使明治政府“痛感舰船之不足，向英国定购了扶桑、金刚、比睿三舰”。这是日本海军部省设立后向外国购置新舰的开始。
与此同时，在海军发展方面，日本政府制定了从1883年（光绪九年、明治十六年）开始的8年造舰计划。决定每年投资330万日元，计划建造大舰5艘、中舰8艘、小舰7艘及鱼雷炮舰共32艘。8年间，共投资2600万日元。
为扩大海军经费来源，明治政府决定从1886年（光绪十二年、明治十九年）发行海军公债。共筹集资金1700万元，作为第一期造舰扩张费。到1887年（光绪十三年、明治二十二年），补充完成了二等海防舰3艘。这时，日本海军已拥有各种舰船22艘。
1888年（光绪十四年、明治二十一年），西乡从道又提出《第二期军备扩张案》，这是一个庞大的造船计划。其中包括建造海防舰以下46艘的五年计划。至1890年（光绪十六年、明治二十三年），日本海军拥有完成和正在建造的舰只计25艘。合计50万余吨。
1889年（光绪十五年、明治二十二年），山县有朋组阁执政。规定海、陆军大臣只能从现役军人中选择担任。并将海军经费又增加100余万元，准备建造巡洋舰1艘、炮舰1艘。1892年（光绪十八年、明治二十五年）又计划建造铁甲舰2艘、巡洋舰1艘、通报舰1艘。
日本政府在制造舰船、扩张海军的活动中，始终以中国海军作为对手和假想敌。
特别对中国北洋舰队的定远、镇远二铁甲舰，感到莫大威胁，耿耿于怀，必欲除之而后快。以致那时不仅在日本海军军人中盛传着“一定要打胜定远”这样一句流行的话。
甚至在小学校儿童做游戏时，也把儿童们分成甲乙两组：一组装做中国舰队，另一组扮成日本舰队，进行以捕捉“定远”“镇远”而决定胜负的战斗游戏。目的是对儿童进行以战胜定远、镇远“二巨舰作为日本的战略目标的教育”。
不仅如此，日本为了对付中国定远、镇远两只巨舰，也极力制造大船强舰。先后建造了松岛、岩岛、桥立3艘大舰，即所谓“三景舰”。“三景舰”完全是为对付定远、镇远而设计建造的。
其设计规定：三舰排水量均为4000吨，各配备1门32.5厘米口径的巨炮，以对抗定远、镇远的30.5厘米口径的大炮。时速比定远、镇远快两节。松岛、岩岛为法国制造，桥立为日本横须驾造船厂制造。由于设计要求特殊，工程难度很大，费时6年，到1891年（光绪十七年、明治二十四年）才建成。松岛、岩岛到1892年（光绪十八年、明治二十五年）才由法国开回日本。
由于这3艘巨舰是为了对抗定远、镇远而设计的，片面追求攻击能力而忽视了防御能力。所以日本海军头目山本权兵卫曾把这3艘军舰比喻为“手持利刃赤身裸体作战的士兵”。由于设计的不合理，这3艘军舰都存在着舰小炮大、头重脚轻、防御能力差的弱点。每发一炮则舰身颠簸倾斜。炮身巨大，左右旋转困难，发射速度迟缓。
但是，由于“三景舰”的建成，加上原有之浪速、高千穗、千代田等巡洋舰，使日本海军势力得到进一步充实。
为了从炮火和速度上压倒中国海军，日本从19世纪90年代以后，把建设和扩充海军力量的着眼点，放在添购速射炮和购置快速巡洋舰上。这时，建舰费用已经空虚。为筹集新的资金，1890年（光绪十六年、明治二十三年），天皇睦仁下谕拨出皇室经费30万元作为造船费。同时，再向民间征集200余万元的建舰经费。同年11月，国会通过了521万余元的四年追加建造案。1891年（光绪十七年、明治二十四年），又提出5855万余元五年造船计划。1892年（光绪十九年、明治二十五年）。向英国购买了当时世界上最快的巡洋舰“吉野”。1893年（光绪二十年、明治二十六年）2月，天皇睦仁再次下谕节省内廷经费。6年间，每年拨经造舰经费30万元。又命令全体文武官员，除特殊情况外，在此期间，一律缴纳1/10的薪俸作为造舰费。并决定扩大原计划之军舰制造费。计划在7年中，以1800万元的巨款，建造铁甲战斗舰2艘、巡洋舰1艘、通报舰1艘。
由于日本明治政府多年来苦心经营，不遗余力的扩大海军力量，到1894年（光绪二十年、明治二十七年）甲午中日战争前，终于建成了拥有大小军舰31艘、鱼雷艇37艘，排水量达59898吨的1支具有相当规模的近代海军。
