中国甲午战争惨败，也宣告了历时30载的洋务运动失败。在腐朽的封建思想桎梏下，洋务派不想触动体制，不要作出根本性的变革，仅希望通过汲取西方的某些长技，借以改善及加强旧建制，这是不可能成功的。由于没有新政制配合，洋务派也受困于自己的封建思想，如企业衙门化、官侵商股、贪污舞弊、中饱私囊、官商勾结等，都使洋务运动难以发展。同时，洋务运动还不时面临顽固派极力阻挠，面对障碍重重。这些原因都使洋务运动以失败告终。

1894年7月25日，日本舰队在丰岛海面突然袭击中国海军，甲午战争爆发。1895年4月，中国签订割地赔款的《马关条约》，历时八个月的战争，终以惨败结束。在这次战争中，中国北洋水师全军覆没，北洋海防完全摧毁。这次，向被视为东亚最强大的北洋海军，却不堪一击，举国大为震惊。同时，国人也开始对洋务运动质疑，思考为何失败。国人开始认识到，仅学西方的“器物”而没有政治体制的“变革”，国家不可能强大。洋务派主张“借法自强”，向西方学习，这在当时遭到封建卫道之士的猛烈攻击。为了寻找理论的合法性，洋务派提出“中学为体，西学为用”（中体西用），说明这并非背离传统。他们的基本论点是：将中国文化置于“主”的位置，将西学置于“辅”的地位，因此学习西方技术，并未动摇中国文明的根基。把“道”与“器”分离，是一种理论矛盾，但也正是这种理论上之矛盾，为西学在中国争得一席地位。然而，这矛盾也正是洋务运动最终失败的重要原因。

洋务运动的每一步，都伴随着激烈争论。顽固派认为，学习任何西方事物都是离经叛道。他们以儒家传统为武器，采取“泛道德化”策略，将任何变化、更新，那怕是技术性变化，都提升到危及正统、道德沦亡的地步。面对这种责难，洋务派往往以形势发展不得已来回避争论。尽管洋务派一再回避与顽固派的争论，但面对猛烈攻击，仍不得不提出自己的理论。起初，他们提出“西学中源”说，认为现代西学古已有之，实际来自中国，这些学问在古代丢失了，传到西方，所以“学西学”并非“师事夷人”。很明显，这种说法牵强附会，不足以论证西学的必要性和迫切性。后来，洋务派又提出“中体西用”（中学为体，西学为用），即以中国伦理、孔孟之言为不易之本，以西方科技为可变之用。“中体西用”说起初是为了抵抗顽固派的阻力，后来竟成为反对政治体制变革的保守思想阵营。

“务洋”理想最早是由一批洋务派思想家提出来，它本身也经历了一个发展和深化的过程。早在十九世纪六十年代初，冯桂芬（1809—1874年）就提出：“以中国之伦常名教为原本，辅以诸国富强之术。”主张采西学、制洋器，发展军事工业；王韬（1828—1897年）提出：“先富而后强”；薛福成（1838—1894年）提出，用机器“殖财养民”，“工商之业不振，则中国终不可以富，不可以强。”郑观应（1842—1922年）提出，“以商战为主”，“欲制西人以自强，莫如振兴商业”。其中有些人还从“通上下”的角度介绍西方思想，尤其是英国的君主立宪制度。

虽然洋务派与顽固派双方都维护清政府的统治，但争论的重点是应否要学习西方、应否要兴办铁路和机器工业这些重大问题，因此争论的实质是要进步还是要倒退。洋务派认为，西方科技“无一不自天文、算学中来”。为了提高这些知识在中国知识体系中的地位，遂在1866年奏请在同文馆内，增设“天文算学馆”，招收翰林、进士、举人及正途出身的五品以下官员。这一提议遭到顽固派强烈反对，他们认为只有科举才是正途，只能读孔、孟之书，学习西学是“师事夷人”。

制造轮船是洋务运动重要内容之一。1872年初顽固派上奏，建造轮船耗资巨大，原是为了“制夷”，但现已与各国议和，造船“名为远谋，实同虚耗”，因此不必再建造舰船。清廷倾向听取顽固派意见，于是将此折发下，要群臣讨论。洋务派激烈反对，认为现在虽无战争，但不等于以后就无战争，更应趁现在难得的“和局”，抓紧时机，建造舰船。在洋务派坚持下，轮船继续建造。

铁路对国民经济、国防建设的重要不言而喻，但铁路建设的发展在中国却非常坎坷。早在十九世纪七十年代初，李鸿章多次提出修建铁路，但遭到顽固派强烈反对，没有得到朝廷的支持。1880年，洋务派又提出修建铁路，再遭反对。顽固派认为，修铁路会破坏地脉，触怒山神会带来种种灾难。而李鸿章只能在自己的实力范围内，未经批准就修建了从唐山到胥各庄的运煤铁路，全程只有数十华里。由于顽固派反对用蒸汽机车，开初只能用骡拉车皮。1885年，修铁路的争议再起，数年后，慈禧太后才初发“懿旨”，同意修铁路，时为1889年。至此，经过近二十年的争论，中国才开始大规模修建铁路。