中國甲午戰爭慘敗，也宣告了歷時30載的洋務運動失敗。在腐朽的封建思想桎梏下，洋務派不想觸動體制，不要作出根本性的變革，僅希望通過汲取西方的某些長技，藉以改善及加強舊建制，這是不可能成功的。由於沒有新政制配合，洋務派也受困於自己的封建思想，如企業衙門化、官侵商股、貪污舞弊、中飽私囊、官商勾結等，都使洋務運動難以發展。同時，洋務運動還不時面臨頑固派極力阻撓，面對障礙重重。這些原因都使洋務運動以失敗告終。

1894年7月25日，日本艦隊在豐島海面突然襲擊中國海軍，甲午戰爭爆發。1895年4月，中國簽訂割地賠款的《馬關條約》，歷時八個月的戰爭，終以慘敗結束。在這次戰爭中，中國北洋水師全軍覆沒，北洋海防完全摧毀。這次，向被視為東亞最強大的北洋海軍，卻不堪一擊，舉國大為震驚。同時，國人也開始對洋務運動質疑，思考為何失敗。國人開始認識到，僅學西方的「器物」而沒有政治體制的「變革」，國家不可能強大。洋務派主張「借法自強」，向西方學習，這在當時遭到封建衞道之士的猛烈攻擊。為了尋找理論的合法性，洋務派提出「中學為體，西學為用」（中體西用），說明這並非背離傳統。他們的基本論點是：將中國文化置於「主」的位置，將西學置於「輔」的地位，因此學習西方技術，並未動搖中國文明的根基。把「道」與「器」分離，是一種理論矛盾，但也正是這種理論上之矛盾，為西學在中國爭得一席地位。然而，這矛盾也正是洋務運動最終失敗的重要原因。

洋務運動的每一步，都伴隨着激烈爭論。頑固派認為，學習任何西方事物都是離經叛道。他們以儒家傳統為武器，採取「泛道德化」策略，將任何變化、更新，那怕是技術性變化，都提升到危及正統、道德淪亡的地步。面對這種責難，洋務派往往以形勢發展不得已來迴避爭論。儘管洋務派一再迴避與頑固派的爭論，但面對猛烈攻擊，仍不得不提出自己的理論。起初，他們提出「西學中源」說，認為現代西學古已有之，實際來自中國，這些學問在古代丟失了，傳到西方，所以「學西學」並非「師事夷人」。很明顯，這種說法牽強附會，不足以論證西學的必要性和迫切性。後來，洋務派又提出「中體西用」（中學為體，西學為用），即以中國倫理、孔孟之言為不易之本，以西方科技為可變之用。「中體西用」說起初是為了抵抗頑固派的阻力，後來竟成為反對政治體制變革的保守思想陣營。

「務洋」理想最早是由一批洋務派思想家提出來，它本身也經歷了一個發展和深化的過程。早在十九世紀六十年代初，馮桂芬（1809—1874年）就提出：「以中國之倫常名教為原本，輔以諸國富強之術。」主張採西學、製洋器，發展軍事工業；王韜（1828—1897年）提出：「先富而後強」；薛福成（1838—1894年）提出，用機器「殖財養民」，「工商之業不振，則中國終不可以富，不可以強。」鄭觀應（1842—1922年）提出，「以商戰為主」，「欲制西人以自強，莫如振興商業」。其中有些人還從「通上下」的角度介紹西方思想，尤其是英國的君主立憲制度。

雖然洋務派與頑固派雙方都維護清政府的統治，但爭論的重點是應否要學習西方、應否要興辦鐵路和機器工業這些重大問題，因此爭論的實質是要進步還是要倒退。洋務派認為，西方科技「無一不自天文、算學中來」。為了提高這些知識在中國知識體系中的地位，遂在1866年奏請在同文館內，增設「天文算學館」，招收翰林、進士、舉人及正途出身的五品以下官員。這一提議遭到頑固派強烈反對，他們認為只有科舉才是正途，只能讀孔、孟之書，學習西學是「師事夷人」。

製造輪船是洋務運動重要內容之一。1872年初頑固派上奏，建造輪船耗資巨大，原是為了「制夷」，但現已與各國議和，造船「名為遠謀，實同虛耗」，因此不必再建造艦船。清廷傾向聽取頑固派意見，於是將此摺發下，要群臣討論。洋務派激烈反對，認為現在雖無戰爭，但不等於以後就無戰爭，更應趁現在難得的「和局」，抓緊時機，建造艦船。在洋務派堅持下，輪船繼續建造。

鐵路對國民經濟、國防建設的重要不言而喻，但鐵路建設的發展在中國卻非常坎坷。早在十九世紀七十年代初，李鴻章多次提出修建鐵路，但遭到頑固派強烈反對，沒有得到朝廷的支持。1880年，洋務派又提出修建鐵路，再遭反對。頑固派認為，修鐵路會破壞地脈，觸怒山神會帶來種種災難。而李鴻章只能在自己的實力範圍內，未經批准就修建了從唐山到胥各莊的運煤鐵路，全程只有數十華里。由於頑固派反對用蒸汽機車，開初只能用騾拉車皮。1885年，修鐵路的爭議再起，數年後，慈禧太后才初發「懿旨」，同意修鐵路，時為1889年。至此，經過近二十年的爭論，中國才開始大規模修建鐵路。