宋理宗開慶元年（1259年），蒙古向南宋發動大規模進攻。九月，忽必烈圍鄂州（今湖北武昌）。消息傳到臨安，朝野震動。外號「活閻羅」的寵宦董宋臣建議遷都四明（今浙江寧波）以避兵鋒，重演了南宋初期高宗趙構逃亡海上的歷史。然而，這對團結軍心、民心十分不利。文天祥知道自己人微言輕，且多言招禍，但為了社稷人民，於是挺身而出，向皇帝上書，指出遷都之議是小人誤國之言，董宋臣惡貫滿盈，應以斬首。文天祥還建議改革政治、擴充兵力、抗元救國，可惜理宗沒有採納他的建議，南宋的朝政也一天比一天敗壞。

宋理宗景定元年（1260年），文天祥被委任為簽書鎮南軍（今江西南昌）節度判官廳公事，但他不願赴任，請求「祠祿」，朝廷應允，命他做建昌軍（今江西南城）仙都觀的主管。仙都觀是道教宮觀，這個職務是個閒差。文天祥時年才25歲，但他卻有退隱出世的思想。這是因為當時朝廷權奸當道，他的改革設想落空，甚感失望，既不願尸位素餐，混跡官場，更不願同流合污，寧願暫時置身於政治漩渦之外。所謂「邦有道則仕，無道則隱」，這就是文天祥的處世哲學。

景定四年（1263年），由於皇帝不聽群言，重新起用奸佞董宋臣，文天祥憤而辭職，後被朝廷貶到治理瑞州（今江西高安縣）。瑞州曾遭蒙古兵蹂躪，城垣屋宇被毀，文物古蹟被洗劫。文天祥履任後，實行寬惠政策，盡力安撫百姓，籌集資金建立「便民庫」，供借貸和救濟之用，使地方秩序重新恢復過來。他還修復了一些古蹟如「碧落堂」、「三賢堂」等，新建「野人廬」、「松風亭」等，以發揚先賢的民族正氣，鼓舞人民的愛國精神。瑞州在文天祥治理下，百廢俱興。

景定五年（1264年），理宗逝世。權臣賈似道擁立太子為帝（即度宗），進一步操縱朝政。他荒淫無度，一手遮天，南宋朝政更腐敗不堪。1270年，文天祥出任軍器監（掌管武器製造）、崇政殿說書（為皇帝講解書史、經義）等職。有一次，賈似道託言有病，以去職回鄉要挾度宗，軟弱的度宗竟涕泣挽留。文天祥為皇帝起草詔書，他沒有像過往大臣那樣，對賈似道歌功頌德，反而直言臣下要以國事為重，指出賈似道的行為是「惜其身」、「違朕心」。結果得罪了賈似道，被免去所有職務。

度宗咸淳六年（1270年）九月，文天祥被免官後回到家鄉，他深感人心險惡，世道污濁，決意歸隱林泉。他在文山修建了一所山莊，隱居於此，寄情山水，寫下了不少優美的詩篇。然而，他的內心一點也不寧靜，每見落葉蕭蕭，涼月墮階，憂國憂民之情就油然而生。咸淳九年（1273年），朝廷起用他為湖南提刑，掌管獄訟，他推辭不了，惟有啟程上任。

咸淳十年（1274年），文天祥被委任為贛州（今江西境內）知州。贛州是他的家鄉，為鄉人辦事，分外勤謹。他主張對人民少用刑罰，多用義理，所屬10個縣的人民對他非常愛戴，加以這年風調雨順，稻穀豐收，出現了短暫的安樂景象。但不到一年，元軍大舉南侵，宋朝到了最危險的時刻，文天祥結束了15年的宦海浮沉，踏上戎馬征途。