宋理宗开庆元年（1259年），蒙古向南宋发动大规模进攻。九月，忽必烈围鄂州（今湖北武昌）。消息传到临安，朝野震动。外号“活阎罗”的宠宦董宋臣建议迁都四明（今浙江宁波）以避兵锋，重演了南宋初期高宗赵构逃亡海上的历史。然而，这对团结军心、民心十分不利。文天祥知道自己人微言轻，且多言招祸，但为了社稷人民，于是挺身而出，向皇帝上书，指出迁都之议是小人误国之言，董宋臣恶贯满盈，应以斩首。文天祥还建议改革政治、扩充兵力、抗元救国，可惜理宗没有采纳他的建议，南宋的朝政也一天比一天败坏。

宋理宗景定元年（1260年），文天祥被委任为签书镇南军（今江西南昌）节度判官厅公事，但他不愿赴任，请求“祠禄”，朝廷应允，命他做建昌军（今江西南城）仙都观的主管。仙都观是道教宫观，这个职务是个闲差。文天祥时年才25岁，但他却有退隐出世的思想。这是因为当时朝廷权奸当道，他的改革设想落空，甚感失望，既不愿尸位素餐，混迹官场，更不愿同流合污，宁愿暂时置身于政治漩涡之外。所谓“邦有道则仕，无道则隐”，这就是文天祥的处世哲学。

景定四年（1263年），由于皇帝不听群言，重新起用奸佞董宋臣，文天祥愤而辞职，后被朝廷贬到治理瑞州（今江西高安县）。瑞州曾遭蒙古兵蹂躏，城垣屋宇被毁，文物古迹被洗劫。文天祥履任后，实行宽惠政策，尽力安抚百姓，筹集资金建立“便民库”，供借贷和救济之用，使地方秩序重新恢复过来。他还修复了一些古迹如“碧落堂”、“三贤堂”等，新建“野人庐”、“松风亭”等，以发扬先贤的民族正气，鼓舞人民的爱国精神。瑞州在文天祥治理下，百废俱兴。

景定五年（1264年），理宗逝世。权臣贾似道拥立太子为帝（即度宗），进一步操纵朝政。他荒淫无度，一手遮天，南宋朝政更腐败不堪。1270年，文天祥出任军器监（掌管武器制造）、崇政殿说书（为皇帝讲解书史、经义）等职。有一次，贾似道托言有病，以去职回乡要挟度宗，软弱的度宗竟涕泣挽留。文天祥为皇帝起草诏书，他没有像过往大臣那样，对贾似道歌功颂德，反而直言臣下要以国事为重，指出贾似道的行为是“惜其身”、“违朕心”。结果得罪了贾似道，被免去所有职务。

度宗咸淳六年（1270年）九月，文天祥被免官后回到家乡，他深感人心险恶，世道污浊，决意归隐林泉。他在文山修建了一所山庄，隐居于此，寄情山水，写下了不少优美的诗篇。然而，他的内心一点也不宁静，每见落叶萧萧，凉月堕阶，忧国忧民之情就油然而生。咸淳九年（1273年），朝廷起用他为湖南提刑，掌管狱讼，他推辞不了，惟有启程上任。

咸淳十年（1274年），文天祥被委任为赣州（今江西境内）知州。赣州是他的家乡，为乡人办事，分外勤谨。他主张对人民少用刑罚，多用义理，所属10个县的人民对他非常爱戴，加以这年风调雨顺，稻谷丰收，出现了短暂的安乐景象。但不到一年，元军大举南侵，宋朝到了最危险的时刻，文天祥结束了15年的宦海浮沉，踏上戎马征途。