宋朝投降，文天祥虽然被元朝拘禁，但不肯归顺。伯颜决定把他送往元朝京师大都（今北京）。船到镇江（今江苏镇江）靠岸，文天祥被囚禁在一户居民家中。他命随从暗中打探敌情，计划逃走。逃走当晚，文天祥的船只被元军巡船发现，但因巡船追捕时搁浅，没法走动，元军只能看着文天祥一行12人逃去。

文天祥一行人到达真州（今江苏仪征市，即扬州市西南）后，受到真州军民热情欢迎。守将苗再成认为，以文天祥的丞相、枢密使身份作号召，江淮合力，不难挽回大局。不料淮东制置使李庭芝中了敌人的反间计，以为文天祥已投降元军，到真州攻城，要苗再成杀掉他。苗再成半信半疑，但上司的命令又不能置之不理，只好把文天祥骗到城外赶走。被自己人怀疑比受敌人侮辱更难受，文天祥不禁仰天长叹。从真州出来，文天祥一行人到达扬州城下。名都扬州经过两次大寇灾，繁华之地已无复旧观。城上守军盘查严密，形势紧张。这时，一个卖柴人愿意带他们到江苏高邮（今江苏高邮）去，文天祥决定离开扬州，寻找二王行在，即益王赵昰和广王赵昺，再为南宋效力。

从扬州到高邮，文天祥一路颠沛流离，饥寒交迫。随从的人逃的逃、死的死，12人只剩下6人。疲惫不堪的文天祥再也走不动了，他每走一步都异常艰难，跌倒了又爬起来，咬着牙前进。幸好遇上一群樵夫热情相助，拿来一个箩筐，让文天祥坐在里面，由6个人轮流抬着走。他们历尽艰险，才到达高邮。但高邮方面收到李庭芝的文书，严防文天祥攻城。文天祥不敢进城，又向泰州（今江苏泰州）前进。泰州有船可到通州（今江苏南通），但沿路不但元军出没，还有强盗抢劫，非常危险。文天祥以孤舟一叶，昼伏夜出，虽多次与敌人遭遇，但还是有惊无险地到达通州。文天祥在通州听说益王、广王在永嘉（今浙江温州）建立了元帅府，号召各地义兵勇士继续抗元，就马上决定投奔二王。恭帝德佑二年（1276年）闰三月，他扬帆入海，回到南宋管辖的地方。他计划在闽、广重举义旗，团结各方义兵，统一部署，复兴宋室。

德佑二年（1276年）五月初一，益王在福州登位，改元景炎，是为端宗。广王晋封为卫王。文天祥担任枢密使兼都督诸路军马。七月，文天祥在南剑州（今福建南平）开督府，福建、广东、江西的许多文臣武将、地方名士、勤王军旧部纷纷前来投效，文天祥又派人到各地招兵筹饷，很快组成了一支督府军，规模、声势都比去年的江西勤王军大得多，但是，朝中大臣不能同心同德对付敌人。德佑二年十月，朝廷命文天祥出兵汀州（今福建长汀），不幸战斗失利。在元军攻击下，南剑州也落入敌手，行都福安（即福州）失去屏障。丞相陈宜中、枢密副使张世杰惊惶失措，急忙护送端宗和卫王登舟入海，以避兵锋。福安府随即陷落，南宋小朝廷从此成为海上流亡政府。

端宗景炎二年（1277年）初，元军进逼汀州，文天祥退却到广东梅州（今广东梅州）。经过整顿，五月间又从梅州出发。各方义军配合督府军作战，分别夺回会昌、雩都、兴国，分宁、武宁、建昌三县豪杰，以及临川、洪州、袁州、瑞州的义兵都来请求督府节制。文天祥统一部署，挥师席卷赣南，收复了大片土地。景炎三年（1278年）十二月，元军对海丰五坡岭的督府发动突袭，文天祥兵败被俘。元朝的元帅张弘范率水陆两路军队直下广东，要彻底消灭南宋流亡政府。文天祥被他们用战船押解到珠江口外的零丁洋（又称伶仃洋）。张弘范派人请文天祥写信招降张世杰，文天祥当然坚拒，但写了一首七言律诗，表明自己心迹。这首诗就是留芳千古的《过零丁洋》。

在元军猛烈攻势下，南宋流亡政府逃到秀山（今广东东莞虎门的虎头山）。11岁的端宗惊悸成疾，在硇州（今广东湛江市）病逝。张世杰、陆秀夫立8岁的卫王继位，又把行朝迁到新会县南面大海中的厓山。卫王祥兴二年（1279年）二月初六日，宋、元双方展开海战，最后张世杰统领的宋军战败，陆秀夫背负小皇帝蹈海殉难。厓山战役后，文天祥被押到广州。元朝政府为了使他投降，决定把他押送大都。文天祥的妻子欧阳夫人和两个女儿柳娘、环娘被元军俘虏后送到大都，元朝想利用骨肉亲情软化文天祥。文天祥一共育有二子六女，当时在世的只剩此二女，年龄都是14岁。文天祥接到女儿的信，虽然痛断肝肠，但仍然坚定地说：“人谁无妻儿骨肉之情，但今日事已如此，于义当死，乃是命也。奈何！奈何！”又写诗道：“痴儿莫问今生计，还种来生未了因。”表示国既破，家亦不能全，因为骨肉团聚就意味着变节投降。

元世祖至元十九年（1282年）十二月初九，是文天祥就义的日子。这一天，兵马司监狱内外，布满了全副武装的卫兵，戒备森严。上万市民听到文天祥就义的消息，就聚集在街道两旁。从监狱到刑场，文天祥走得神态自若，举止安祥。行刑前，文天祥问明了方向，随即向着南方拜了几拜。监斩官问：“丞相有什么话要说？回奏尚可免死。”文天祥不再说话，从容就义，终年47岁。文天祥从至元十六年（1279年）十月抵达大都到至元十九年（ 1282 年）十二月被杀，一共被囚禁了三年两个月。