文天祥含著眼淚說：「國破家亡，我身為宋朝大臣，沒能夠挽回局勢，死了還有罪孽，怎麼還能貪圖活命呢。」
張弘範一再勸降，沒有結果，只好派人把文天祥押送到大都。
過了半年，文天祥被押到大都，元王朝下令把他送到上等的賓館裡，用美酒好菜招待他。過了幾天，元朝丞相博羅派投降官員留夢炎去勸降。文天祥對這個叛徒早已深惡痛絕，現在見他居然老著臉皮來勸降，更是火冒三丈。沒等留夢炎開口，就一頓痛罵，把留夢炎罵得抬不起頭，灰溜溜地走了。
元朝對文天祥勸降不成，就把他移送到兵馬司衙門，戴上腳鐐手銬，過著囚徒的生活。過了一個月，博羅把文天祥提到元朝的樞密院，親自審問。
文天祥被兵士押著，來到樞密院大堂，只見博羅滿臉凶相，坐在上面。文天祥正眼也不看，昂起頭，挺直腰桿走上前去。左右兵士吆喝他跪下，被文天祥拒絕了。
博羅惱羞成怒，喝令左右動手。兵士們把文天祥拉的拉，推的推，將文天祥按倒在地上。
博羅說：「你還有什麼話可說？」
文天祥坦然說：「從古以來，國家有興有亡，做大臣的被滅被殺的，哪一個朝代沒有？我是宋朝的臣子，現在既然已經失敗，只求早死。」
博羅怕審問出現僵局，想緩和一下空氣，就說：「自從盤古到現在，有幾個帝王，你倒說來聽聽。」
文天祥哼了一聲，說：「一部十七史（指《史記》等十七部歷史書），從哪裡說起？我今天不是到這裡來應考，哪有心思跟你們閑扯。」
博羅被文天祥搶白幾句，討個沒趣，就無理取鬧地責問文天祥為什麼丟了臨安逃走，為什麼要另立二王（指趙是、趙是）。文天祥一條條據理駁斥，最後，他慷慨激昂地說：「我文天祥今天落在你的手裡，早就準備一死，何必再嚕囌！」
博羅氣得吹鬍子瞪眼睛，喝令把文天祥押回兵馬司。他想殺掉文天祥。但是元世租恐怕殺了文天祥，民心不服，不同意把他殺害。
文天祥被關的那間土牢，又矮又窄，陰暗潮濕。遇到雨天，屋面漏水，滿地是水；一到夏天，地面上發出一陣陣蒸汽，更加悶熱。牢房的隔壁，有獄卒的爐灶，有陳年的穀倉，發出陣陣煙火氣、霉氣，再加上廁所裡大糞的氣味，死老鼠的臭味，使人極其難受。
文天祥被關在這間牢房裡，惡劣的環境只能折磨他的身體，卻並不能摧毀他的意志。他相信，只要有愛國愛民族的浩然正氣，就能夠戰勝一切惡劣的環境。
他在牢房中，寫下了千古傳誦的《正氣歌》。他在那首詩裡，舉了歷史上一些堅持正義、不怕犧牲的忠臣義士的例子，認為這都是正氣的表現。他在詩中寫道：
天地有正氣，雜然賦流形。
下則為河岳，上則為日星。
於人日浩然，沛然塞蒼冥。
......
時窮節乃見，一一垂丹青。
（意思是：天地之間有一種正氣，分別表現為各種物體。如地上的大河高山，天空的日月星辰。在人的身上就表現為浩然之氣，充塞在宇宙之間。……到了危急的關頭，才表現出他的氣節，他們的事跡一件件留在史冊上。）
文天祥進牢的第三年，河北中山府發生了一場農民起義。起義領袖自稱是宋朝皇室的後代，聚集幾千人馬，號召大家打進大都，救出文丞相。
這一來可把元王朝嚇壞了，如果不殺文天祥，恐怕鬧出大亂子來。元世祖還沒有丟掉招降的幻想，決定親自勸降文天祥。
一天，文天祥被人從牢房裡押出來，帶到宮裡。
文天祥見了元世祖，不肯下跪，只作了個揖。元世祖問他還有什麼話說。文天祥說：「我是大宋宰相，竭心盡力扶助朝廷，可惜奸臣賣國，叫我英雄無用武之地。我不能恢復國土，反落得被俘受辱。我死了以後，也不甘心。」說著，咬牙切齒，不斷地捶打自己的胸膛。
元世祖和顏悅色地勸說：「你的忠心，我也完全瞭解。事到如今，你如果能改變主意，做元朝的臣子，我仍舊讓你當丞相怎麼樣？」
文天祥慷慨地說：「我是宋朝的宰相，哪有服侍兩朝的道理。我不死，哪還有臉去見地下的忠臣烈士？」
元世祖說：「你不願做丞相，做個樞密使怎麼樣？」
文天祥斬釘截鐵地回答說：「我只求一死，別的沒有什麼可說了。」
元世祖知道勸降已沒有希望，才叫侍從把文天祥帶出去。第二天，就下令把文天祥處死。
公元1283年一月的一天，北風怒號，陰雲密佈。京城柴市的刑場上，戒備森嚴。市民們聽到文天祥將要就義的消息，自發集中到柴市來，一下子就聚集了一萬人，把刑場團團圍住。只見文天祥戴著鐐銬，神色從容，來到刑場。他問旁邊的百姓，哪一面是南方。百姓們指給文天祥看了。他朝著正南方向拜了幾拜，端端正正坐了下來，對監斬官說： 「我的事結束了。」
附: 正氣歌
天地有正氣，雜然賦流形。
下則為河岳，上則為日星。
於人曰浩然，沛乎塞蒼冥。
皇路當清夷，含和吐明庭。
時窮節乃見，一一垂丹青：
在齊太史簡，在晉董狐筆．
在秦張良椎，在漢蘇武節；
為嚴將軍頭，為嵇侍中血，
為張睢陽齒，為顏常山舌；
或為遼東帽，清操厲冰雪；
或為出師表，鬼神泣壯烈。
或為渡江楫，慷慨吞胡羯，
或為擊賊笏，逆豎頭破裂。
是氣所磅礡，凜然萬古存。
當其貫日月，生死安足論！
地維賴以立，天柱賴以尊。
三綱實系命，道義為之根。
磋余遘陽九，隸也實不力。
楚囚纓其冠，傳車送窮北。
鼎鑊甘如餡，求之不可得。
陰房冥鬼火，春院閟天黑。
牛驥同一皂，雞棲鳳凰食。
一朝蒙霧露，分作溝中瘠。
如此再寒暑，百沴自僻易。
哀哉沮洳場，為我安樂國。
豈有他謬巧，陰陽不能賊！
顧此耿耿在，仰視浮雲白。
悠悠我心憂，蒼天曷有極！
哲人日已遠，典刑在夙昔。
風檐展書讀，古道照顏色。
