一九四九年元月九日下午，杜聿明將軍的前進指揮所退入陳官莊第五軍軍部。晚十九時，陳官莊核心陣地被突破，邱將軍仍率特務營固守照壁據點，與共軍反覆拚殺。十日零時，邱將軍率兵團部人員在警衛營保護下向南突圍，意圖到張廟堂第二○○師指揮所與該師並力衝出。突圍過程並不順利，杜副總司令在衝出兵團部時即與隨從被衝散。邱將軍途遇通信營營長程渭濱，程營長報告兩小時前已與第二○○師失去聯絡。凌晨二時，兵團部逼近張廟堂，遭共軍阻擊，突圍部隊傷亡慘重，兵團部到達花小廟附近。
邱氏在突圍前，已向上尉副官陳亮索要手槍。邱將軍在獲報突圍無望後，眼見身邊殘餘百餘官兵倉惶淒慘狀態，四處共軍大呼繳槍不殺。邱將軍不忍隨從官兵繼續犧牲，乃大聲喝令追隨自己的官兵各自逃生去。追隨在邱氏身邊的人員多系親信之軍官或衛士，不忍離去。其中一位大喊：「司令官你呢？」邱氏喝道：「他媽的，不成功就成仁，你們到南京集合，不要管我」。部分官兵哭喊著要與司令官同生死，邱將軍乃舉槍作威嚇狀，喝道：「不走就先槍斃你們」。同行官兵見邱將軍執意要他們離去，可能認為邱氏怕目標顯著不易逃生，所以紛紛掉頭亂跑，自尋生路去了。邱將軍身邊只剩警衛營營長遠碩卿、副官陳亮、衛士徐仁成、警衛營通訊兵何永福。
邱將軍下完最後命令後，面南而立，舉手敬禮向校長（蔣介石）訣別（這幕有許多官兵目擊），禮畢見隨行官兵紛紛散去，邱將軍乃偽裝乏力，躺倒在地，口稱不能再走了。部分官兵不知往何處逃，仍在附近徘徊（包括搜索營營長高毓民、技術連連長黃志超及副官處處長黃福階）。邱將軍的隨從知道邱將軍有殉國之心，但見邱將軍倒臥休息，也放鬆戒心，邱將軍一向體力充沛，此時籍故倒臥，顯系藉口。
邱將軍一臥地，馬上自大衣中抽出腰間所佩電光手槍，打開保險向腹部開一槍，隨從被槍聲驚動，回看將軍倒臥處，邱將軍一槍中左腹，自知未死，又恐衛士奪槍，於是馬上再開兩槍，兩槍均因右手顫抖與痛苦中的暫時失去意識而偏向。將軍自射3槍後，力氣用盡，痛苦倒地。
邱將軍倒地後，痛苦不堪，細聲命令遠營長補槍。遠營長一時震驚，不知如何反應，邱將軍乃喝斥遠營長，說道：「你要留我給共匪當俘虜嗎？你想抗命嗎？」。遠營長回過神後，忙問平時保管邱氏佩槍的副官陳亮槍由何處來，陳亮答道：「這是美國顧問送他的電光手槍，平是是由我攜帶，今晚他向我要手槍，可能事先就有這個準備」。這時邱氏力氣已盡，在地上喘著氣，但仍瞪視遠營長，並以手指著遠營長。陳亮系邱氏同族妹夫，見邱將軍痛苦，又傷在胃、腎致命處，乃向遠營長說道如此看來生命是不保了，免他受罪吧。遠營長渾身震顫，熱淚盈眶，不忍動手，乃示意站在一旁的通訊兵何永福開槍。何永福拾起手槍，在邱清泉面前舉起手槍，邱將軍開口喝其開槍，何永福一槍擊中左胸，一槍擊中右胸。邱闔眼倒地，口仍作喝斥狀並未完全閉合。
何永福開槍後，馬上丟下手槍逃去，副官陳亮、衛士徐仁成也跑開，遠營長仍呆立於邱將軍身側。在四處徘徊的官兵遙見邱將軍自盡即四處逃散。技術連連長黃志超遠遠見到邱將軍自盡，淚流滿面，暗地說道：「司令官，您可算是為黨國盡忠了」。時為一九四九年元月十日三時十四分。
四周兵團部殘部仍在開槍，試圖突圍，共軍也向丘氏殉國方向開火，一枚炮彈傷及遠營長背脊。遠營長負傷後心亂如麻，也倒臥在邱將軍遺體身側。不久天亮，遠營長已經沒有抵抗意志，見到共軍搜索兵過來，乃舉起軍帽表示投降。共軍招手要遠營長走過去，遠營長即稱系邱將軍衛士，正護衛邱氏遺體。共軍不敢怠慢，馬上將遠營長帶去見其長官。共軍軍官詢明詳情，找到邱清泉遺體。因為遠營長自稱衛士，又身負輕傷，所以遠氏在短暫盤問後獲釋，發給路條聽任離開戰場。
共軍三野一縱發動當地居民張遂等四人用軟床將丘將軍遺體運往蕭縣錦橋村。當夜共軍又用汽車將遺體運往單莊，用擔架置於民屋中，由當地甲長王中義為邱氏洗身。共軍辨明為邱將軍之後，即以拍照，隨後入殮，並埋葬於單莊以北荒林中的亂墳崗中。
此後，中共官方鼓勵原丘兵團被俘將校李漢萍等人撰寫關於丘清泉之死的相關回憶，但無法清查到目擊丘氏最後一刻的目擊證人，只好依道聽塗說與共軍陳官莊戰後本身的戰報將丘氏之壯烈殉國說成「發瘋亂跑被流彈擊中喪命」。此說列為官方說詞數十年，但瑕疪百出，在拍攝電影時甚至為邱氏自殺一幕商討多時。四十年後，共軍在邱將軍遺體補槍假造戰報之說逐漸浮現。
國軍早期也沒有確實證據證明邱將軍系自戕殉國。直到來臺後整理當事人口述，才得到大致經過。唯國軍宣傳機關過於無能，官方竟有多種自戕版本流傳，以致真實歷史隱微不彰。
遠營長輾轉抵達南京第二兵團留守處報到，報告了邱將軍殉國狀況。國防部此時已得知共軍在報上刊出邱將軍遺照，遠營長乃假稱邱氏遺體由兵團副官處處長黃福階交出，但承認下令為邱將軍補上致命一槍。辦事處幾位中下級軍官聽完遠氏陳述後，群情激憤，將遠氏痛打一頓。遠營長只好逃出南京，回許昌老家。
遠營長享年73歲，歷經動亂，對親睹的邱清泉將軍殉國經過一直深埋心中，不敢透露。直到九十年代才撰成回憶。一九九二年遠氏病逝，其遺作「邱清泉之死紀實」兩年後發表於一九九四年元月出版的《魏都文史資料第四輯》（人民政協許昌市魏都區委員會文史委出版）。遠氏在遺作中稱：「眾所周知，淮海戰役中國民黨的高級將領邱清泉被擊斃喪命。當時我在邱部任警衛營營長，對邱的死我是親眼所見。而今已到暮年，願將此事奉獻於世」。
