一九二六年七月，國民革命軍開始北伐，譜寫出了中國近代史的新篇章。這場統一中國的大戰，激盪著每個熱血青年的心。林彪這個時候還沒有從黃埔軍校畢業，但他和所有黃埔健兒一樣，熱血沸騰著，燃燒著，他渴望血與火的較量，渴望著生命的價值在戰爭中實現。一九二六年九月，他畢業了，被分配在葉挺獨立團，任見習排長。他趕上了攻打武昌的苦戰。葉挺鋼鐵般的作風，戰友們頑強的精神，感染著林彪。他也是初生牛犢不怕虎，很快就取掉了見習兩個字。一九二六年十月十日，林彪隨鐵軍從武昌東門破城而入，攻克了膠著多日的武昌城。
林彪所在的葉挺獨立團一九二六年底改編為國民革命軍第四軍第二十五師七十三團。一九二七年三月，林彪升任國民革命軍十一軍二十五師七十三團三營的七連連長。四月，參加了武漢國民政府舉行的第二期北伐，進軍河南，同北洋奉系作戰。林彪在一次晚點名時，對全連官兵發表講話：「蔣介石反水了，他不打軍閥，卻屠殺我們革命同志，我們的部隊要撤回去，打倒蔣介石。」不久，林彪所在的北伐軍乘火車從河南許昌撤回武昌，繼而東進威逼南京，蔣介石急忙布網設防。於是，部隊從九江改道進入南昌。一九二七年八月一日，林彪隨部隊參加了周恩來，李立三，惲代英等人領導的南昌起義。
在敵軍的進攻下，起義軍為保存實力，決定南征入粵。大革命失敗，中國革命處於低潮，南昌起義軍又在汕頭覆滅，只剩下這一支孤立無援的部隊，在深山小徑中行進，在荒山野林中宿營。十月天氣，冷氣森森，寒霜苦雨，落葉飄零，飢腸咕咕。不少人心頭上陰雲密佈，暗影徘徊，悲觀動搖，離隊脫逃者更是成群結隊，接二連三。林彪拖著疲憊的身子，風雨兼程，萬分的苦惱。林彪私自逃離了部隊，逃生的路上也不是那麼容易，各地「剿匪」風聲正緊，林彪是外地口音，又穿著破舊的軍裝，人生地不熟，要找到安全的地方也確是不易。這位不到二十歲的連長遇到難題，又一次面臨這選擇。他苦苦思索著：如果父母得知我的處境，肯定傷心不已，要是一下回到他們身邊，那多麼好啊。要是見到林育南或是惲代英，那怎麼解釋呢？這可是對不起黨的行為啊。如果讓蔣介石的部隊捉去，說不定頭也保不住。想到這裡，林彪覺得自己的逃難行為過於輕率，經過反覆的思考，權衡，林彪又回到了部隊。林彪歸隊了，垂頭喪氣的戰友們一時驚喜不已。
寧漢戰爭爆發以後，粵系，桂系，湘系軍閥捲入了混戰，沒有敵人再追擊朱德的殘部。部隊一九二八年初在湘贛交界處進行了整編，編為一個縱隊，林彪任工農革命軍第一師二十八團一營二連連長。隨後，林彪參加了朱德指揮的湘南暴動。林彪當時指揮的一營二連駐在城東北四十多公里的一個鎮上。當林彪接到師部向萊陽城集中的命令後，迅速將部隊集中起來，又動員了當地的一千多名赤衛隊員，向萊陽城進發。第二天傍晚，二連趕到萊陽城東北十五公里的敖山廟，得知縣城已經被敵人佔領。這時，當地人民紛紛要求配合紅軍奪回萊陽城。林彪考慮到大敵當前，自己從各方面來說，已經毫無退路，狹路相逢，不是你死，就是我活。他認為敵人雖然有一個師的兵力，但從廣西到湖南，地形不熟，我們雖然只有一個連，但有群眾的配合，可以出奇制勝。他決定攻打萊陽，打出威風，洗刷昨天不光彩的一頁。林彪佈置了一千多赤衛隊員和敖山廟的兩千名農民自衛軍由城東，南，西三面圍攻敵人，製造聲勢，混亂敵人，自己率領二連擔任突擊隊，由城北居高臨下，向敵人發起突然襲擊。敵人果然以為紅軍大部隊反攻，倉促棄城逃跑，紅軍乘敵人混亂，經過一夜激戰，把一個師的敵人打得落花流水，抱頭鼠竄，萊陽城重新獲得解放。紅二連乘勝猛追到龜市，又消滅了一股地主武裝。萊陽戰役，威鎮三湘，經朱德親自提名，昔日默默無聞的林彪一下升任紅一師一營營長。一顆耀眼的新星開始在軍中升起。
一九二八年四月二十八日，朱德，陳毅和毛澤東在江西寧岡龍岩市的龍江書院勝利會師。四月二十九日，毛澤東在茨坪看望了林彪的部隊。一九二九年元月，林彪率領部隊跟毛澤東，朱德進軍贛南，閩西。三月，紅四軍整編，將團改為縱隊。紅二十八團改為第一縱隊，不到二十二歲的林彪任縱隊長，陳毅任政委。一九三零年六月，中國工農紅軍第一軍團成立，朱德，毛澤東分別任總指揮和政委。林彪升任第四軍軍長。八月，紅一方面軍成立，他仍任第四軍軍長，並兼任紅一方面軍總前委委員。一九三一年五月，中共蘇區中央局改組，毛澤東任代理書記，林彪又任蘇區中央局委員。十一月，在第一次全國工農兵代表大會上，林彪當選為中華蘇維埃共和國中央執行委員會委員（主席毛澤東〕。十一月二十五日，中華蘇維埃共和國中央革命軍事委員會成立（簡稱中革軍委〕，朱德任主席，林彪任中革軍委委員。在中央蘇區時期，林彪表現出非凡的軍事天才，但對革命前途也有過悲觀失望的情緒，懷疑紅旗到底能打多久。為此毛澤東寫了「星星之火，可以燎原」的長篇通訊，對他進行了說服教育。林彪指揮的紅四軍，是中央紅軍的主力部隊，一九三零年十一月至一九三一年九月之間，在朱德，毛澤東的領導之下，參加了中央蘇區的第一，二，三次反圍剿作戰。第一次反圍剿時，林彪率領紅軍殲滅國民黨的十八師，活捉了師長張輝瓚。一九三二年三月，中央革命根據地的紅軍整編，恢復了第一軍團的建制，林彪由紅四軍軍長升任紅一軍團的總指揮，聶榮臻任政治委員。一九三三年一月，林彪改稱為紅一軍團軍團長。一九三二年四月，七月，八月和一九三三年元月，林彪和聶榮臻指揮紅一軍團先後參加了漳州戰役，水口戰役，樂安宜貢戰役和洲灣戰鬥。一九三二年十二月至一九三三年三月，又率部參加第四次反圍剿作戰，與兄弟部隊一起，在黃坡戰役中殲敵五十二，五十九兩個師，俘虜一萬餘人，在草臺岡戰鬥中，殲滅蔣介石嫡系陳誠部隊賴以起家的，素稱從未打過敗仗的第十一師，挫敗了圍剿計畫，林彪的名字也蒙上了傳奇色彩。據羅瑞卿女兒羅點點回憶，林彪在一九六四年對羅瑞卿說，當時瑞金三人團的命令是要部隊到宜黃地區附近打遭遇戰，林彪卻連夜把命令改為伏擊戰，才打出了那個結果。如果部隊去打遭遇戰，敵人很快就會縮回到宜黃。毛澤東後來得知此事，感慨地說：「我現在才知道，第四次反圍剿的勝利是因為戰場指揮員改變了當時統帥部的命令。」並大大增加了對林彪的好感。
一九三四年十月以後，林彪又率領紅軍參加了中央蘇區的第五次反圍剿作戰。一九三四年元月，在第二次全國工農兵代表大會上，林彪繼續當選為中華蘇維埃共和國中央執行委員會委員。一九三四年十月，中央紅軍開始長征。林彪和聶榮臻的紅一軍團突破敵人的第一，二，三，四道封鎖線。十二月，搶佔黎平，強渡烏江。一九三五年元月，智取遵義。作為紅一軍團軍團長，他參加了黨中央在遵義召開的政治局擴大會議，他對和自己同齡的王明，博古這些秀才並不感冒，堅定地支持了毛澤東。會後，在毛澤東的指揮下，他率領紅一軍團參加了四渡赤水，二佔遵義，巧渡金沙江，強渡大渡河，飛佔瀘定橋等著名戰鬥。六月，中央紅軍同四方面軍會師。七月，紅一軍團改稱為第二軍，林彪任軍長，聶榮臻任政委。九月，在張國燾分裂紅軍，危害黨中央的情況下，中央紅軍和毛澤東率領紅軍一方面軍一，三軍團（當時已改稱一，三軍〕組成的陝甘支隊單獨北上。彭德懷任陝甘支隊司令員。十月到達陝北吳起鎮。長征到達陝北後，陝甘支隊第一，第二隊（原紅一，三軍團〕於一九三五年十一月組建第一軍團，林彪任軍團長，聶榮臻任政委。十一月二十一日，林彪指揮了直羅鎮戰役。同月，中華蘇維埃共和國西北革命軍事委員會成立，毛澤東任主席，林彪，彭德懷任委員。一九三六年二月，他率一軍團參加東征。六月，中國人民抗日紅軍大學成立，林彪任校長（此後便離開了紅一軍團〕，毛澤東兼任政委。十二月，紅一，二，四方面軍會師陝北後不久，成立了新的中央革命軍事委員會，毛澤東任主席，林彪等任軍委委員。一九三七年元月，中國人民抗日紅軍大學改稱為中國人民抗日軍事政治大學，校址由保安遷到中共中央所在地延安，林彪任校長兼政委。
一九三七年八月，抗日戰爭爆發後，中國工農紅軍改編為國民革命軍第八路軍。下轄一一五師，一二零師，一二九師共三個師。原紅一方面的第一軍團和第十五軍團等部隊改編為一一五師，林彪任師長（聶榮臻任副師長〕，並擔任中央軍委華北分會委員和中共一一五師軍政委員會書記。從一九三七年四月至一九四三年三月，林彪還一直掛名擔任中國抗日軍事政治大學校長；一九四三年三月以後，才由徐向前擔任。一九三七年九月二十五日，林彪和聶榮臻指揮一一五師在山西平型關殲滅日軍精銳的板垣師團第二十一旅團一千多人。平型關山巒相連，谷深坡陡。林彪將６８５團埋伏在老爺廟一帶，作為袋底，６８６團埋伏在白崖臺一帶勇猛殺敵，６８７團埋伏在小塞村一帶，待敵全部鑽入口袋後再掐住袋口。三發信號彈騰空而起，在嘹亮的號聲中，機槍、手榴彈、迫擊炮一齊開火。日軍遭到突然打擊，頓時驚恐萬狀，最前面的汽車中彈起火，後面的車輛互相撞擊，亂成一片。士兵紛紛跳下汽車，鑽進車底躲避密如驟雨的子彈。八路軍如猛虎下山，迅速衝入敵群，驚心動魂的白刃戰隨即展開。喊殺之聲和槍械撞擊之聲連兩三里遠的師指揮所也聽得清清楚楚。６８６團３營是最先衝上公路與敵展開肉搏的部隊，經過半小時殘酷的廝殺，傷亡很大。９連只剩下十幾個戰士，班以上幹部幾乎全部陣亡。這是中國抗日戰爭開始以來的第一個大勝仗，這個仗極大地鼓舞了全國軍民的士氣。
在一九三八年這個虎年正月十二的晚上，林彪率領一一五師直屬部隊經過山西濕縣以西閻錫山的十九軍防區時，因為騎著日軍大洋馬，穿著日本軍大衣，沒有弄清楚情況的十九軍哨兵誤以
