大革命失敗后，革命處于轉(zhuǎn)折時(shí)期，衡陽(yáng)人民在中共湘南特委的領(lǐng)導(dǎo)下，在敵人的瘋狂屠殺面前，中共湘南特委、衡陽(yáng)縣委在極端困難的情況下，立即采取應(yīng)變措施，化整為零，分散轉(zhuǎn)移，鞏固和發(fā)展農(nóng)村陣地，同反動(dòng)派進(jìn)行不懈的斗爭(zhēng)。隨后，中共衡陽(yáng)地方組織領(lǐng)導(dǎo)的工農(nóng)游擊武裝斗爭(zhēng)此起彼伏，接連不斷，給反動(dòng)派以沉重打擊。

其主要武裝斗爭(zhēng)部隊(duì)有：

一、衡北游擊師

1927年6月初，回到北鄉(xiāng)妙溪堅(jiān)持斗爭(zhēng)的縣農(nóng)協(xié)執(zhí)委肖覺(jué)先、戴今吾等人，根據(jù)中共湘南特委妙溪緊急會(huì)議精神，決定以妙溪為中心，建立工農(nóng)游擊武裝，用梭鏢、大刀、鳥(niǎo)銃同反動(dòng)派進(jìn)行針?shù)h相對(duì)的斗爭(zhēng)。10月初，農(nóng)民隊(duì)伍正式命名為“衡北游擊師”。19日夜晚，在中共湘南特委和衡陽(yáng)縣委的部署下，“衡北游擊師”在妙溪、麻町、月山、神皇、江柏堰、國(guó)清、界牌、石頭橋，以及衡山南岳周圍百里的地區(qū)、發(fā)動(dòng)農(nóng)民群眾，聯(lián)合舉行聲勢(shì)浩大的武裝斗爭(zhēng)。

二、工農(nóng)革命軍第八師

1927年9月初,衡陽(yáng)縣委委員羅子平與劉禹謨等在南鄉(xiāng)井頭? 召開(kāi)黨員緊急擴(kuò)大會(huì)，成立中共南鄉(xiāng)特區(qū)委員會(huì)，劉禹謨?nèi)螘?。深入發(fā)動(dòng)群眾，籌建革命武裝，打擊反革命的囂張氣焰，以武裝保衛(wèi)革命。1928年農(nóng)歷二月初二(公歷2月22日)，工農(nóng)革命軍第八師在南鄉(xiāng)寺宣布成立。

三、桐梓山工農(nóng)游擊隊(duì)

1927年秋，東鄉(xiāng)桐梓山何炳林利用幫會(huì)的形式，組織300多農(nóng)民群眾開(kāi)展活動(dòng)。共產(chǎn)黨員李育松前往宣傳發(fā)動(dòng)，改編為農(nóng)民游擊隊(duì)，李育松任隊(duì)長(zhǎng)，活動(dòng)于衡陽(yáng)、耒陽(yáng)、常寧三縣的邊界地區(qū)。1928年1月26日，水口山礦黨支部書記宋喬生根據(jù)湘南特委指示，領(lǐng)導(dǎo)工人起義，以桐梓山游擊隊(duì)為外援，里應(yīng)外合。參加起義的工人隊(duì)伍804人奔赴桐梓山，與李育松游擊隊(duì)匯合后，成立了桐梓山工農(nóng)游擊隊(duì)。

四、工農(nóng)革命軍九師三團(tuán)

1927年12月，何寅修、屈森澄來(lái)西渡組建工農(nóng)游擊武裝，恢復(fù)和發(fā)展西渡第九支部，以此為基礎(chǔ)，將組織向周圍的英陂、西湖、演陂、九里渡、牌樓沖等地?cái)U(kuò)展，同時(shí)又與朱克敏、寧智等人在大云組建的潤(rùn)身堂支部聯(lián)系，成員迅速增加。不久臺(tái)源寺的共產(chǎn)黨員劉寶堂率領(lǐng)的一支60多人的隊(duì)伍，也與第九支部實(shí)行聯(lián)合，聲威大振。1928年2月7日，工農(nóng)革命軍第九師第三團(tuán)在西渡正式成立。

五、工農(nóng)革命軍第七師

1928年2月16日，工農(nóng)革命軍九師三團(tuán)奉命開(kāi)赴將軍廟矮子嶺宋香林家，與肖覺(jué)先率領(lǐng)的衡北游擊師余部匯合，改編為衡陽(yáng)工農(nóng)革命軍第七師。各地農(nóng)民紛紛報(bào)名參軍，隊(duì)伍很快發(fā)展到1000多人。4月10日，工農(nóng)革命軍第七師1000多人在西渡靈官?gòu)R舉行聲勢(shì)浩大的向南岳進(jìn)軍的誓師大會(huì)。會(huì)后兵分兩路向南岳進(jìn)發(fā)，沿途搗毀了團(tuán)防局，鎮(zhèn)壓了反動(dòng)派。