金門、廈門淪陷后，福建沿海隨時可能被日軍侵占，泉州、福州等地成為福建沿海抗日的前沿。為爭取抗日的合法地位，1938年夏，泉州中心縣委利用當時國民黨當局為備戰在沿海組建抗日自衛團隊的有利時機，以“泉州抗敵后援會”的名義，邀請晉江、南安兩縣交界的24個鄉的28個聯保主任到南安縣深坑后林墟舉行聯席會議，同時應邀的還有愛國民主人士數10人。會議達成共識，各聯保應迅速組織民眾成立自衛武裝抗日，“晉南聯鄉抗日自衛隊”由此成立。自衛隊由民主人士蔣坤燦為司令，實為泉州中心縣委掌握的武裝。“晉南聯鄉抗日自衛隊”一度迅速發展到2000余人（其中常備團有800多人槍）。1938年8月，福州誤傳日軍已在福清高山等地登陸。新四軍駐福州辦事處和中共福州工委通過閩侯縣長的統戰關系，借此控制掌握了閩侯縣第三區國民兵團的武裝，并秘密組建了擁有30多人槍的下洋抗日游擊隊，還培訓了一批抗日骨干。為了加強長樂等地沿海抗日武裝工作，由中共福建省委書記曾鏡冰單線領導的秘密共產黨員劉潤世，利用擔任長樂縣國民兵團副團長、縣抗敵后援分會副會長的職便，定期輪訓鄉自衛隊、保安隊副職以上干部及18至45歲壯丁，前后訓練了8個中隊、千人以上。1940年6月，中共莆田縣委派張伯庭到莆田忠門發動群眾，在東坑、月塘周圍30多個村莊組織了一支200多人的抗日武裝，在忠門村設立了“抗日辦事處”。這些抗日游擊隊的隊員多為當地貧苦的農民、漁民和船工，他們憎恨日軍的暴虐，痛心國土淪喪，抗敵士氣旺盛，不怕犧牲。平潭島光復后，在福州求學的中共黨員曾煥乾返回家鄉，組織了一支由青年學生參加的抗日武裝“平潭抗日游擊隊”。這些武裝大多擁有“合法”名義，且以過去的老蘇區或老游擊區為依托建立抗日基地，由地方黨組織直接領導，有廣泛、堅實的群眾基礎，這就為福建沿海抗日游擊戰爭創造了很好的條件。值得一提的是，黨組織采用“白皮紅心”的策略，派遣黨員去當聯保主任、保甲長，并通過他們以及舊關系去團結其他聯保主任和保甲長。隨著共產黨的抗日民族統一戰線新政策所產生的政治影響，在共產黨組織周圍吸引、聚集了一大批愛國人士和進步青年，這也為后來壯大抗日武裝創造了有利條件。

上述抗日武裝的組建，為福建沿海抗日斗爭積蓄了武裝力量，為福州淪陷后的沿海武裝抗日游擊戰爭發揮了重要作用。