第五次反「圍剿」失敗後，紅軍開始長征。長征時，林彪總是把第二團放在先鋒位置，命令其為後續部隊開路。當先鋒團的領導干部，可謂不容易，這不僅意味著這些干部要率領全團承擔起探路、開辟道路等任務，更意味著該團的領導人要使全團上下一心一意，形成堅強的戰斗集體，永不潰散。這樣不容易干的工作，吳法憲卻與其他團領導一起承擔了起來。而且，他這個團總支部〖書〗記干得很出色。

紅軍長征時，要強渡大渡河，飛奪瀘定橋。在這之前的急行軍，是一個硬任務，吳法憲硬是和全團一起，在短時間內晝夜行軍，在指定時間抵達瀘定橋。在奪取瀘定橋的戰斗中，吳法憲率先沖鋒，敵軍發射的炮彈在他身邊炸開，橫飛的彈片把他的兩個手指切斷，鮮血直流。吳法憲簡單包扎後，仍然沖在前邊，用沒有受傷的手，死死抓住鐵鎖，雙腳踏著懸空的鐵鏈，奮勇沖鋒，與其他戰士一起，沖過鐵鎖橋，殲滅了敵守橋部隊。吳法憲的這一事跡，很快就被上級知道了。

部隊渡過大渡河駐扎下來後，表彰戰斗模范，吳法憲是被表彰者之一一。

〖中〗央紅軍長征過草地時，吳法憲所在的團仍然是先鋒之一。

吳法憲也總是走在前邊。紅軍到達陝北後，部隊進行整編，干部有的調整，有的提拔。吳法憲是被提拔者之一，他當上了紅軍第二師第二團的政治委員。

西安事變後，〖中〗國共產黨與國民黨合作抗日，紅軍也進行改編。

林彪所率領的部隊被改編為八路軍第一一五師。吳法憲此時在該師的第三四三旅六八五團任政委。隨後，開赴抗日前線。

吳法憲所在的部隊開赴抗日前線後，與日寇作戰多次。吳法憲在戰斗中也屢立戰功。吳法憲雖然擔任的是政治委員的職務（後來在一段時間里，政委改稱政治部主任），但他在決定全團作戰決策和帶兵方面，起核心作用。作戰時，他也沖鋒在前，這一點，對全團戰士的影響相當大，因此，他們的部隊，仍然以作戰勇敢、能打硬仗著稱。由於吳法憲作戰有功，他的職務也不斷上升，先後擔任過旅政治部主任、

第五縱隊政治部主任、蘇魯豫支隊政委等職。

吳法憲所在的部隊在抗日戰爭中打了許多漂亮。。吳法憲本人也不斷立下戰功。吳法實率領部隊打的較著名的勝仗是蕭縣伏擊戰。一九三九年五月底，吳法憲所部得知日軍一千七百余人分六路向我抗日根據地進攻，必經之路是張山集、前楊庄一帶。他和蘇魯豫支隊長彭明治一起研究後，決定打一個伏擊戰。六月一日，吳法憲、彭明治率部在張山集、前楊庄設伏，一舉消滅日軍三百多人，粉碎了日軍的六路進攻。剛剛打完這一勝仗，吳法憲、彭明治二人又得知日軍兩千多步騎兵沿津浦路開進，便率部開至津浦路的曹村車站阻擊敵軍。此役，又打退日軍兩千多人的進攻，殲滅日軍三百多人擊毀敵汽車三輛。吳法憲所部在五天時間里連續打了兩仗，殲滅日軍七百多人，打出了威風，此後日軍一聽說蘇魯豫支隊就嚇得心驚膽戰。

皖南事變後，〖中〗央決定重組新四軍軍部，同時對新四軍部隊進行整編，充實一部分力量。按〖中〗央命令，吳法憲所在的部隊，由八路軍建制轉為新四軍建制，吳法憲任新四軍第三師政治部主任。新改編的新四軍，人員來自各方面加上有新兵和俘虜兵加入，政治思想工作很艱巨。吳法憲當上新四軍第三師政治部主任後，深入連隊了解情況。

他發現，解決目前存在問題的關鍵，是建立堅強的連黨支部，發揮黨員的先鋒帶頭作用。於是，他發起了「創建模范連隊黨支部」的活動，采取做思想政治工作，對黨員進行再教育和嚴明紀律等措施，發揮黨員的骨干作用。這些工作很快就見了成效新四軍第三師的連隊黨支部組織進一步鞏固，發揮了黨支部在連隊中的核心作用，三師的黨員也充分發揮了模范帶頭作用，對提高連隊的戰斗力，起到了很好的作用加入黨組織的人數也不斷增多。吳法憲的政治工作經驗，受到了新四軍軍部的重視，曾在全軍推廣他創造的經驗。

吳法憲所在的新四軍第三師在抗日戰爭中也打了不少勝仗，立下了不少戰功。著名的有：劉老庄戰斗、大胡庄戰斗、卓寧戰役、淮陰城攻堅戰，等等。通過這一系列作戰，吳法憲和三師官兵一起開辟了湖西地區和蘇北敵後抗日根據地。吳法憲因其出色的工作，受到了新四軍軍部的器重，連遠在陝北的黨〖中〗央也對吳法憲的工作有一定了解，這使他在此後屢受重用、提拔。

抗日戰爭勝利後吳法憲被調往遼西軍區任副政委兼政治部主任。之後，他率部開赴東北，而林彪此時也出任東北〖民〗主聯軍總司令（後改稱東北野戰軍，再後稱第四野戰軍，林彪仍然任總司令），吳法憲再次成為林彪手下的一員戰將，並在林彪的指揮下，參加了遼沈、平津戰役，在作戰中又立有戰功。

全國解放後，〖中〗央軍委決定組建空軍。在林彪的推薦下，吳法憲當上了空軍副政委兼政治部主任、空軍干部部長。實際上，他在空軍的權力僅次於空軍司令員劉亞樓。一九五五年，全軍授銜時，吳法憲被授予中將軍銜。後來，他又升任空軍政委，與劉亞樓共同掌握空軍領導權，劉亞樓逝世後，林彪又推薦吳法憲當上了空軍司令員。

由於吳法憲長期在林彪手下工作，對林彪指揮打仗的才干十分佩服，可以說，他早就是林彪的崇拜者之一。林彪一再推薦吳法憲，提拔他擔任領導職務，對此，吳法憲也感激涕零。在提拔吳法憲當空軍司令員之前，林彪曾把吳法憲找來對他說：空軍司令員這個位置，許多人想干，我推薦你干，先不要出去講。實際上，即使林彪不對吳法憲說這些話，吳法憲也知道他當空軍司令員是林彪的作用。因此，吳法憲對林彪一直有感恩之心。他曾對自己的妻子說過這樣的話：「我這個空軍司令員是林副〖主〗席叫我當的，真正的空軍司令員是林副〖主〗席。

他叫我干什么，我就干什么。」

吳法憲效忠林彪，甚至到了絕對服從的程度。空軍的工作，他一切都按林彪的意見辦。可悲的是，吳法憲對林彪的效忠，到了喪失原則的地步，林彪要他去誣陷別人，他也干。

最典型的一件事，是他受林彪、葉群的指使，誣陷羅瑞卿。林彪主管軍隊時，羅瑞卿任總參謀長。羅瑞卿在工作中堅持按原則辦事，

難免有與林彪意見不一致的時候，林彪便認為羅瑞卿要架空自己，把羅瑞卿視為眼中釘、肉中刺，必欲搞掉羅瑞卿而後快。劉亞樓逝世不久，吳法憲便按照葉群的授意，無中生有地捏造事實，誣陷時任〖中〗國人民解放軍總參謀長的羅瑞卿，邁出了自己實施反〖革〗命陰謀的第一步。