五四运动爆发后，面对日本人希望占据老家山东的权益，已身为北洋政府一员的吴佩孚明确表态反对签订有损于中国利益的《巴黎和约》，使得段祺瑞大为恼火，日本人也很不满。1922年，吴佩孚升任直鲁豫巡阅使，拥兵10万，成为北洋军阀直系首领。同年，第一次直奉战争爆发，张作霖的奉军败退关外，吴佩孚成为北洋军阀的首要人物，左右政局，因此成了《时代》封面上的第一个中国人。
在国民党北伐后，吴佩孚被迫下野，此时的他没有了权势，但影响力还在。日军在侵华前后，曾多次想请他出山，但是都遭到了拒绝。在伪满洲国成立后，吴佩孚还通电声讨末代皇帝溥仪充当伪满傀儡。
“九一八”事变后，吴佩孚写诗一首：“国耻传来空有恨，百战愧无国际功。”他以诗批评张学良：“棋枰未定输全局，宇宙犹存待罪身。醇酒妇人终短气，千秋谁谅信陵君。”
1935年，日本侵略者为了分裂中国而搞“华北自治”，请他上台当傀儡，他再次拒绝；1938年6月，伪“华北临时政府”与伪南京“维新政府”合并，请他出来当官，他也没有答应。
吴佩孚的不合作态度激怒了日本人。1939年12月4日，他因吃饺子被骨屑伤了牙齿去医院就医，受日本特务指使，日本牙医将其杀害，终年65岁。
