1938年夏，第三集团军调归第九战区指挥管辖，于学忠改任第五集团军总司令，孙桐萱被任命为集团军总司令，但因第56军番号撤销(其第22师编入第12军，第74师编入第55军)，而第55军加入第二集团军，第51军加入第三十一集团军，仅辖第12军，后第三集团军在江西参加武汉会战。
1939年初，第三集团军调归第一战区指挥管辖，自此长期驻守河南。由于国民党政府对韩复榘旧部采取限制、分化的政策，1939年7月，55军转隶张自忠第三十三集团军，曹福林仍兼第三集团军副总司令、第55军军长。至1943年夏，第三集团军只辖有第12军的第20师、第22师、第81师。
孙桐萱被扣押之后，第3集团军被撤，其基本部队第12军被收编。汤恩伯将营以上军官大部分进行了撤换，贺粹之担任军长，只辖第22和81两个师。不久12军番号撤销，12军下辖的22师、81师拨归曹福林的55军，55军成为4师制的加强军。
第三集团军的番号也曾一度恢复，被转给了国民党中央军嫡系胡宗南所控制的第八战区的部队，集团军总部设在甘肃武威，总司令为胡宗南的老部下李铁军，下辖第91军的暂58师、骑10师、新编第4师等部，李铁军调任国民革命军第二十九集团军总司令后，集团军总司令名义上由第四集团军第38军军长赵寿山继任，但实权控制在副总司令于达手中。1946年8月被国民党当局撤销了第三集团军总司令职务，剥夺了赵的兵权。
抗战后，国民党军实行整编，大部分集团军取消，其余的集团军被改为整编军，下辖若干整编师。原第三集团军第22和81两个师被缩编为整编81旅，并入刘汝明的第四绥靖区整编68师，后来又恢复为68军81师。
解放战争期间，原第三集团军曹福林的55军（整编第55师）被解放军打得一败涂地，解放军发起渡江战役时，55军残部弃阵而逃，退往台湾后番号被撤销。在刘汝明撤往福建时，其68军81师在师长葛开祥率领下起义，副军长王振声和参谋长杜允中也随同起义。
