1941年12月7日，日本偷袭珍珠港，挑起太平洋战争。次年6月，日军在中途岛海战中遭到惨败，被迫停止了战略进攻，转而采取守势。关东军也不敢再主动挑起事端。1942年下半年，日本《陆军综合作战方案》专门指示关东军，要“防止对苏发生战争，维持北方静谧状态”，但仍在继续扩充关东军力量。1942年10月，日本将关东军司令部升格为关东军总司令部，增设两个方面军司令部和装甲军、关东防卫军司令部以及第二航空军司令部。
从1943年下半年起，为挽回太平洋战场的颓势，日本大本营开始陆续从关东军抽调兵力增援太平洋战场，指望这支“精锐之师”能够挽救自己失败的命运。1945年1月，大本营又从关东军抽调13个师团和一支特设的具有高度机械化的常备兵团赴太平洋战场。可是，关东军不但没能扭转太平洋战争的败局，反而白白充当了对美作战的炮灰。4月初，美军攻占冲绳岛，并对日本本土开始空袭，日本不得不集中兵力进行本土决战的准备，为此又从关东军抽走7个师团，并将关东军储备的近1/3的战略物资以及大批人员调回国内。
1945年5月初，德国无条件投降后，苏联的视线逐渐转向远东地区。中国共产党领导下的东北各抗日武装也不断打击和消灭日军力量。关东军只好重新扩充力量，进行备战。为此，关东军将在东北的25万退伍的日本军人重新征集，并编成8个师团、7个混成旅团、1个坦克兵团和5个炮兵联队，作为临时部署兵力的补充。经过迅速补充，关东军兵力一举达到24个师团，约70万人。关东军兵力的增加只是一种表面的膨胀，武器装备和战斗素养仅仅相当于以前的8个半师团。特别是由于日本在各个战场连遭惨败，士气低落，关东军往日的威风已经不复存在。
