1941年12月7日，日本偷袭珍珠港，挑起太平洋战争。次年6月，日军在中途岛海战中遭到惨败，被迫停止了战略进攻，转而采取守势。关东军也不敢再主动挑起事端。1942年下半年，日本《陆军综合作战方案》专门指示关东军，要“防止对苏发生战争，维持北方静谧状态”，但仍在继续扩充关东军力量。1942年10月，日本将关东军司令部升格为关东军总司令部，增设两个方面军司令部和装甲军、关东防卫军司令部以及第二航空军司令部。
从1943年下半年起，为挽回太平洋战场的颓势，日本大本营开始陆续从关东军抽调兵力增援太平洋战场，指望这支“精锐之师”能够挽救自己失败的命运。1945年1月，大本营又从关东军抽调13个师团和一支特设的具有高度机械化的常备兵团赴太平洋战场。可是，关东军不但没能扭转太平洋战争的败局，反而白白充当了对美作战的炮灰。4月初，美军攻占冲绳岛，并对日本本土开始空袭，日本不得不集中兵力进行本土决战的准备，为此又从关东军抽走7个师团，并将关东军储备的近1／3的战略物资以及大批人员调回国内。
关东军为非作歹
1945年5月初，德国无条件投降后，苏联的视线逐渐转向远东地区。中国共产党领导下的东北各抗日武装也不断打击和消灭日军力量。关东军只好重新扩充力量，进行备战。为此，关东军将在东北的25万退伍的日本军人重新征集，并编成8个师团、7个混成旅团、1个坦克兵团和5个炮兵联队，作为临时部署兵力的补充。经过迅速补充，关东军兵力一举达到24个师团，约70万人。关东军兵力的增加只是一种表面的膨胀，武器装备和战斗素养仅仅相当于以前的8个半师团。特别是由于日本在各个战场连遭惨败，士气低落，关东军往日的威风已经不复存在。
成为逃跑兵团
关东军为非作歹
欧洲战事结束后，苏军开始腾出手来对付关东军。1945年8月8日苏联向日本宣战。此刻，苏军元帅华西列夫斯基指挥的150万重兵已经利用夜幕掩护在中苏边境展开。9日凌晨，苏军突然从三个方向同时向日军发起了强大的突击行动。拂晓，苏军几乎在所有方向上跨过了国界，强渡了额尔古纳河、黑龙江和乌苏里江，分别从后贝加尔、黑龙江沿岸和滨海地区进入了中国东北境内，在5000公里的正面战场上展开了强有力的攻击。9日，毛泽东主席也发表了《对日寇的最后一战》的声明，配合苏军的进攻行动。
