1938年春，山西境内的中国军队为减少正面损失，将十数万之众的部队分散于晋南地区，建立防御工事，开展游击作战，并坚持近3年时间。1940年11月，山西各条铁路线上的硝烟渐渐散去，八路军组织的百团大战也进入了尾声。这个秋天，几十万八路军深深刺激了日寇的神经。
对付八路还是对付国军？
对于新一年的战略，华北方面军司令多田骏要求参谋们拿出一个方案来：是对付八路还是对付国军？华北方面军参谋部产生了两种意见，鉴于百团大战的冲击，参谋第二课理所当然地认为，应该把作战重点放在“剿共”方面。
谁知道这个方案遭到第一课的参谋极力反对，他们向多田骏报告，百团大战爆发，晋中日军告急，但因为中条山国军十数万人马的牵制，日军南线三个师团不敢抽调大部队应援，从而导致对付百团大战的兵力捉襟见肘。
除此以外，日军也非常清楚中条山的国军是难啃的骨头，从1938年春天开始，国军就如钉子一般扎在中条山中，纵然经受12次围攻，依然屹立不倒。远的不说，1940年春天，日军动员36、37、41三个师团3万多人发动针对中条山的晋南作战及乡宁作战，加上最后国军在晋南的反击作战，前后历时3个月，以日军失败告终，损失兵力5000人。
权衡两份报告之后，多田骏决心已定，当侵华战争进入到第四个年头，华北方面军的作战重点就是拔除这根插在黄河北岸的钉子，“当前任务在于消灭和扫荡盘踞在晋豫边区的中央军主力，消灭其在黄河以北的势力。”日军为此次作战动员了包括第21、第33、第35、第36、第37、第41师团，以及独立混成第4、第9、第16旅团在内的大批兵力。这些部队总共42个大队，其中35个大队投入作战。10万日军集结，超过1941年同期进行的任何一场战役。
毫无知觉的国军
日军的部署是中间开花，从一字长蛇式的中条山防线中路切开，直插中条山根据地的垣曲，并且突至黄河岸边，将根据地一分为二各个击破。具体部署以36师团，独立混成第9旅团构筑内包围圈，37师团、41师团构筑外包围圈，将中条山西麓之国军第五集团军包围歼灭。
国军对这场迫在眉睫的入侵并非毫无知觉。1941年4月18日，何应钦在洛阳主持了晋南作战第一次检讨会，第五战区司令长官李宗仁，以及中条山国军各集团军、军部分师首长与会。会上何应钦强调了晋南三角地带，也就是中条山地位的重要性。但会议对日军却有着极大误判，他们认为“晋南之敌，似将逐次夺取我中条山各据点，企图彻底肃清黄河北岸之我军，然后与豫东之敌相呼应，进取洛阳潼关……”对比日军的战术，可以看出，从一开始国军方面对对手的意图虽有掌握，但对其战法严重误判，成为影响整个战役成败的关键。
日军全力进攻中条山
中条山战役是在1941年5月7日下午开始的，当日头挂到西面山头的时候，战场西翼运城以东30公里80军与第3军的结合部，突然遭到37师团右翼队227联队的攻击。晚上10时，第3军第7师20团的阵地被突破了。
日军三支挺进队迅速向纵深发展，前锋一直挺进到山脉分水岭鞍部，此时不过8日凌晨1时。然后37师团左、中两支挺进队越过大山，开始向纵深穿插。夜间的穿插运动，让国军十分被动，7师师部所在地泗交镇当夜遇袭，甚至唐回村驻扎的第3军军部也传来警报。
8日中午时分，战局已对国军极其不利，日军针对第五集团军的双重合围已经伸出了四道铁钳。国军各部都遭遇日军，这便是日军新战法之功，挺进队在中条山腹心地带按照预定目标横冲直撞，或捕捉国军指挥机关，或占领战略要点，以至于国军无法相信日军的神速还以为是空降部队。日军部队打出了“山地闪电战”，一天时间挺进20公里。5月9日天亮之后，第五集团军才奉尚在重庆的卫立煌之命派出两个团前往黄河渡口五福涧，征集渡船，随后命各军逐步向渡口转移，以图渡河南撤。
