从1947年3月起,国民党部队相继对陕甘宁和山东解放区发起了重点进攻,其第5军、整11师等主力均被调往山东腹地作战,故春夏之交的中原战场上,机动兵力不足的国民党方面主取守势,不再主动出击。刘伯承、邓小平指挥的晋冀鲁豫野战军抓住外线出击前的最后时机,先于3月下旬至4月初发起汲县战役,随后又于4月初至5月中旬集中主力于豫北展开拔点作战,准备打掉国民党部队在豫北的两个钉子据点汤阴与安阳,以扫除后顾之忧,并将太行、冀南、冀鲁豫三个解放区连为一块。
此时的汤阴守军,系由伪军改编而来之暂编第3纵队孙殿英部,战斗力很弱;而驻守安阳的40军李振清部虽然也属杂牌,但却是老西北军的底子,战斗力较为坚强,尤其善于防御作战。
晋冀鲁豫野战军首选弱敌开刀,于5月2日攻克汤阴,生俘孙殿英,并在打援作战中歼灭第2快速纵队。继而又于5月9日对安阳发起进攻,但激战16天后,仅拔除若干外围据点。鉴于安阳短时间内难克,而转出外线之限期已近,刘邓乃决定改以太行、冀南军区部队继续围城,野战军主力撤围休整。
刘邓主力南下后,地方部队实力较弱,亦只能围而不攻,故安阳守军竟得以负隅顽抗两年之久。直到1949年5月,安阳才被入关南下的东北野战军攻克,成为华北最后一座被解放的城市。
从安阳撤围后,晋冀鲁豫野战军迅速转入休整,准备外线作战。在军事上,每个纵队平均补充了8000翻身农民及部分解放战士,并开展强渡江河的技战术训练。在组织上,则以邓小平、刘伯承、李先念等组成了中原局,邓任书记。6月13日,中央军委又任命徐向前为晋冀鲁豫军区第一副司令员,准备在刘邓南下后,与副政委薄一波、副司令员滕代远等共同主持晋冀鲁豫中央局和军区工作。此外,晋冀鲁豫中央局还抽调了一千余名地方干部随军南下,准备开辟新区。