此后，从汉高祖至汉景帝，汉朝大抵奉行与匈奴和亲的政策。但是，匈奴对汉朝政策多有反复。除经常劫掠边境外，汉文帝十四年，匈奴还曾大举进犯、逼近长安。汉朝随后移民塞下，加强边境守卫。在汉初的70年间，占据主动地位的是匈奴。战争或是和亲，基本由匈奴决定。
汉武帝登基后，力图改变汉初以来的汉匈关系。汉武帝曾对卫青说：自己的历史使命是“汉家庶事草创，加四夷侵陵中国，朕不变更制度，后世无法；不出师征伐，天下不安，为此者不得不劳民”。意思是说，变更制度和出师征伐是必须完成的两项任务，二者最终指向的是大一统。这一席对话同时表明，汉武帝将卫青视为实现这一宏伟志向的同路人。
辽东到敦煌，汉朝建完整攻防
失去祁连山，匈奴漠南无王庭
在匈奴的政治地理概念中，其地分为中、左、右三部。左、右两部分别在单于领属土地的东方和西方，设有左右贤王、左右谷蠡王、左右大将、左右大都尉、左右大当户、左右都骨侯。
元光六年，卫青出上谷，打击的是匈奴左部。此后，卫青的作战对象转向中部和右部。元朔元年秋，卫青率3万骑出雁门郡，斩首数千。这是汉武帝兴兵与匈奴作战以来的最大战果。次年，卫青出云中郡西至高阙，迂回到陇西。此战意义十分重大，不仅驱逐了白羊王、楼烦王，而且夺回河南地，移民10万设朔方郡，解除了匈奴对长安、关中地区的直接威胁。汉朝设置朔方郡后，匈奴年年攻击上谷、代郡、雁门、定襄、云中、上郡，以左、中、右三部全线作战方式予以报复。
卫青对匈奴的打击，还促成匈奴内部最高统治权的变更。军臣单于死后，左谷蠡王发动政变自立，此即伊稚斜单于。伊稚斜单于击破军臣单于的太子，迫使其逃亡汉朝。伊稚斜单于代表了匈奴内部与汉朝激烈对抗的势力，故汉朝和匈奴之间最激烈的战争基本上发生在伊稚斜单于统治时期。
元朔五年，汉军在卫青的率领下在匈奴右部开辟战场，匈奴右贤王仅与一爱妾及数百骑溃围北逃。凭此战之功，卫青进号大将军。次年，卫青两出定襄，与匈奴单于直接对战。正是在这一年，霍去病封侯。
霍去病是卫青另一个姐姐与霍仲孺所生之子，18岁时以皇后姐子身份任侍中，后在卫青军中为票姚校尉。在元朔六年的这场战争中，霍去病率轻骑脱离大军寻找战机，斩单于大父，俘季父、相国、当户，斩首及捕获2280人，进而被封为冠军侯。
