武帝元朔五年(前124年)春，匈奴右贤王又屡次骚扰朔方，为了保证朔方的安全，武帝令卫青带三万骑兵出高厥，并节制苏建，李沮、公孙贺、李蔡俱出朔方；李息、张次公两人出右北平(今辽宁凌派百南)，共同进攻匈奴。匈奴右贤王以为汉兵距他甚远，一时不能到达，谁知卫青等出塞急行军几百里，趁黑夜里包围了右贤王。右贤王大惊，独与爱妾一人及数百骑兵乘夜突围北逃，这次奇袭，俘虏右贤裨王十余人，人口一万五千余人，牲畜数十万头，汉武帝立即派了使者，赶至边塞，在军中拜卫青为大将军。
元狩四年(前119年)春，汉武帝与诸将会议，决定远征漠北，令大将军卫青与骠骑将军霍去病各借五万骑兵，分东西两路出兵，骑兵后面还有浩浩荡荡的步兵，运军粮辎重的车辆几十万，卫青指挥西路军以李广为前将军，公孙贺为左将军，赴食其为右将军，平阳侯襄为后将军，从定襄出发。
当时单于听了降将赵信之计，把大部分粮草辎重运送到大漠之北，只率精兵守住漠北，以逸待劳坐收汉兵。卫青出塞千余里，见单于严阵以待，令用武刚车自环为营，以守为攻，又令五千轻骑进攻匈奴，匈奴也出兵万骑迎战，当时日将没，忽然狂风大作，砂石击面，两军对面互不相见。卫青又令左右两翼包围单于，单于见汉兵多将广，自度战不能胜，趁着薄暮突围向西北逃去。当时天色已晚，两军混战，各有杀伤，汉军从俘虏口中，知道单于早已逃走，卫青令轻骑连夜追赶，卫青也率领人马随后赶来，追了二百余里，东方已晓，到达宾颜山赵信城，得到匈奴大批粮草，休息一日，胜利班师。与此同时，霍去病也从东路出发，取得全胜。
汉武帝敢于起用出身低微、年纪青青的卫青，可谓知人善任，“天下由此服上之知人，”《通鉴》上还说他：“虽出身奴虏，然善骑射，材力绝人，遇士大夫以礼，与士卒有恩，众乐为用，有将帅材，故每出辄有功。”卫青虽劳苦功高，却不把功劳归于自己。元朔五年，因功被拜为大将军，汉武帝要封他的三个儿子为侯，他再三辞谢。
卫青从一个奴仆当上了大司马大将军，固然与其姊得幸于武帝有关，但主要的还是靠他个人的才干和功劳。《史记》上也说，卫青“亦以外戚贵幸，然颇用材能自进。”武帝元封五年(前108年)，卫青逝世，他为汉朝的安定与统一，征战了一生，谥曰烈侯，汉武帝把他葬在茂陵（今陕西兴平县），起冢如匈奴境内的庐山，以表彰他的卓越军功。
