张骞出使西域回国后，虽然带来了月氏人不愿与匈奴人为敌的信息，但他极力主张经营西域，认为取得西域可“广地万里”，不仅能**“天马”、“奇物”，而且可以招来拖西各族为外臣”，利用当地各族之间的矛盾孤立匈奴，以“断匈奴右臂”。漠南之战后，武帝为了巩固西部地区并打通与西域各国的联络通道，决定发起由霍去病单独任总指挥的河西之战，以解除匈奴对汉朝西部边境的威胁，并为进一步经营西域、北击匈奴奠定基础。
这次河西之战，与战国时的秦国与魏国之间河西之战的地点不同，秦魏之间的河西是指山西、陕西两省间黄河南段以西地区。而这次汉匈之间的河西，则是张骞出使西域所到的那个大月氏的旧地，它主要指今甘肃、青海两省黄河以西的河西走廊与湟水水域，主要包括甘肃的武威、张掖、酒泉等地，因为位于黄河以西，自古以来被称为河西，因夹在祁连山与合黎山、龙首山等山脉之间，狭长且直，形如走廊，因地处黄河之西，又被称为“河西走廊”，这里是内陆至西域的必经之地，曾是佛教东传的要道、丝路西去的咽喉。
公元前121年春，武帝任命霍去病为骠骑将军，率一万骑兵从陇西出击匈奴。据《史记·卫将军骠骑列传》记载，这一仗中，霍去病大军越乌戾山，渡黄河，讨伐遫濮部，渡过狐奴水，经过匈奴五王国，只要畏惧大汉军威，不加抵抗，对粮秣、衣物和老百姓一概无所索取，目的只是擒获单于的儿子。六天时间里，往北再回头向南，纵横两千里，在过焉支山（今甘肃山丹东南）南北杀了一整个来回，终于在皋兰山（今甘肃临夏县东南）与集结起来的匈奴部队短兵接战，杀死折兰王，斩首卢胡王，消灭其全部人马，捉住浑邪王的儿子及其相国、都尉，斩敌官兵八千余人，获得了休屠王的祭天金人。
[图片素材来自于网络再制作]
公元前121年夏，霍去病和公孙敖分别带兵数万，从北地出塞攻击匈奴，李广带四千骑兵，张骞带一万骑兵，先后分别从右北平出塞，配合作战。《史记·李将军列传》、《史记·卫将军骠骑列传》记载，此战中，因为张骞的大部队没有跟上，导致李广的四千骑兵被匈奴左贤王的四万骑兵包围，李广的儿子李敢率几十名骑兵冲击匈奴部队，激战两天，部队几乎损失殆尽；因为公孙敖迷路，霍去病便自己率所部骑兵继续依原定的大纵深外线迂回作战作战计划，先由今宁夏灵武渡过黄河，向北越过贺兰山，涉过浩瀚的腾格里沙漠和巴丹吉林沙漠，绕道居延海（今内蒙古西北），转而由北向南，沿弱水而进，经小月氏（未西徙的月氏人，今甘肃酒泉一带），再由西北转向东南，深入匈奴境内2000余里，在祁连山与合黎山之间的弱水上游地区，对浑邪王和和休屠王军队发起猛攻。此战歼灭匈奴三万余人，浑邪王、休屠王率残军逃走。
[图片素材来自于网络再制作]
这次河西之战胜利后的意义是：
一是，汉军占领了河西走廊全部地区，打通了西域各国的交通，并在此设置武威、张掖、酒泉、敦煌四郡，移民戍边。
二是，霍去病在两次河西之战中，采用了区别对待的策略，只要敌军表示归顺汉朝便不攻打，如果拒不归顺，才会以武力征服之，这对匈奴部族也有分化化解作用。逃走的匈奴浑邪、休屠二王因为受到单于的猜疑，率军投降汉朝就是最大的成果，霍去病在迎降中果断处置，最终接纳匈奴降兵四万余人，这也让匈奴军的实力大减。
[图片素材来自于网络再制作]
三是，河西战役之后，匈奴失去了祁连山北麓地区的天然牧场，匈奴人中也开始传唱歌谣：“亡我祁连山，使我六畜不蕃息；失我燕支山，使我嫁妇无颜色。”面对困境，匈奴单于听从了赵信的建议，率匈奴主力退守漠北。
