曹操在夺取北方四州以后，首要任务就是彻底铲除袁氏集团的影响，避免袁氏集团死灰复燃。毕竟河北四州是袁氏集团的大本营，袁氏父子在此经营很久，势力盘根错节，加之袁绍为政宽缓，在士大夫乃至平民阶层有不少支持者，曹操初来乍到，如果不彻底清除袁氏残余势力，河北四州将永无宁日，另外，三郡乌桓原本就为袁绍所用，如今二袁兄弟又前来相投，势必对河北四州构成严重的威胁，对于曹操而言，要想把兵力转用他处，就必须先稳定后方，北击乌桓就成了必然选择。
但是，当曹操将这一动议提交众人商议时，很多人都不同意，认为大军北征，刘备一定会说服刘表出兵北上袭击许都。
郭嘉对曹操说∶“大人虽然威震天下，但乌桓自恃处于边地，必然不会戒备，趁其没有防备，突然发起进攻，一定能将其击破。况且袁绍对乌桓有恩，袁尚兄弟还活着；如今，河北四州百姓仅仅是因为大人的威名而暂时归附，对大人并不感恩戴德，如果放弃此举率军南征的话，袁尚借助乌桓的力量，招徕那些死心塌地跟随他的臣下，一旦乌桓发兵入塞，河北四州百姓将纷纷响应，反而激起了蹋顿对中原财富的觊觎之心，这样一来，恐怕青州、冀州都将丢掉了。刘表不过是一个终日无所事事的空谈家而已，他自知才能比不过刘备，重用刘备，又担心刘备会尾大不掉轻用刘备，刘备也是不肯从命的，大人即使倾国远征，也万无一失。”曹操遂采纳了郭嘉的建议。
其实，曹操也留足了后手，他命令折冲将军乐进率军驻扎阳翟，保护许都（《三国志·乐进传》称∶“在荆州未服，遣屯阳翟。”）；其余如伏波将军兼河南尹夏侯惇、虎威将军于禁、破虏将军李典、议郎曹仁、厉锋将军曹洪、徐州刺史臧霸等均驻防在各地，并没有参战。
建安十二年（公元207年）五月，曹操率领大军推进至易县（今河北省易县）。郭嘉又对曹操建议道∶“兵贵神速。如今，我军跋涉千里，去偷袭敌人，辎重太多，就容易暴露，敌人听说后，必定会加强戒备。不如丢掉辎重，倍道兼行，掩其不备。”曹操听从了郭嘉的建议，丢下辎重，轻装急行，很快就来到了无终（今天津市蓟县）。
当时通向塞外的主要通道是所谓的滨海道，即从无终经今河北省丰润、至山海关（原称碣石）出关。然而，当曹军来到无终时，正值夏天，雨水很多，滨海地势低洼，道路泥泞不堪，阻挡了大军的通行，并且，乌桓早已得知了消息，已提前占据了险要，郭嘉设计的长途奔袭战术已失去了条件。
曹操为此非常苦恼，询问刚刚归附的田畴有什么办法，田畴回答∶"滨海道在夏秋时节经常会形成沼泽，说它浅吧，却无法让车辆、马匹通过；说它深吧，又不能行船，这个难题早就存在了。右北平过去的郡治设置平冈，这里的百姓从卢龙塞（今河北省迁安市与宽城县接壤处的长城关口，今称为喜峰口）前去，由此道也可通往柳城（今辽宁省朝阳市）。这条道路从东汉建武年间以来就已经无人行走了，至今已近二百年，但依稀尚能分辨出残迹。如今，敌人判断大军顿兵无终，无法前进，不得不退去，一定会懈怠。我们如果假装沮丧，宣布撤军，而后从卢龙口翻越白檀的山险，再进入无人区，路近且方便，掩其不备，可不战而取下蹋顿的人头。”
于是，曹操下令将东进的军队回撤，并在滨海道的水侧、路旁的大树上刻下∶“如今正值盛夏，道路不通，暂时等到秋冬以后，再出兵讨伐你们。”乌桓人的侦察骑兵发现了这些告示，乌桓最高统帅部即判断曹军确已撤军了。
曹操命令田畴率领他的部众充当向导，从无终向东北进入徐无山中，从卢龙一路向东北而来，逢山开路，遇水架桥，穿行了五百多里，经过平冈，又经过鲜卑人的王庭，朝柳城杀来。曹军进至白狼堆，距离柳城二百里时，乌桓人才发觉，顿时惊慌失措。
袁尚、袁熙与蹋顿、辽西单于楼班、右北平单于能臣抵之（钱大昕称，右北平单于为乃乌延，能臣抵之可能是代郡乌桓单于）等人仓促率领数万骑兵前来迎战。当时，曹操率领的是先头轻装骑兵部队，步兵大部队尚在后面，没有上来，突然与乌桓大军相遇，身边的将士们都有些害怕。在危急关头，荡寇将军张辽却气势如虹，劝说曹操给予乌桓迎头痛击，站在白狼山上的曹操也看到乌桓骑兵的队伍凌乱，行动散漫，遂同意了张辽的请求，并将自己手持的帅旗交给了张辽，由张辽统领全军。
张辽一声令下，霎时间喊杀声四起，曹军骑兵从山上蜂拥而下。偏将军张、徐晃等将个个奋勇争先，议郎曹纯率领曹军最精锐的骑兵虎豹骑以及阎柔率领的幽州、并州乌丸突骑一马当先，冲在最前面，乌桓骑兵顿时被打得大败，虎豹骑临阵斩杀了蹋顿以及下属各王，胡汉投降的有二十余万。
曹军乘胜占领了柳城，辽东单于速仆丸与袁尚、袁熙率领数千骑兵狼狈东逃，投奔辽东侯、平州牧（自封的）公孙康（东汉朝廷给的封号为辽东太守）。有人劝说曹操乘胜东进，曹操说∶“我正要让公孙康斩送袁尚、袁熙的人头，不用出兵了。”九月，曹操率军从柳城返回，并拜牵招为护乌桓校尉。《先贤行状》记载了曹操请封田畴的奏表∶“……王旅出塞，涂（途）由山中九百余里，畴帅兵五百，启导山谷，遂灭乌丸，荡平塞表。”请求汉献帝以五百户封田畴为亭侯。田畴说∶“我开始是想为刘公（指刘虞）报仇，率众逃匿在深山之中，我的志愿没能实现，反而以此作为攫取利益的资本，这不是我的本意。"坚决不接受，曹操只好答应了。
曹操从建安十二年（公元207年）五月到九月冒险北上，消灭了一直盘踞在北方的三郡乌桓势力，从此以后，留在塞外的乌桓人已经寥寥无几，只有代郡、雁门还有一些乌桓人，其余被曹军俘虏的乌桓人则被编入军队，朝廷将他们的妻子扣为人质，而让他们四处打仗。据《三国志·乌丸传》称∶（这次俘获的三郡乌丸）“及幽州、并州柔所统乌丸万余落，悉徙其族居中国，帅从其侯王大人种众与征伐。由是三郡乌丸为天下名骑”。
曹操回来时，是走的滨海大道。当他登上碣石山（今山海关）时，眺望渤海，顿时心潮澎湃，写下了著名的一组组诗，该诗分五部分，分别为《艳》（序曲）、《观沧海》《冬十月》《土不同》《龟虽寿》。
当时，天气已寒，还非常干旱，二百里之内没有水源，又缺乏粮草，曹操下令杀死了数千匹战马充当军粮，又挖掘地面三十余丈才挖到了地下水，然而，就在曹军艰难南撤时，也传来了一个令人欣喜的消息———公孙康派人将袁尚、袁熙以及速仆丸的人头送来了!
建安十三年（公元208年）一月，曹操回到了邺城。曹操下令将袁尚的人头悬挂在马市示众，并传令∶“敢哭的，斩!”牵招见此情景，悲从中来，遂在人头下设下祭品祭奠。曹操认为牵招是个义士，遂举荐他为茂才。曹操回来后，下令把当初阻止自己出兵的人的名单报上来，众人不明就里，人人都非常恐惧，结果，曹操对这些人均一一重赏，说道∶“孤这次北伐，十分危险，是侥幸取胜的，虽然成功了，那是上天保佑的。诸君的劝谏才是万全之策，因此，才重地赏赐大家，从今往后，不要闭口不言!”曹操还专门将缴获的乌桓财物赏给群下，特意将一面素屏风、凭几赏给毛珍，说道“你有古人之风，因此，赐给你古人之器物。
