汉武帝天汉元年（公元前100年），汉武帝派中郎将苏武、副中郎将张胜以及临时使团官吏常惠等人带着丰厚的礼品出使匈奴。当苏武到达匈奴时，正赶上匈奴的会缑王和长水（今河南洛宁西南）人虞常以及当初卫律（卫律本是汉朝官吏，后投降匈奴，得到重用）手下的汉朝官兵商量一起劫持单于母亲归降汉朝的事情。
虞常和张胜关系非常好，为了能够回到汉朝，虞常就找张胜商量，说他们愿意杀掉卫律，替汉朝报仇，希望张胜能在汉武帝面前多说好话，也好保住自己的家人。张胜想了想，就答应了虞常的请求，还送给他很多钱财。
一个月后，虞常等人想趁单于外出打猎的机会杀掉卫律，劫持单于的母亲。可是还没等行动开始，就因为内奸的告发而被匈奴人袭击。在这场战斗中，匈奴的会缑王战死沙场，虞常等人也被活捉。
张胜很快得知了此事，他害怕受牵连，就找苏武商量对策。苏武不愿意背叛汉朝，也不想受到匈奴人的侮辱，所以几次都想自杀。幸亏张胜和常惠极力劝阻，苏武才活了下来，但也受了重伤。本来，单于派卫律办理这件案子，本意是想杀掉汉朝的使者。后来在大臣的劝说下，单于决定招降汉使。当他听说苏武的行为时，认为他非常有气节，于是每天派人来慰问他。
过了几天，苏武的伤好得差不多了。这时，卫律突然押着虞常来见苏武。卫律提着宝剑，冷冰冰地看着苏武，然后当着他的面一剑砍下了虞常的脑袋。之后，卫律对苏武说：“汉朝的使者张胜意图谋杀匈奴的大臣，按照匈奴的法律理当处斩。不过，单于看你们是人才，不忍心杀你们。只要你们投降，一切都可以既往不咎。”
卫律的话刚说完，张胜就跪倒在地，表示愿意投降。卫律看了看张胜，轻蔑地笑了几声，然后又对苏武说：“怎么？先生难道还执迷不悟？副使参与了谋反计划，你这个做正使的恐怕也脱不了干系吧？”
苏武狠狠瞪了张胜一眼，然后大义凛然地对卫律说：“真是笑话，我本来就没有参与他们这次谋划，和张胜又非亲非故，关我什么事？想杀我就直说，没必要拐弯抹角的。”
“你……”卫律气得脸色发青，举起剑做出一副要杀人的模样。苏武连看都不看他一眼，站在那里纹丝不动。卫律见硬的不行，就来软的，对苏武说：“苏先生，你这又是何苦呢？想当初我投降匈奴，承蒙单于器重，做了匈奴的丁灵王，掌管几万军队，拥有数不尽的金银财宝、牛羊马匹，这是多么风光的事情啊！凭你的才干，我敢保证，你今天投降，明天就可以和我一样享受荣华富贵，何苦在这里白白等死呢？”
苏武看了看卫律，没有说话。卫律以为打动了苏武，就接着说：“这件事你一定要考虑清楚啊！如果你现在听我的，归顺了匈奴，那么从明天起我们就是兄弟；如果你不听我的，恐怕我们就没有机会再见面了，我看你……”
“呸！无耻！”还没等卫律把话说完，苏武就破口大骂：“你居然还有脸在我面前卖弄。身为汉朝的臣子，却不要恩德信义，背叛自己的君主，抛弃自己的亲人，心甘情愿地给蛮夷做走狗，你有什么资格在我面前说三道四。”
卫律被苏武骂得无话可说，只好呆呆地立在那里。这时，苏武又说：“放下你和我大汉的事不说，就说你和匈奴的事！单于交给你裁决别人生死的权力，这时多大的信任。可你呢？不但不公正处理问题，反而在这里挑拨两国君主之间相互争斗，自己却在一旁坐山观虎斗，你居心何在啊？当初，南越国杀死我大汉使者，结果被我大汉消灭；大宛国王杀死我大汉使者，结果被我们砍下了脑袋；朝鲜杀死我们的使者，结果招来了灭国的灾难，如今就只剩下匈奴还没有干过这种事。你明知道我是绝对不会投降的，却想要借这个机会杀死我，然后挑起汉朝和匈奴之间的战争，恐怕匈奴的灾难就要来临了，而这场灾难也是从我开始的啊！
卫律摇了摇头，他心中清楚，不管怎么劝说，苏武是不会投降的。没办法，卫律只好把这件事禀报给单于。单于听后更加欣赏苏武，非要把他招降。于是，单于命人把苏武关进一个地窖里，不给他供应水和食物。这时正赶上天降大雪，苏武就靠啃雪的毡子上的毛团维持了好几天。匈奴人看几天下来苏武居然没有饿死，就认为有神灵在保护他。
最后，单于把苏武流放到北海没有人烟的地方，让他在那里放牧一群公羊，并对他说：“苏先生是可以回国的，不过必须等到公羊能够生出小羊才行。”
在这期间，匈奴曾经两次派李陵来劝说苏武，但都被苏武拒绝了。直到19年后，苏武才回到汉朝。当初苏武出使匈奴的时候还是壮年，可回国的时候，胡子的头发全都白了。
