匈奴自从被卫青、霍去病打败以后，双方有好几年没打仗。他们口头上表示要跟汉朝和好，实际上还是随时想进犯中原。
匈奴的单于一次次派使者来求和，公元前100年，汉武帝派中郎将苏武拿着旌节，出使匈奴。这时候有个人想杀死单于，单于怀疑是苏武想杀他，非常生气，想杀死苏武，被大臣劝阻了，单于叫卫律去逼迫苏武投降。
苏武一听卫律叫他投降，就说： 我是汉朝的使者，如果违背了使命，丧失了气节，活下去还有什么脸见人。 又拔出刀来向脖子抹去。卫律慌忙把他抱住，赶快叫人抢救，苏武才慢慢苏醒过来。
卫律劝苏武说： 我也是不得已才投降匈奴的，单于待我好，封我为王，给我几万名的部下和满山的牛羊，享尽富贵荣华。先生如果能够投降匈奴，明天也跟我一样，何必白白送掉性命呢？
苏武怒气冲冲地站起来，说： 卫律！你是汉人的儿子，做了汉朝的臣下。你忘恩负义，背叛了父母，背叛了朝廷，厚颜无耻地做了汉奸，还有什么脸来和我说话。我决不会投降，怎么逼我也没有用。
卫律碰了一鼻子灰回去，向单于报告。单于把苏武关在地窖里，不给他吃的喝的，想用长期折磨的办法，逼他屈服。
这时候正是入冬天气，外面下着鹅毛大雪。苏武忍饥挨饿，渴了，就捧了一把雪止渴；饿了，扯了一些皮带、羊皮片啃着充饥。过了几天，居然没有饿死。
单于见折磨他没用，把他送到北海边去放羊，跟他的部下常惠分隔开来，不许他们通消息，还对苏武说： 等公羊生了小羊，才放你回去。 公羊怎么会生小羊呢，这不过是说要长期监禁他罢了。
苏武到了北海，旁边什么人都没有，惟一和他作伴的是那根代表朝廷的旌节。匈奴不给口粮，他就掘野鼠洞里的草根充饥。日子一久，旌节上的穗子全掉了。
一直到了公元前85年，匈奴的单于死了，匈奴发生内乱，分成了三个国家。新单于没有力量再跟汉朝打仗，又打发使者来求和。那时候，汉武帝已死去，他的儿子汉昭帝即位。
汉昭帝派使者到匈奴去，要单于放回苏武，匈奴谎说苏武已经死了。使者信以为真，就没有再提。
第二次，汉使者又到匈奴去，苏武的随从常惠还在匈奴。他买通匈奴人，私下和汉使者见面，把苏武在北海牧羊的情况告诉了使者。使者见了单于，严厉责备他 说： 匈奴既然存心同汉朝和好，就不应该欺骗汉朝。我们皇上在御花园射下一只大雁，雁脚上拴着一条绸子，上面写着苏武还活着，你怎么说他死了呢？
单于听了，吓了一大跳。他还以为真的是苏武的忠义感动了飞鸟，连大雁也替他送消息呢。他向使者道歉说： 苏武确实是活着，我们把他放回去就是了。
苏武出使的时候，才四十岁。在匈奴受了十九年的折磨，胡须、头发全白了。回到长安的那天，长安的人民都出来迎接他。他们瞧见白胡须、白头发的苏武手里拿着光杆子的旌节，没有一个不受感动的，赞扬他真是个有气节的大丈夫。