单于正要派使者护送苏武等人归汉，适逢缑王与长水人虞常等人在匈奴内部谋反。缑王是昆邪王姐姐的儿子，与昆邪王一起降汉，后来又跟随浞野侯赵破奴重新陷胡地，在卫律统率的那些投降者中，暗中共同策划绑架单于的母亲和阏氏归汉。正好碰上苏武等人到匈奴。虞常在汉的时候，一向与副使张胜有交往，私下拜访张胜，说：“听说汉天子很怨恨卫律，我虞常能为汉廷埋伏弩弓将他射死。我的母亲与弟弟都在汉，希望受到汉廷的照顾。”张胜许诺了他，把财物送给了虞常。

一个多月后，单于外出打猎，只有阏氏和单于的子弟在家。虞常等七十余人将要准备动手，其中一人夜晚逃走，把他们的计划报告了阏氏及其子弟。单于子弟发兵与他们交战，缑王等都战死；虞常被活捉。单于派卫律审处这一案件。张胜听到这个消息，担心他和虞常私下所说的那些话被揭发，于是便把事情经过告诉了苏武。苏武说：“事情到了如此地步，这样一定会牵连到我们。受到侮辱才被处死，更加对不起国家！”因此想自杀。张胜、常惠一起制止了他。虞常果然供出了张胜。单于大怒，召集许多贵族前来商议，想杀掉汉使者。左伊秩訾说：“假如是谋杀单于，又用什么更严的刑法呢？应当都叫他们投降。”单于派卫律召唤苏武来受审讯。苏武对常惠说：“丧失气节、玷辱使命，即使活着，还有什么脸面回到汉廷去呢！”说着拔出佩带的刀刺向胸腹，卫律大吃一惊，自己亲自抱住、扶好苏武，派人骑快马去找医生。医生在地上挖一个坑，在坑中点燃微火，然后把苏武脸朝下放在坑上，用脚踩他的背部，让淤血流出来。苏武本来已经断了气，这样过了好半天才重新呼吸。常惠等人哭泣着，用车子把苏武抬回营帐。单于钦佩苏武的气节，早晚派人探望、询问苏武，而把张胜逮捕监禁起来。

苏武的伤势逐渐好了。单于派使者通知苏武，一起来审处虞常，想借这个机会使苏武投降。剑斩虞常后，卫律说：“汉使张胜，谋杀单于亲近的大臣，应当处死。单于招降的人，赦免他们的罪。”举剑想要击杀张胜，张胜请求投降。卫律对苏武说：“副使有罪，应该连坐到你。”苏武说：“我本来就没有参与谋划，又不是他的亲属，怎么谈得上连坐？”卫律又举剑对准苏武，苏武岿然不动。卫律说：“苏君！我卫律以前背弃朝廷，归顺匈奴，幸运地受到单于的大恩，赐我爵号，让我称王；拥有奴隶数万、马和其他牲畜满山，如此富贵！苏君你今日投降，明日也是这样。白白地把身体给草地做肥料，又有谁知道你呢！”苏武毫无反应。卫律说：“你通过我而投降，我与你结为兄弟；今天不听我的安排，以后再想见我，还能得到机会吗？”

苏武痛骂卫律说：“你做汉朝的大臣和儿子，不顾及恩德义理，背叛皇上、抛弃亲人，在异族那里做投降的奴隶，我为什么要见你！况且单于信任你，让你决定别人的死活，而你却居心不平，不主持公道，反而想要使汉朝皇帝和匈奴单于二主相斗，旁观两国的灾祸和损失！南越王杀汉使者，结果九郡被平定。宛王杀汉使者，自己头颅被悬挂在宫殿的北门。朝鲜王杀汉使者，随即被讨平。唯独匈奴未受惩罚。你明知道我决不会投降，想要使汉和匈奴互相攻打。匈奴灭亡的灾祸，将从我开始了！”卫律知道苏武终究不可胁迫投降，报告了单于。单于越发想要使他投降，就把苏武囚禁起来，放在大地窖里面，不给他喝的吃的。天下雪，苏武卧着嚼雪，同毡毛一起吞下充饥，几日不死。匈奴以为他是神仙，就把苏武迁移到北海边没有人的地方，让他放牧公羊，说等到公羊生了小羊才得回归汉朝。同时把他的部下及其随从人员常惠等分别安置到别的地方。

苏武迁移到北海后，单于断绝了他的粮食供应，只能掘取野鼠所储藏的野生果实来吃。他拄着汉廷的符节牧羊，睡觉、起来都拿着，以致系在节上的牦牛尾毛全部脱尽。一共过了五、六年，单于的弟弟於靬王到北海上打猎。苏武会纺制系在箭尾的丝绳，矫正弓和弩，於靬王颇器重他，供给他衣服、食品。三年多过后，於靬王得病，赐给苏武马匹和牲畜、盛酒酪的瓦器、圆顶的毡帐篷。王死后，他的部下也都迁离。这年冬天，丁令部落的人盗去了苏武的牛羊，苏武又陷入了穷困。

当初，苏武与李陵都为侍中。苏武出使匈奴的第二年，李陵投降匈奴，不敢访求苏武。时间一久，单于派遣李陵去北海，为苏武安排了酒宴和歌舞。李陵趁机对苏武说：“单于听说我与你交情一向深厚，所以派我来劝说足下，愿谦诚地相待你。你终究不能回归汉朝了，白白地在荒无人烟的地方受苦，你对汉廷的信义又怎能有所表现呢？以前你的大哥苏嘉做奉车都尉，跟随皇上到雍城的棫阳宫去，扶着皇帝的车驾下殿阶，碰到柱子，折断了车辕，被定为大不敬的罪，用剑自杀了，只不过赐钱二百万用以下葬。你弟弟苏贤跟随皇上去祭祀河东土神，骑着马的宦官与驸马争着上船，把驸马推下去掉到河中淹死了。骑着马的宦官逃走了。皇上命令苏贤去追捕，他抓不到，因害怕而服毒自杀。我离开长安的时候，你的母亲已去世，我送葬到阳陵。你的夫人年纪还轻，听说已改嫁了，家中只有两个妹妹，两个女儿和一个男孩，如今又过了十多年，生死不知。人生像早晨的露水，何必长久地像这样折磨自己！我刚投降时，终日精神恍恍惚惚，几乎要发狂，自己痛心对不起汉廷，加上老母拘禁在保宫，你不想投降的心情，怎能超过当时我李陵呢！并且皇上年纪大了，法令随时变更，大臣无罪而全家被杀的有十几家，安危不可预料。你还打算为谁守节呢？希望你听从我的劝告，不要再说什么了！”