且说曹操大胜，留下夏侯惇领兵把守官渡隘口，自己则班师回许都，大摆宴席，为关云长贺功。席间，曹操这才对吕虔说：“当时我让粮草走在前面，正是为了诱敌。只有荀公达知道我的计谋啊。”众人全都叹服。正在宴饮之时，忽有人报来：“汝南有黄巾军刘辟、龚都非常猖獗。曹洪几次攻伐都失败，乞求派兵救援。”云长听到，来到曹操面前说：“关某愿意效犬马之劳，攻破汝南的贼寇。”曹操说：“云长刚建了大功，我还没来得及重赏，怎能再劳烦你远征呢？”关公说：“关某如果赋闲太久，定会生病。愿意再走这一趟。”曹操觉得关羽的确是个大丈夫，于是点兵五万，令于禁、乐进为副将，随同关公出行。荀彧暗暗对曹操说：“云长常怀有投归刘备的心思，如果知道了刘备的消息，他必定离去，不能总是叫他出征领功。”曹操说：“这次收功后，我不会再让他出战了。”
且说云长出征汝南，安营扎寨。龚都、刘辟念故主刘备的大恩，故意领兵败退，出让汝南。云长夺得了州县，又有孙乾告知玄德在袁绍处，班师回许昌后，便常寻思着离开曹操，往见兄长。
再说于禁也探知到刘备在河北，把消息报给曹操。曹操令张辽去打探关公的心意，关公正闷坐在家，张辽进屋就祝贺道：“听说兄长在战阵中打听到了玄德的音信，特地来贺喜。”关公并未露出喜色，说：“故主虽然还在，却不能相见，有什么值得高兴呢。”张辽试探着问：“你与玄德的交情，比起小弟我与你的交情来，那个更厚重些？”关公回答说：“我与兄弟你，是朋友之交；我与玄德，是朋友但情如兄弟，兄弟情深但又有主臣之分，怎能相提并论呢？”张辽又问道：“如今玄德在河北，兄长是否前往跟从？”关公答道：“往日发过的誓，怎能违背？文远你替我向丞相转达我的心意。”张辽回返，将关公的话如实告知曹操。曹操说：“我自有办法留住他。”
关公得知刘备的下落后，思念越切，因此不停寻思如何脱离曹操。一日，正沉思之时，忽有袁绍部下陈震前来相访，拿出书函递给关公。关公一看，乃是玄德书信。于是修书一封，托陈震交回兄长。随后进内院，报告给二位嫂嫂，又前去相府拜辞曹操。曹操知道关公的来意，便在门前挂起回避牌。关公沮丧地返回家中，一边命从前的随从仆役收拾车马，一边吩咐宅中所有原赐之物，统统留下，分毫不能带走。第二日再去相府辞谢，门口还是挂着回避牌，关公一连去了好几次，曹操都不与他见面。关公只好去张辽家，想将投奔刘备的事告诉他，张辽也称病不能出来。关羽心想：“这是曹操故意不让我离开，只是我离去的心意已定，怎能还留在这里？”于是写下一封书信，派人送去相府；一面将几次收下的金银，一一放进库房，将汉寿亭侯的大印悬挂在堂上，请二位嫂嫂上车。关公跨上赤兔马，提了青龙刀，只带了旧日的随从、仆役，护送着车仗，直出北门。门吏上前拦挡，被关公怒目横刀一呵斥，退避开去了。关公一出北门，就对随从人员说：“你们护送车仗先走，如果有人追赶，我自会拦挡，不要惊动了两位夫人。”随从推着车，往官道上进发。
却说曹操正与人谈论着关公的事，还没做出决定，左右的人呈上关公书信。曹操看过，惊呼道：“云长离去了！”忽又有北门守将跑来报告：“关公夺门而出，车仗鞍马二十多人，都向北去了。”不一会儿，又有关公宅中的人来报告：“关公封放好丞相所赐的金银等物。十个美女安置在内室。汉寿侯的大印悬挂在大堂上。丞相所拨去的仆役，全都没有带走，只带了原先跟从的随从及随身行李，往北门去了。”众人都愣住了。这时，一员大将挺身而出道：“我愿带铁骑三千，前去生擒关某，带来见丞相。”此人正是将军蔡阳。原来，曹操部下众将中，张辽、徐晃与云长感情较深厚，其余将领也都敬服关公，唯独蔡阳不服，现在听到关公离开，所以想去追赶。
曹操斥退蔡阳，不令他追赶，说：“云长始终不忘故主，来去清白，真是大丈夫啊。你们都应该效仿他。”程昱说：“丞相待关某如此厚重，他如今却不辞而去，只留下书信一封，冒犯丞相的威严，罪过不小；若放他归附袁绍，犹如为虎添翼，不如追而杀之，以免后患无穷。”曹操说：“我当初已经答应他的三个条件，怎能不守信用？他也是为主心切，不必追了。”又对张辽说：“云长封金挂印，钱财贿赂不能打动他的心，爵位厚禄不能转移他的志向，这样的人我深为敬佩。想来他应该没有走多远，我索性给他个人情。你可以先去留住他，等我来给他送行，送他路费征袍，为日后做个纪念。”张辽领命，单身匹马先去了。曹操带几十人马随后赶来。
因为要护送车仗，云长不敢骑着赤兔马飞跑，只是拉了马辔慢慢行走。走不多远，忽听背后有人大叫：“云长且慢走！”回头看去，见张辽快马加鞭地赶到。关公让车仗随从只管先走，自己则停下马步，按住青龙刀，问道：“文远莫非是来追我回去的？”张辽说：“不是。丞相知道兄长远行，要来送别，特地先派我来请你暂且停停，没有其他意思。”关公说道：“即便是丞相铁骑亲自前来拦阻，我也愿一决死战。”于是停住马，在桥上张望。果然见曹操带着几十人马，飞奔而来，身后是许褚、徐晃、于禁、李典等人。曹操看见关公横刀立马在桥上，令各将勒住马匹，向左右排开。关公见众人手中并无兵器，这才稍稍安心。曹操说：“云长为什么走得这样急？”关公在马上弯腰答道：“关某以前禀报过丞相。如今知道故主在河北，不由得我不急忙离开。几次登门拜辞，都不得参见，只好送上书信告辞，封金挂印送还丞相。还请丞相不要忘了当初许诺的话。”曹操说：“我欲取信于天下，怎能违背前言呢？只怕将军途中缺少盘缠，特地来送些路资。”一名随行将领托着一盘黄金走过来。关公说：“蒙丞相多次恩赐，我手中还有余资，留下这些黄金赏给将士们吧。”曹操说：“这些只是微薄酬劳，不够奖赏你所立大功的万分之一，云长何必推辞？”关公说：“小小功劳，何足挂齿呢？”曹操笑着说：“云长是天下义士，只怪我福薄，留不住你。现在送给你锦袍一件，聊表心意。”于是又叫一员将领下马，双手捧了锦袍送过来。云长害怕有变故，不敢下马，只用青龙刀尖挑起锦袍，披在身上，勒住马回头称谢曹操说：“谢丞相赠袍，他日再会。”就下桥往北方奔去。许褚说：“这个人太无礼了，为什么不捉了他？”曹操说：“他只有一人一马，我们几十人，怎么不疑虑呢？我早就说过，不可追赶。”曹操带众将回城，一路上叹息不已，想念云长。
且说关公别了曹操追赶车仗，大约赶了三十里都没有看见车马，心慌不已。原来，二位夫人前行中，被江洋大盗杜远掳到山寨，要纳为压寨夫人，幸亏另一大盗廖化，得知二夫人是刘皇叔的家室，又听说是关公护送后，要将夫人送下山去。杜远不答应，廖化于是杀了杜远，带着二位夫人下山寻关公。关公见二位夫人平安送回，拜谢廖化。廖化想送些手下给关公，关公寻思此人始终是黄巾余党，于是道谢着推却了，廖化又拜送金帛，关公也没接受。廖化拜别，自带人离开了。
关公告诉了二位嫂嫂曹操赠袍之事，催促车马赶路。天黑时，来到一个村庄投宿。庄主胡华，得知眼前人是斩颜良、文丑的关公，心中十分钦敬，热情款待，并拿出一封信，托关公交给小儿子胡班，胡班在荥阳太守王植部下做从事。第二天，吃过早饭后，关羽带上胡华的书信，拜别而行。
这一日，来到东岭关。把关将领孔秀带着五百军兵在岭上把守。关公护送着车仗上岭，军士报知孔秀，孔秀出关相迎。关公下马来，与孔秀施礼。孔秀问道：“将军要往哪里去？”“我辞别了丞相，要去河北寻我兄长。”关公回答。“河北袁绍，正是丞相的对敌，将军此去，有丞相的放关文书吗？”孔秀又问。关公说：“我走得匆忙，没能向丞相讨要。”孔秀说：“既然没有文书，我只有先差人禀告丞相后，才能放行。”关公说道：“等你禀告丞相，一去一来岂不耽误了我的行程？”孔秀说：“这是规定，不得不如此。”关公生气道：“你不放我过关吗？”孔秀说：“你要过去，须留下老小作为人质。”关公怒气上头，举起大刀就要来杀孔秀。孔秀慌忙退进关内，鸣鼓聚兵，披挂上马，往关下杀来，大喝一声：“你敢过去么？”关公令车仗退后，驱马提刀，也不回话，直接冲向孔秀。孔秀挺枪迎战，两马相交，只一个回合，关公钢刀收起，孔秀已经死在马下。众军回头逃走。关公喊说：“你们不要逃。我杀孔秀也是迫不得已，与你们无关。请各位传话给曹丞相，就说孔秀要害我，我这才杀了他。”
关公护送着车仗继续向洛阳进发，早有军士报告洛阳太守韩福。韩福急忙招聚众将商议。牙将孟坦说：“既然他没有丞相的通关文书，就是私自出行，如果放他过去，上面必定会怪罪。”“可是关公勇猛，颜良、文丑都是死在他的刀下。我看只能智取，不能力敌。”韩福说。孟坦眼珠一转说：“我有一个办法：先在鹿角设下关口，等他到来，我引兵和他交锋，先假装败退，诱他追赶，你再用暗箭射他。如果关公坠马，我们将他押解回许都，必受重赏。”如此商议定了。守兵报上：“关公车仗已到。”韩福带上弓箭，引一千人马在关口排列，问：“来者何人？”关公在马上微微欠了欠身说：“我是汉寿侯关羽，请准我过关。”韩福问：“有曹丞相的文书吗？”关公回答：“事务繁多，没有要得。”韩福说：“我奉丞相之命镇守此地，专门盘问往来奸细。如果没有文书，那是属于逃窜了。”关公一听生气道：“东岭的孔秀已经被我斩杀，难道你也想找死吗？”韩福对部下道：“谁人给我拿下他？”孟坦出马，抡起双刀来取关公。关公吩咐车仗退后，拍马迎来。与孟坦战不到三个回合，孟坦拨转马头便往回跑，关公追来。孟坦本只想引诱关公，不料关公马快，几步赶上，只一刀便将孟坦砍倒。关公勒马回转，韩福躲在门后，尽力放了一箭，正中关公的左臂。关公用口拔出箭，伤口血流不止，仍飞马径直冲向韩福，韩福逃跑不及，也被关公手起刀落，连头带肩劈在马下，又杀散众军，保护车仗。
关公割了块帛，将伤口扎住，恐怕路上有人暗算，连夜赶往汜水关。汜水把关将领叫卞喜，是并州人，擅长使用流星锤，原本是黄巾军余党，后来投奔了曹操。卞喜听到关公将要来到，寻思出一个办法：在关前的镇国寺中，埋伏下二百多个刀斧手，引诱关公来到寺中，以敲杯为暗号，意图杀害。卞喜安排好一切后，出关迎接关公。关公看见卞喜前来相迎，下马与他相见。卞喜说：“将军威名震天下，谁不敬服？如今去河北投归刘皇叔，更见忠义之心！”关公诉说前面斩孔秀、韩福之事。卞喜说：“将军杀他们也是迫不得已，我今后见了曹丞相，一定代为禀告将军的无奈。”关公听见这话，十分高兴，与卞喜一同上马，过了汜水关，来到镇国寺门前，寺里的和尚击钟以示迎接。原来那镇国寺是汉明帝御前香火院，寺中有和尚三十多个。其中有一名和尚，法名普净，是关公的老乡。当下普净已经得知卞喜的计谋，上前与关公攀谈：“将军离开蒲东多少年了？”关公说：“将近二十年了。”普净又问：“还记得贫僧吗？”关公略带歉意说：“离乡太久，认不出了。”普净说：“贫僧家与将军家只隔了一条河。”卞喜见普净与关公同乡，怕他走漏消息，呵斥道：“我还要请将军赴宴，你这和尚哪来这么多话？”关公说道：“话不能这么说，老乡相见，怎会不叙叙乡情呢？”普净请关公进房内喝茶。关公说：“二位夫人还在车上，可先献茶给二位夫人。”普净叫人先送上茶给二位夫人，然后请关公进房内。普净举了举所佩戒刀，用眼色示意关公。关公意会，命左右的人持刀紧紧跟随。
卞喜请关公到法堂赴宴，关公说：“卞某请我赴宴，不知是好意还是歹意？”卞喜还没开口，关公早发现壁衣中藏有刀斧手，于是大喝一声：“我以为你是好人，没想到你胆敢如此！”卞喜知道事情已败露，忙大叫：“左右下手！”左右正准备举刀，都被关公拔剑砍倒。卞喜见情况不妙，跑出法堂绕着长廊逃奔，关公丢下宝剑，提起大刀追赶。卞喜暗暗拿出飞锤向关公掷打，关公拿刀挡开飞捶，追赶过去，一刀将卞喜劈成两段。回到嫂嫂身边看时，早有军兵围在那里，军兵见关公回来，吓得四散奔逃。关公将军兵赶跑后，答谢普净说：“要不是师父，我们已被狗贼害了。”普净说：“贫僧不能再在此处安身，早拾了衣钵，要往四处云游去了。后会有期，将军保重。”关公道谢，护送着车仗，又往荥阳来了。
荥阳太守王植，与韩福是亲家，听说关公杀了韩福，商议着要暗害关公，于是派人把守住关口。等关公到来，王植出关，笑脸相迎。关公告知自己寻找兄长之事。王植说：“将军一路奔波，夫人在车上也劳累了，不如暂且进城，到馆驿中休息一宿，来日再上路也不迟。”关公见王植表现得甚为殷勤，于是请二嫂进城休息。馆驿中一切准备妥当，王植请关公赴宴，关公推辞不去，王植又派人将筵席送到馆驿之中。关公因途中辛苦，请二嫂吃过晚饭，到正房休息，又吩咐随从喂饱马匹，各自回去安歇，然后关公也解甲休憩。王植暗中叫了从事胡班来，吩咐道：“关某背离丞相逃跑，又在路上杀了太守及守关将校，死罪难免！此人武勇难敌，你今晚叫上一千军士围住馆驿，一人举一个火把，等到三更时分，一齐放火，不管是谁一律烧死！我会亲自带兵接应你。”胡班听令，点了军士，暗暗将干柴等引火之物，搬到馆驿门前，约定时间举事。一切就绪，胡班寻思：“我早就听说过关云长大名，但不知他长什么样，不如偷偷去看上一眼。”于是来到驿馆中，问驿吏说：“关将军在哪间房？”对方回答：“正厅上看书的那个就是。”胡班悄悄走到正厅，见关公左手捋着长髯，在灯下看书。胡班见了，情不自禁赞叹道：“真乃天人啊！”关公听到呼声，问道：“谁在那边？”胡班走进，下拜道：“我是荥阳太守部下从事胡班。”关公说：“你莫不是许都城外胡华之子？”胡班说：“正是。”关公于是叫随从于行李中取出书信，交给胡班。胡班看完信，叹息说：“差点误杀了忠良！”于是偷偷告知：“王植心怀不仁，想害死将军。已经暗暗叫人四面围住馆驿，约定于三更时分放火。现在我先去打开城门，将军快收拾好行李出城。”关公听胡班一说，心中大惊，连忙披挂衣甲，提大刀上马，请二嫂上车后，一行人走出馆驿，果然看见军士们拿着火把等候着。关公一行急忙来到城边，果然见到城门已开。关公催促众人快快出城，胡班仍然回去放火。关公走了不到几里地，只见背后火光冲天，一队人马赶来，为首的王植大叫：“关某休要逃走！”关公勒住马，大骂道：“匹夫！我与你无冤无仇，为何叫人放火烧我？”王植并未回答，拍马直奔，挺枪刺向关公，关公挥刀，对着他的腰就是一刀，砍成两段。赶散对方人马后，关公催促着车仗快些赶路，一路上心内不断感谢胡班。
关公一行走到滑洲地界，有人报告刘延。刘延带了数十骑，出城相迎。关公在马上欠身问候：“太守别来无恙！”刘延反问：“关公如今要往何处去？”关公说：“我辞别了丞相，要去寻投家兄。”刘延说：“玄德在袁绍那里，袁绍乃是丞相的对敌，怎会让你离去？”关公说：“丞相曾向我许诺过。”刘延说：“如今黄河渡口关隘，是夏侯惇的部将秦琪据守，恐怕他不会让你渡河。”关公向刘延借船只，刘延胆小，怕夏侯惇怪罪，不借。关公仍只得催促车仗前行。
来到黄河渡口，秦琪带着军兵出来询问：“来者何人？”关公说：“汉寿亭侯关某。”秦琪又问：“现在要去哪里？”关公回答：“正要去河北寻兄长刘玄德，敬来借渡。”秦琪再问：“丞相的公文呢？”关公不耐烦了：“我不受丞相管制，要什么公文！”秦琪说：“我奉夏侯将军命令，在这里把守关隘。你没有公文，就是插翅也飞不过去。”关公恼怒不已：“你可知道，我在路途中斩杀了拦截者？”秦琪说：“你只杀得了无名小将，敢杀我吗？”关公发怒道：“你比起颜良、文丑来怎样？”秦琪也大怒，出马持刀，直向关公。二马交战在一起，只一个回合，关公挥刀而下，秦琪头被砍落。关公对众军士道：“拦挡我的人已死，你们不必惊慌逃跑。只需准备好船只，送我过河。”军士们连忙撑船靠岸，关公请二嫂上船过河。过了黄河，就是袁绍的地方了。
关公走过五处关隘，斩了六员守将。后人有诗叹曰：挂印封金辞汉相，寻兄遥望远途还。马骑赤兔行千里，刀偃青龙出五关。忠义慨然冲宇宙，英雄从此震江山。独行斩将应无敌，今古留题翰墨间。
且说关公英勇，却也在马背上叹息说：“唉，我并不想沿路杀人，实在是迫不得已。曹公得知后，一定认为我是负恩之人了。”于是，仍然前行。