再说回汉军，在司马懿奇袭下相的次日，关羽已率军进驻彭城西南五十里处的相山。十六万大军成蛇形绕山三匝，背水扎营，其军势浩大，旗帜漫山遍野，遮盖林木。山下军马成群，辎车成堆，连营足有二十余里。吴人斥候从未见过如此大军，远远望见便不敢靠近，而后匆匆禀告彭城守将焦触，此时袁熙已去下邳，焦触不敢擅作主张，于是令将士笼城高守，避战不出。
关羽对此也并不急躁。他深知在兵力优势下，优势方最重要的是不徐不疾，不让敌方看出破绽，胜算就有八九分了，何况他已派出司马懿这一奇兵。故而他一面巡视营中诸部，一面去信询问天子行程，打算在收到南面的消息后再做决断。
司马懿的消息比预计来得晚了一天，主要是因为使者走得小路，一时误判了方向，多走了八十里。等他感到下相大营的时候，已经是破城后的第三日了。
消息传到军中，诸将初闻下相已破，意外之间也感到几分喜悦。但令人奇怪的是，等元帅关羽细读战报时，面孔上竟浮现出些许阴云来。
关羽唤来使者，对他问道：“战报所言，可句句是真？”
使者不敢隐瞒，当即回道：“这是司马将军亲自手书，绝无虚假。”
关羽顿感愤怒，他自胡床立起身躯，顿如高山耸立，而后对使者斥责道：“自先帝掌权以来数十载，虽不无过失，但从无残戮之举。司马仲达杀俘掠民，更着京观，大坏我王师之风，更置我军法何在？”诸将这才知晓，原来司马懿在下相独自行事，城中除了汉军外，已经没有其余活人了。
但事已至此，司马懿远在两百里外，并无人能够节制，加之又处在战局的要害之地，是断然不能处置的。杨秋见关羽面露不虞之色，担心他闹出矛盾，立马低声劝谏道：“此战主在陛下，而司马仲达乃是陛下红人，眼下又立了功，元帅能拿他如何？还是把此事上报陛下，先关心眼前的战事吧！”言语说到关羽痛处，他唯有长久叹息，连夜向睢阳禀告此事，并请求以郭淮撤换司马懿。
到了第二日，司马懿斩首袁熙的战报准时传来。袁熙是国家大敌，占据徐州十余年，如今竟被司马懿以六千余众一举摧破，全军一片欢腾。许多将领都夸赞说：“司马仲达真是世之奇才，用兵设谋，随心所欲，真有韩信之风啊。”而到了当晚，睢阳的天子又发来诏书说：“天下未平，国思良将。司马懿虽违军纪，但举止无私，忠心可嘉，罚之寒三军之心，望叔父专心战事，此事勿要再提！”
刘燮的意见是如此坚定，关羽也无可奈何。不过从另一方面来说，他也不得不承认司马懿的才华。随着他占领下相，斩首袁熙，泗水与淮水间的联系已被汉军扼断，淮南淮北不能用水路交通。而徐州主将战死，也必将大大影响吴人士气，这就使得徐州的形势已全面倒向汉军。此时距离全军出动，也才仅仅过去了十余日而已。而根据斥候的探报说，下邳、彭城间常有人马往来，显然正在做重大的决策调整。这都是司马懿的功劳。
庞统对关羽进言说：“元帅，徐州本非吴人之土，乃曹贼灭亡之际，孙权无奈而占。这些年，他数来淮北，却不举一战，可见并无死守之意。而眼下淮南有十万吴军云集，却不敢迈入淮北半步，就是孙权胆怯的明证了。他既不敢前来救援，便唯有退！也就是让淮北的吴贼都退回淮南。我军大可以提前在淮水一带设伏，必有斩获！”
关羽大感所见略同，抚髯笑道：“诚如士元所言，徐州已入我囊中！”
庞统说了个大略后，关羽心中很快就有了一个周翔的计划。当日下午，他就召开军议，先向司马懿遣使提出三策，分别是设浮桥，悬铁索，打木桩，旨在将吴人水路彻底瘫痪。而后又从军中调出四万人马，分为三队，由赵云、吴班、黄权三人率领，令其火速前往曲阳、海西、陵县一带，提前堵住吴军南撤的官道。最后命杨阜与郭淮、廖化三将，率众自西南两面攻打彭城，自东北面放开退路，逼迫吴人下撤军的决心。余下大部则监视淮南，防止孙权做奋死一搏的可能。
这番布置写成文书后，次日又交到刘燮手中，刘燮审视良久，不禁与周不疑笑道：“我这位元帅叔父，往年都以武勇闻名，谁知他用兵也仿佛孙吴啊。”周不疑细看之下，也找不出什么破绽，也随之赞叹说：“元帅身居德才兼备，我自愧不如。”
刘燮听出他是在讽谏司马懿一事，微微一笑，摆手说：“仲达这件事，就不用再劝了。打仗本就不能用常理度之，何况先帝对江左已仁至义尽，但孙氏执迷不悟，那也就不得不为了。”说罢，就令人传书相山大营，说此策甚好，望立刻执行。
实际上关羽也没有等刘燮的手书，在文书上交的同日，杨阜等人就开始正式围攻彭城。
这天天气阴沉灰暗，有薄雾弥漫。汉军寅时就已经出阵，在城下紧锣密鼓地运送冲车、云梯等攻具，由于视线不佳，很多汉军都打了火把，在清晨中像是点点荧光环绕，但因人数太多，远看就连成一片，好似连薄雾都是焰色的一般。城上的吴人士兵很早就看见了这幅场景，心中自然是惶恐不安，立马去通报主将焦触，而焦触的第一反应，便是遣使去下邳求援。
可汉军不会等待吴人的援军，在雾气消散，天地间露出坦荡的景象后，河边便响起了隆隆的鼓声，于是成千上万的汉军士卒就如同黑压压的蚂蚁般，一步一步向彭城压来。由于吴人少马，不能出城突袭，所以汉军甚至没有像往常一样先起土山，而是直接领了数十台发石车在城前停驻，只要重甲的步卒结好了阵势，后面的发石车就信步跟上，打算向城中抛掷石块。
吴人士卒见状，纷纷向下抛射箭矢，霎时间箭如雨下，令人喘不过气。但是一连吴人一连射了小半个时辰后，城下结阵的汉卒中虽有不少人身上插满了箭矢，好似刺猬一般，但因此而死的却不过十之一二。其余人依旧推动发石车前进，并滚来数十块打磨好的圆石用作破城。城南的三十辆发石车停在门前数十步，随鸣镝同时而作，大石破空，应声而撞。而在这一日内，汉军也没有任何丝毫节制的意思，竟将准备的两千块滚石尽数抛出，巨声隆隆，好似怒潮摧蹦，天翻地覆一般。不过短短三个时辰，彭城的南墙便因此出现了大量缺口，有些部位因摧毁过甚，已有倾塌之像。
而当夜汉军收兵，细数一日的损失，受箭伤的士兵虽然不少，大约有两千余人，可大多都是外伤，并无大碍，被射中面目的死者野菜堪堪过百而已。
吴人对此也心知肚明，当夜焦触召开军议，问众将如何守城，多不能答。有人向焦触低声说：“如今袁使君已死，淮北已成孤军，固守又能如何呢？我看孙使君也没有死守的意思，不如早点撤军，往南边撤吧！”焦触听闻，立刻否决道：“我等去了南边，定然就做了小儿走狗，将来哪里还有自由？这不成。”但那人反驳说：“可若命都没了，要自由何用呢？”焦触黯然不语。
次日凌晨，下邳的刘晔遣使回信，信上只说了一句话：“三日之内，候君下邳，三日不走，我自南去。”焦触不料刘晔竟如此果决，一时无语，最终只得同意南撤。
为了迷惑汉军，这一日吴人彻日苦守，甚至还罕见地出城反击，欲作摧毁石车之状。关羽对此看得分明，立刻调骑兵迎击，出来的吴人根本不是对手，只能留下数百具尸体匆匆后退。当日夜里，他们就把城中的船只都调了出来，转移到泗水之中，草草装了些粮食与箭矢后，其余什么也都顾不上了，近万守军就乘着夜色往南划船。第二天一早，汉军再看彭城，只见破碎的城墙下，虽然还有千余面旗帜，但里面的军人完全失去了踪影。
但这完全落入了关羽的圈套内，他分兵两千占领彭城，由杨阜与郭淮统领大部，自己则率骑兵快速追击焦触水军，焦触刚抵达下邳不到一个时辰，下邳的守军便远远望见了汉军旗帜。
此时的刘晔也基本猜到了汉军的布置，但又能如何呢？不走也是死，走还有一线生机，还是赶快往南走吧！就在焦触率众赶到的当夜，刘晔连让人休整的时间都不给，连夜撤出了下邳城，临走之前，他将城池付之一炬，随后头也不回地沿祖水向东南狂奔。
战事到了这个地步，徐州的归属已经注定，而唯一有悬念的，是汉军能否提前截住吴人的淮北兵团。