麴义起兵叛乱后，刘备顿知大事不妙，急调三万晋阳府兵连夜北上，但终究还是慢了一步，让麴义接连占据崞县、繁峙，打通了联络东朝的道路。等他赶到剧阳城下，魏汉代郡太守韩浩已率兵接应，合众约一万人，与刘备对峙。
刘备本欲速战速决，趁战事规模不大将叛乱掷于毫末之时，奈何很快就失败了。
剧阳地势险要，西北面是六棱山，东南面是恒山，皆高达千丈，难以逾越。这就好比一个竖向拉长的「门」字，霸府并只能从西南角一条越二十里宽的通路北攻剧阳，而麴义早有预料，直接在剧阳南三十里处的卧虎山一带扎营。卧虎山沿东南方向绵延尽十里，直接将霸府北上的通道拦腰截断，虽然浑河以南尚有通道，但刘备不敢冒暴露侧翼的风险继续深入，只得发兵强攻卧虎山。
而于此同时，东朝的援军正通过崞县西北面的三阴山小道，源源不断地向麴义输送补给。这是剧阳唯一一条直通代郡的山路，而刘备全然无法干扰。
麴义辎重齐全，弓弩强劲，又有强援在侧，可谓是以逸待劳。而战时正值盛夏，纵使身处北疆，长途奔袭之下，霸府士卒疲惫远超往常，这便导致刘备两次强攻皆以不利告终。很快，随着鲜卑大军与夏侯渊部进入战场，战事不可避免地进一步升级，这些情况迫使刘备痛苦地承认，原本速战的策略已然失败。
而在此期间，他派简雍巡告并州各将，除去平城的令狐渊部不动之外，其余各部均当速达马邑。一时间，除去尚在卧虎山的刘备本部外，马邑聚众多达七万。这几年西国名将，多有凋零，除累年战殁者如臧洪、刘宣、张羡、徐庶、高准、张杨、秦宜禄等人外，府中名望如陶丘洪、赵岐也都已病逝。然而诸将齐聚马邑，军容之盛，虽非当年渤海大战可比，但仍极为可观。其中知名的就有：
真定侯、定襄都督张飞所部，南匈奴左贤王、中部义镇酋长刘豹所部，广固侯、度辽将军公孙瓒所部，泰安侯、讨逆将军太史慈所部，南鲜卑单于、北部义镇酋长拓跋力微所部，河曲侯、靖安将军昌豨所部，平定侯、昭余将军令狐邵所部，阳乡侯、行垒将军温恕所部，昌文乡侯、偏将军陈到所部，平义乡侯、护军中郎将射坚所部，武乡侯，安夏中郎将王昶所部，兴平亭侯、晋阳都尉朱皓所部。
这仅仅只是并州一地所聚之兵。而远在长安的陈冲，在得知消息后，深知此战对于国家的重要性，当即也征召了全国各地的兵力。纵观当前的局势，东府、西府、南府三军都尚在组建，但也算粗有成效，陈冲斟酌之后，认为除去东府在兖、豫方面的局势过于复杂，并不适宜抽调外，上林军则尽数出征，而西府军为其抽调七成，镇压羌乱，南府军只留下一半，防备刘范可能的北进。
中军建制已在前文论述，故而不再赘述，而此时抽调的西府、南府名将，却也值得一提。
西府军统帅正如此前所言，乃是归义侯、金城都督段煨，其麾下领有军师贾诩，督军张怿，护军马超，领军杨阜，典军阎行，参军庞统，其下又有六师中郎将，分别由麴胜、任养、贾洪、张横、刘雄、李暹六人担任。其中麴胜、张横两人留守陇西。
南府军统帅乃是冠勇侯、陈仓都督魏延，其麾下领有军师石韬，督军梁双，护军杜畿，领军缪尚、典军张琰、参军刘乾，其下有四师中郎将，分别由岑光、游楚、羊衜、王昌担任。其中游楚、羊衜二人留守陈仓。
如此一来，关陇抽调的军队也多达八万，号十余万，沿渭水向长安聚集。等陈冲闻听鲜卑已然南下，而曹操也整军二十万出发的消息后，各部仍未完全齐聚，遂先进军蒲坂，于河东平阳一带修缮道路，不日就将北上并州。
很快到了六月初，随着东西两朝的大举调兵，双方大决战的决心都已暴露无遗
，加上北面大部南下的鲜卑大军，这次的战事规模将达到极为骇人的五十万。可谓天下瞩目，有识之士都明白，一旦决战开始，无论最后的结果胜负如何，都势必将影响未来十年以内的政治走势。可到底谁能获胜？没有人心中有底。
由于东朝合军更早，故而曹操的主力大军较陈冲先行抵达战场。当二十万东军陆续进入代郡之后，刘备知道已不能再纠缠于剧阳，继而主动率军返回马邑休整，这给曹操又取得了一个难得的先机。但他并不急于自剧阳突破，而是一面令麴义徐徐向西推进，做出将与之合战的姿态，自己则率大军从容自高柳西进。
这是出于多方面的考虑。虽然兵出剧阳能够直接威胁到并州腹心，但一来这个决策过于冒险，东军对并不熟悉，贸然合战未免风险太大，二来三阴山小道过于狭窄，轲比能自此进入剧阳后，后勤已极为吃紧，若再自此经过二十万大军，就全然无法支撑大军的后勤运输，反而容易带来极大的损耗。
故而与审配等人商议后，曹操选择采用一正一奇的策略：正面的大军作为主力进围平城，在剧阳的麴义则作为偏师和奇兵。他已发书麴义，若西军主力北上，麴义就侧面袭扰，若麴义能够牵制西军主力不敢贸然北进，那更好，他就能兵不血刃地打开并州北大门，更为安然地与西军决战。
癸酉日，曹操带军抵达平城城东，驻扎在相距约十五里处的白登山脚，而曹操亲自登上白登山，从中眺望观察平城的布防。
因为是面对鲜卑的最前线，又经过西军十余年的经营，平城可以说已形成了一个极为复杂的防御体系。
大城的相关瓮城外郭自不必说，自然是修缮已久，无论是城墙高厚，皆不逊色于长安雒阳。而城外的工事也是骇人听闻。单论东面，就筑有呈波浪形分布的十余座小型坞堡为屏障，而北面，又筑有一座子城，与平城互为犄角，足以容纳三十万人。而为了解决城中十余万军民的用水，刘备曾大兴土木，从武川水中开拓出一条新河道，确保新河能从两城间缓缓流过。更别说在平城的南面约五十里处，还有三座刘备设置的鲜卑义镇，据说招揽已过八万人，虽说其中多有妇女老幼，并非人人能战，且有多人正于马邑中集结，但也足以对围城战造成极大的困扰。
曹操弄清平城的具体布置后，也不禁为之胆寒，进而对曹仁感叹说：「大概这就是天下第一坚城吧。此战若能攻破，天下不足平！」
心知不可能立即攻破平城后，曹操浮躁稍去，选择先一面拔除平城东面的坞堡，一面等待鲜卑轲比能大军的汇合。至丙子，轲比能从三阴山小道返回，继而奔波百里前来与曹操汇合，双方会师的地点就定在这白登山下。
三十万大军齐聚的场面自然是壮观得无以言表，旌旗蔽日，人海成潮，兵甲挥动的声音都像是一次剧烈的海啸。而上一次目睹如此规模的军队，还是七年前刘备讨伐河北的样子，如今世殊日异，反轮到东人领起如此规模的大军讨伐山西了，便连曹操自己也感到极为感慨。
而且和那次刘备出军不同的是，这次东军的马匹较西军更多，各种颜色的马在山谷间穿行，层层叠叠，好似无穷无尽的浪涛。没人说得清鲜卑人到底带来了多少马匹，这给守御平城的西军士卒带来了极大的心理压力。
而这也是曹操第一次得见鲜卑单于轲比能。他听闻轲比能是鲜卑人的伟男子，样貌极为英武，今日粗见，看轲比能甲骑具装，并未从中看出不同，等他拖下铁胃，露出索发的面孔后，顿感名不虚传，极力夸赞他是漠北玉山。同行的鲜卑人见曹操样貌矮拙，也不免心
存蔑视，私底下议论说：以前的袁使君何等英俊，不料基业却落到一个矮子手里。
当夜，曹操领众将邀请轲比能及麾下众将宴饮。曹操饮到酣时，竟抽剑到堂中自舞。鲜卑众人莫不惊讶，而东军诸将却习以为常，更有甚者，为曹操鼓乐陪奏，曹操一面于月下舞剑，一面自得唱道：
「对酒歌，太平时，吏不呼门。
王者贤且明，宰相股肱皆忠良。咸礼让，民无所争讼。
三年耕有九年储，仓谷满盈。斑白不负载。
雨泽如此，百谷用成。却走马，以粪其土田。
爵公侯伯子男，咸爱其民，以黜陟幽明。
子养有若父与兄。犯礼法，轻重随其刑。
路无拾遗之私。令圄空虚，冬节不断。
人耄耋，皆得以寿终。恩德广及草木昆虫。」
这是曹操自写的《对酒歌》，诗歌中少见得不言战事，而尽是些他对太平盛世的想象。鲜卑人让人翻译之后，无不向往触动，又纷纷感叹于曹操舞剑时的风姿雄采。再议论时，他们说：若能对酒曹元帅，方不负英雄气。