就在吴人将领匆匆定计之际，汉军也不甘在此地对峙不战，很快就从右翼发动了进攻。
汉军之所以先出右军，一则是郭淮带精锐北府兵居右，中路王凌所带的是东府兵，战力上可能稍逊王凌一筹；二则想吕蒙坐镇中军，旗下定然都是精锐，而朱然在吴军中尚没有什么经典战役，也是年轻之辈，就不如从这里着力。将吴军左翼很快击溃后，再再以右翼为锤向内旋转，张开左翼为砧，将吴军挤压击碎。
汉军右军以步兵为主，居中突前的将士身披厚铠，戴铁兜鍪挡箭，手持长槊身背斫刀，用于正面冲阵；两侧和居后的将士则身披皮甲，足穿皮靴持弓矢，以射箭阻挡吴军下山冲锋。郭淮留温恢在阵中挥黄旗督战，其余身边众将，如令狐华、王机等人，都率军冲杀在前。
汉军约万人一起密集涌出，蚁群般扑向吴人占据的小丘。大军出击，却没有人嘈杂喧闹，只听得皮靴踏过略超地皮的声音，以及此起彼伏的铠甲兵器撞击声。凭此就可判定出击的汉军绝非乌合之众，而是平时训练有素的精锐之师。
吴军立于小山上面，就见汉军如同决堤的巨浪，快速地翻腾上来。一方面金铁之声不绝于耳，而脚下的山头，也开始微微的颤动。吴人军士面色凝重，手持武器不动。这些人若非是吕蒙苦心挑选的精锐，之前也未与汉军交战过，见此情形恐怕早已怯阵，遑论迎击了。
汉军主动上山逆战，稍稍出乎吕蒙预料。看到汉军士气正猛，又用重甲密集居前，吴军没有回旋余地不便对战。于是吕蒙下令举旗，将阵势后撤。战阵之上退兵风险极大，如不能协同一致，将可能引起混乱甚至崩溃。而此时吴军的撤退，就显出了吕蒙的老道——吴军首先分出千名弩士前出迎敌，利用这个空档，大军迅速转身缓缓后移。
在山道之间，弩士们迅速散开，占据更有利的地形，然后突发箭雨。汉军没料到吴军竟敢如此应对，督将立即号令军士举盾而行，同时密集结阵，使吴人的这种散射没有发挥的空间。但这样一来，汉军的速度骤然减慢下来。这种减速渐渐往后传递，汉军进攻的巨浪就如同遇到了堤坝，汹涌地堆积拥在一起，将士之间铠甲武器互相撞击，发出连绵不绝的声音。
但吴军并无正面对战汉军之意，也没有这个力量。前头的弩手只来得及射出三排箭，就被汉军阵中的还击的箭羽所逼退。汉军前队朝前追击，很快淹没了零星中箭到低的吴人弩手。随着前队的前移，汉军原本密集的阵型被向前头拉扯，中间变得稍显稀松。后面没有接战的大队便跟随着前移，力图弥补这个空隙。不过吴人的弩手没有立刻逃走，他们很快又停下，继续用强弩袭扰汉军。就这样且斗且走，吴人把汉军向右侧往外拉伸，汉军的前队已经攀上了小山头，而且向右弯曲，其后队则还在山脚下面。
汉军只顾尾随驱逐吴人的弩手，并没有察觉到提前退出战阵吴人后队的去向。坡顶的东面是一处缓缓的下坡，连绵的野柿林一直延展到坡脚，而吴人的精锐就在柿林之中等待时机。当汉军的军阵已如拉伸的面团，不仅便得稀疏，而且大大小小的空洞已有导致前后断裂的危险时。约有上千的吴人步卒从柿林中飞快地冲出，自东向西横击汉军军阵。由于还有雾气弥漫，汉军的视野极差，完全没有料想到会遇到侧击。这使得吴人大戟士呈纵队，就像一把尖锐的刺刀，切入汉人军阵柔软的颈部，并不断向西延展，有将汉军前队切割包围之势。
几乎于此同时，原本与汉军反复纠缠的弩手嗯，此时彻底放弃抵抗，纷纷向两侧横跑散开，很快就退出战阵不知所踪。而汉军的阵前突然换成了吴人的披甲武士，其阵型密集排成若干横排。吴军将士已将重铠披上，用铁兜鍪护头，此时精力充沛士气正旺，就听吴阵中发出摇动山岳的怒吼，重甲吴军朝当前汉军汹涌地扑来。
汉军司马牛金留在右军郭淮身边督阵。他们所处的位置，看不见前方吴人已经发起反扑，但已经收到了侧翼突然冒出的吴军大戟士正在横穿汉阵。牛金急忙对郭淮催促说：“前军披重甲上山，精力必然消耗眼中，如今被吴贼从后面兜底截住，若再遭前面吴军的反身冲杀，下山必定势如破竹。请赶快出骑兵上山，驱赶吴军！”
郭淮也很慌，因为渡河修营的缘故，他手底下的骑兵多在西岸休整，如今手底下能用的骑士，也大概只有三千余人而已，这真的难成吗？但他也来不及细想了。急忙令牛金出阵，并把仅剩的预备队骑兵都交给了他。由于缓坡前面挤满了汉军右军的步兵，牛金的骑兵只得向左侧迂回，沿着两军对战的中线上山，试图毕竟横切汗巾的吴军大戟士，并将之击败。
汉军中军由王凌统帅，汉兵精锐都在左右两翼，尤其在郭淮的右翼，中路兵多，但是兵甲都较为一般，所以没有出击的打算。郭淮见牛金的骑兵绕到中路上山交战，不禁忧虑起来，他对左右说：“右边没有决出胜负，倘若把吴人中路卷入战斗，下山来战，我们如何应对？”
王凌的担忧很快就变成了现实，不久汉军偏将军王平派一青年骑士来报说：“吴军中军已出兵迎战，我军的骑兵恐怕上不了山了！”王平原是刘燮留在帐中的督将，此时也转派到了王凌帐下，王凌看他出身士卒，作战经验丰富，便令他在高处观察敌情。
王凌听到来人禀报，心中不快，对来人说：“观察敌情，照实说便是了，是不是上不了山，不由你来做主张！你一个年轻人，知道什么！”见来人哂笑不语，虽然只有十来岁模样，面对王凌却毫无惧色。不知为何，王凌的火气也消了不少，他问这青年道：“你叫什么名字，今年几岁？”那青年拱手答道：“在下广陵陈骞，字季弼，今年十九岁。”
“喔，陈骞。”看这个青年的模样，王凌不禁想到自己年轻时候，又觉得有几分老上级牵招的气质，一时颇有些感慨，但都没说什么，嘴上只对陈骞说：“回王将军那里去吧。”
陈骞连忙俯身拜别王凌，策马奔回本阵。他拨马靠近王平，抓住他的马辔头，小声耳语说：“将军，右翼败像已定，无人中路一举冲下来，我们势必无可抵挡。眼下之策，唯有先做好准备，撤退时直奔浮桥，才能让大军不至惨败。”
王平极为诧异地看了陈骞一眼，而后说：“是王将军和你说了什么吗？”陈骞摇头，王平沉思片刻，颔首说：“你说得对，那我也没有别的办法了。”
再观察前方战况，果见吴人中军奔出三千余人拦在牛金的前路上，牛金不甘示弱，双方就在坡面上缠斗起来。貌似不能立刻分出胜负，可谁知就在这时候，突然在半空中突兀地响起一声象鸣，这让王平立刻失色，转头望去，顿时看到两座巨大如小山似的身影。吴军竟然运了两头大象到八公山上了！
除去西府军外，其余汉军均没有见过大象，此时突然看见山头出现两头怪兽，在迷雾中猛地往汉骑中踏过来，顿时惊骇万分，尤其是那些战马，见到这种庞然大物后，也开始嘶鸣动乱起来，打乱了汉军搏斗的节奏。吴军抓住这个机会，立马涌上去与汉骑肉搏，顿时将阵型冲成几段，虽然牛金仍然竭力在率领骑士们勇猛奋战，但在阵型已经溃败的前提下，结局已无悬念。
就在牛金的增援骑兵被吴军大戟士打散的时候，滞留坡顶的汉军经不住吴军凶猛的反击，突然间，发出一阵山崩般的声音，纷纷掉头奔逃。沿途裹挟后面的汉军，形成声势更大的洪流，一路奔溃而下。汉军诸将勒兵禁止不得，却被这股洪流所带动，一起回身奔逃。洪流越滚越大，一直冲过右军统帅郭淮的本阵。此时汉军右军已呈瓦解之势，主帅郭淮、副将温恢、王机等各部各军，都在夺路奔逃。
中军王凌离谷口近，占住了后退的先机。右军各军夺路奔逃，堵在谷口通行不畅，大家就往两侧的山坡跑，朝谷口侧面的溪谷里面跑。为了争路奔逃，那些涉险被逼到没有路的断崖上，或者下到溪谷悬崖边的汉兵，不经过战斗就纷纷投坠悬崖。好在八公山不够高，这样下来，虽说摔断腿脚的不知凡几，但摔死的终究是少数。只是如此一来，八公山的败局已经无可挽回了。
但这并不意味着整个战事已经结束，吴人毕竟不是全军压上，汉军的兵力也输得起一场战斗，吴军在这种情形下，必须要设法扩大战果，才有可能将汉军逼回淮北。