諸葛亮受張武委托建設建業城以作為防御江北曹軍的軍事重鎮，和攻取淮南地區的橋頭堡，建成之後諸葛亮以車騎將軍府左軍師將軍的身份統兵駐屯，有大將趙雲、丁奉、呂蒙等輔佐。
原本建業城有一萬步兵和一萬水兵駐扎，後來又招募了一萬丹陽兵。
建安十五年深秋，甘寧率一萬水軍和蔣欽、朱桓二將自江陵出發，中途匯合了駐守柴桑的文聘和兩萬水軍，大軍共計三萬來到建業城，要對江北采取軍事行動以呼應葭萌關戰場。
曹操當初趁張武滅孫權之時，出兵搶佔了原江東與淮南之間的緩沖地帶，之後設立了廬江郡和九江郡。廬江郡的郡治在皖城，郡守為朱光，原廬江郡太守雷緒調任九江太守，治所為壽春。
但是曹操在淮南的主要防守重鎮還是合肥，大將張遼、李典和樂進也率兩萬大軍駐扎在合肥。
諸葛亮召集眾人開會，討論作戰計劃。
呂蒙獻計道︰「現今曹操令廬江太守朱光屯兵于皖城，開墾稻田，納谷于合肥，以充軍實。今可先攻取皖城，再攻打合肥。」
諸葛亮也贊同先打皖城，然後再打合肥。
首先是因為皖城前不久還是江東的地盤，中間短暫的在張武手中倒了一把手，後來才被曹軍佔去。現在呂蒙、蔣欽等江東大將歸降張武，對那里還是比較熟悉的，也有一定的群眾基礎。
其次，皖城離長江比較近，從長江走皖水可直達皖城之下，可以迅速出兵，然後在合肥的援兵到來之前盡力拿下皖城。
最後，據斥候打探，現在皖城也沒有曹軍大將，兵力也不多，諸葛亮能發揮兵力優勢。
現在建業的一眾文武官員中，甘寧的職位最高，但張武有明確的指示，諸葛亮有決策權和指揮權，而甘寧、丁奉、趙雲等大將有統兵權。也就是說，諸葛亮能決定該不該打，什麼時候打，怎麼打，卻不能越過甘寧、丁奉、趙雲等大將去直接指揮軍隊，他只能指揮這些將領。
甘寧、趙雲、丁奉等將領要服從諸葛亮的決策和指揮，他們再帶著士兵去執行各項戰略部署，讓他們怎麼打他們就得怎麼打。但如果諸葛亮讓他們造反，他們也肯定不會听，甘寧就能直接掌控著大軍采取行動。
這就是張武能放心地將揚州的軍務交給諸葛亮的原因，就算諸葛亮有什麼異心，但統兵大將們不一定會跟隨他。趙雲不是個叛變的人，丁奉是張武的絕對心月復，而原江東諸將們也跟諸葛亮不是很親近。
當然，張武也相信諸葛亮的為人，相信他也絕不是會背叛自己的人，但作為一個大勢力的主公，不能把信任當制度，該采取的措施也必須有，這是對所有人都有好處的事。
原著中，劉備那麼信任依賴諸葛亮，還先後用徐庶、龐統、法正來平衡諸葛亮的權力。後來徐庶進了曹營，龐統入蜀時被箭射死，法正在劉備進位漢中王的第二年就病死了，等劉備死後，就再也沒有人能制衡諸葛亮了。劉備死的時候，指定了兩個托孤大臣，一個人是諸葛亮，另一個是李嚴。劉備原本是想讓諸葛亮治理政務，讓李嚴在外統兵，互相制衡，但以諸葛亮為主。
結果李嚴最後被諸葛亮罷黜，廢為平民，其實這也不全部是因為諸葛亮專權，有很大一部分原因是李嚴的野心越來越大了，為了提高自己的權力，竟然威脅諸葛亮，說司馬懿用高官厚祿來招降他。
在場的將領們也都同意呂蒙的計劃，于是諸葛亮采用呂蒙的建議，留丁奉率軍一萬守建業，甘寧率三萬大軍與呂蒙、文聘、蔣欽、朱桓等將去攻皖城，諸葛亮率趙雲、潘璋、馬忠與兩萬大軍佯攻合肥，牽制張遼等人。
甘寧率大軍渡江之後，徑奔皖城而去，皖城的廬江太守朱光一面派人向合肥求救，一面固守城池，堅壁不出。
皖城內有一萬守軍，朱光知道甘寧的厲害，根本就沒打算出城交戰，在他想來，一萬士兵堅守城池二十天應該沒有問題。二十天後，合肥的張遼肯定就能率援軍趕到，到時候里應外合，定能擊退來犯之兵。
實際上朱光想的也沒錯，皖城背靠大別山，非常利于防守，甘寧為了爭取時間，大軍一到便開始攻城，但城牆上箭如雨下，士兵損失較大，帶隊攻城的朱桓不得不暫時退了回來。
按照這個情況來看，即使能拿下皖城，但甘寧手下這三萬大軍也得損失不少，還不知什麼時候能拿下。
甘寧問道︰「諸位可有什麼好辦法？」
文聘說道︰「可使士兵築起土城，以弓弩手與守城之兵對射，待壓制住對方弓弩手後，我軍便可攻城。」
蔣欽說道︰「可豎雲梯，造虹橋，下觀城中而攻之。」
這時，呂蒙又說道︰「你們說的這些方法都太費時間，如果合肥的援兵來了，就很難再拿下皖城了。即使合肥的張遼等人被諸葛軍師攔住，但此時曹操率主力大軍急攻葭萌關，主公正盼著咱們有所表現呢。現在我軍方到，士氣正銳，正可乘此銳氣，奮力攻擊，不如今日暫歇一晚，來日平明進兵，午時便可破城！」
不得不說呂蒙的確有領兵之才，有勇有謀，他的這一番話也得到了甘寧的認可，文聘駐守柴桑這麼長時間了，一直也沒機會打仗，這次出兵也想痛痛快快打一場。
于是，甘寧下令暫時收兵，然後殺豬宰羊，犒賞全軍，又作了一番動員，發誓明天就要攻下皖城，荊州軍士氣震天。
第二天，荊州軍五更飯畢，三萬大軍分成三路進攻，甘寧也親自上陣，手執鐵鏈揮擋箭矢。
朱光一看不對勁，急忙令士兵弓弩齊射，木頭、石塊一起往下扔。
這個時候也不能再管士兵損傷了，必須一鼓作氣沖上去奪取城牆，否則這股氣勢就泄掉了，再想攻下城池就更困難了。
甘寧冒著箭矢、石塊爬上攻城梯，爬到一半的時候，上面的守軍忽然將一塊大石頭向他扔來。甘寧上下不得，將鐵鏈一揮，纏在梯子上，身體懸掛繞著梯子轉了一圈，躲過石塊，然後迅速向上爬去。
城牆上的守軍嚇了一跳，還有這麼猛的人啊！剛想再搬起石塊往下砸，只見甘寧用鐵鏈撥開一支射過來的箭支後，看看距離差不多了，一鐵鏈甩過去，將城牆上的守軍擊殺，然後一躍而起跳上城牆。