趙構罷免請秦檜才一年多，就任命他當了溫州知州，接著又令他知紹興府。秦檜生性陰險奸詐，知道有張浚、趙鼎為宰相，和議必然不會成功。所以他決定虛與周旋，暫時把議和二字擱起，換了一副假面目，對待張浚、趙鼎。張浚本來就性格 直，于是以為秦檜還能用，于是舉薦他為醴泉觀使，兼官侍讀。到趙構又想留秦檜鎮守臨安時，張浚當然贊成。趙鼎卻不以為然，因為是張浚力保，也不便反對。于是趙構以秦檜為行營留守，孟庾為副，並準許他參與決策尚書省樞密院事。
趙構于是出發啟去了平江，張浚先去江上，打探和察看偽齊的消息，諜報劉豫已經命令兒子劉麟和佷兒劉猊，分路進犯，而且還有金兵相助。張浚沉思半晌，才說道︰「我估計金兵未必肯來，金兵幫助劉豫多次，屢次都失敗了，難道還會相助他？」張浚于是把這個意思告訴了趙構。
不久，又听說劉麟從壽春進犯合肥，劉猊從紫荊山出渦口，進犯定遠。還有反復無常的孔彥舟，之前已經投降宋朝，接著又投降了劉豫，他也從光州進犯六安。張俊、劉光世都夸大了敵軍的來勢，張俊請求增兵，劉光世想要退軍。張浚立即寫信給兩人說道︰「賊子劉豫以逆犯順，如果不能剿除，何以立國？朝廷養兵，正為今日，現在只應進戰，不能退軍。」信件發出之後，他又接到趙鼎手書，令楊沂中急援張俊，同保合肥。
在明州之戰中，楊沂中隨張俊與田師中、趙密奮擊金軍，立下大功，得以調官文州防御使、御前中軍統制。紹興元年，楊沂中隨張俊討伐縱橫江南的流民帥李成。諸將商議，大多主張分道前進，楊沂中說道︰「敵勢如此，分兵力量就會削弱，加上諸將職位相同，沒招討使督促，必然不能互相協同。」張俊加以采納。
他們整軍到豫章，楊沂中率兵數千人，首先在玉隆觀擊敗民軍，追擊至筠州。民軍驍將率眾十萬前來支援，夾河而陣。楊沂中對張俊說道︰「敵眾我寡，攻擊敵人應使用奇兵。我願意率騎隸屬，公以步兵居前。」張俊听從了他的意見。楊沂中連夜餃枚渡筠河，出西山，急馳而下攻擊敵人，張俊以步兵夾攻，俘敵八千人。眾將夜見楊沂中說道︰「戰斗沒有停止，降卒太多，突然發生叛亂，怎麼辦？非將他們全部殲滅不可。」楊沂中道︰「我不忍殺降。」眾將轉告張俊，最後在夜間全部坑殺俘虜。楊沂中等乘勝追到九江，驅逐李成，遷任宣州觀察使。
紹興二年春，楊沂中進官神武中軍統制，宰相呂頤浩從袖中拿敕令交給他。張俊奏請將楊沂中留在軍中，趙構說道︰「宿衛部隊缺乏將帥，我挑選的，不能改變。」楊沂中也堅決推辭，並且說道︰「神武諸將如韓世忠、張俊，都貴擁旄鉞，名望至重，像我這樣微不足道的人，一旦地位與他們相抗衡，實在難以自安。」趙構不答應，派宦官宣押，楊沂中這
才就職視事，兼提舉宿衛親兵。當時中軍士卒不滿五千，疲弱老病的佔了一半。楊沂中請求將神武士卒借調到其他部隊的撥回軍中，從此軍政漸漸得到治理。
紹興三年，嚴州繆羅佔據白馬源，殺死官員，楊沂中率兵討平。除授帶御器械，加保信軍承宣使、權發遣鄜延路馬步軍副總管。紹興六年，楊沂中任龍神衛四廂都指揮使、密州觀察使。當時張浚視察軍隊，謀畫渡過淮河攻打偽齊劉豫，依靠韓世忠部實行。韓世忠包圍淮陽，請求張浚派部下趙密出兵協助，張俊拒絕了他的要求。趙鼎對張浚說道︰「韓世忠所要求的是趙密，楊沂中的武勇，不下趙密，何不令楊沂中協助他。」張浚向朝廷請示，楊沂中于是率八隊一萬人，奔赴督府協助韓世忠。
于是張浚催促楊沂中趕赴濠州，與張俊合兵，好特給手書說道︰「朝廷待統制甚厚，你應及時立功，借機報答知遇之恩。」這書剛一發出，就接到了趙構的手令道︰「張俊、劉光世恐怕不足以勝任，當令岳飛率兵東下，抵制逆賊劉豫。張俊與劉光世等人的軍隊，不如命他們退守江濱。」
張浚不禁憤然嘆息道︰「這事怎能使得？趙丞相日日侍在皇帝身邊，難道也不加諫阻嗎？」于是提筆寫了幾句，令文牘員裝好，立即派遣參謀呂祉急忙趕去上奏給趙構。張浚奏道︰如果張俊等人過江，則就沒有淮南了。淮南之險，從此與賊人共有。淮南之所以屯兵，就是要屏蔽大江。如果讓賊人得到了淮南，就地取糧，以為久計，江南怎能得保？現在應當合兵攻擊，可保必勝。如果有了退意，則大事去了。而且岳飛一動，襄、漢一旦有警報，到時有什麼可以自恃？願朝廷不要猶豫，使得諸將有所觀望。
他的上奏剛送去，就接到從廬州發來的軍報，劉光世已經退到了采石。張浚頓足嘆道︰「劉光世這般膽怯，如何對敵？」話音未落，正好呂祉趕回來，入報張浚道︰「皇上已經有旨，都按照你的建議行事。如果有將不肯听命，可以軍法從事。」張浚大喜，便命呂祉緊急趕去劉光世的軍中，傳達聖旨。
呂祉急忙趕往采石，截住劉光世，並且聲色俱厲地說道︰「皇上詔命已下，如果有一人渡江，立即斬首示眾。」劉光世嚇得臉色大變，不覺雙腿打顫，只得返回廬州。劉猊進軍淮東，被韓世忠率軍攔住，于是轉道去攻打定遠。劉麟在淮西架起了三座浮橋，接連渡過軍隊，進軍道了濛州、壽春交界。張俊出兵抵御，兩下相持，一時不分勝負。
劉猊從定遠直奔宣化，想進寇建康。他到了越家坊，剛好和楊沂中相遇。劉猊正要整軍交鋒，不料楊沂中已經奮勇殺了過來，劉猊連迎戰都無暇。劉猊知道不可抵擋，急忙率軍退去，又改向合肥進發，想要和劉麟合兵進軍。劉猊剛剛抵達藕塘，就望見前面有官軍攔住，大旗上寫著一個楊字，劉猊大驚失色，忿然說道︰「莫非
又是這位髯將軍？」
原來楊沂中擊退劉猊之後，估計劉猊必然會去合肥，于是他從小路進軍，趕在了劉猊的前面，立營等著。因為楊沂中有很多髯須，劉猊因此叫他為髯將軍。劉猊于是據山列陣，命騎士張弓搭箭，頓時箭如雨下。楊沂中當即令統制吳錫，率領精兵五千人，先行重陣，自己率領大軍為後應。
吳錫奉令登上山坡，前隊中箭很多，不由倒退。吳錫大怒，沖馬突前。他左手持刀，右手執盾，飛步上了山岡。他的部屬見主將拼命前進，也只能不管死活，拚命跟隨。劉猊的士卒來不及攔阻，陣勢當即動搖。楊沂中趁機縱軍四擊，並親自指揮精銳騎兵，橫沖劉猊的軍隊，同時大喊道︰「賊軍已經被打破了！」劉猊不覺驚駭，四下張望，他的部下也錯愕失色，頓時潰亂。
剛好統制張宗顏也接到了張浚的檄文，從泗州來增援合肥，正好在劉猊的背後。張宗顏乘勢夾攻，劉猊大敗，部屬被殺死無數。劉猊逃到李家灣，又遇到張俊統兵殺來。劉猊嚇得魂膽飛揚，急忙向前奪路，只想著逃生。偏偏張俊不肯放他過去，指揮兵士，把他困住。
劉猊左沖右突，不能月兌身。幸虧他的謀士李愕讓劉猊卸甲棄盔，鑽入步兵隊里，這才逃過了官軍的注意，從斜刺里溜出重圍，得以走月兌。劉猊與李愕狂奔數里，四顧無人，才敢停下來稍憩。事後，劉猊更加覺得倉惶，不由痛哭起來，還用頭踫觸李愕說道︰「不想此次用兵，遇著一個髯將軍，真正晦氣，害得我全軍覆沒，真是好苦！」
李愕忙問他是什麼人？劉猊邊哭邊說道︰「听見官軍叫他為楊殿前，大約是楊沂中。他真是厲害，銳不可當。」李愕也自覺沒面子，只好勸慰了幾句，劉猊這才停止了哭泣。突然間看見有敗軍數十人，騎馬逃來，都是盔甲不全，狼狽得很。他們喘息了片刻，才對劉猊說道︰「此處不是休息的地方，恐怕追兵又要來了。」
劉猊慌忙起身，從騎兵中牽來一匹馬，當即揚鞭逃去，李愕也借馬月兌身。騎兵沒有馬匹可騎，不免落後。不一會，楊沂中追到，大聲呼叱，騎兵們當即丟掉兵器投降。楊沂中又趕了一程，不見劉猊，這才收軍退回。經此一戰，宋軍把劉猊部屬殺死了好幾萬，收降了好幾萬，偽齊士氣被奪。劉麟剛一听說劉猊被打敗，已經退軍數十里，于是他也不敢再與張俊相持，所以張俊才得以轉攻劉猊。到了此時，劉麟听說劉猊全軍覆沒，更加喪膽，因此立即率軍回去。孔彥舟也撤了光州之圍，引眾急回。
捷報傳來，趙構派宦官賜賞慰問，對宰相等人說道︰「你們現在才知道我所任得人吧。」任命楊沂中為保成軍節度使、殿前都虞候，不久又兼領馬步軍帥。楊沂中上奏︰「祖宗時設置三衙，鼎立相制，現在我一人獨攬，不符合舊例。」趙構沒有答應。