建炎四年冬季，趙構下詔改元，把建炎五年改為紹興元年。趙構因秦檜南歸，得知了趙佶和趙恆的消息，所以在元旦的清晨，裝模作樣地率領百官遙拜，並免了朝賀禮。自從金人南下，騷擾中原，兵民困苦流離，很多人嘯聚為盜，歷經各路將帥剿撫兼施，盜賊總算稍微減少。
只是還有著名的強盜頭目，一會投降，一會反叛，成了地方大患。宋廷又設法羈縻，令他們為各路鎮撫使，如翟興、薛慶、陳求道、李彥先等。他們既然當了官員，也頗知效力為國而死。但是襄陽的桑仲，江、淮的戚方、劉忠、邵青，襄、漢的張用，建州的範汝為，依然沒有被剿滅。又有叛賊李成，本來是江東捉殺使，建炎二年，叛據宿州，被劉光世所破，流竄于江、淮、湖、湘，橫行十多個州郡之間，勢力最為強橫，還大造符讖，煽動和鼓惑中外之人。
趙構特任命呂頤浩為江東安撫制置使，令他討伐李成。李成字伯友，雄州歸信人。弓手出身，以勇悍聞名。金兵佔河北，他在淄川聚集眾人，輾轉南下，在江淮之間活動。李成勇力絕倫，能挽弓三百斤。宣和初年，李成累次遷升至淮南招捉使。後來李成聚眾為盜，鈔掠江南，朝廷派兵擊敗李成，李成于是投降了金國扶植的偽齊政權，累除開德知府，隨軍攻打宋朝。
呂頤浩太過無能，反而被李成的部將馬進打得大敗，還把江州奪去。當時王彥擊破了桑仲，岳飛打敗了戚方。戚方于是跑去張俊處投降。 張俊在平定苗劉之變後，升領節度使。七月，改任御前右軍都統制。到建炎三年底，在明州之戰中，張俊率部殊死抗擊，斃敵數千人。金軍銳氣被挫，加上孤軍深入，于是北撤，被韓世忠圍于黃天蕩。同年十月，金兀術南犯，趙構逃向越州，接著又逃到明州，張俊任浙東制置使扈從。
金兀術佔領杭州之後，派斜卯阿里、烏延蒲盧渾率金軍四千追擊，當年除夕追到明州城下，金軍從高橋鎮攻西門，張俊部將劉寶，以及楊沂中、田師中所部等抗擊金軍，知州劉洪道也率州兵助戰，金軍戰敗，死傷以千計。
建炎四年正月初二，金軍又攻明州，張俊與知州劉洪道坐在城樓上，遣兵掩擊，殺傷大當，敵奔北墜田間或墜水。張俊急令收兵，夜里敵拔寨去，屯兵余姚。金兀術派援軍趕赴余姚再攻明州，張俊抗擊于高橋，推托以趙構令其扈從，逃往台州。劉洪道等也退出明州，明州遂為金軍佔領。
建炎四年四月，張俊改任浙西、江東制置使，以招收江浙地區的「群盜」，除劉光世、韓世忠兩軍外，其他諸將都受張俊節度，成為最主要的將領。六月，趙構又改御前軍為神武軍，張俊改任神武右軍都統制，領定江、昭慶二鎮節度使。張俊受降戚方之後，上表奏知趙構。趙構加授張俊為江、淮招討使，岳飛為他的副手，去討伐李成。
張俊于是約岳飛會師，
岳飛還沒有來到，卻得到了筠州的急報，州城被李成的麾下馬進攻陷。 張俊奮然說道︰「江州、筠州接連丟失，豫章就危險，我不可不先去。」于是他麾兵急進，疾馳到達豫章，大喜說道︰「我能夠進入洪州，破賊就不難了。」他當即下令軍士，堅壁清野，固守勿動，同時急調岳飛到洪州來。
馬進領著部屬，乘勝進犯，連營于南昌山，聲勢極為浩大。張俊卻並不出兵，只是令各軍固守。雙方相持了十多天，馬進下書約戰，書中的字跡，都寫得很大。張俊卻偏偏用著蠅頭小楷，簡單答復，也未沒有說明會戰的日期。馬進以為張俊怯戰，于是並不戒備。剛好這時岳飛領兵到來，他進城面見張俊，問及戰守的情況。
張俊大概介紹了一下情況，岳飛接著說道︰「現在不妨出戰。賊人雖多，但是他們只顧前不顧後。如果我們用奇兵，沿著江流截住生米渡，再用重兵暗中到賊軍之右，攻他無備，一定可大破賊軍。」張俊極口稱贊。岳飛于是自己請求為先鋒，張俊更加大喜，便令楊沂中帶領精騎數千，去截斷生米渡，又派遣岳飛率領所部，攻擊賊人的營寨。
岳 飛穿甲躍馬，直奔西山。靠近賊營的時候，岳飛便當先突入，部下也一齊跟進。馬進急忙出營抵敵，剛到門口，就看見岳飛已經挺槍刺來。馬進慌忙用刀招架，戰不數合，他就被岳飛殺敗，拖刀逃走。岳飛率軍追殺，直殺得賊軍人仰馬翻，血肉橫飛。不到片刻，岳飛已經把賊軍各座營盤，一律掃蕩干淨，化為平地。
馬進奔逃到了筠州，岳飛趕至城下，在城東安營扎寨。岳飛料想馬進不敢出來交戰，于是想了一個誘敵的辦法。他令人用紅羅為旗幟，中間刺繡一個岳字，並眺選出騎兵二百人，高舉旗幟到處巡邏。岳飛自己卻埋伏在城邊，令騎兵引誘馬進來追，然後殺出。
馬進在城樓觀望，見騎兵擁著岳字旗幟，往來于城東。軍中又沒有看到岳飛，他還以為岳飛沒有親自來到，只是派遣騎兵來揚旗示威，恐嚇他們。馬進打定主意，隨即率兵殺出。騎兵見馬進出城，立刻向後就跑，馬進策馬追趕。馳過城隅邊，背後忽然有人大叫道︰「狗強盜往哪里去？」馬進勒馬回看，大喊之人不是別人，正是岳飛。
馬進和岳飛交過手，自知不是對手，又因為岳飛攔住他的回路，馬進不能回城，只得棄城東走。岳飛又叫道︰「不願從賊的，快快坐下，我不殺你。」賊人听了，一多半丟棄兵械，坐在了地上。岳飛按姓名登記，共有八萬多人。岳飛好言安慰他們，遣送他們回鄉。
岳飛又率軍繼續追趕馬進，馬進拚命逃跑，不想張俊、楊沂中也領兵殺到，前後夾擊，把馬進困在中間。馬進拼盡力氣，這才殺開了一條血路，向南康急奔。張、楊兩軍剛想追趕，剛好岳飛趕到。岳飛自願為前驅，張俊于是讓岳飛先行，兩軍隨後策應。岳飛連夜追趕，到了朱家山，與馬
進的後隊相遇。岳飛一槍刺死賊人頭目趙萬成，剩下的賊人四處逃竄。
岳飛飛趁勢再追，到了樓子主，遠遠看見前面塵頭大起。原來是李成帶著十余萬人，蜂擁而來。岳飛毫不畏懼，舞動著一桿長槍，迎頭亂刺。霎時之間，岳飛就刺倒了數十人。賊眾從沒有見過如此猛將，下嚇得面無人色，都各顧生命，退了下去。如此一來，反而沖動了自己的後隊，互相踐踏，頓時大亂。
李成看見部眾混亂，急忙上前彈壓。可是他恰巧踫著岳飛殺來。李成抖擻精神，舞刀接戰。誰料岳飛這支槍桿，與一般人大不相同，僅交手三五個回合，就殺得李成一身臭汗，眼看就要敗了下去。旁邊突然沖出一員大將，竟然掄刀相助，和李成雙戰岳飛。
岳飛左挑右撥，揮灑自如。三匹馬盤旋一會，那來人略為放松，就被岳飛刺于馬下。原來來人就是馬進。馬進墜馬之後，當時還沒有死。李成見他被刺落馬，頓時心驚膽顫，拔馬就逃回去了，岳家軍隨著主帥，一擁而上，把馬進踏得稀爛。岳飛又追殺了十多里，斬首數千級，方下安營等待後軍。
不久，張俊與楊沂中兩人率軍趕到，見岳飛已經得勝，自然是欣喜不已。張俊對岳飛說道︰「岳先鋒天生神力，不擔心打不贏賊軍。但是你的部下難免有些勞苦，應當休息為好。不如讓我們追殺一陣，怎樣呢？？」岳飛于是讓張俊和楊沂中兩軍前進，自己就在險要處安營扎寨。
張俊與楊沂中引兵追趕李成，大約走了十余里，被大河所阻攔。對岸到處建立了賊營，如同蟻屯蜂集。楊沂中對張俊說道︰「賊人勢力還是很大，我們不應力敵，只能智取。今夜由我從上流過河，繞行到賊人的後面。制使可以絕流直渡，我們到時月復背夾攻敵軍，如此必勝無疑。」張俊听了，連稱妙計。
張俊便令楊沂中趁夜里偷偷過河，楊沂中于是先行一步。過了兩個時辰，張俊估計楊沂中已到對岸，于是他也擊鼓渡河。李成听到鼓聲，急忙叫眾人迎敵。正在交鋒之際，不料後面楊沂中殺到。那些賊人大多是烏合之眾，都是勝不肯相讓，敗則不肯相救。一遇到危急時候，賊人就四面亂竄。他們其實是竄得越慌，死得越快。
十多萬強盜，被張、楊二軍，首尾截殺，殺死殺傷了三四萬，招降了兩三萬，逃了一二萬。李成數年的積聚，一夜拋盡。李成只剩了三五千人，過了江遁逃走了。張俊也過江窮追猛打。到了蘄州、黃梅縣，趕上了李成。
李成的部屬看見張字旗號，就如同老鼠遇貓，嚇得魂不附體，邊走邊叫道︰「張鐵山到了！張鐵山到了！」張俊面目黧黑，因此很多人叫他為張鐵山。李成再經一創，已經是潰不成軍，只好投降劉豫。張俊等收復奪取了江、筠諸州城，盜賊聞風遠逃！