在談到蔡元培與蔣介石集團的關系時，有人把1928年8月17日蔡元培辭職一事，描述為關鍵性「轉折」︰說蔡元培從此出都門而定居滬上，極少來南京，進而與最高當局決裂，成為「反蔣派」代表人物雲雲。
其實，實際情況要復雜的多。
就在蔡元培宣布辭職的同一天，由他提名為清華大學校長的羅家倫獲得國民政府的正式任命。這應該不是巧合。
關于蔡的辭職，上海各報紛紛揣測原因，《時事新報》稱︰「據知其底細者言，蔡氏辭職實有二因︰一系職務紛繁，勞苦太甚；一系趁五次會後，政府改組將有變更，可以及時引退。至有謂蔡因反對大學區制而辭職者，並非事實。」
此一報道，顯然意在平息和淡化外間對此事的關注。
約半個月後，蔣介石在上海西摩路宋宅宴請留滬各中央委員，蔡元培與胡漢民、戴季陶、李石曾、李宗仁、宋子文等八人出席。席間議及中.央政.治.會.議改組、五院院長人選等事項。就是在此前後，蔡元培被內定為五院之一的監察院院長。
9月11日，蔡元培致函胡漢民、蔣介石、譚延闓，申明︰「監察院院長決不擔任，大學院院長決不復職」，同時又鄭重表示︰「此後願以中央監察委員資格盡力于黨務，以政.治.會.議委員之資格盡力于政務（弟曾辭政.治.會.議委員，然近經譚先生及孔庸之先生轉示會中同人意見，弟遵，當取消辭意），以中央研究院院長之資格盡力于教育學術。余生幾何，能力有限！果能如此盡力，自問以告無罪。若再苛求，必多貽誤。自知甚明，決難遷就。瀝誠奉懇，務請玉成。」
關于大學院院長，是南京國民政府那個時期的教育行政首長。1927年7月南京國民政府公布《中華民國大學院組織法》，規定中國民國大學院為全國最高學術教育機關，承國民政府之命管理全國學術及教育行政事宜，不隸屬于國民政府；設大學院院長一人，綜理全院事務，兼任大學院大學委員會委員長，並為國民政府委員。
首任大學院院長即是蔡元培。
對于蔡元培請辭大學院長，國民黨高層曾指派宋子文、孔祥熙等「躬親赴滬，懇切挽留」。蔡仍堅辭，並「薦賢自代」，起初傳聞蔡推薦的人選是易培基（屬李石曾的中法系），而後來接替蔡氏職務的則是蔣夢麟。至于監察院長一職，蔡推卻不過，只得應允暫居名義，具體院務由副院長陳果夫署理，此種狀況延續近一年之久方告結束。
9月下旬，蔡元培與李石曾等同車由滬到寧，同寓張靜江宅邸，蔡曾往「總司令部看蔣先生，其時胡展堂等亦在座」。其後，蔡元培由寧返滬，以私人資格力勸同樣提出「辭去本兼各職」的于佑任「勿即辭職」。此後，蔡元培來往于滬寧之間，從事政務，其行蹤載于當時「京滬各報報端」。
1929年間，蔡元培的國務活動也頗為頻繁，他與蔣介石等高層人士的相互往來也時有所見。大體說來，至1930年以後，蔡到南京的次數才逐漸減少。其實，上海一直是除南京之外的一個極重要的政治舞台，一些「黨國大老」聚居于此，國民黨及國民政府的一些幕後活動常常在此醞釀生成，蔡元培作為國民黨政治集團中的資深要員參與其間，其在寧在滬，好像很難成為判斷其政治姿態的標識。
在蔡元培的「從政高峰」期間，他的一個重要使命，便是平息學.潮、彌合黨內派系紛爭。由于他在政界、學界的崇高威望，幾乎總是充當「救火者」或「和事佬」的角色。
北京大學師生為反對北平大學區發生風潮，蔡責無旁貸地出面平息，並一度兼任北大校長，使北大安然渡過「多事之秋」。
交通大學出現校長危機，蔡亦暫時兼領，以求平穩過渡。
國民政府的「首都大學」中央大學連續發生學.潮，拒絕和毆傷校長，政府強令解散該大學。其後成立「中央大學整理委員會」，蔡再次救急，出任該委員會的委員長，親到南京，與學校師生代表溝通。
而對于國民黨內層出不窮的派系之爭，蔡以元老身份盡力排解，力求化干戈為玉帛，維系政治統一，此種努力在「九一八」事變後國難深重關頭，尤具特別意義。
不過，蔡元培也曾經歷過風險。這一年12月15日，北平各校南下示威學生與南京本地學生數百人在中央黨部門前示威請願，一時間群情激奮。蔡元培與陳銘樞被委派出來接見學生，蔡未及數語，即被學生拖下毆打，陳則被學生用木棍猛擊頭部，當場昏厥。
據報載︰「蔡年事已高，右臂為學生所強執，推行半里，頭部亦受擊頗重」，後被解救送往醫院，所幸無大礙。這就是後來被有些新聞記者所渲染的「蔡元培遭綁架」事件。蔡元培事後對新聞界發表談話說，他理解學生憂患國難的情緒，但對「學風淪替」也深感憂慮。
可是，從事黨政活動的「超然」姿態，並不意味著內心深處全無評判，更不等于對現存秩序的麻木遷就。蔡元培本來即是一個是非心極強的知識分子，置身政治舞台，對于自己周圍的「黨內同志」也自有一番觀察和評判，只不過此種「自由議論」不輕易向外界道及而已。
1931年「九一八」事變，東北大片國土淪喪，不久，「一?二八」事變爆發，日本侵略軍在上海狂轟濫炸，形勢危急。此刻，蔡元培憂心如焚，郁積胸中的不滿終于在1932年2月初中央研究院的一次活動中傾泄出來。
他在一次在作時局報告時，先說明他前次留在南京維持危局的苦衷，後來又表示對國民黨前途的悲觀。他第一個指斥的是宋子文，他說當美國勸阻日軍進佔錦州時，日軍暫按兵不動，那時宋子文便邀拉西曼氏縱酒狂歡，慶祝勝利，誰知不久，日軍便進佔錦州了。這些地方便表現出宋子文是怎樣的幼稚。「宋少不更事，固不足論。最可怪的要算所謂黨國的領袖第一，胡展堂那位先生，在和會（即寧粵和談）以前滿口承諾合作，對于既往概不追究，而在和會時，他便首先作梗；在和會以後，他又負氣不到南京，自己在廣州組織起三個委員會來」。
講到蔣介石，蔡元培言道︰「他的專橫獨裁，實為古今中外罕有，只要看他的政府，一切措施無不出自私心，財政部長辭職時，他可以將一切事務官完全引跑了，他們的薪水非但分文不欠，並且他們臨走的時候，還每人發干薪兩月，而其他各部人員的薪水都欠幾個月，教育（部）竟積欠幾百萬。蔣臨走的時候，還請了三位軍人做省政府主席，他的合作精神及和平誠意，已可見一般。」
在報告中，蔡憂心重重，深感「時局艱難，政治尤一無辦法」，言下不勝唏噓。
這一通牢騷和議論，可謂如梗在喉，不吐不快，其中涉及的對日外交內幕、寧粵和談經過、蔣氏二次下野前的部署等細節，非局內之人難以道及。
蔡元培以黨國元老和國民黨中央監察委員的身份，在一系列事件中，處處與國民黨的政治舉措唱對台戲，讓南京國民黨當局一部分主政者極為惱火，遂對蔡元培發出警告以至于恐嚇和威脅。
1932年11月，國民黨南京市黨部對蔡元培、楊杏佛營救陳獨秀的做法提出書面警告，指其「為清議所不值」「徇于私情，曲加保護，為反動張目」。又于次年2月10日要求解散民權保障同盟，並對蔡元培、宋慶齡提出警告，指責「蔡元培、宋慶齡等擅組民權保障同盟，發表宣言，保障反革命及共.黨要犯，實破壞本黨威信，逾越中委職權」。
1933年6月18日，民權保障同盟總干事、中國人權運動先驅楊杏佛帶著兒子駕車外出，至上海亞爾培路時，設伏的「藍衣社」幾名特務突然從路邊沖出，將楊杏佛亂槍殺害。
蔡元培聞訊後即驅車前往現場查看，隨後到醫院瞻仰楊杏佛遺體，集結同仁商討善後事宜。同日，他以中研院長的身份致電汪精衛、林森，要求立即「飭屬緝凶，以維法紀」。
參加楊杏佛公祭的魯迅說︰「今天蔡先生是去的，他很悲哀。……打死楊杏佛，原是對于孫夫人和蔡先生的警告，但他們兩人是堅決的。」
楊杏佛的事直接導致了民權保障同盟在無形中解散，但這沒有阻擋住蔡元培人權事業的腳步。
1933年10月，著名新聞人鄒韜奮主編的《生活周刊》因為宣揚民主、抗日而被國民黨當局查封，蔡元培連發兩電要求解禁。
1934年2月，共產黨員、國民黨的老同志何香凝之婿李少石被抓，蔡元培參與營救，與張靜江等設法將其保釋。
同年9月，著名史學家範文瀾在北平被國民黨憲兵逮捕，蔡元培即致信給汪精衛，促請其下令釋放。
1935年2月，共.產黨的重要領導人瞿秋白被國民黨捕獲，蔡元培知道國民黨對付共產黨人的手段，他即在國民黨中央干部會議上力為辯護，他說像瞿秋白這樣的天才在中國不可多得，絕不能殺。
總之，抗戰全面爆發的前幾年，為保護進步人士，蔡元培不避凶險，付出了巨大的努力。