那个时候，国民党内部思想也很乱，派系对立严重，所谓革命形势越是一派大好，这样的情况也就越发糟糕。就连在党内位高权重的蒋介石，其处境也很微妙、很尴尬。
国民党内部的右派如“西山会议派”，这时认为蒋介石是赤色分子、共产党的同路人。而国民党的左派中又有一种声音，认为蒋介石是“新军阀”。时任代理海军局局长的共产党人李之龙曾公开提出，蒋介石要在3个月之内把广东所有的工厂收归国有，否则就要以“叛变革命”的名义查办他。来自苏俄的军事顾问，很多的时候也不把蒋介石看在眼里，让蒋心里很不舒服。
西山会议派，是中国国民党内的右派派别之一，也是国民党内最坚定的反.共势力。
孙中山逝世后，国民党右派公开进行反对孙中山联俄、联共、扶助农工的三大政策的活动。
1925年11月23日，国民党中.央执行委员中的右派分子，林森、邹鲁、居正、叶楚伧、覃振、石青阳、石瑛，中央监察委员张继、谢持等在北京西山碧云寺非法召开所谓“国民党一届四中全会”，通过了反苏、反.共、反对国共合作的《取消共产派在本党党籍宣言》、《总理逝世后关于反对共产派被开除者应分别恢复党籍案》等一系列倒行逆施文件，由此“西山会议派”产生。
1926年3月17日，蒋介石在日记里写道：“近来所受苦痛，至不能说，不忍说，且非梦想所能及者。政治生活至此，是何异佛入地狱耶。”
可以说在那个时候，他便开始谋划把共产党人清除出国民党了。
这一时期，新生的党人在指导思想和做法上也出现了一些不成熟的极左倾向。当时的“湖南农民运动”中，农协的刊物如《湖南民报》甚至提出了“有土皆豪，无绅不劣”的口号，不加区别的镇压当地的地主、豪绅，没收其财产。结果，有很多国民党人和国民革命军军人的家属被列为“土豪劣绅”，成了揪斗的对象。这在国民党看来，简直是抓反革命抓到自己人头上，让国民党内包括中间派的很多人心生反感。
1927年3月10日，国民党二届三中全会在武汉汉口召开。这次会议上，选出了左派人士和中.共.党.员占绝对优势地位的中.央委员会，会议并以“提高党权”的名义，免去了蒋介石的中.央.主.席、军.委.主.席，只保留其国民革命军总司令的职务。
于是，矛盾更加激化，也更加公开化。
在蔡元培等一部分国民党元老眼中，这样一来，国民党几乎快要被左派和共产党人架空，国民党和国民党人的革命事业到了生死存亡的关键时刻，非要出手挽救危局不可了。不管怎么说，反正这时候的蔡元培，是旗帜鲜明地和国民党内积极反.共的人走到了一起。
4月2日，国民党中央监察委员会全体会议上，在吴稚晖提交查办共产党的呈文之后，蔡元培亦向大家出示了名为《共.产党祸党证据及共.产党在浙祸党之报告》的两份材料，一份是中.共自二大以来“阴谋破坏国民党”的种种决议和通告，另一份则是中.共在浙江“阻止入党”“煽惑民众”“扰乱后方”“捣毁米铺”“压迫工人”等若干条罪状。
会上经蔡元培同意，还审定了列有毛.泽.东、周.恩.来、陈.独秀等中共领袖及柳亚子、徐谦、邓演达等国民党左派人士的黑名单，共计179人，提请委员会立即采取紧急措施，将这些“首要危险分子”，“就地知照治安机关，分别看管，制止活动”。
此后，在蔡元培的主持下，这些监察委员又开了4次“清党”密会。
可以说，在国民党内的派系争斗中，这时候的蔡元培是坚定地站在了蒋介石一边。
蔡元培又在4月9日同吴稚晖、张静江、李石曾等人一起发出3000余字的“护党救国”联名通电，痛斥联共政策的种种荒谬，严词指责工农运动，指斥武汉汪精卫等为首的国民政府与共.产.党合作，有“亡党之责”，“大有背于本党治国之精神，极端毁灭本党组织之根本旨趣，减少群众对于本党之坚固信仰”。
蔡元培在文章里呼吁全体国民党党员“念党之危机，懔丧亡之无日，披发缨冠，共图匡济，扶危定倾，端视此举”，从而为蒋介石发动政变做了舆论上的准备。
到了这一年的10月18日，蔡元培在国民党中.央党.务学校发表演讲，还在向青年学生灌输他的这一思想：
“本党在共.产.党捣乱的时候，下级党部和农工组织为他们所把持，不许本党党员插足。他们这种方法是很厉害的，是想把本党的基础抢了去。他们所做的工作，就是要消灭本党的工作。共.产党的农人工人运动，是欺骗农工的运动，不能够替农工谋实在的利益。”
1927年4月15日凌晨，国民党广东当局下令军警和其他武装开始在广州进行“清党”大搜捕。萧楚女、刘尔崧、熊雄、邓培、李森、何耀全、张瑞成、李亦愚、毕磊、谭其镜、杨其纲、麻植、熊锐、邹师贞等100多位著名共产党人英勇牺牲。