1924年5月，黄埔军校正式开课，叶剑英担任教授部副主任。教学期间，叶剑英接触了许多共产党人，逐步接受马克思主义，并正式提出加入中国共产党的申请。由于叶剑英是蒋介石嫡系的高级军官，党组织认为要作较长时间的考验，遂搁置。

叶剑英从未因入党未果而改变志向。四一二反革命政变后，经过认真思考，他坚决发出反蒋通电，赴武汉参加第二次北伐。此后，他担任国民革命军第四军参谋长。随时势变迁，叶剑英找党之心更切，并向共产党员李世安倾诉，李及时向周恩来报告了叶剑英的情况。1927年7月上旬，经周恩来同意，中共中央批准叶剑英为中共党员。

1972年8月，葉剑英回忆入党历程时说：“我是1924年提出要求入党的，没有被批准。”“从1927年就反对蒋介石，经过这个考验，决心就定了，所以1927年7月正式参加了党。当时也不是对共产主义完全理解了，只觉得国民党不行，享受腐化，必然失败，共产党朝气蓬勃，必然要胜利。后来，经过学习马克思主义，树立了共产主义世界观，懂得了社会发展的客观规律，懂得了资本主义必然灭亡，共产主义必然要代替它，如同资本主义必然要代替封建主义一样。这样共产主义必然胜利的信念就始终坚定不移了。”