1927年11月9日至10日，中共中央临时政治局在瞿秋白领导下，于上海召开扩大会议。由于共产国际代表罗米那兹的错误指导，会议错误地认为当时的革命形势仍在继续高涨，决定继续实行进攻政策，错误地提出了以城市为中心举行全国武装暴动的策略。中共广东省委书记张太雷参加了这次会议。会议以后中共中央常委会领导和中共省委书记张太雷共同研究了组织广州起义的问题。11月17日粤桂军阀发生武装冲突，中共中央认为两广军阀争夺广东地盘的冲突，实际上是工农群众革命潮流的高涨，当即通过《广东工作计划决议案》，要求中共广东省委“坚决地扩大丁农群众在城市、在乡村的暴动，煽动士兵在战争中哗变和反抗，并急速使这些暴动会合而成为总暴动，以取得全省政权，建立工农兵士代表会议的统治”。依据中共中央的指示，中共广东省委展开了紧张的武装起义准备工作，除要求各地利用粤桂军阀之间的战争，发动农民拒交冬租，举行暴动之外，特别关注组织和领导广州市的暴动。11月26日，中共广东省委书记张太雷从香港返回广州后，召集省委委员黄平、吴毅、陈郁、沈青、王强亚和共产国际代表纽曼举行会议，决定根据中共中央《广东工作计划决议案》精神，立即在广州组织武装起义，并且具体研究了广州暴动的准备工作，决定乘张发奎在广州兵力薄弱的有利时机，组织共产党所掌握的第四军教导团和警卫团一部以及工农武装，举行武装起义，并成立了以张太雷为委员长，黄平、周文雍为委员的革命军事委员会，负责领导起义。会后，张太雷等人到教导团和警卫团中进行起义的动员与组织工作，并着手组织与训练工人赤卫队，将工人赤卫队编成7个联队和两个敢死队，周文雍为总指挥。同时发动与组织郊区的农民参加起义。第四军教导团系由原国民党中央军事政治学校分校改编的，叶剑英曾兼任团长。为保护和发展这支为共产党所掌握的部队，叶剑英做了卓有成效的工作。该团共1000余人，装备较好，战斗力也较强，是广州起义的主要武装力量。12月6日，中共广东省委在张太雷主持下，召开紧急会议。会议讨论通过了起义的政纲、宣言、告民众书等文件，以及成立苏维埃政府的人事安排等问题；研究了起义力量的部署和军事行动。会议决定于12月12日举行起义。