12月1日中共广东省委发出紧急通告第二号，要求各地作好配合广州武装暴动准备工作,命令各县“立即起来领导农民暴动,夺取乡村、县、镇政权”。

黄居仁按照省委安排,在12月上旬，和中共广州市委书记黄平及市委委员周文雍、吴毅、罗登贤等领导人分别到广州工人赤卫队第一联队、第二联队、第三联队、第六联队、共青团广州市委机关,传达中共广东省委《号召暴动宣言》，紧急通告第二号,做广州武装暴动的动员和准备工作。

12月7日,中共广东省委秘密召开广州工农兵代表大会，选举了广州苏维埃政府的执行委员会,通过了广州起义的政纲,决定选出16人,作为暴动胜利后组成广州工农兵政府执行委员会的成员,并确定12月12日为广州起义时间。但是,广东地区人民革命斗争的高涨,引起了帝国主义和国民党反动派的注意。国民党汪精卫得到我党准备武农批文的泪将阁广州工人令张发奎要立即解除国民革命军教导团的武装。驱逐广州工人赤卫队,搜查广州职工会。张发奎收到电令后,立即面令刖故总指挥黄琪翔迅速率部回广州执行这一任务。黄琪翔迅速率领远离广州的国民党反动军队，开始向广州调动。在此情况下,中共广东省委决定于11日提前起义，张太雷下达了战斗命令。

12月11日，在张太雷、叶挺、恽代英、叶剑英、杨殷、周文雍、聂荣臻等领导下，广州起义爆发。是日凌晨，按照统一部署,驻广州市区国民革命军教导团、警卫团一部和广州工人赤卫队,分别对驻扎在广州市内各处的国民党反动军队发起了猛烈攻击,经过十个多小时的激烈战斗,歼敌一个步兵团、一个炮兵团、警卫团一部和武装警察1000余人，广州市区珠江以北除长堤和敌人第四军军部、军械库及第十二师后方办事处等地外,市内敌人大部被歼,起义军共缴获大炮25门,各种枪1000余枝。

广州市郊和附近一些县的农民群众，也组织暴动,响应起义。在广州起义的战斗中,黄居仁按命令率领一支工人赤卫队,攻占国民党军东山据点。随后接到通知,赶到起义总指挥部，协助指挥。黄居仁安排共青团员发放指挥部出人证,指挥赤卫队员肃清市区残敌。并且亲自到武器库清点库存枪枝弹药，为起义革命武装发放枪枝弹药,在武器库度过不眠之夜。12月12日清晨,黄居仁赶到天平路西瓜园广场,参加中共广东省委召开的工农兵大会，宣告成立广州苏维埃政府。选举苏兆征为广州苏维埃政府主席（但苏兆征因病未到职,由张太雷代理),黄平为广州苏维埃政府人民内部委员、杨殷为广州苏维埃政府人民肃反委员、彭湃为广州苏维埃政府土地委员（因彭在海陆丰,由赵自选代理）、周文雍为广州苏维埃政府人民劳动委员、黄平为广州苏维埃政府人民外交委员、陈郁为广州苏维埃政府人民司法委员、叶挺任工农红军总司令、叶剑英为工农红军副总司令、徐光英为工农红军总参谋长。张太雷、苏兆征、黄平、叶挺联名发表了《广州苏维埃宣言》和《苏维埃告民众书》等,提出了建立苏维埃政权;消灭反革命;实行8小时工作制;没收大资本家财产;工业国有;没收一切土地归农民;组织红军等15项行动纲领。中共广东省委也发表了《告工人、农民书》,号召工人、农民为保卫胜利果实继续战斗。当天下午,起义的主要领导人张太雷不幸牺牲,黄居仁得到消息后,立即回到起义总指挥部,和叶挺、恽代英、叶剑英、杨殷、周文雍、聂荣臻等领导研究应急措施。晚上，得到张发奎从江门、肇庆、韶关、黄埔等地调来大批反动军队，将向广州市区展开进攻，美、英、日、法等帝国主义公然实行武装干涉广州苏维埃政府，出动炮舰轰击广州市区，并一度派海军陆战队在长堤登陆,攻击我起义部队的消息后,起义总指挥部立即组织阻击,并做出准备转移的安排。