1921年5月，中华民国政府在广州成立，这是孙中山第二次在广州建立的革命政府。

第一次护法运动失败后，孙中山退居上海，继续策划革命。他决心赶走占踞南方军政府的桂系军阀，收复广东，作为革命的根据地。1920年8月，孙中山令援闽粤军回师广东，讨伐桂系。在广大人民群众的支持下，10月29日，粤军攻克广州，桂系残部退往广西。11月28日，孙中山重返广州主持政局，次日通电恢复中华民国军政府，重开政务会议。

孙中山抵穗后，即着手筹划出兵北伐，统一中国。但由于军政府是临时性质的政权，孙中山担心在舆论上处于孤立，在国际上得不到承认和支持，北伐将会名不正言不顺，所以决心尽快组织正式政府。1921年元旦，孙中山在军政府发表演讲，建议在广州建立正式政府，作为对内对外的总机关。接着邀请国会议员前来广州，重开国会。孙中山的主张，在当时遇到很大阻力。西南各省受联省自治思潮影响，厌恶兵战，主张先实行联省自治，再考虑设立联省政府。粤省内部以陈炯明为首的实力派，也打起“粤人治粤”的旗号，反对北伐，而从福建打回广东的粤军此时也产生了厌战情绪。但孙中山并没有因这些反对意见而改变自己的初衷，他立足甫稳，就积极招募军队，扩充兵力。正在此时，发生了“关余事件”，英美等国政府借口未与广州政府建立外交关系，拒绝将粤海关关余拨付给军政府。此事使孙中山更加坚定了建立正式政府的决心，认为“非组织强有力的政府，便不能得外人承认，交涉多难得力。”（《孙中山全集》第5卷，中华书局1985年版，第467~468页）此事也使不少人感到建立正式政府的必要性。

1921年4月7日，国会非常会议参众两院联合会在广州财政厅大楼举行，出席议员223人，国会议长林森为大会主席。会议讨论通过了《中华民国政府组织法大纲》，规定实行大总统制，组建正式政府。孙中山以218票当选为大总统。5月4日，孙中山、唐绍仪等军政府五总裁宣布取消军政府，解除总裁职务。5月5日，孙中山正式就任中华民国大总统，并举行就职典礼。由于大总统是非常国会所选，所以俗称“非常大总统”，总统府设于越秀山南麓。6日起，孙中山陆续任命了政府各部总长和次长：外交总长伍廷芳，次长伍朝枢；内务总长陈炯明，次长吕志伊；陆军总长陈炯明（兼），次长程潜；财政总长唐绍仪，次仲恺；海军总长汤廷光，次长林永谟；参谋总长李烈钧，次长蒋尊簋；总统府参军长徐绍桢；总统府秘书长马君武；大理院长兼管司法行政事务徐谦。

对于正式政府的建立，各方反映不一。5月5日，广州10万市民举行大会，上街游行庆祝新政府的成立。海外华侨热烈拥护，5月6日纽约华侨1000多人游行庆祝孙中山就任大总统。北京政府以“破坏统一”、“出兵讨伐”来威胁广州政府，5月20日徐世昌发布了“讨伐南方令”；广东周边的湘、黔、川、滇等省也认为孙中山当选大总统是“非法”的。

广州中华民国政府建立后，颁布推行了一系列改革吏治与保障人民权利的法令，再度揭起了护法的旗帜。6月27日，孙中山令陈炯明出师讨伐桂系。9月，广西全面克复。10月15日，孙中山在桂林成立北伐大本营，准备北伐。

1922年5月4日，孙中山在广州以陆海军大元帅的名义下达《声讨徐世昌令》，随后即亲赴韶关督师。