1920年夏秋，经过五四运动洗礼的北京大学粤籍毕业生谭平山、陈公博、谭植棠回到广州任教，他们与在五四运动中广州涌现出来的积极分子阮啸仙、周其鉴、杨匏安等人密切联系，于当年10月在广州创办《广东群报》，积极开展马克思主义理论和新文化宣传。

　　1920年12月，陈独秀应邀由上海到广州担任广东省教育行政委员会委员长，直到1921年9月才离穗。在南来之前，陈独秀曾征询李大钊意见。李大钊表示赞同，认为既可以将新文化和社会主义思潮带到广东，又可以在广东发起共产主义组织。陈独秀抵达广州后，经过认真酝酿和筹备，1921年3月，陈独秀与谭平山、陈公博、谭植棠及米诺尔、别斯林等组建广州共产党早期组织，成员有9人，书记为陈独秀，后由谭平山接任。活动地点主要在广东省立宣讲员养成所驻地高第街素波巷，有些会议亦曾在杨匏安的住处杨家祠召开。

　　广州共产党早期组织成立后，大力开展宣传工作，积极培养革命骨干，将《广东群报》作为机关报，开辟“马克思研究”“评论”“工人消息”等专栏，发表了一大批介绍马克思主义、批判无政府主义和资产阶级思想的文章，加上1921年4月由上海迁来广州出版发行的《新青年》杂志，形成了宣传马克思主义的重要阵地。

　　在全国各地共产党早期组织成立的基础上，1921年7月，中国共产党第一次全国代表大会在上海召开，正式宣告中国共产党的成立。陈公博作为广州共产党早期组织代表参会，并在回广州后传达会议精神，同年8月成立中共广东支部，隶属中共中央领导。

　　中国共产党的成立，成为近代以来“开天辟地的大事变”。毛泽东说：“自从有了中国共产党，中国革命的面目就焕然一新了。”从此，中国出现了完全新式的、以马克思列宁主义为行动指南的、统一的和唯一的无产阶级政党。广州，有了中国共产党组织；广州人民，从此有了主心骨。