中共广东支部成立遗址位于广州起义路维新横路素波巷 30 号广州市第十中学内。校内东北面的“小红楼”是在遗址上重建的。中共广东支部成立的地方，也是1922 年前广州中共党组织的主要活动地和《青年周刊》的通讯处，“宣传员养成所”、“注音字母教导团”所在地。

1920 年 8 月，在中国工业和工人运动中心的上海，建立起中国第一个共产党组织——中共上海发起组，陈独秀任发起组书记。从此，上海就成为创建全国无产阶级政党的活动中心。接着，北京、武汉、长沙、济南等城市也先后建立了党的活动小组。而此时的广东，粤系军阀陈炯明自福建漳州率粤军回粤，赶走了原来占据在广东的桂系军阀莫荣新。陈炯明到广州后，伪装开明，邀请当时在上海的陈独秀到广东，担任广东教育委员会委员长的职务。同年 12 月，陈独秀到达广州，与 7 月已回到广州开展新文化运动的谭平山、谭植棠等人进行筹建广州党组织的活动。

1921 年 3 月，作为全国 6 个之一的第一批党的早期组织广州共产党小组正式成立。党员有陈独秀、谭平山、谭植棠、沈玄庐、袁振英、李季、米诺尔和别斯林等一共 9 人。书记先是陈独秀，后为谭平山。活动地点主要在素波巷。广州共产党小组成立后，首先把《广东群报》和上海发起组成员沈玄庐主编的《劳动与妇女》作为自己的机关刊物，加上当时由上海迁来广州出版的《新青年》，便形成了宣传马克思主义的重要阵地。《广东群报》是1920年10月开始出版的日报，编辑有谭平山、谭植棠、邓瑞仁等，其内容主要是反映社会现实生活，报道劳工运动状况，宣传马克思主义，介绍世界新闻和苏联的消息等等。其次，广州共产党小组成立了有 80 多人参加的马克思主义研究会，谭平山任会长，主要成员有从五四运动中涌现出来的积极分子阮啸仙、周其鉴、张善铭等人。再是通过举办各种学校，培养骨干，为发展组织做准备。其中于1920年底在素波巷开办了“宣传员养成所”和“注音字母教导团”。“宣传员养成所”主要是培养具有共产主义理论知识的人才，培养向广大工农群众进行革命宣传、传播马克思主义知识的宣传员，谭植棠任教务主任，谭平山、杨章甫、邓瑞仁等任教员。学员来自广东等地，学习的主要内容有国语常识、社会科学、共产主义知识、三民主义教程。此外，还创办了“俄语学校”、“机械工人夜校”、“注音字母训练班”。除了让学员们学习一般的文化知识外，主要是让他们能学习到十月革命经验和马克思主义，以提高基层宣传干部的政治理论水平。同时，共产党小组还派梁复然、王寒烬等到佛山组织建立土木工会和理发工会，开展工人运动。

1921 年 7 月，党的第一次全国代表大会正式宣告中国共产党成立，大会通过了中国共产党的纲领和《关于当前实际工作的决议》，确定了党成立后的中心任务是组织工人阶级，领导工人运动。大会选举陈独秀、张国焘、李达组成中央局，陈独秀为中央局书记。受陈独秀的指派，当时在广州活动的武汉党的早期组织书记包惠僧也参加了大会。同年 8 月，谭平山召开会议，决定在广州共产党小组的基础上成立中国共产党广东支部，以谭平山为书记，谭植棠负责宣传，隶属中共中央局领导。中共广东支部成立后，大力发展组织，特别重视在工人中发展党员，培养了许多党员和干部，为广东成为大革命的策源地做了组织上的准备。到 1922 年 6 月为止，中共广东支部共有党员 32 人，其中一半是工人。由于广东党组织的不断扩大，1922 年，党的活动地点逐步转移到司后街（今越华路）杨家祠，而原处仍然作为广东团组织的活动地点。

1921 年底，中共广东支部谭平山等人开始筹备成立广东社会主义青年团。1922 年 2 月 26 日，广东团组织创办的《青年周刊》创刊。在创刊《宣言》中明确地提出了“社会革命四个大字，就是我们的先行旗帜”。周刊是八开的小报，每号出四版，杨匏安、阮啸仙、郭瘦真是周刊的主要撰稿人。从 3 月 7 日第二号开始，周刊逢周日出版，通讯处则设在素波巷 19 号。3 月 14 日，广东社会主义青年团成立，《青年周刊》成为广东团组织的机关刊物。22 日，周刊第四号刊登了广东社会主义青年团成立当天的《成立大会演说撮录》，其中公开声明了“本团的宗旨是研究马克思主义，并企图实现马克思主义”。周刊的内容很广泛，除了报道青年团的活动，反映各地情况外，还传递世界信息，转载共产国际指示。周刊宣传马克思主义的立场鲜明，其中刊登的《救生圈》、《马克思主义浅说》、《政权不应该要的吗？》以及《成立大会演说撮录》、《宣言》等都从不同方面介绍了马克思主义理论，阐述了无产阶级革命的基本问题，主张以马克思主义为中国革命的指导思想；主张搞非妥协的阶级斗争和普遍的群众运动，实行暴烈革命夺取政权，建立工农专政，以共产制度代替私有制度；初步论及了武装斗争、统一战线和农民同盟军等革命的基本问题；提出青年要脚踏实地，注重实际，把马克思主义和革命实践结合起来。此外，《我所观察过的俄罗斯》还报道了从莫斯科回来的冯菊坡、王寒烬对俄国政治、经济、领导与平民关系、群众组织、共产党人作用等等的所见所感，让人们从中明白到：社会主义的俄国不是洪水猛兽的世界，也不是极乐世界，而是地地道道的劳动人民的世界，苏维埃政权是劳动人民的政权。《青年周刊》是五四运动后发行较广、宣传马克思主义的重要刊物之一，它对广东乃至全国青年传播马克思主义起到了深刻的影响。

广州市第十中学的前身是私立兴华中学。1906 年，兴华教会在现第十中学的所在区域内创办小学。其后因资金匮乏，学校先后两次停办，1921 年复办，学校命名为“东山培正分校”。1923 年，在一些基督教徒和热心办学人士的捐资基础上，再变卖部分旧校房地产，并以兴华教会的名义向银行贷款筹得办学款，购得素波巷东面的盐务缉私统领旧衙门署（即今第十中学的学校篮球场、兴华楼所在地），改建为永久校址。1929 年，学校改名为“私立兴华培正分校”。1931 年 9 月，学校改名为“兴华初级中学”。后来又增设了高中年级，校名也改为“兴华中学校”。中华人民共和国成立后，1953 年 9 月，私立兴华中学与其邻近的初级中学私立继昌中学合并成广州市第十中学。