广东大学是中山大学的前身，1923年由国立广东高等师范学校改组而成。广东大学设有文学院、法学院、农学院、理工学院。1926年，文化名人郭沫若由瞿秋白推荐，林伯渠出面联系，受聘广东大学出任文学院学长。

1926年3月23日，郭沫若抵达广州，下船甫始便到林伯渠家，在林家遇见毛泽东。毛泽东和郭沫若促膝长谈，这次谈话对郭沫若影响极深。3月27日，郭沫若参加了广东大学第七次校务会议。

3月28日，郭沫若正式就职，负责文学院事宜。当时，国民党中常会已决议将广东大学改为中山大学，郭沫若正式任职后，也把精力投入到中大筹备事宜之中。他针对广东大学的一些陈习陋规，力倡文学院改革。当时，文学院许多学生也纷纷上书院部，力陈积弊，强烈要求改旧弊革。于是，郭沫若便与校长褚民宜商妥，于4月20日贴出布告，公开改革课程设置。改革还包括教材和师资方面的改革，准许学生自由选择所修科目，选择自己所满意的教师听课，一时在学校引起轰动。这项改革令学生感到受益良多，“法良意美，无逾于此”，但一些陈腐守旧、循规蹈矩的老师则感到大损“师道尊严”。文学院教育系主任黄希声串联了部分教授和讲师，宣布罢课以示抗议，并上书校长褚民宜，投文《广州民国日报》，要求罢免郭沫若，起哄鼓噪，力阻改革。郭沫若不为所动，继续其改革的立场和做法。学生公开支持郭沫若，校园四处奔告呼吁，公开发表宣言，组织革新委员会，开展择师运动，宣布：“拥护褚校长、郭学长及其改革计划，奋斗到底，反对妥协”。新成立的中山大学各院进步学生通过四项决议：援助文科同学的择师运动；拥护为学生谋利益的郭学长；拥护郭学长改革文科的计划；全校普遍开展择师运动。郭沫若主持的文科教学改革，促成了全校规模的大风潮。最后校务会议决定，辞退原文学院教育系主任黄希声等15名不称职教师，肯定郭沫若所实施的教学改革，并在全校推广。这次风潮既提高了郭沫若在中山大学的地位，同时对中山大学的发展也起到了很大的推进作用。

在广州期间，郭沫若还担任了国民革命军总政治部宣传科科长，并兼任行营秘书长。除在中山大学任教之外，郭沫若还积极从事革命宣传活动。1927年7月，郭沫若随北伐军出发离开广州。临行前特地推荐鲁迅先生来穗担任中山大学中国文学系教授兼教务处主任。