广东大学系由孙中山所创立。该校溯源为两广速成师范馆，创办于清光绪三十年（1904），地址在文明门旧贡院内。光绪三十一年（1905）改办为两广初级师范简易科馆。光绪三十二年（1906）改为两广师范学堂。光绪三十四年（1908），改办为两广优级师范学堂，主要培养中学教员。辛亥革命后，1912年2月，改称为广东高等师范学校。1919年又改为国立广东高等师范学校。1923年，孙中山提议将广东高等师范学校改组为国立广东大学，以创办革命学府，培养革命干部。1924年2月4日，孙中山下令以原广东高等师范为基础，合并广东公立法政大学、广东农业专门学校，筹办国立广东大学。2月21日，成立了国立广东大学筹备处，聘王星拱、傅斯年、邓植仪、何春帆、梁龙、程天固等为筹备委员，邹鲁为筹备主任，共产党员李大钊也是筹备委员之一。经费由各国退还的庚子赔款中拨出一部分使用，不足则移拨部分税捐。6月9日，孙中山正式任命邹鲁为国立广东大学校长。随即开始招生，1924年9月正式开学上课。广东大学成立后，设有文、理、法、农四个本科，另开办了文、理、法、农四个预科。本科文、理两科，系在原国立广东高等师范学校的基础上设立；法科系直接由广东公立法科大学转化而来；农科则将原有的广东公立农业专门学校合并改成。1925年又将原广东公立医科大学合并改设医科。按照国立广东大学的组织章程，预科采用年级制，本科中文科采用单位制，法、理、农三科则采用年级制。广东大学成立后，孙中山十分关心和支持，每星期六下午必到广东大学讲演，讲演内容主要为三民主义。所以，该校在教学规定中，强调把国民党据以建国的三民主义渗透到学校工作的各个方面。规定三民主义讲座为各科各系共同必修课，计学分，并作为考核学生的首要内容。

1925年3月12日，孙中山逝世，举世哀悼。为纪念孙中山，1926年3月底，国民党中常会决议将孙中山亲手创办的广东大学改名为中山大学。1926年7月，国民政府将原广东大学正式命名为“国立中山大学”。当时，全国以中山命名的大学共有4所，由于广州为辛亥革命的策源地，而广东大学又为孙中山亲手创办，所以只保留广州的这所中山大学的名称，其余三所中山大学则分别改名为南京大学、浙江大学、江苏大学。中山大学设立中国国民党中山大学特别区党部，直属国民党中央领导。大学首任校长为戴传贤。10月，改校长制为委员制，以戴传贤、顾孟余为正、副委员长，朱家骅、丁维汾、徐谦为委员。为完成改组工作，学校停课一学期，教职员工全部解聘，通过各项审查，重新任聘，对学生进行全体甄别审查，通过者再经考试，始可入学；裁撤各种专修科，将工业部和附中拨归省教育厅办设，将附小拨归市教育局管理。至1927年3月，改名改组工作全部完毕，开始复课。