新中国成立后，随着全国经济建设的不断提速，全国铁路路网建设日新月异，进出广州的铁路客流量增长较快，原广州站已无法适应新变化。自1955年广州市铁路局首次向铁道部提出在流花地区建设广州新火车站的构想，前后共申报四次才获批建站，直到1974年正式建成。从构想到落成，中间隔了整整19年，当中倾注了广州市委、市政府和广大市民群众大量的心血和汗水。

广州火车站在设计上遵从“社会主义内容和民族特色结合”的理念和“一切都要以人为本”的原则，创造性地利用岭南传统建筑的室内庭园布置，使整个站楼内部采光和通风良好：正立面向南展开，为横向五段式；首层为供旅客遮阳避雨的通长外廊；2至4层采用通高垂直遮阳板，打破了当时固有的、认为竖线条就是资本主义的束缚。

1974年4月10日上午8点30分，广州火车站正式开站，包括候车大楼、站台附属建筑、广州九龙直通车联检站等。主楼4层，有面积8504平方米的候车大厅，可容纳1万人同时候车。

建成之初，广州火车站的风头一时无两。早期广州火车站每天到发列车35对，客流量少，每天一万人左右。即使春运期间客流亦不拥挤，偶尔才有全车满载的盛况，一票难求或滞留等场景几乎没有。反倒是前来参观的人流众多，几乎每天都有学校、少年宫、工厂等组织团体来参观。多的时候一天接待四五批人，这样的状况持续了一两年。作为拥有全市唯一、全国第二部电动扶梯的广州火车站候车大厅，成为前来参观者的必“打卡”之地。

40多年来，高4.5米、宽5米的中国铁路车站最大的电钟，在广州火车站主楼上不停转动，见证着生活在这座城市的人们用双手托起这座城市的明天。