广州毗邻港澳，穗港澳三地民间往来频繁，内外商贸活跃。早在清宣统三年八月十四日（１９１１年１０月５日）就建成广九铁路（广州至九龙线），穗港两地就开始有了铁路运输。民国三十八年（１９４９），铁路局为解决广州至九龙线旅客在罗湖、深圳两地转车的不便，于１月２４日首次试行“广九直通客运快车”（称“江南号直通快车”），这是最早的广九直通列车。１９４９年１０月１４日广州解放，广九直通列车停驶。１１月１日广州至深圳恢复通车，至深圳后换车至九龙。

改革开放后，广州对外交流活跃，国外客商、港澳客流量与日俱增。１９７９年２月１２～２１日，广州铁路局和九广铁路港段的代表举行会谈，签订了《关于开行广九直通旅客列车协议》。新中国首列广州—九龙直通旅客快车于１９７９年４月４日开行，１９８０年２月１１日、１９８３年７月１日、１９８６年４月１日相继开行了第二至第四列广九直通快车，同时广九（深）线列车班次增至１５对，其中广九直通列车４对。

为了便利乘坐广九直通快车旅客，办理入境签证、防疫、海关和边防检查等业务，实现真正意义的直通，１９７８年１１月在广州火车站东侧，修建面积达４４７４平方米的联检站，把原在深圳的联检站移至广州终点，设立广州铁路客运口岸。１９８５年３月１９日，该联检站正式命名为广九直通车站。１９９６年９月２８日，广九直通车站迁往天河东站，并于当日正式启用。

广九直通车通行后，成为紧密联系内地和香港的铁路纽带，穗港间来往时间缩短，大大方便了旅客。每年由广九火车站出入境的旅客平均为２００万人次，１９８７年高达２６６万人次，使广九车站成为全国铁路系统８个铁路口岸车站中最大的旅客出入境口岸，也是全国最大的内陆型口岸。１９８８年台湾同胞开始回乡探亲以来，由于海峡两岸未能通航，台湾当局规定台胞回大陆探亲均须转口，因而几乎所有回大陆的台胞均经香港进入。１９９０年，在广九车站进出的港、澳、台同胞和华侨、外籍人士达９４万人。其中，以台胞数量最多，计３７．２９万人，占总进出量的３９．７％。广九车站成为全国台胞入境最多的口岸火车站。