光绪二十九年（1903）在广州设立广东电话局，此为广州电话业之开始。

清光绪二十五年（1899），中国电报局总办盛宣怀奏请清廷以电报余利开办电话。上海电报总局于光绪二十九年（1903）投资28万元在广州兴办市内电话，由广州电报总局兼办，在广州设广东电话局，安装磁石式人工电话总机。这是广州市最早出现的人工电话。电话局建于雨帽街（今中山路），翌年，建电话西局于西关十三甫16号。宣统二年（1910），在河南海幢寺附近（今南华中路海幢公园内）建电话南局。初建时电话主要供官厅衙署使用，只有数百号，其后陆续推广至民间，容量达到1100号。

1913年，粤桂电政管理局监督兼广州电报局总办李纪棠向广东官钱局借款60万元，以28万元向交通部赎买广东（广州）电话局，余款用于扩充广州电话总机，在南朝街（今教育路）建电话新局。自此，广州市内电话为广东省政府接办。1921年3月，广东省长公署训令广州电话归广州市长监督。次年向美国芝加哥电话公司购置100门自动电话，这是广州最早出现的自动电话。

1923年，商办的佛山电话所改为官办，归由广州电话局管辖。1928年3月，广州市政府筹办市内自动电话，与美商中国电气公司签订合同，双方派人组成自动电话办事处和理财委员会，以机器借款的办法，由美商承装自动电话4000号，以电话营业收入还本付息。是年7月，在丰宁路20-22号西瓜园（今人民中路246号）兴建自动电话所。翌年8月25日正式通话。此后，自动电话办事处及理财委员会改组为市政府下设的自动电话管理委员会，接管了原广东（广州）电话局、佛山电话分所，在河南、东山建成电话分所。1925年4月，广州市办电话所与佛山开始通话，这是广州最早的国内长话电路。1931年铺设广州至香港长途电话地下电缆，9月1日正式通话。1934年民国交通部向英国标准电器公司订购2千瓦无线电话机，成立广东省无线电话台，1936年装竣，当年12月5日，广州至上海无线电话电路正式开通使用，这是广州最早的无线电长途电话电路。当时的终端机设在丰宁路市自动电话所内，发讯台设于石牌美心岗（现省邮电学校址），收讯台设于鱼珠。

1937年10月20日，广州与美国各地间的无线电话开通，这是广州最早的国际长途电话电路，此前，国际长途电话号码须经上海中转。当时的国际长途电话，实际上只供驻沙面的各外国领事馆少数官员使用，通话时间只限于每日22时30分至24时。

至1946年，广州市内电话有8000多用户，大多集中于西关、太平南路、十三行、上下九路等钱庄、商号及东山区军政机关、政要人员居住地，全市公用电话只有8部。