梁启超在考中秀才的第二年即光绪十一年(1885)，就进入当时广州著名的学海堂读书。

学海堂是清道光四年(1842)，两广总督阮元在广州创办的一间书院，是当时广东的最高学府。这间书院聚集了不少人才，在教育、文化方面作出了较大的贡献，对以后广东教育的发展有较深远的影响。

学海堂在广州城北越秀山。它的后面有“启秀山房”，东面有“至山亭”，西面与“文澜阁”相对，中间有一条石径，人们通过它可以登山。山顶有“镇海楼”(建于明朝)。它的附近，有挺立的木棉树，还有繁茂的花草。学海堂的四周，设有书房、走廊和曲径，风景秀丽，空气清新。

学海堂的名字，也有它的来历。它的创始人阮元说：“昔者何邵公学无不通，进退忠直，聿有学海之意，与康成并举。”何邵公即何休，东汉经学家，钻研今文诸经，读了许多书，学识渊博，颇有盛名，人们称赞他为“学海”。阮元为了尊崇他，把自己在广州创办的书院，取名为学海堂。阮元亲自在学海堂讲学。

梁启超从13岁开始进入学海堂读书，一直读到16岁。学海堂着重以训诂词章来教导学生。梁启超说，学海堂“以训诂词章，课粤人者也”。教导梁启超的老师是吕拨湖、陈梅坪、石星巢等。他们都对汉学颇有研究。学海堂除了讲授词章训诂之外，还讲授典章制度等方面的学问，进行考据、辨伪、辑佚、补正的训练，而对于当时士子们视为进身的阶梯的八股文章则不重视。学海堂对梁启超在学术上产生了很大的影响。他在13岁进入学海堂以前，“日治帖括，虽心不慊之，然不知天地间于帖括外更有所谓学也，辄埋头钻研”。但是，他在学海堂学习了四年之后，就决心抛弃帖括，喜爱训诂词章。他说，他进入学海堂学习了训诂词章以后，“至是乃决舍帖括以从事于此，不知天地间于训诂词章之外，更有所谓学也。”这是梁启超在治学方面的一大转变。梁启超在学海堂里，埋头读书，刻苦钻研，取得优异的学习成绩，成为学海堂突出的高才生。他在16岁时专科生季课大考，四季均名列第一。自有学海堂以来，除文廷式之外，只有梁启超取得如此优异的学习成绩。在学海堂四年的学习，梁启超打下了比较坚实的汉学基础。这为他后来大量研究中国古代历史和文化，创造了非常有利的条件。他经过在学海堂学习这个阶段以后，成为一个饱读经、史、子、集的知识分子，对当时被学术界所推重的训诂词章之学有较深入的研究。1889年，年仅17岁的梁启超参加了广州的乡试，中了举人，榜上名列第八。主持这次乡试的贵州的李端盞和福建的王仁堪，都对梁启超的才华甚为赞赏。

1890年，康有为开始在广州云衢书屋讲学。梁启超通过学海堂的同学陈千秋介绍，离开学海堂，去拜康有为为师。1891年，康有为在广州长兴里创办万木草堂，梁启超和陈千秋就在万木草堂读书。从此以后，梁启超在思想上和学术上又有很大的变化和进步。