有人告诉他，求中国学问，不用找别人，身边的总督便是中国学问的泰斗，无论经史子集，无论文章诗词，他都是当今海内少有的大家。于是进督署半年后的一天，他走进签押房，问张之洞，欲探中国学问之宝，路在何处。张之洞送他一套自著的《輶轩语》，说你先读读这本书，一个月后再来找我。
辜鸿铭将《辅轩语》捧回，每天傍晚从督署回家后便挑灯夜读。全书不到三万字，他反反复复读了十遍，大部分都能背下来。这部为四川学子撰写的书浅近平易，语言流畅，很好诵读。每天晚上，仿佛张之洞手执教鞭，就站在他的面前，对他讲士人的德行、人品、志向，讲读书作文，讲经史，讲诸子百家，一步步地将他领到中国学问的门槛边。他想像里面一定是一片花香鸟语、祥云景星的极乐世界，他急盼张之洞带他早日跨过门槛去领略其间的万千风物。
一个月后，他将《輶轩语》送还给张之洞，请求总督再予赐教。于是张之洞又送给他自己的另一部著作《书目答问》，对他说，两个月后再来见我。
一连六十个不眠之夜，辜鸿铭沉浸在《书目答问》之中。他敬佩总督的博览群书，好学深思，他又惊叹自己的祖先原来为他准备了如许多的文字财产。他愧疚自己的浅薄无知，却同时又在这一望无际的汪洋大海面前困顿迷惘：这么多的书如何读，莫说一辈子，就是十辈子也读不完呀！至于穷究深研，更是无从下手。茫茫书海，舟楫何在，航线何在，彼岸何在?绝顶聪明的中西混血儿被自家的学问所震慑了，从一向狂傲自信的心中生出几分恐惧感来！
张之洞听完他的这一番感慨后，对他这种渴求上进的心甚是满意。他看出这是一个罕见的值得培植的人物：此类人不是通常意义上的英才，颇为类似古代的王勃、李贺，是异才鬼才，不常出，不易见，乃可遇而不可求。张之洞在《书目答问》列举的二千二百余种书中圈出五十个书目来，其中包括十三经、二十四史、老庄、韩、荀、楚辞、文选及李、杜、苏、韩等人的诗文。笑着对他说，这是你五年的功课，把这五十种书读懂读熟，你的中国学问的基础就打下了，但这还不等于你就是一个有见识有本领能办大事的人。在中国，读熟读懂这五十种书的数以万计，但其中真正能做大事的却微乎其微，这中间有一个关键的环节，就是读通了还是没有读通。能不能通，通到什么程度，这不仅在勤于阅读，更在于有没有天赋。古人说运用之妙，存乎一心。这存乎一心之妙，不关乎后天的学习，而在于先天的秉赋。你先不去管这些，先去读吧。每一个月可到我这儿来一次，我抽出半天来为你传道授业解惑。
从那以后，辜鸿铭就一头扎进中国文化的经典。每隔一个月，他便带着平时所积累的各种问题，向张之洞请教。张之洞每问必详尽作答，毫无倦意。每次都让辜鸿铭满脑袋疑惑而来，一肚子欢喜而去。冬去春来，星移斗转，辜鸿铭在中国学问的海洋里扬帆猛进，破浪前行。