学成归国，21 岁的詹天佑满怀豪情壮志准备为祖国效力。他于光绪七年 （1881 年）十月和其他 15 名同学抵福州。总理船政大臣黎兆棠以“宦力有 年和技艺素优”的名目“赏给”他五品顶戴，派在水师学堂学习驾驶。“由 陆而海”，对一个专才来说，简直是极端的讽刺。但詹天佑只好接受了这个 学习任务，在一个名叫泰勒的外国人手下学习，以期将来待机献身于铁路事 业。詹天佑在学习中非常虚心和努力，毫不以自己有专长而自高自大，次年 六月，他以一等第一名在水师学堂毕了业。十一月派往“扬武”兵轮担任驾 驶官，指挥操练。

光绪十年五月（1884 年 6 月）中法海陆战争爆发。陆路接战后，清军相 继在临洮、谅山获得了辉煌的战果。在海战方面，光绪十年六月（1884 年 8 月）法将军孤拔率兵船 13 艘北上，攻毁台湾基隆炮台，法军携炮登陆，遭到 台湾巡抚刘铭传的还击，法军败退，法船又开入马尾。福建水师在船政大臣 何如璋的指挥下，平时只管迎送官员，缺乏操练。何如璋又胆小怕事，一心 希望议和成功，所以当法国军舰开入马尾时，何如璋不敢加以阻止。中法两 国船只同泊一处，中国船受了监视。八月（9 月），法海军通知何如璋定期 开仗，何如璋秘而不宣，不令陆海军备战。届时法船大炮齐发，中国船只仓 猝拔锚应战，伤亡惨重。会办福建海疆事宜的大臣张佩任与何如璋一闻炮声， 即从后山潜逃，丑态百出。

詹天佑在“杨武”兵轮上服务。他事先已看到情势极为不利，暗中和“杨武”兵轮的管带张成说：“法国兵船来了很多，居心叵测。虽则我们奉到命令，不准先开火，然而我们决不能不预先防备，否则法国兵船一开炮，我们将全军覆没。”由于“杨武”兵轮事先有了准备，因此在法船开始炮轰后，非常沉着地发炮回击。“杨武”兵轮是中国的旗舰，孤拔令五艘法船包围“杨武”，集中炮火轰击。詹天佑和他的战友们在敌众我寡、形势极为不利的情况下，奋不顾身，与敌对抗，表现了无比的英勇和沉着。在福州口外和法船 鏖战历 5 小时又 3 刻钟。这一场英勇的斗争，上海英商所办的《字林西报》 也不得不惊异赞叹。该报这样写道：“这次中法的海战，约经 5 小时 3 刻钟。 西方人士料不到中国人会这样勇敢力战。“杨武”号兵舰上的学生 5 人中以 詹天佑的表现最为动人。他临大敌而毫无畏惧，并且在生死存亡的紧要关头 上，还能镇定如常，鼓其余勇，由水中救起多人……”
中法之役，中国不战而败，在巴黎与法国议和。战争结束后，詹天佑曾在福州船政局后学堂任过短时间的教习。船政局前后学堂是福州船政局为培养海军留学生而设立的。詹天佑在那里担任教授英文和驾驶等课程。 光绪十年九月（1884 年 10 月），詹天佑因两广总督张之洞的咨调，回到他久别的故乡——广东。张之洞是著名的洋务派首领之一，他对新人才也很注意延揽。詹天佑到广州时，适博学馆有一位洋文教习杨柜奉派出洋，他就补上了这一缺额。

博学馆原名实学馆，系两广总督刘坤一创议开办的，目的在于储养洋务 人才。至光绪六年（1880 年），始由粤督张树声在广州东南十里长洲地方兴 建校舍，正式开办。光绪十年（1884 年），张之洞督粤，改名博学馆。张之 洞约詹天佑南来，不只为了教书，更重要的是想请詹天佑测绘一幅中国沿海 形势图，以便另建一支海军，与北洋水师抗衡。用西洋的测绘方法来测绘中国沿海形势，这在当时还是一个创举。这是一项艰巨而重要的任务。光绪十 二年（1886 年）张之洞把这项任务交给了詹天佑。由于他工作认真和敏捷， 在一年内就完成了沿海险要图，由张之洞献给了清朝政府。

同年六月十四日（8 月 3 日），张之洞把博学馆原址改为水师学堂，准 备建立新的海军力量。他调办理船政著有成绩的吴仲翔总办水陆师学堂事 务。詹天佑又由博学馆转到水陆师学堂继任洋文教习，直到光绪十四年（1888 年）他的老同学邝孙谋推荐他任唐津铁路的工程师为止。他归国后的 7 年， 就这样学非所用地消逝了，不但对他本人是无可估计的损失，对中国的铁道 事业也是一个重大的损失！