郑清濂还积极参与设计和监造穹甲快船“开济”、“镜清”、“寰泰”。这三艘快船制成后，裴荫森评价说：“学生等于制造之学研虑殚精，不特创中华未有之奇能，抑且骎骎乎驾泰西而上之，矧三船皆为南洋代造，而制法则日新月异，复有不同，开济之坚韧灵捷，既非南瑞、南琛所能及。而镜清又胜于开济，寰泰又胜于镜清”。随后郑清濂又参与监造“广甲”、“广庚”兵船，“广乙”、“广丙”、“福靖”猎舰，“通济”练船等。对此，郑清濂等人也都殊费苦心，成绩显著。

光绪十三年（1887年），郑清濂、吴德章还被奉命负责勘查、设计、监建罗星塔青州船坞，使当时中国大船均可入坞维修。

光绪三十一年（1905年）春，郑清濂以船政局首届出洋留学生，擢用福建船政会办，升副将，加总兵衔，管理船政工作处。光绪三十二年（1906年）秋，郑清濂免去会办职务，奉调入京。

光绪三十三年（1907年），郑清濂调任汴（开封）洛（阳）铁路总办。次年，又调任京汉铁路总办，还任邮传部参议，他在收回京汉路权的交涉中起重要作用，邮传部曾评价郑清濂“品端守洁，不染习气，熟谙路政，兼精工程艺学”。

宣统元年（1909年）春，郑清濂任筹办海军事务处顾问官，同年秋，他以顾问官兼译员身份随筹办海军大臣载洵、萨镇冰等赴欧洲各国考察海军，年底回国。次年，清廷海军部正式成立，郑清濂授海军参将，出任海军军政司司长，并充留学生廷试总考官等。

1913年10月，海军总长刘冠雄入闽，收福建船政局归海军部，郑清濂被任命为船政局长，主持船政局务整顿，他将船政前学堂改为福州海军制造学校，以陈林璋为校长；把船政后学堂改为福州海军学校，以王桐为校长；改船政艺圃为海军艺术学校，以黄聚华为校长。1913年，他添购马限山洋船坞一所，并向北洋政府提出改革船政的一套计划等。在郑清濂的整顿下，福建船政局“规模乃振”。

1914年6月28日，海军部授郑清濂造船舰主监衔。1916年9月25日，郑清濂因当时袁世凯不重视兴办实业，船政局经费不能落实，振兴船政局的抱负难以实现而辞职还乡。

郑清濂还为家乡疏通河道，解除旱涝灾害的威胁，使受益农田达万余亩。

郑清濂一生严于律己，廉洁奉公，艰苦创业，一心为中国的海军、造船、铁路等事业的发展贡献力量，功绩显著。他逝世时，家无长物，无力治丧，由其女婿、驻比利时国全权大使王景岐及门生等办理后事。郑清濂的爱国思想、创业精神、清白作风，深受后人钦佩和纪念。