1928年北伐胜利后,中央政府将海军署扩建为海军部,共有军务、舰政、军械、海政、军学、经理等六部,并开始培养海军。初期舰队约44艘,排水量3万余吨;至抗战前夕,舰队增至58艘,5万余吨。抗战爆发后,为了节省经费,中央政府将海军部降为海军总司令部。而后海军在日本舰队攻势下损失惨重,海岸线的丧失使得海军仅剩少量炮舰在内河与内湖布雷,阻挠日军利用河道将船舰、军队及补给深入中国内部。抗战胜利后,中华民国海军接收日本降舰数十艘,美国也赠与登陆舰20余艘、护卫舰数艘,使得海军得以重建。