解放军海军的建立，一开始主要是由国民党海军兵变起义形成的。我国海军建立的历史中最有名的三次起义分别是郑道济起义、邓兆祥起义和林遵起义。
郑道济起义
郑道济是山东烟台人，曾任职于国民党军，因对上司不满而改投汪伪海军，成为汪伪海军刘公岛练兵营卫兵队少尉队长。民国三十三年（1944年）11月5日，郑道济带领官兵600人发动兵变，击毙日军17名，伪军官上校1名，中校2名，少校1名，尉官和个别反动老兵10余人，成功投奔八路军山东胶东军区，成为胶东军区海军支队。
郑道济起义的意义在于，他让一穷二白的八路军第一次拥有了一支海军支队，这个海军支队虽然只有“同春”号运输舰、“日生利”号交通艇、“东海”号、23号舰等舰只，却运来了八路军奇缺的大量枪炮弹药。
郑道济起义的传奇之处在于，这场兵变起义战士和家属总共有600多人，战斗中无一人伤亡。这与郑道济和连城、毕昆山等起义组织者的认真组织密不可分。
郑道济起义后形成的海军支队，后来极大支援了山东军区挺进东北的渡海行动。部分海军支队战士参加了东北剿匪。
邓兆祥起义
邓兆祥是广东肇庆人，民国三年（1914年）入黄埔海军学校第16期学习，后来又先后转入吴淞海军学校、烟台海军学校、南京海军鱼雷枪炮学校学习。民国十九年（1930年）到民国二十三年（1934年），邓兆祥在英国格林威治海军学院学习四年，回国后成为国民革命军海军的重要干部。
民国三十七年（1948年）5月，邓兆祥升任重庆号巡洋舰上校舰长。重庆号民国三十七年（1948年）5月才从英国启程8月回国，是英国为了赔偿香港战役被日军炸沉的6搜中国军舰而给的，同行的还有“灵甫”号护卫驱逐舰（就是为了纪念张灵甫）。
重庆号回国后，一下子成为国军海军的最大舰船，蒋介石曾在船上召开东北方面高级军事会议。锦州战役中，重庆号受命用巨炮轰击解放军塔山阻击阵地，给我军造成巨大伤亡。不过，塔山最终还是守住了，原因是因为重庆号的舰炮炮弹太贵了。
民国三十八年（1949年）2月，重庆号部署在长江上，想要成为阻挡解放军渡江作战统一全中国的大业。2月25日，邓兆祥在上海吴淞口举行“重庆舰起义”。从凌晨1：30开始起义5：30启航，重庆号以24节的航速驶向解放区烟台港。25小时后，重庆舰到达烟台，加入了解放军。
重庆舰起义让蒋介石大为恼火，海军总司令桂永清被免职。3月18日19日两天时间，重庆舰遭遇国军空军的狂轰滥炸。按照中央指示，重庆舰拆除设备，自沉于葫芦岛。两年后重庆舰打捞起来，经过十年的修复，重庆舰也没有恢复往日荣光，60年代重庆舰被拆解，只有船钟收藏于北京军事博物馆。
邓兆祥起义后，先后担任了安东海军学校、快艇学校校长，东北行政委员会委员，海军青岛基地司令部副参谋长、副司令员，北海舰队副司令员，海军副司令员。1955年，邓兆祥被授予少将军衔。
林遵起义
林遵是福建福州人，近代开眼看世界第一人林则徐的侄孙。林遵父亲曾担任清朝的海军艇长和海军电雷学校学监，所以林遵出身在一个海军世家。林遵先后在马尾船校和英国格林威治海军学院学习，回国后成为国军海军的重要干部。
抗日战争中，林遵担任第五游击布雷少校大队长，在长江上布置大量水雷，给日本海军造成很大麻烦。抗日战争胜利后，林遵率领太平号等战舰组成的舰队远赴南沙群岛和西沙群岛，宣示南海主权，并命名了太平道、中业岛、中建岛等岛屿。
解放战争中，林遵担任海军海防第二舰队司令，驻防长江下游江面。他不忍炮轰同胞，最终决定战场起义。民国三十八年（1949年）4月23日，林遵在渡江战役的战场上起义，调转炮口，给解放军很大支援。
林遵起义比前两次起义规模要大得多，这次起义包含了1200名官兵和23艘舰艇。这些舰艇也没有逃过蒋介石空军的狂轰滥炸，海军官兵只好弃船上岸，保证人员安全。
林遵起义的时间是民国三十八年（1949年）4月23日，林遵起义的队伍成为了解放军第一支成规模的舰队，所以这个时间被定为解放军海军的成立日。起义队伍后改编为华东军区海军、解放军海军东海舰队，林遵担任第一副司令，由张爱萍上将担任司令兼政委。
1955年，林遵被授予少将军衔。
