1949年年初，张爱萍伤愈归队，本想回到前线后要求给支队伍“打过长江，冲进‘总统府”，却意外接到了不参加渡江战役，留下来组建华东海军的任务。

张爱萍回忆：“会后，陈毅同志和我促膝长谈，纵论国内外大事，展望胜利前景。他向我传达了党中央和中央军委的决定，为了解放全中国，防止帝国主义的侵略，并为迎接解放台湾的任务做好准备，决定由第三野战军组建海军，委任我担任司令员兼政治委员。听了陈毅同志的传达，我感到非常兴奋，又感到压力很大。在此之前，党中央和中央军委把组建人民空军的任务交给了第四野战军……现在又及时地作出了组建海军的决定，这就使中国人民解放军由单一的军种成为陆海空军种齐全的人民军队，无疑是我军建设史上一个重大的事件。陈毅同志强调，这是历史逼着我们去干的，而且非干好不可，要你去干，是黨中央对你的信任，你是合适的人选。就这样，我受命于关键之时，从此把全副精力投入到组建海军的调查研究和策划之中。”

渡江战役前夕，张爱萍来到第三野战军司令部的驻地江苏泰州白马庙，见到了粟裕，研究组建海军的准备工作。粟裕介绍说：“部队正要过江，准备把三野教导师的机关和一个团的部队，以及野战军司令部的一个侦察营和苏北的海防纵队4000多人，全部调归海军由你指挥。”“但三野教导师机关的人还不在这里。我只帮你找到了几个人，一个是28军84师的副参谋长李进，一个是三野司令部的作战参谋黄胜天，另两个是军工部采购科科长张渭青和机关管理员温礼芝。