行军的第一天，部队在莒县宿营，第二天到达诸城。因为国民党勾结日伪残余重新占领了胶县城，从诸城到胶县的公路破坏了，汽车不能继续前进，只好在诸城过夜。这一天，由于旅途劳累，罗荣桓的病情加剧。第三天，部队无法乘汽车前进，只能步行，罗荣桓也不能骑马，只好又躺在担架上。
过胶济路的那天夜晚，正在急行军，罗荣桓的担架突然断了，队伍不得不停下来，警卫部队派出警戒。管理处长何敬之派人随向导到附近村子里找门板，由于护送部队人很少，停留的地方离铁路又近，大家都为罗荣桓的安全担心。
找门板的人走后不久，就听到村子里的狗叫了起来。那时，为了便于八路军夜间活动，根据地和游击区的狗都打光了，可这一带以前是敌占区，村子里还有狗。俗话说，一犬吠形，十犬吠声。顷刻间，远近都有狗吠声。有的干部怕惊动敌人，罗荣桓却胸有成竹地说：“现在不是从前了。现在，狗一叫，敌人会吓得更不敢出来。”不错，等找门板的人回来，也没有出什么事。
罗荣桓一行在胶县以西穿过胶济铁路，胶东南海军分区司令员贾若瑜派来汽车接罗荣桓进入莱阳城。胶东军区司令员许世友正在海上组织渡海行动，政委林浩和其他领导干部都赶来看望罗荣桓。
在莱阳，罗荣桓接到了中共中央10月31日发出的关于组建东北人民自治军的命令，任命林彪为总司令，彭真、罗荣桓为第一、第二政治委员，吕正操、李运昌、周保中为副总司令员，萧劲光为副总司令兼参谋长，程子华为副政治委员。
11月5日，罗荣桓一行到达龙口。因为这次行动是保密的，所以他们都化了装，罗荣桓化装成一位教授，身穿深色长衫，头戴礼帽，林月琴穿着阴丹士林布旗袍，作为教授的夫人。参谋处长李作鹏、保卫部长苏静和供给处长何敬之都扮成商人。保密的原因是中央要求去东北的部队，“在进入满洲边境时，绝不被苏联红军及英、美、国民党人发现”。
一到码头，只见岸边是一队队等待上船的部队。海湾内外，满眼是船，嘈杂的人声和喧嚣的涛声汇合在一起，从中可以看出，胶东军区为渡海行动做了大量的工作。
11月3日，胶东军区接到毛泽东亲自起草的一份电报：
“胶东区党委：