1939年底，饶漱石回国。1940年初，中央派人护送他到皖南，任中共中央东南分局副书记、新四军军分会委员，协助项英工作。1941年1月“皖南事变”中，在项英放弃领导责任私自离队情况下，
饶漱石与叶挺军长指挥部队突围，后与部队失散，孤身一人跋涉在山林中。在地下党的帮助下，
饶漱石于4月抵达苏北盐城。皖南事变以后，中共中央和中央军委命令重建新四军，陈毅代理军长，刘少奇为政治委员，邓子恢为政治部主任。当时邓子恢在安徽工作，中央通知由饶漱石代理政治部主任。 5月，中共中央中原局改称华中局，刘少奇任书记兼新四军政委，陈毅为新四军代军长，饶漱石任华中局副书记兼宣传部长、华中军分会常委，参与领导华中敌后的抗日斗争。1942年3月，刘少奇奉调回延安党中央工作，由饶漱石代任华中局书记、新四军代政委兼政治部主任。
1943年8月，他趁华中抗日根据地“整风运动”，排挤与他朝夕相处、心直口快的陈毅。11月，党中央为顾全华中敌后抗战大局，调陈毅到延安参加党的“七大”筹备工作。至此，饶漱石集华中局和新四军大权于一身。1945年4月，中共“七大”召开，饶漱石被选为中共中央委员。同年11月，任新四军政委兼山东军区政委，中共中央华东局书记。
1946年1月7日，遵照党中央的指示，新四军军部兼山东军区领导机关，新四军军长陈毅兼山东军区司令员，政委饶漱石兼山东军区政委，山东军区辖滨海、鲁中、鲁南、胶东、渤海等二个二级军区，总兵力约20万人。根据“党指挥枪”的原则，饶漱石成为这支部队的最高当家人。同年春，作为北平军调部中共代表，饶漱石在伍修权等陪同下，和美国代表白鲁德、国民党代表赵家骧等飞往沈阳，参与国共东北停战调处。当时，我军还没有实行军衔制，为便于与国民党军方代表进行平等工作，我军派驻各地代表被临时授予军衔：沈阳代表饶漱石为中将，而太原代表陈赓（建国后为大将）、本溪代表许光达（建国后为大将）、北平代表宋时轮（建国后为上将）、四平代表耿飚（建国后为上将）、徐州代表韦国清（建国后为上将）等人仅被授予少将军衔。由此可见，饶漱石当时在我党、我军的地位之高。期间，他舌战美蒋代表，坚决捍卫我党、我军利益，值得称许.
饶漱石（中）、李立三（右二）、吕正操（右一）和美国代表在一起
1946年6月，全面内战爆发后，山东军区所部组成山东野战军，饶漱石担任政委，和司令员陈毅一道率部御敌。1947年春，山东、华中我军进行了统一整编，撤销山东军区、山东野战军和华中军区、华中野战军（司令员张鼎丞、副司令员粟裕），共同组成华东野战军和华东军区：华东野战军由陈毅任司令员兼政委；华东军区由陈毅任司令员，饶漱石为政委；辖鲁南、鲁中、胶东、渤海、苏北、苏中等六个军区及滨海分区和东江纵队，共约36万人。由山东军区政委到华东军区政委，饶漱石在我党、我军的地位进一步上升。1948年，饶漱石又出任中共中央华东局书记（同时兼华东军区政委），他在华东地区的影响、分量日益加重。1949年5月饶漱石出任上海解放后的第一任市委书记。
