1927年加入中国共产党,参加南昌起义,后进入井冈山,参加历次反“会剿”和全部五次反“围剿”战争。长征时留在南方组织游击战争。抗日战争期间,任新四军第二支队副司令员、江南指挥部和苏北指挥部副指挥。1941年任新四军第一师师长,后兼第六师师长。第二次国共内战期间,任华中野战军司令、华东野战军副司令、代司令员兼代政委等职,主要指挥高邮战役、陇海线徐(州)海(州)段战役、苏中战役、孟良崮战役、济南战役、淮海战役、渡江战役、上海战役等。中华人民共和国成立后,历任中国人民解放军总参谋长、中国共产党中央军事委员会常委、第五届全国人大副委员长等职。
1945年12月25日,粟裕所指挥的高邮邵伯战役,创造了抗日战争期间一次战役歼灭日军人数的最高纪录(歼灭日军1100多人,歼灭伪军5000多人),打破了蒋军“开锁进门,长驱直入,直捣两淮”的企图,改善了华中南线战略态势,为后来的苏中战役创造了良好的战场条件。