第二野战军是解放战争时期解放军的五大主力部队之一，其主力部队是由晋冀鲁豫军区八路军部队整编而成。
晋冀鲁豫军区是1945年8月20日组建的，司令员：刘伯承，下辖四个二级军区：
太行军区（司令员：王宏坤，谢富治）、太岳军区（司令员：陈赓，政委：王新亭），冀南军区（司令员：杜义德，政委：李菁玉），冀鲁豫军区（司令员：王秉璋，政委：张玺）
1945年10月，晋冀鲁豫军区组建了4个纵队，第1纵队（晋冀鲁豫军区直属纵队），第2纵队（冀南纵队）、第3纵队（太行纵队）、第4纵队（太岳纵队）。第1纵队原本是要进军东北，后因形势变化没有成行。随后以晋冀鲁豫军区直属部队组建了第6纵队，冀鲁豫军区组建了第7纵队。
1947年8月，晋冀鲁豫野战军主力挺进大别山，晋冀鲁豫军区各军区与中原军区突围的部队组建了第8纵队、第9纵队、第10纵队、第11纵队、第12纵队，第13纵队，第14纵队.至此，
晋冀鲁豫军区下辖13个纵队。
1948年5月，晋冀鲁豫军区与晋察冀军区合并为华北军区，下属的第8纵队、第13纵队、第14纵队归入华北军区。第7纵队并入第1纵队，第10纵队（纵队司令员：王宏坤）并入桐柏军区。
中原野战军此时下辖7个纵队（第1纵队，第2纵队，第3纵队，第4纵，第6纵队，第9纵队，第11纵队）
第一纵队（1945年10月/1947年3月组建）
第一纵队是1945年10月由冀鲁豫军区部队组建，司令员：杨得志，政委：苏振华，1947年3月同样是冀鲁豫军区组建的第7纵队并入第1纵，
司令员：杨勇，政委：苏振华
，下辖四个旅：第1旅（旅长：杨俊生；政委：陈云开）第2旅（旅长：戴润生；政委：石新安），第19旅（旅长：；政委：）第20旅（旅长：吴忠；政委：刘振国）
1949年2月，第1纵队第1旅、第2旅，豫皖苏军区独立旅合编为第16军，
军长：尹先炳（大校），政委：王辉球（中将）
1949年2月，第1纵队第20旅扩编为第18军，
军长：张国华（中将），政委：谭冠三（中将）
1947年11月，第19旅调归鄂豫军区（司令员：王树声）
第二纵队（1945年11月组建）
第二纵队是1945年11月由冀南军区部队组建的
司令员：陈再道，政委：宋任穷，
下辖三个旅：第4旅（旅长：吴诚忠；政委：刘明辉），第4旅（旅长：雷绍康；政委：寇庆延），第6旅（旅长：周发田；政委：刘华清）
1949年2月，第1纵队第4旅、第6旅，皖北独立师合编为第10军，
军长：杜义德（中将），政委：王维纲（未授衔）
1947年11月，第5旅调归鄂豫军区（司令员：王树声）
第三纵队（1945年11月组建）
第三纵队是1945年11月由太行军区部队组建的
司令员：陈锡联，政委：彭涛，
下辖三个旅：第7旅（旅长：赵兰田；政委：周维），第8旅（旅长：黄林；政委：卢南樵），第9旅（旅长：童国贵；政委：高治国）
1949年2月，第3纵队改编为第11军，
军长：曾绍山（中将），政委：鲍先志（中将）
第六纵队（1945年11月组建）
第六纵队是1945年11月太行军区韦石支队、秦向支队合编而成，太行军区是由原来八路军129师386旅组建的
司令员：王宏坤/王近山，政委:段君毅/杜义德,
下辖三个旅：第16旅（旅长：尤太忠；政委：邵子言），第17旅（旅长：李德生；政委：韩明），第18旅（旅长：萧永银；政委：刘昌）
1949年2月，第6纵队改编为第12军，
军长：王近山（中将），政委：王近山（兼任），
下辖三个师：
第34师师长：尤太忠（55年少将，88年上将），第35师师长：李德生（55年少将，88年上将），第36师师长：萧永银（55年少将），
第九纵队（1947年1月组建）
第九纵队是1947年1月由太行军区部队编成
司令员：秦基伟，政委：黄镇，
下辖三个旅：第25旅（旅长：蔡爱卿；政委：冷裕光）第26旅（旅长：向守志；政委：余洪远），第27旅（旅长：崔建功）
1949年2月，第9纵队改编为第15军，
军长：秦基伟（55年中将，88年上将），政委：黄镇（未授衔）
第十纵队（1947年9月组建）
第十纵队是冀南军区部队组建，中原野战军主力挺进大别山，第十纵队取消建制并入桐柏军区
司令员兼政委：王宏坤，
下辖三个旅：第28旅、第29旅、第30旅
1949年2月，桐柏军区的部队改编为第58军，
军长：孔庆德（中将），政委：方正平（中将），
同年9月第58军番号撤销，所属部队并入河南军区（司令员：王宏坤）
第十一纵队（1947年8月组建）
第十一纵队是1947年8月由冀鲁豫军区三个独立旅合编而成
司令员:王秉璋，政委:张霖芝
，下辖三个旅：第31旅（旅长：汪家道；政委：孙仁道），第32旅（旅长：胡华居），第33旅（旅长：肖元礼)
1949年2月，第11纵队改编为第17军，
军长：王秉璋（中将），政委：赵健民（中将）
第四纵队（1945年10月组建）
第四纵队是1945年10月由太岳军区的部队组建，太岳军区是由原来八路军129师386旅组建，太岳军区组建第4纵队与第8纵队，第8纵队归了华北军区。
司令员：陈赓，政委：谢富治，
下辖四个旅：第10旅（旅长：周希汉；政委：廖冠贤），第11旅（旅长：刘丰；政委：胡荣贵），第13旅（旅长：陈康；政委：南静之），第22旅（旅长：查玉升；政委：朱佩萱）
1949年2月，第4纵队第10旅与第13旅改编为第13军，
军长：周希汉（中将），政委：刘有光（中将）
1949年2月，第4纵队第11旅与第22旅改编为第14军，
军长：李成芳（中将），政委：雷荣天（中将）
第二野战军的王牌纵队是第四纵队与第六纵队，第四纵队（第13军与第14军）是的根基是八路军129师386旅，第六纵队（第12军）的根基是八路军129师385旅。
2017年军改前原有的18个集团军建制中第二野战军的军包括：第12军，第13军，第14军，另外第15军被改编为空降军
