１９５６年下半年，中央提出了《关于改进国家行政体制的决议（草案）》。这是第二次较大规模的体制改革和机构改革。这次改革以中央向地方下放权力为主要内容，通过国务院精简所属工作部门，下放权力，以达到扩大地方自主权的目的。这次改革一直持续到１９６０年。１９５８年，撤销合并了国家建设委员会等１０多个单位。经过调整，国务院部委减少８个，直属机构减少５个。到同年底，国务院设６８个工作部门。１９５９年，国务院工作部门又作了进一步调整和撤并，到同年底，国务院设３９个部委，２１个直属机构和办事机构，机构总数达６０个，比１９５６年减少２１个。