1958年8月，河南省委第一书记（相当于今天的河南省委书记）潘复生被撤职，吴芝圃接替了潘复生的职务，成为新任河南省委第一书记。不过，吴芝圃上任后，带领河南大搞“大跃进”，严重影响了河南的经济结构，产生了深远的影响。

其实，到1961年1月时，吴芝圃就意识到“大跃进”的错误了，他也开始尽力纠正错误，只是当时的形势已经不是吴芝圃能控制的了。1961年7月，中央把刘建勋调到河南，吴芝圃被免除了省委第一书记的职务，由刘建勋接任。

刘建勋出生于1913年，河北沧县人，新中国成立后，刘建勋陆续担任了湖北省委副书记以及中央农村工作部副部长等职务，他熟悉农村工作，是一名经验丰富的领导干部。在建国初期的土地改革、农业生产合作化方面做了很多卓有成效的工作，巩固了新生的政权。

1961年，刘建勋被调到河南时，河南的情况已经非常严重，此时的吴芝圃已经被免职，降为省委第二书记。刘建勋到河南后，首要工作就是救灾，他一方面保证中央给的钱、粮食能实打实地发到群众手里；另一方面，刘建勋还联系了自己的老乡，曾担任农垦部副部长的张仲翰，在张仲翰的帮助下，从新疆调了很多土豆进入河南，极大地缓解了当时的粮食问题。

另外，刘建勋还严格落实中央的“调整、巩固、充实、提高”八字方针，尽力纠正“大跃进”的错误。在刘建勋的带领下，河南省从“大跃进”的泥淖中走出，老百姓的生活也相比之前有了很大的提高。

在主政河南的过程中，刘建勋非常注重激励老百姓艰苦奋斗的精神，从而解决吃饭的问题。为此，刘建勋还树立了两个优秀的县委书记作典型，他们分别是领导建设红旗渠的杨贵（时任林县县委书记）与领导兰考除“三害”的焦裕禄（时任兰考县委书记）。不管是杨贵还是焦裕禄，他们都是时代的楷模，都是我党培养的优秀干部。

时间很快就来到1966年，“十年特殊时期”开始，这一年，刘建勋被调到北京，担任了华北局书记处书记兼北京市委常务书记等职务，主要在北京工作。当时主持河南工作的是文敏生，不过，文敏生很快就病倒，河南的造反派也活跃起来，站出来造反夺权。

中央考虑到河南的情况，在1967年7月又把刘建勋派回河南，让他筹备成立河南省革委会。1968年，河南省革委会正式成立后，刘建勋担任了省革委会主任，1971年，河南省委恢复后，刘建勋又兼任了河南省委第一书记，继续主政河南。

1978年，刘建勋卸任河南省委第一书记，当时刘建勋已经患上严重的疾病（骨癌、肺心病），中央有意让刘建勋先养好身体，再复出工作。1983年4月，刘建勋因病去世，享年70岁。去世之后，刘建勋的骨灰被安放在八宝山革命公墓。2006年，经过组织批准，刘建勋夫妇的骨灰合葬于太行革命根据地的涉县的将军岭上，这里曾是刘建勋战斗过的地方。

值得一提的是，刘建勋的妻子名叫陈舜英，抗日战争时期，陈舜英参加革命，从此之后走上了革命的道路。新中国成立后，陈舜英担任了河南省监察委员会委员等职务。陈舜英的妹妹名叫陈舜瑶，而陈舜瑶的丈夫就是宋平。也就是说，刘建勋与宋平是连襟关系。