1975年1月，农民出身的陈永贵达到他政治生涯的巅峰，也是这一年，四届人大一次会议后，陈永贵当选为副总理，主管全国的农业。值得一提的是，陈永贵虽然担任副总理，但他不领取副总理的工资，而是领取大寨的“工分”，为了补贴他的生活，相关部门每月都发给陈永贵一定的生活费。

1978年，十一届三中全会后，陈永贵逐渐失势，1980年9月，陈永贵主动辞去了自己的领导职务。辞职之后，陈永贵本想回山西昔阳老家，不过，中央考虑到他年事已高，北京的医疗条件相对较好，为了照顾陈永贵，中央就把陈永贵安置在了北京。

辞职后的陈永贵继续享受高级干部待遇，不过，陈永贵还是搬出了自己当副总理时的住房，搬到了木樨地的一处公寓居住。同时，相关部门还解决了陈永贵妻子以及幼子的户口问题，陈永贵也把老伴儿与小儿子接到了北京，一家三口在北京团聚。

值得一提的是，中央还给陈永贵安排了专车与司机，司机还是他当副总理时的司机，名叫汤占兴，只不过车由当副总理时的“大红旗”改为了一辆苏联产的“伏尔加”。陈永贵对这辆车的使用非常严格，老伴儿与儿子都不允许使用这辆车，只有自己有公事的时候才可以使用，其他情况一律不用。

陈永贵平时爱乘坐公共汽车到菜市场，他认为这样可以贴近群众，感受群众的真实生活。下台之后的陈永贵就过着这样的生活，当看到“包产到户”后农民的生活越来越好好，陈永贵也发自内心地赞美改革开放，同时，他也想趁着自己还能工作为改革开放做点贡献。

陈永贵下台后三年，也就是1983年，陈永贵主动给中央写信，问能不能给自己安排一份工作？陈永贵的意思是自己的精力还算可以，还能为国家做力所能及的工作，所以想重新出来，做点贡献。

中央收到陈永贵的信后也非常重视，邓公亲自批复，把陈永贵安排到北京东郊农场，担任了农场顾问一职。陈永贵使用公车的时候基本上都是去农场工作，而且他的这份工作很轻松，每周只需要到一次农场即可。

虽然每周只需要去一次农场，但陈永贵对农场的工作非常尽力，农场的干部也非常感激陈永贵，说：“老陈可帮了大忙了！”据农场的干部们描述，陈永贵帮助农场办了很多不好办的事，买了一些农场不好买的生产资料，例如化肥等。农场上上下下都非常感激陈永贵，大伙儿也非常尊重他。

对陈永贵本人来说，他也非常喜欢农场的工作，陈永贵是农民出身，对土地有一股天然的亲近，他更喜欢与土地打交道，与农作物打交道……有了工作后，陈永贵的生活也更加充实，每次去农场，他都有忙不完的活，农场的职工都说：“这是个好老汉！”

陈永贵晚年一直都没戒掉烟瘾，而且他的烟瘾还很大，也可能是抽烟的缘故，陈永贵在1985年查出了肺癌。1986年，陈永贵因为癌症去世，去世之后，他的葬礼按照副总理的规格办理，在这之后，陈永贵被安葬在老家位于山西省昔阳县大寨虎头山。