陳永貴主動請辭，晚年面對記者采訪，問道：你有沒有寫文章罵我？

1964年3月，毛主席下鄉進行調研，途中時任山西書記的陶魯笳匯報了山西昔陽縣大寨村的產糧奇跡，表揚了陳永貴帶領大寨村的突出表現，毛主席聽聞了陳永貴的事跡，對他很是欣賞。

聽了陶魯笳的匯報之后，毛主席指示時任農業部長的廖魯言親自到大寨考察，廖魯言在大寨考察了20多天，詳細了各方面的情況，認可了大寨村和陳永貴，并向毛主席如實進行了匯報。

于是在同年的5月10日，毛主席第一次在會議上點名表揚了陳永貴和大寨村，同年底，毛主席還邀請陳永貴等代表一起參加了自己的生日宴，從此之后陳永貴名氣越來越大，職務也越來越高了。

1975年，陳永貴當選副總理，分管農業方面的工作，他干得很不錯，即便是在毛主席去世之后他仍在擔任副總理。不過當時中央收到了不少來自山西方面的舉報信，內容是對大寨的不滿，1980年9月，陳永貴在大會上提出了請辭。

陳永貴的請辭得到了大會的批準，不過考慮到陳永貴做出的貢獻，中央建議他留在北京養老，畢竟已經66歲了，很難繼續從事繁重的體力勞動。為了解決陳永貴的憂慮，組織上把他和妻子以及兒子陳明亮的戶口轉為北京戶口。

期間陳永貴還擔心舉報信的事，胡耀邦得知后親自找他談話寬慰他，避免他背思想包袱。組織上對陳永貴的照顧是非常周到的，陳永貴也逐漸想明白了，決定在北京好好生活，不過他仍堅持樸素的生活作風。

陳永貴找到機關事務管理局提出換房子，他要求辦理現住的房子，因為房子是按照副總理標準分配的，他認為自己不當副總理了就不適合繼續居住，最終在陳永貴的再三要求下，他和家人住到了干部公寓。

多年來陳永貴堅持不占公家便宜，不搞特殊。退休后的陳永貴按照規定享受行政13級的待遇，是高級干部中的最低一級，不過保留著司機、警衛員和炊事員，實際上這些待遇陳永貴并沒有享受。

晚年的陳永貴沒有架子，配給他的轎車也是幾乎不用，每次他外出買菜都是坐公交車，一些人認出了“農民副總理”陳永貴，他也一點架子也沒有，熱情地和大家打招呼。

有一次陳永貴買菜的時候被菜販認出來了，菜販堅持要送菜給他，不過陳永貴拒絕了，并再也沒有去那家買菜了，對此陳永貴說：“賣菜的是好人啊，可是咱不能去給人家添麻煩！”

晚年陳永貴生活幸福，不過也有認他不高興的事，那就是報紙上有批評大寨的文章，他看到了就不高興。有一次一位記者采訪陳永貴，沒想到他突然問記者：“你有沒有寫文章罵我？”

記者先是一愣，之后耐心解釋報紙上對大寨進行批評的報道，指出對大寨的批評并不是針對陳永貴個人，而且報道都是經過調查證實過的，是實事求是的報道。陳永貴聽后也就不再生氣了，1986年3月26日，陳永貴在北京病逝，享年72歲。