В Курской битве Варенцов был инициатором знаменитой артиллерийской контрподготовки, когда за несколько минут до начала германского наступления по изготовившимся германским войскам был нанесен артиллерийский удар небывалой мощи. В ходе Киевской наступательной операции Варенцов сумел сосредоточить по 300–350 орудий на каждый километр фронта прорыва и фронт взломал. За Берлинскую операцию был удостоен звания Героя Советского Союза. С 1951 года — начальник Главного артиллерийского управления. Далее — командующий ракетными войсками и артиллерией Сухопутных войск. Варенцов поддерживал дружеские отношения с Хрущёвым начиная с 1942 года.