В годы Великой Отечественной войны Большаков продолжал работать в Разведуправлении Красной Армии, возглавлял сначала 6-й, а затем 2-й отделы. С июня 1942 года являлся начальником 1-го Управления Главного разведывательного управления РККА. Выезжал в действующую армию в качестве заместителя начальника оперативного управления штаба 2-го Белорусского фронта, налаживал контроль за действиями армейских штабов во время боёв в Померании.
После окончания войны продолжал службу в Советской Армии. В 1948-1949 годах являлся военным атташе СССР в Соединённых Штатах Америки. По характеристике Ивана Серова, на этом посту «не сумел организовать работу, создал склоку с сотрудниками, допускал пьянство и недостойное поведение, в связи с чем был через год отозван из разведки, отчислен и направлен в гражданский ВУЗ».[1] Окончил Военную академию Генерального штаба Вооружённых Сил СССР. В октябре 1958 года вернулся на военную службу: был начальником НИИ-17, в 1959 году избран секретарём парткома ГРУ. С 1963 года занимал должность заместителя по кадрам начальника Главного разведывательного управления Вооружённых Сил СССР. В марте 1969 года был уволен в запас. Умер 13 апреля1980 года, похоронен на Кунцевском кладбищеМосквы.