29 мая 1945 года по представлению командующего фронтом ГК. Жукова Серову было присвоено звание Героя Советского Союза.
С 6 июня 1945 года – заместитель Главноначальствующего советской военной администрации в Германии по делам гражданской администрации, одновременно с 4 июля – уполномоченный НКВД в Группе советских оккупационных войск в Германии.
С мая 1946 года входил в состав возглавляемого членом Политбюро ЦК ВКП(б) ГМ. Маленковым Специального комитета по реактивной технике при СМ СССР; занимался организацией добычи и вывоза в СССР висмута, кобальта и урана, депортацией немецких специалистов; в октябре 1947 года присутствовал при испытании первой советской баллистической ракеты. Одновременно с марта 1946 года – заместитель министра, с февраля 1947 года – первый заместитель Министра внутренних дел СССР С января 1952 года – заместитель председателя вновь организованной Коллегии МВД СССР. В марте 1952 года выезжал на строительство Волго-Донского канала, строившегося заключенными.
В марте 1953 года, после смерти Сталина, был назначен одним из трех первых заместителей Берии в объединенном МВД.
С марта 1954 года – Председатель КГБ при СМ СССР В 1954 году направил в ЦК КПСС записку с предложением амнистировать сотрудничавших с оккупантами советских граждан. Практически все эти предложения вошли в указ Президиума Верховного Совета СССР «Об амнистии советских граждан, сотрудничавших с оккупантами в период Великой Отечественной войны 1941 – 1945 гг…» от 17 сентября 1955 года.
На посту председателя КГБ провел кадровую чистку. В течение трех лет было уволено за прямую или косвенную причастность к репрессиям около 18 000 сотрудников Комитета. Около 40 из них лишили генеральских званий. В то же время по его инициативе за четыре года, после его назначения, 85 сотрудникам впервые после 1945 года присвоены генеральские звания.
В октябре-ноябре 1956 года во время венгерских событий руководил оперативной работой органов КГБ в ВНР
Серов пользовался доверием у Хрущева, сопровождал его в зарубежных поездках, выступил в его поддержку на июньском (1957 г.) пленуме ЦК КПСС против фракционной группы Молотова, Маленкова, Кагановича. Однако, будучи человеком резким, грубым и бестактным, сумел испортить отношения со многими членами партийно-государственного руководства – Микояном, Шверником, Кириченко, Мухитдиновым. Обращались с жалобами на него в ЦК и подчиненные, в частности, начальник следственного управления КГБ М.П. Маляров и другие.
8 декабря 1958 года Серов был освобожден от должности председателя КГБ и назначен начальником ГРУ Генштаба ВС СССР в ранге заместителя начальника ГШ.
Он был награжден пятью орденами Ленина, тремя орденами Красного Знамени, орденом Суворова 1-ой степени, двумя орденами Кутузова 1-ой степени, медалями.
Избирался депутатом Верховного Совета СССР
Кандидат в члены ЦК КПСС с 1939 по 1956 годы, член ЦК КПСС с 1956 по 1961 годы.
На 22-ом съезде партии в 1961 году не был переизбран в ЦК. В 1962 году Указом Президиума ВС СССР лишен ордена Красного Знамени, полученного в 1944 году за депортацию крымских татар.
После разоблачения агента ЦРУ и СИС полковника ГРУ Пеньковского 2 февраля 1963 года был снят с должности. 12 марта «за потерю политической бдительности и недостойные поступки» лишен звания Героя Советского Союза и орденов Ленина и понижен в звании до генерал-майора.
С февраля 1963 года служил помощником по военно-учебным заведениям командующего войсками Туркестанского, с августа того же года – Приволжского военных округов.
9 апреля 1965 года решением КПК при ЦК КПСС был исключен из партии «за нарушение социалистической законности и использование служебного положения в личных целях». С сентября 1965 года находился в отставке. Неоднократно пытался добиться реабилитации, обращаясь к руководителям партии и государства Брежневу, Андропову, Горбачеву, но безуспешно.
В 1995 году (посмертно) указом президента Польши Л. Валенсы был лишен польского ордена «Виртути Милитри».
Два соперника Виктора Абакумова, считавшего себя в прямом и переносном смысле (ростом и профессионализмом) выше, как он однажды выразился «этих пигмеев», не давали ему покоя. Но именно их больше всего Берия замечал и награждал. Серов был вместе с Хрущевым на Украине – этот тандем еще покажет свои клыки «всесильному хозяину» военной контрразведки.
Судя по всему, у Абакумова было достаточно причин, мягко выражаясь, с предубеждением относиться к Круглову и Серову. Для него, прослужившего в органах с 1932 года в течение шести лет в самом низу, были непонятны такие выдвижения. В одном случае абсолютно гражданского человека – «пиджака», а в другом – абсолютно военного «сапога». Это были чужие среди своих, и они отпугивали непредсказуемостью. Но самое главное – они были опасные конкуренты, которых стоило бояться, но с которыми он мог в силу оперативного опыта побороться.
Мы русские и пусть навек запомнит враг,
Что лишь тогда встаем мы на колени,
Когда целуем русский флаг.
В. Абакумов
К концу тридцатых годов прошлого века у Советской России было три главных внешних противника: страны Запада, в том числе Англия и Франция с учетом Мюнхенского сговора; Япония на Востоке, а также многочисленные белоэмигрантские организации, рассеянные по всему миру, и троцкисты, сделавшие ставку на поддержание агрессии Германии против СССР.
Если до 1937 года «демон революции» воспринимался Москвой, как политический «болтун», то уже в конце тридцатых он, осмелевший из-за нарастающей угрозы возникновения войны и почувствовавший запах крови, представлялся в ином свете. Надвигающееся лихолетье породило у Троцкого и его сторонников большие надежды на достижение поставленной цели – возвращение к власти. А утверждения нынешних адептов и защитников Льва Давыдовича о его скромности и не желании взбираться на подиум власти – это ложь и лукавство.
Новая война, полагал опять Троцкий, вызовет революционный взрыв во многих странах, как это уже произошло в 1917 году. Именно в ожидании данного «радостного события» Троцкий и компания в 1938 году форсировали создание 4-го Интернационала, заявив, что под его руководством в самое ближайшее время «революционные миллионы смогут штурмовать небо и землю».
Лев Троцкий хотел любой ценой добиться вовлечения СССР в новую мировую войну. Именно в этот период цели троцкистов и руководителей англо-французской коалиции совпали. Политики в Лондоне и Париже пришли к мысли о возможности использования «кожаного комиссара» и его сторонников в своих интересах, рассчитывая с их помощью организовать в СССР политический переворот и отстранить от власти Сталина. Рассматривалась даже возможность переброски в Россию «мотора революции», который должен был возглавить пятую колонну и нажать кнопку для «взрыва государства изнутри».
