После демобилизации кайзеровской армии оставлен служить в рейхсвере, начальник отдела Военного министерства (октябрь 1919 года). В 1920 году назначен начальником штаба 7-го военного округа (Мюнхен), подполковник (1924). В 1924—1926 годах командир артиллерийского дивизиона (обязательная 2-годичная стажировка для офицеров Генштаба). В 1926 году назначен командиром 7-го артиллерийского полка и произведен в полковники. С 1928 года начальник артиллерии 5-й пехотной дивизии, затем — 7-й пехотной дивизии, генерал-майор (1928). В 1929 году назначен командиром 7-й пехотной дивизии и произведен в генерал-лейтенанты. В 1930 году стал командующим 7-м военным округом.
Приход к власти нацистов (январь 1933 года) встретил отрицательно. Как глубоко верующий католик вместе со своей семьей открыто посещал костел и не скрывал свое неприятие нового режима. Такое поведение Лееба вызвало подозрение нацистского руководства, он удостоился сомнительной чести стать одним из первых генералов германской армии, за которыми гестапо установило слежку. Однако принять более действенных мер против Лееба нацисты пока не могли, т. к. свой полный контроль над армией они установили только в 1938 году. Поэтому продвижение Лееба по службе продолжалось. В октябре 1933 года он был назначен командующим 2-й армейской группой (Кассель), в состав которой входили 5-й (Штутгарт), 6-й (Мюнстер), 7-й (Мюнхен) военные округа, а также пограничные войска. Одновременно Лееб получил чин генерала артиллерии. Затем в состав 2-й армейской группы были включены 9-й (Кассель) и 12-й (Висбаден) военные округа, а 7-й поенный округ был изъят. Всего 2-я армейская группа в 1937 году насчитывала 11 дивизий.
В германской армии 1930-х годов Лееб приобрел известность как крупный специалист по обороне. Ряд работ по военной тематике и особенно опубликованный в 1934 году военно-теоретической труд «Оборона» создали ему высокий авторитет в военных кругах не только в Германии, но и во многих европейских государствах. Однако это не спасло его от преследований нацистов. Во время так называемой «генеральской чистки», осуществленной в начале 1938 года новым главнокомандующим германской армии Браухичем по прямому указанию Гитлера, Лееб был уволен в отставку в числе других генералов старой школы одним из первых (февраль 1938 года). Правда, неожиданное увольнение из армии было смягчено присвоением ему очередного воинского звания — генерал-полковника. Накануне Судетского кризиса Лееб вновь был призван на военную службу и назначен командующим вновь сформированной 12-й армии, во главе которой участвовал в оккупации Судетской области и Чехословакии. Но затем снова вышел в отставку.
В августе 1939 года Гитлер во второй раз вызвал Лееба из отставки и назначил командующим группы армий «Ц» (1-й, 5-й, 7-й армии), которая на время войны с Польшей должна была прикрыть западную границу Германии. Основу этой группировки германских войск составляли резервные и ополченческие дивизии. В распоряжении Лееба не было ни одного танкового подразделения. Свое новое назначение на столь высокий командный пост Лееб воспринял без энтузиазма. Уже тогда он стал негативно относится к политике нацистского руководства, считая, что оно ведет дело к развязыванию новой мировой войны, в которой Германии неизбежно грозит поражение. Скептицизм Лееба еще более усилился после гибели в боях под Львовом его сына. Свою задачу по сковыванию превосходящих сил французов во время так называемой «странной войны» на Западе, пока главные силы немецко-фашистского вермахта были задействованы в Польской кампании 1939 года, Лееб выполнил успешно. Однако следует отметить, достигнутый успех являлся не столько его заслугой, сколько благоприятным для немцев стечением обстоятельств. Англо-французские союзники не воспользовались выгодным моментом для нанесения по Германии решительного удара с Запада, хотя и располагали большим превосходством в силах. В то время, когда главные силы вермахта были задействованы в Польше, они попросту бездействовали, преследуя свои корыстные внешнеполитические цели.
При планировании наступления против Франции, которое началось осенью 1939 года, сразу же после разгрома Польши, Лееб выступил против вторжения германских войск во Францию через территорию нейтральной Бельгии, как это было в Первую мировую войну. Он считал, что такой вариант недопустим по моральным соображениям, поскольку в этом случае против Германии ополчится весь мир, и новая мировая война станет неизбежной. Исходя из этого, Лееб предлагал заключить мир с западными державами. Чтобы подтолкнуть Гитлера к заключению мира, он даже предпринял попытку организовать некий демарш в виде коллективной отставки всех трех командующих группами армий на Западном фронте, но натолкнулся на отказ Г. фон Рундштедта и Ф. фон Бока поддержать его.
В ходе Французской кампании 1940 года группа армий Лееба играла вспомогательную роль, сковывая крупные силы французов на «линии Мажино». После разгрома основных сил союзников на главном направлении войска группы армий «Ц» осуществили прорыв этой сильно укрепленной оборонительной полосы и завершили разгром французской армии. За кампанию во Франции Лееб был произведен в генерал-фельдмаршалы (19 июля 1940 года) и награжден Рыцарским крестом. Осенью 1940 года Лееб вместе со своим штабом был переброшен в Дрезден, а весной 1941-го — в Восточную Пруссию, где возглавил командование группы армий «Север» (16-я, 18-я армии, 4-я танковая группа и 1-й воздушный флот). Эта стратегическая группировка немецко-фашистских войск составляла левое крыло германского Восточного фронта в войне против Советского Союза. Ее задача заключалась в нанесении удара из Восточной Пруссии через Прибалтику на Ленинград. Против войны с СССР Лееб также пытался возражать, но Гитлер и Браухич оставили без внимания все его доводы.
Летом 1941 года войска, возглавляемые Леебом, разгромили части Красной Армии в Прибалтике, оккупировали ее и к середине сентября 1941 года вышли к Ленинграду. Но 12 сентября 1941 года Гитлер приказал Леебу прекратить подготовку к штурму этого города и перейти к его блокаде. Одновременно из состава группы армий «Север» были изъяты и переброшены на московское направление 4-я танковая группа, целый ряд частей различного назначения и большая часть авиации 1-го Воздушного флота. Попытка Лееба возражать против этого решения фюрера успеха не имела. 8 ноября 1941 года войска Лееба по приказу Гитлера овладели Тихвином и перерезали последнюю железнодорожную магистраль, по которой через Ладожское озеро осуществлялось снабжение осажденного врагом Ленинграда. В середине ноября 1941 года советские войска перешли в контрнаступление, 9 декабря выбили противника из Тихвина, а затем с большими потерями отбросили его за р. Волхов. 12 января 1942 года Лееб обратился к Гитлеру с просьбой разрешить ему отвести из района Демянска один из своих корпусов, который оказался выдвинутым далеко вперед от основных сил 16-й армии и в случае перехода русских в наступление мог оказаться в окружении. Гитлер отказался выполнить эту просьбу. Через несколько дней произошло то, чего опасался Лееб, — 2-й армейский корпус был окружен советскими войсками и оказался в так называемом Демянском котле. Терпение Лееба, уже давно возмущавшегося дилетантским самоуправством Гитлера, совершенно не считавшегося с мнением даже командующих группами армий (фронтов), наконец лопнуло, и он 16 января 1942 года подал рапорт об отставке. На следующий день отставка Гитлером была принята.
