По условиям Версальского мирного договора 1919 года державы-победительницы разрешили Германии иметь военно-морской флот всего лишь в составе 6 старых линкоров, 6 еще более старых легких крейсеров, 24 эсминцев и миноносцев. Личный состав такого флота не должен был превышать 15 тыс. матросов и 1,5 тыс. офицеров. Подводный флот иметь было запрещено. Вернувшись из плена, Дениц продолжил службу в военно-морском флоте Веймарской республики. Имея отличный послужной список и определенные боевые заслуги (за время Первой мировой войны Дениц был удостоен нескольких боевых наград), он в числе очень немногих офицеров бывшего кайзеровского флота был оставлен на военно-морской службе и назначен офицером отдела кадров военно-морской базы Киль (август 1919 года). В марте 1920 года назначен командиром миноносца, которым прокомандовал более 3 лет. В 1921 году произведен в капитан-лейтенанты. В 1923 году переведен в военно-морскую инспекцию в Киле, участвовал в разработке новых образцов морского вооружения. Осенью 1924 года окончил курсы штабных офицеров (нелегальные курсы офицеров Генерального штаба, иметь который Германии было запрещено) и получил назначение в Главный штаб ВМФ (Берлин). Принимал участие в разработке новых военно-морских уставов, наставлений и разного рода инструкций, а также осуществлял контакты командования ВМФ с рейхстагом.
В 1927 году в рейхстаге разразился политический скандал, связанный со ставшей достоянием широкой общественности информацией о тайном строительстве кораблей для германского военно-морского флота. В результате ряд высших офицеров германского ВМФ был вынужден подать в отставку, другие были смещены со своих постов. Лишился своей должности и Дениц. Однако ему все же удалось удержаться на службе, т. к. в ходе расследования выяснилось, что его роль во всем этом деле была крайне незначительной. Через некоторое время он был назначен штурманом легкого крейсера «Нимфа» на Балтике, а осенью 1928 года получил должность командира 4-й полуфлотилии (4 миноносца) 1-го дивизиона миноносцев на Северном море; капитан 3-го ранга. В 1930—1934 годах офицер штаба военно-морской базы в Вильгельмсхафене; капитан 2-го ранга (1933). Занимался вопросами внутренней безопасности, главным образом— борьбой с социалистическим и коммунистическим влиянием на флоте.
Будучи монархистом по воспитанию и убеждениям, Дениц в годы Веймарской республики был далек от политики, посвящая все свое время только делам службы. Как и большинство кадровых офицеров армии и флота, он руководствовался принципом, что вооруженные силы должны стоять вне политики. Однако с приходом в январе 1933 года к власти в Германии нацистов он отходит от прежних убеждений и становится активным сторонником новой власти, хотя в НСДАП и не состоял. В 1933 году за отличие по службе удостоен стипендии президента Германии — годичного путешествия по странам юговосточной Азии. По возвращении в 1934 году из этого путешествия направлен в служебную командировку в Великобританию, после которой назначен командиром легкого крейсера «Эмден» (осень 1934). Под его командованием этот крейсер совершил кругосветное плавание, из которого вернулся в Вильгельмсхафен летом 1935 года. Пока Дениц находился в кругосветном плавании, в Германии произошли серьезные изменения, касающиеся военно-морского флота.
1 февраля 1935 года Гитлер в нарушение условий Версальского договора приказал приступить к строительству подводных лодок, а в марте того же года официально объявил об одностороннем отказе Германии соблюдать условия Версальского мирного договора 1919 года. Вернувшийся из длительного морского похода Дениц назначается командиром 1-й флотилии подводных лодок (11 малых ПЛ). Так произошло возвращение старого подводника в подводный флот (июль 1935 года). 1 октября 1935 года Дениц был произведен в капитаны 1 ранга, а в 1936 году Гитлер назначил его «фюрером подводных сил», т. е. фактически командующим подводным флотом Германии. Вступив в должности, он энергично взялся за возрождение подводного флота Германии. Он глубоко изучает иностранные труды, сам разрабатывает руководства и наставления по боевому применению подводных лодок, руководит конструированием субмарин, вникает во все мелочи, связанные с подготовкой и ведением будущих боевых действия на море, создает теорию ведения подводной войны. Дениц считал, что основное назначение подводного флота — это действия на морских коммуникациях противника (под ним подразумевалась, прежде всего, Великобритания) с целью подрыва его экономического потенциала. По его мнению, жесткая морская блокада противника должна была свести на нет его военную мощь и обеспечить Германии победу в будущей войне. Наиболее эффективным способом боевого применения подводных лодок Дениц считал действия их отдельными группами, которым он дал наименование «волчьи стаи». Настоял на строительстве подводных лодок, пригодных для действий на океанских просторах. Однако его далеко идущие планы натолкнулись на жесткое противодействие главного командования ВМФ и прежде всего — главнокомандующего Э. Редера, который был убежден, что войну на море можно выиграть только с помощью мощных соединений крупных надводных кораблей и негативно относился к идеям Деница. Между Деницем и командованием кригсмарине (ВМС) развернулась упорная борьба, которая велась из-за приоритетов в строительстве военно-морских сил и, следовательно, из-за выделяемых на это финансовых ресурсов. Победил Дениц, заручившийся поддержкой Гитлера. Редер и его сторонники были отстранены от вмешательства в дела подводного флота, а «фюрер подводных сил» получил необходимую свободу действий. Однако быстро реализовать свой план создания подводного флота из 300 субмарин Дениц не смог. Причина заключалась в ограниченных возможностях германской кораблестроительной промышленности, — она могла выпускать только по 2 подводных лодки в месяц. Поэтому к началу Второй мировой войны германский подводный флот насчитывал всего лишь 57 подводных лодок, из которых только немногим более 1/3 могли действовать на океанских коммуникациях. Тем не менее войну подводники Деница начали успешно. В течение первого же месяца (сентябрь 1939 года) они потопили около 30 кораблей и судов противника общим водоизмещением 175 тыс. т, в том числе были уничтожены английский авианосец «Корейджес» (водоизмещение 22,5 тысяч тонн), торпедированный в Северной Атлантике подводной лодкой капитан-лейтенанта Шугарта, и несколько эсминцев. 1 октября 1939 года Дениц получил чин контр-адмирала, и должность его теперь стала официально называться — командующий подводными силами германского ВМФ. В ночь на 14 октября 1939 года подводная лодка U-47 (капитан-лейтенант Г. Прин) совершила невероятное. Она проникла в тщательно охраняемую главную базу английского флота Скопа-Флоу и потопила линкор «Ройал Оук» (водоизмещение 31,2 тыс. т). Вместе с флагманом английского флота погибли свыше 800 человек его команды, включая и командующего флотом адмирала Бенгроува. Эта блестящая с точки зрения военно-морского искусства операция была разработана лично Деницем. К 1 апреля 1940 года потери Великобритании в морском тоннаже составили более 340 тыс. т. Однако для англичан, располагавших тоннажем в 24 млн т и ежемесячно спускавших с верфей на воду судов водоизмещением 200 тыс. т, эти потери не являлись слишком уж тяжелыми. Английский флот по-прежнему продолжал сохранять господство на море, а морские коммуникации Великобритании немецким подводным лодкам нарушить не удалось.