Уже в 1920 году он получил место администратора в управлении одного из крупных имений в Бамберге, а в 1923 году также занял должность инспектора общественных фермерских земель. Нельзя сказать, что Гилле был аполитичен, и хотя к какой-либо партии он пока не примкнул, но в правых ветеранских организациях состоял: в 1922-1926 годах он был членом «Стального шлема». Казалось, жизнь начинает налаживаться, но резкое ухудшение экономической ситуации в 1929 году особенно сильно ударило по сельскому хозяйству. Среди тех, кто остался без работы, оказался и Гилле. Уже во второй раз в своей жизни он оказался на улице. В поиске средств к существованию Герберт был вынужден поступить на работу на автомобильную фабрику в Брауншвейге. Эта работа тяготила его, и как только создалась подобная возможность — а это произошло в 1931 году, — он организовал собственный небольшой бизнес.
Теперь у Гилле появилось некоторое количество свободного времени, да и возраст — 33 года — располагал к принятию важных решений и к поиску новых путей в жизни. Семьей Герберт был не обременен, родители к этому времени уже скончались. Эта ситуация привела одинокого человека в ряды партии, члены которой в большинстве своем были те же фронтовики, его боевые товарищи. Партии, где царил дух того самого фронтового братства, по которому так ностальгировали солдаты Первой мировой. Эта партия называлась Национал-социалистической рабочей партией Германии (НСДАП), и 1 мая 1931 года Гилле стал ее членом № 537 337. В том же году — только несколько позже (10 октября) — Гилле вступил и в СС, получил билет № 39 854.
В СС Гилле сразу же был назначен командиром 5-го штурма 1-го штурмбанна 49-го штандарта СС, штаб-квартира которого размещалась в Госларе. 27 января 1933 года он возглавил автомобильный отряд (Motorstaffel) того же штандарта. После прихода Гитлера к власти СС начали быстро расти, а с этим увеличилось и число руководящих постов. Уже 20 апреля 1933 года Гилле стал начальником штаба 4-го абшнита СС в Брауншвейге, а в октябре 1933 года — одновременно фюрером для особых поручений при 2-м штурмбанне 49-го штандарта СС. Но в общем-то карьерный рост Гилле был крайне медленным — особенно если учесть, что в те годы карьеры делались стремительно (взять хоть того же Теодора Эйке). И несмотря на то что в пользу Гилле говорил опыт фронтового офицера, он после трех лет службы в СС все еще оставался унтерштурмфюрером (это звание он получил 20 апреля 1933 года). Если учесть, что унтерштурмфюрер примерно соответствовал званию лейтенанта, можно сказать, что пока что Гилле еще даже не достиг того, что уже имел — он ведь был обер-лейтенантом в отставке.
Возвращение на военную службуНа военную службу Гилле хотел вернуться всегда, и когда этот шанс ему представился, он долго не раздумывал. Как только началось формирование частей усиления СС, он был одним из первых офицеров, зачисленных в них. 20 мая 1934 года Герберт Отто Гилле был назначен командиром 11-го штурма 3-го штурмбанна 1-го штандарта СС, который в торжественной обстановке в ноябре 1935 года на торжествах во время партийного съезда в Нюрнберге получил название штандарта СС «Дойчланд»[59] и заслуженно считался одной из самых боеспособных частей войск СС. Штандартом, дислоцированным в Эльвангене, командовал другой выдающийся командир войск СС, Феликс Штейнер, с которым Гилле в будущем предстояло не раз сталкивался и воевать под его командованием. 9 ноября 1935 года Гилле перевели на пост командира 12-го штурма, который в июле 1936 года в ходе развертывания штандарта до четырех штурмбаннов был переформирован в 19-й штурм 4-го штурмбанна. Рост в чинах у Гилле также ускорился: если звание оберштурмфюрера СС он получил через два года после предыдущего — 20 апреля 1935 года, то гауптштурмфюрером (то есть капитаном) он стал уже 9 ноября 1935 года.
В конце 1934 года Герберт Гилле решил наконец расстаться с холостой жизнью — все же ему было уже 37 лет. 3 января 1935 года состоялась свадьба, избранницей Гилле стала София Шарлота Меннеке. Невеста была на шесть лет младше супруга — она родилась 31 декабря 1903 года в Штеммене (Нижняя Саксония). Через девять месяцев после свадьбы в семье произошло прибавление: 9 октября родилась дочка. Больше детей у четы Гилле не было.
1 октября 1936 года Гилле распрощался с «Дойчландом»: его ждало новое, более высокое назначение. Теперь он стал начальником штаба другого штандарта частей усиления СС — «Германии». Если быть точным, то в этот момент часть именовалась 2-м штандартом СС, а название «Германия» ему было присвоено в ноябре 1936 года, и тоже на партийном съезде в Нюрнберге. 15 февраля 1937 года Гилле возглавил 2-й штурмбанн своего штандарта, дислоцированный в Арользене, и 20 апреля того же года был произведен в штурмбаннфюреры СС. В составе германских войск штурмбанн участвовал в аншлюсе Австрии, а позже из личного состава «Германии» был сформирован почетный эскорт Бенито Муссолини во время его визита в Германию. После оккупации Чехии штандарт был переброшен в Прагу и стал по документам проходить как караульный полк имперского протектора Богемии и Моравии (Wach-Regiment des Reichsprotektors von Böhmen und Mähren). Как следствие, Гилле был награжден медалями в память 1 октября 1938 года и 13 марта 1938 года (хотя число кавалеров этих медалей было довольно значительным и ничего особенного для их получения совершить в общем-то не было нужно).
В мае 1939 года руководство частями усиления СС взяло курс на формирование более крупного объединения — дивизии. В связи с этим было принято решение кроме существовавших пехотных штандартов, штурмбаннов саперного и связи начать формирование артиллерийских частей. В новые части были откомандированы офицеры из уже существовавших штандартов. То, что выбор пал в том числе и на Гилле, ничего странного не было: он был хорошим строевиком, обладал необходимым опытом, а кроме того, вся его служба в имперской армии прошла именно в артиллерии. Гилле было поручено сформировать 1-й дивизион артиллерийского полка СС (и он, естественно, был назначен его командиром). В крайне сжатые сроки в учебном лагере в Ютербоге Гилле практически с нуля создал дивизион — три батареи по четыре гаубицы в каждой — и начал изнуряющие тренировки личного состава: война была не за горами и надо было в сжатые сроки создать боеспособную часть. Надо сказать, что Гилле это удалось, хотя основная заслуга в создании артиллерийского полка все же принадлежит его первому командиру, оберштурмбаннфюреру СС Петеру Хансену.[60]
Перед Польской кампанией артиллерийский полк был переброшен в Восточную Пруссию. Хотя части усиления СС и не были использованы в качестве единой дивизии, как на это надеялся ее командир Пауль Хауссер, все же эсэсовцы приняли посильное участие в завоевании Польши. Вместе с полком «Дойчланд» артиллерия СС была объединена с 4-й танковой бригадой в группу «Кемпф» (названную так по имени командира — генерал-майора Вернера Кемпфа). В составе I армейского корпуса 3-й армии эсэсовцы приняли в первых числах сентября участие в разгроме польской армии «Модлин», под Млавой, а 6 сентября начали яростные атаки под Пултуском. В дальнейшем группа «Кемпф» успешно осуществляла преследование отступавших частей армии «Модлин», и входившие в нее части показали себя с хорошей стороны. Как указывает ряд источников, в Польской кампании части усиления СС понесли большие потери, чем аналогичные соединения вермахта, что объяснялось несколько более низким качеством командного состава. Однако к дивизиону Гилле это не относилось — артиллеристы обеспечивали артиллерийскую поддержку наступавшим войскам и сами непосредственного участия в военных действиях не принимали, за исключением артиллерийской дуэли, а также эпизодических столкновений. Действия дивизиона были признаны успешными, и по результатам кампании — именно по результатам, а не за конкретные отличия — Гилле был награжден планками к уже имевшимся у него Железному кресту 2-го (26 октября 1939 года) и 1-го (21 ноября 1939 года) класса. Примерно тогда же — 19 октября 1939 года — Гилле был произведен в оберштурмбаннфюреры СС.
