В 1937 году Кононов становится слушателем заочного, а с ноября того же года. очного отделения военной академии им. Фрунзе, которое заканчивает в 1938 году. Приказом наркома обороны ему было присвоено звание майора.
После получения высшего военного образования Кононов назначается начальником оперативного отдела штаба 2-го Кавкорпуса Киевского особого военного округа и участвует в составе его войск в польской кампании осенью 1939 года.
Затем было участие в советско-финской войне, где за боевые заслуги он был награжден орденом Красной Звезды. В августе 1940 года Кононов был назначен командиром 436-го полка 155-й стрелковой дивизии Западного военного округа, дислоцировавшегося в г. Барановичи.
После начала войны полк с первых же дней войны оказался в самом пекле боев. на Белостокском выступе, вскоре ликвидированном немцами. К концу июня войска 10-й армии оказались в окружении западнее Минска, затем вышли к своим в район Налибокской пущи, где попали в окружение вторично.
Как позднее утверждал сам Кононов, он предварительно сговорился с немцами и его полк в полном составе перешел на их сторону. Согласно советской версии, Кононов сознательно поставил полк в невыгодную позицию, чем воспользовались немцы. По утверждению полковника В.В. Позднякова, Кононов сдался немцам вместе с одним из батальонов полка и сразу же заявил о своем желании поквитаться с Советами. По оценке исследователя К.А. Александрова, вероятнее всего, 22 августа 1941 года на сторону немцев вместе с Кононовым перешла большая группа военнослужащих вместе с заместителем командира полка по политической части Д. Панченко.
На первых же допросах Кононов предложил офицерам Абвера разрешить ему сформировать добровольческий казачий полк для участия в боевых действиях. Предложением заинтересовался командующий войсками безопасности тылового района группы армий «Центр» генерал М. фон Шенкендорф.
Уже 10 сентября Шенкендорф получил «добро» на формирование донского казачьего полка во главе с Кононовым. за месяц до поступления в войска официального разрешения ОКВ на создание казачьих охранных сотен. От Абвера создание казачьего полка курировал лейтенант, граф Ганс Аурель фон Риттберг. Интересно, что перебежавший от Кононова к партизанам казак Малофеев А.Ф. утверждал, будто Кононов с 1932 года был связан с Абвером через Риттберга.
Отбор личного состава из лагерей военнопленных Орши, Могилева, Смоленска, Витебска и Гомеля производился самим Кононовым. В могилевском лагере из 4000 желающих он отобрал 405 казаков и 137 не казаков. К концу октября в Могилеве им была сформирована 102-я казачья добровольческая часть, позднее переименованная в 600-й казачий дивизион. В разных источниках это формирование именуется полком, дивизионом или батальоном. Сами казаки-кононовцы могли именовать свою часть полком, но по немецким реестрам она числилась дивизионом. К 15 сентября 1941 года в Могилев прибыло более 1 тысячи добровольцев, и к 19 сентября у Кононова были 77 офицеров, 201 урядник и 1521 казак.
По свидетельству все того же Малофеева набор военнопленных в полк, Кононов проводил в Смоленском госпитале следующим образом:
«…По требованию Кононова и Риттберга излечившихся военнопленных выстроили и объявили им, что с этого дня они зачисляются в казачий полк. Так как большинство из них казаками не были, им объявили, что всех не казаков делают казаками, а после войны поселят на Дону и присвоят казачье звание. Точно так же производился набор в полк в госпиталях и лагерях… Основной принцип набора. хорошее физическое состояние…»
Уже 27.29 октября в районе деревень Шепелевичи. Мортяновичи. Глубокое под Могилевом сотнями Кононова был уничтожен советский десантный отряд майора Яснова и старшего батальонного комиссара Гущенко численностью около двух батальонов. Десантники потеряли 171 человека убитыми, 348 ранеными и 257 пленными. Казаки потеряли 63 человека ранеными и 29 убитыми.
В начале 1942 года кононовцы приняли участие в боях против партизан и корпуса генерал-майора П.А. Белова под Вязьмой, Полоцком, Великими Луками. 22.24 ноября 1942 года группа сотника Сидорова захватила военный трибунал одного из советских корпусов, освободила 9 красноармейцев, приговоренных к расстрелу и 23 арестанта, сидевших под замком. С весны 1942 года батальон успешно воевал против партизан в районе близ Могилева.
В 1942 году Кононов был произведен в чин подполковника (войскового старшины). В ноябре-декабре 1942 года началось переформирование 600-го казачьего батальона в дивизион. В феврале 1943 года кононовская часть включала в себя штаб, 6 кавэскадронов, 3 эскадрона мотоциклистов и артдивизион. всего около 2300 человек. На базе батальона был сформирован 17-й казачий танковый батальон, вошедший позднее в подчинение 3-й танковой армии под Великими Луками в конце мая 1942 года.
В январе 1943 года казаков посетил генерал-лейтенант Власов. С момента встречи с будущим руководителем Ос161 вободительного Движения Кононов стал его убежденным сторонником. 15 апреля 1943 года в дивизионе вспыхнуло восстание.
Большая часть 3-го и 4-го эскадронов и артдивизиона, перебив часть военнослужащих, ушла в лес к партизанам. В июне 1943 года ушли к партизанам 16 казаков во главе с эмигрантом князем Н.М. Гагариным.
В этой обстановке Кононов получил приказ об отправке своей части в Польшу на полигон в Млау (Млаве), где с апреля 1943 года начала формироваться 1-я Казачья кавдивизия Вермахта.
Здесь он не смирился с кадровой политикой, проводимой командиром дивизии полковником Х. фон Паннвицем в части касающейся назначения командирами дивизионов и выше исключительно немецких офицеров. Паннвиц пошел навстречу строптивому офицеру и назначил его на должность командира 5-го Донского казачьего полка 2-й Кавказской бригады полковника Боссе. В кононовском полку все офицерские должности занимали казачьи, а не немецкие офицеры.
В конце сентября 1943 года части дивизии начали перебрасывать в Югославию для борьбы с партизанами. Здесь полк Кононова был отмечен боевыми отличиями за борьбу с местными повстанцами и занимал первое место по грабежам в партизанских деревнях. Сказывался российский опыт.
В 1944 году Конононов получил чин полковника, был отмечен Железными Крестами 1-го и 2-го классов, Рыцарским крестом Хорватской державы, многочисленными «восточными» медалями.
В ходе боевых действий в Югославии кононовцы отличились в Босанском походе 2-й Кавказской бригады Боссе зимой 1943.1944 гг., в районе Загреба в августе 1944 года, где уничтожили ряд баз титовцев, в кровопролитном штурме Баньи-Луки в сентябре 1944 года. Отличился полк Кононова и в боях на фронте с наступающими частями Красной Армии.
О состоянии 5-го Донского полка говорилось в приказе по полку № 179 от 11 декабря 1944 года:
«1. Полк совершил в течение нескольких дней очень большой марш. Из моих личных наблюдений я установил, что многие офицеры, вахмистры и унтер-офицеры уделяли большое внимание порядку, дисциплине и боевой готовности своих подразделений. Особенно я отмечаю 2-й дивизион, который свыше 300 километров прошел пешком, и, несмотря на усталость людей, я видел порядок и дисциплину. Вчера особенно отличился 8-й эскадрон, который энергично сбил противника, захватив тяжелый пулемет. Командиру эскадрона, командирам взводов, вахмистрам, унтер-офицерам и казакам эскадрона объявляю благодарность.
2. Все же, несмотря на порядок и дисциплину на марше, я видел отдельных разгильдяев, пьяные, между собой подрались, набили друг другу физиономии, едут с синяками и подбитыми глазами. Иногда даже отдельные казаки в пьяном виде отставали от строя. Категорически запрещаю на марше или при выполнении боевых задач употребление спиртных напитков.
Я отдельных лиц наказал, и впредь буду наказывать. Запомнить всем, что разгильдяям, пьяницам и дебоширам в нашем славном дорогом полку места и пощады никогда не будет.
3. В пути, я видел, у отдельных повозок ломались колеса, рвалась сбруя. Все это является результатом невнимательной подготовки обоза и сбруи к движению.
4. Во время движения, когда шел дождь или снег, отдельные казаки и даже унтер-офицеры садились на повозки, закрывшись плащ-палатками и не видя, что делается в подразделении. Отдельные ездовые утеряли кнуты, отдельные казаки выглядят подчас очень безобразно: с поднятыми воротниками, руки в карманах, в папахе или пилотке, надетой как попало. Без команды курят, разговаривают. Некоторые спешат вперед себя устроить, а потом уж лошадей. Отдельных лошадей не убирали и не кормили как следует. Другие не следовали со строем или обозом, а выскакивали на тротуар.
Приказываю: вышеуказанное внимательно проработать вплоть до унтер-офицера и необходимые пункты довести до сведения казаков.
5. Полк прибыл в район, где находится очень много различных банд, а также недалек и фронт. Население к нам доброжелательно. Поэтому быть исключительно внимательными и дисциплинированными по отношению к нему, а также и к усташам, домобранам и местным хорватским властям, чтобы не было никаких недоразумений. Буквально избегать ненужных трений и споров. Быть исключительно внимательным, принять бои в любое время дня и ночи, учитывая подчас наличие сильного противника, как наземного, так и с воздуха.