В декабре 1921 года Рокоссовский был переведен на новое место службы – командиром 3-й бригады 5-й Кубанской кавалерийской дивизии, находящейся в Забайкалье.
В 1924 году он был послан на учебу в Ленинград в Высшую кавалерийскую школу, руководителем которой был В.М.Примаков. Кроме теоретических занятий, курсанты осваивали высшие формы верховой езды, занимались фехтованием. В августе 1925 года Рокоссовский вернулся в Забайкалье.
Осенью 1929 года он принял участие в вооруженном конфликте с китайцами на Китайско-Восточной железной дороге (КВЖД). Здесь Рокоссовский был награжден третьим орденом Красного Знамени. Вскоре он получил назначение на должность командира 7-й Самарской кавалерийской дивизии, находящейся в окрестностях Минска.
Однако прослужил он там недолго. Обострившиеся отношения с Японией на Дальнем Востоке вызвали необходимость переброски туда новых соединений и знающих командиров, каким уже зарекомендовал себя Рокоссовский. Здесь он вступил в командование 15-й кавалерийской дивизией, которую довел до совершенства. За подготовку частей дивизии он был награжден орденом Ленина, а в 1935 году ему было присвоено звание комдива.
В следующем году он получил назначение на должность командира 5-го кавалерийского корпуса, входившего в состав Ленинградского военного округа.
Однако в августе 1937 года Рокоссовский по ложному обвинению в связях с польской и немецкой разведкой был арестован. Лишь в марте 1940 года, благодаря заступничеству нового наркома обороны С.К.Тимошенко, Рокоссовский был освобожден и восстановлен в прежней должности комкора.
В 1940 году в военной жизни Рокоссовского произошло серьезное изменение. В связи с падением в войне роли кавалерии и с возрастанием роли механизированных войск многие бывшие кавалерийские командиры пересели с лошадей в танки. Среди них был и Рокоссовский, назначенный командиром 9-го механизированного корпуса в Киевском военном округе.
Но к началу войны корпус имел лишь танки устаревших образцов (Т-26, БТ-5, БТ-7), новых танков в соединении не было. Это заставило Рокоссовского по собственной инициативе задержать артиллерийские полки дивизий, которые по требованию штаба округа должны были выдвигаться на полигоны.
При первых тревожных сведениях с границы Рокоссовский под собственную ответственность вскрыл мобилизационный план, содержащийся в секретном пакете штаба корпуса, а также центральные склады с боезапасами и горючим. Это позволило его корпусу в короткий срок выступить в направлении Новоград-Волынский, Ровно, Луцк. 24 июня стало днем боевого крещения для всего состава корпуса, принявшего участие в приграничных сражениях с войсками группы армий «Юг». За подготовку корпуса к первым боевым действиям Рокоссовский был награжден четвертым орденом Красного Знамени.
Вскоре он был вызван в Москву, где получил приказ возглавить одну из групп по деблокированию в районе Смоленска окруженных советских частей. Но поскольку этой группы у Рокоссовского не было, ему пришлось сколачивать ее с самого начала, собирая по пути отступавшие войска. Все это позволило ему овладеть Ярцевом, форсировать реку Вонь и закрепиться на ее западном берегу. Зажатые в кольцо советские войска вырвались из окружения.
Прорвавшаяся из Смоленска 16-я армия была объединена с группой Рокоссовского и стала серьезной силой на смоленском направлении. В разгар Ельнинской операции она отвлекала на себя силы группы армий «Центр», не позволяя командованию вермахта перебрасывать их под Ельню. Но в самом начале немецкого наступления на Москву (операция «Тайфун») по приказу командующего Западным фронтом генерала И.С.Конева большинство соединений армии Рокоссовского было передано в соседнюю армию.
16-ю армию пришлось формировать заново, собирая по пути отступавшие соединения. Армия Рокоссовского действовала теперь в районе Волоколамска, где утром 16 октября против нее начали наступление четыре дивизии противника. Недостаток боеспособных соединений Рокоссовский возмещал созданием глубоко эшелонированной обороны и привлечением для борьбы с танками противника всей имевшейся артиллерии. К середине ноября его армия получила свежие пополнения, прибывшие из Сибири и Средней Азии. Как раз начался новый этап гитлеровского наступления на Москву. Бои велись уже на берегах Истринского водохранилища. Были потеряны Солнечногорск и Клин. Бои приблизились к деревне Крюково – важному узлу дорог вблизи столицы. Несколько раз она переходила из рук в руки.
Но в это время Ставка Верховного главнокомандования и командование Западного фронта уже подготовило контрнаступление. Для участия в нем действующие армии получили пополнения отборными соединениями. 16-я армия, как никакая другая, была укомплектована и артиллерийскими полками. 7 декабря армия Рокоссовского начала наступление и ко второй половине дня освободила город Истру. Под Сухиничами (Калужская область) Рокоссовский получил тяжелое ранение. По излечении он на короткое время вновь вернулся командовать 16-й армией, а затем был назначен командующим войсками Брянского фронта, считавшегося относительно спокойным.
В конце сентября 1942 года Рокоссовскому позвонил Сталин и, поинтересовавшись, не скучно ли ему на Брянском фронте, предложил приехать в Москву, где уже шло обсуждение плана контрнаступления под Сталинградом. Вылетев вместе с Жуковым под Сталинград, Рокоссовский вступил в командование Донским фронтом, растянувшимся на 400 км. Перед началом контрнаступления войска получили свежие пополнения. 19 ноября началось контрнаступление, и войска 6-й немецкой армии оказались зажатыми в кольцо. Дальнейшим планом предусматривалось расчленение окруженных войск Паулюса встречными ударами Сталинградского и Донского фронтов. Для усиления войск Рокоссовского Ставка передала ему отборную 2-ю гвардейскую армию под командованием Р.Я.Малиновского.
Ставка уже утвердила план завершения Сталинградской битвы, но в это же время были получены первые известия о начале операции «Зимняя гроза» по деблокированию 6-й армии. Командующий Сталинградским фронтом генерал А.И.Еременко сообщил, что он не сможет имеющимися у него силами отразить наступление группы армий «Дон», и попросил усилить свои войска. Василевский настоял перед Сталиным на том, чтобы 2-я гвардейская армия была использована против группы армий «Дон». Рокоссовский пытался возражать, но безрезультатно. Сталин лишь разрешил Рокоссовскому прекратить операцию по расчленению войск Паулюса и перейти к обороне.
После отражения наступления группы армий «Дон» армия Малиновского была передана в состав Сталинградского фронта. Становилось очевидно, что сокращение масштабов операции и сосредоточение ее на одном объекте требовали передачи управления единому командующему. Им мог быть или командующий Сталинградским фронтом А.И.Еременко, или командующий Брянским фронтом К.К.Рокоссовский. Выбор Сталина пал на Рокоссовского.
Перед началом операции «Кольцо» Рокоссовский предъявил командованию 6-й армии ультиматум, предложив им сдаться на почетных условиях с оказанием медицинской помощи, предоставлением полноценного питания, сохранением личного холодного оружия офицерам и боевых наград. Немецкое командование приняло парламентеров, но объявило им, что не имеет приказа на сложение оружия. На следующий день началась операция «Кольцо», а 27 января и сдача в плен немецких солдат и офицеров. 31 января сдался командующий 6-й немецкой армией генерал-фельдмаршал фон Паулюс. Он был привезен в штаб фронта и допрошен К.К.Рокоссовским и представителем Ставки маршалом артиллерии М.И.Вороновым. Паулюсу предложили отдать приказ о капитуляции своих войск во избежание бессмысленного кровопролития, но он отказался, сказав, что теперь не является их командующим.
Уже к утру следующего дня к части города, занятой немецкими войсками, была стянуты все гвардейские минометы. Плотность орудий на километр фронта доходила до 338. А всего минометов было 1656. После пятнадцатиминутного огневого налета началась массовая сдача в плен всей 91-тысячной сталинградской группировки. За Сталинградскую битву Рокоссовский был награжден орденом Суворова I степени.
Донской фронт был переименован в Центральный, и все его силы было приказано переместить в район Ельца. Однако значительных результатов достичь не удалось, и фронт стабилизировался в районе Курска и Орла. В ходе наступления советских войск образовалась Курская дуга, северный фас которой занимал Центральный фронт, перешедший к обороне.
Гитлеровское командование на протяжении нескольких месяцев готовило операцию «Цитадель», намереваясь нанести в расположении Центрального фронта главный удар на Поныри, которые обороняла 13-я армия генерала Н.П.Пухова. В ночь с 4 на 5 июля командарм позвонил Рокоссовскому и сообщил, что захвачен разведкой немецкий сапер, делающий проходы в минных полях, который сообщил, что в 3 часа ночи начнется немецкое наступление. Рокоссовский сообщил об этом Жукову, находившемуся в штабе фронта. Тот ответил, что время терять нельзя и предоставил Рокоссовскому право самому решать, открывать ли артиллерийскую подготовку. Рокоссовский отдал соответствующее приказание. Жуков немедленно доложил Сталину о начале Курской битвы. Немецкие войска все же начали наступление. Получив сведения об атаках противника, Рокоссовский не стал требовать от командиров срочных донесений, а объявил своему штабу, что отправляется спать. Он знал, что командармы позвонят сами, когда у них появятся новости.
