О том, насколько эффективной была деятельность Малиновского в Испании, свидетельствует тот факт, что в 1937 г. он был награжден сразу двумя орденами – Ленина и Боевого Красного Знамени.
После возвращения из спецкомандировки Малиновский служит в штабе Белорусского военного округа (в июне 1940 г. ему присваивается звание генерал-майора), а в марте 1941 г. назначается в Одесский военный округ командиром 48-го стрелкового корпуса, расположенного в Бельцах. Корпус Малиновского встречает 22 июня врага на линии государственной границы по реке Прут и участвует в тяжелом приграничном сражении. Несмотря на то что под напором превосходящих немецко-румынских сил 48-й корпус был вынужден отойти, но провел отход в полном порядке, и стоило это фашистам значительных потерь.
Под Николаевом корпус попал в окружение, но Малиновский сумел прорвать кольцо блокады и после переправы у Каховки выйти к расположению частей Южного фронта.
Командующий Южным фронтом генерал-полковник Яков Черевиченко дал следующую оценку своему комкору: «Тверд, решителен, волевой командир. С первых дней войны товарищу Малиновскому пришлось принять совершенно новые для него дивизии. Несмотря на это, он в короткий срок изучил особенности каждой дивизии. В сложных условиях боя руководил войсками умело, а на участке, где создавалась тяжелая обстановка, появлялся сам и своим личным примером, бесстрашием и уверенностью в победе воодушевлял войска на разгром врага. В течение месяца войны части корпуса Малиновского бессменно вели упорные бои с превосходящими силами противника и вполне справились с поставленными перед ними задачами. Сам Малиновский за умелое руководство представлен к награде».
В августе 1941 г. Малиновский назначается сначала начальником штаба 6-й армии (созданной на базе Резервной армии и управления 48-го корпуса), а вскоре и ее командующим.
Командованием фронта 6-й армии была поставлена задача оборонять днепровский рубеж северо-западнее Днепропетровска, а также сам город. Выполняя ее, особенно тяжелые бои армия ведет с целью выбить немцев из Ломовки (левобережный район Днепропетровска). Несмотря на тяжелые потери, поставленная задача была выполнена – Малиновский не только не допустил прорыва на своем участке, но и надолго сковал значительные силы гитлеровцев, что замедлило их общее продвижение в пределах фронта.
За умелое руководство войсками в ноябре Малиновский награждается орденом Ленина (что в 1941 г. было очень редким явлением) и производится в генерал-лейтенанты.
Продемонстрировавшего свою эффективность полководца Сталин (тщательнейшим образом отслеживавший военные кадры) в декабре назначает командующим Южным фронтом. Верховному главнокомандующему именно на этом фронте был особенно необходим такой решительный и умелый полководец, учитывая, что силами Южного и Юго-Западного фронтов (командующий – генерал-лейтенант Федор Костенко) готовилась Барвенковско-Лозовская стратегическая наступательная операция. Операция проводилась с 18 по 31 января 1942 г. и была, в целом, успешна, в том числе благодаря умелым действиям командующего Южным фронтом. Однако в силу ряда причин, в первую очередь – малое количество танков и артиллерии, а также недостаточное взаимодействие между фронтами, полностью задачи, поставленные Ставкой, выполнены не были.
Стратегической целью операции было нанесение совместного удара силами двух фронтов в общем направлении на Запорожье, чтобы прорвать очаговую немецкую оборону между Балаклеей и Артемовском, выйти в тыл донбасско-таганрогской группировке противника, после чего, отрезав ей путь отхода на Запорожье, прижать к азовскому побережью и полностью уничтожить.
После двухнедельных боев Малиновскому и Костенко удалось прорвать немецкий фронт на 100-километровом фронте, продвинуться на 100 километров и захватить плацдарм (получивший название «Барвенковского выступа»), который угрожал харьковской и донбасской группировкам гитлеровцев.
Пусть и неполному, но все же успеху операции, в частности, способствововало принятое Малиновским нестандартное решение. Он не объединял танковые бригады для нанесения удара (в силу немногочисленности танков это не дало бы необходимого эффекта), а придал их для усиления стрелковым дивизиям, что и позволило взломать немецкую оборону и расширить прорыв.
Немцы в результате Барвенковско-Лозовской операции понесли крупные потери в живой силе. К концу операции в дивизиях 6-й и 17-й полевых армий они составили от 30 до 50 % штатного состава. Не менее ощутимыми для группы армий «Юг» были и потери в технике – только в качестве трофеев Южный и Юго-Западный фронты захватили 40 танков и бронемашин, 658 орудий, 843 пулемета, 331 миномет, 6013 автомашин, 573 мотоцикла.
Наличие Барвенковского выступа сыграло основную роль в проведении в мае 1942 г. Харьковской наступательной операции (задумывавшейся как продолжение Барвенковско-Лозовской), которая закончилась сокрушительным поражением. Харьковская трагедия требует отдельного детального анализа, но следует заметить, что к разработке плана операции Малиновский никакого отношения не имел – от начала до конца это было прерогативой командования юго-западного направления.
В операции было задействовано лишь правое крыло Южного фронта, задача которого сводилась к обороне южного фаса Барвенковского выступа для обеспечения действий Юго-Западного фронта. Но для устойчивой обороны в случае нанесения противником массированного удара войск у Малиновского было недостаточно, а резервы ему выделены не были. При этом еще Южный фронт проводил локальную наступательную операцию по овладению районом Маяков. Однако, как командующий фронтом, Малиновский не сумел организовать прочную эшелонированную оборону.
Из-за этих ошибок командования Юго-Западного фронта немцы сумели 19 мая прорвать оборону 9-й армии Южного фронта и продвинуться на оперативную глубину Несмотря на все усилия Малиновского, противнику удалось выйти в тыл главной ударной группировке фронта, и 9-я армия была вынуждена отойти на левый берег Северского Донца.
Также сильной немецкой ударной группировкой был нанесен удар по 57-й армии, что еще более усугубило положение Южного фронта.
В результате наступательных действий немцев против Юго-Западного и Южного фронтов в окружение из состава войск Малиновского попали пять стрелковых дивизий. Попытка их деблокировать закончилась неудачей, и лишь незначительная часть сумела прорваться к своим благодаря нескольким атакам изнутри кольца.
Командование юго-западного направления – маршал Семен Тимошенко и член Военного совета Никита Хрущев – с целью отведения удара от себя сделали все возможное, чтобы хотя бы часть вины переложить на командующего Южным фронтом. Докладную Сталину они писали таким образом, чтобы Малиновский наряду с ними отвечал за общий провал в районе Барвенковского выступа. По их словам, которые лишь отчасти были справедливы: «Хорошо задуманное и организованное наступление на Харьков оказалось не вполне обеспеченным от ударов противника на барвенковском направлении».
