В тот же день начальник Генерального штаба РККА издал директиву о проведении операции по окружению и разгрому противника в районе Смоленска. В распоряжение маршала С. К. Тимошенко из фронта Резервных армий передавалось 20 дивизий. 9 кавалерийских дивизий сосредотачивались в районе Смоленска. Эти соединения поступали в состав 5 новообразованных оперативных армейских групп, которые должны были нанести одновременный удар: две из них под командованием генерал-майора В. А. Хоменко (первоначально 2 стрелковые и 107-я танковая дивизии) и генерал-лейтенанта С. А. Калинина (3 стрелковые дивизии) — из районов Белого и южнее его, третья — генерал-майора К. К. Рокоссовского (2 стрелковые и 101-я танковая дивизии) — со стороны Ярцево и четвертая под командованием генерал-лейтенанта В. Я. Качалова (2 стрелковые и 104-я танковая дивизии) — от Рославля по сходящимся направлениям на Смоленск. Группа войск 29 А генерал-лейтенанта И. И. Масленникова должна была нанести поражение соединениям 3-й танковой группы вермахта и пробиться к Витебску. После разгрома противника они должны были соединиться с основными силами 16-й и 20-й армий, окруженных в Смоленске. Общее руководство наступлением возлагалось на командующего Западным фронтом, которым с 19 июля 1941 года стал генерал-лейтенант А. И. Еременко. Членом Военного совета был назначен дивизионный комиссар Д. А. Лестев, начальником штаба фронта — генерал-лейтенант Г. К. Маландин.
Чтобы поддержать и прикрыть ударные группировки с воздуха, выделялись 3 авиационные группы, каждая в составе до смешанной авиационной дивизии, а для содействия наступавшим с фронта войскам была создана кавалерийская группа (3 дивизии) с задачей совершить рейд по тылам могилевско-смоленской группировки противника. Группа под общим командованием генерал-лейтенанта О. И. Городовикова была сосредоточена в полосе 21 А. В целях повышения боевых возможностей в большинство стрелковых дивизий оперативных групп, предназначенных для наступления, включили по одному танковому батальону из 21 танка каждый (в частности, 102-я танковая дивизия таким образом сформировала 3 отдельных батальона. — Примеч. авт.), в группу генерала Хоменко включили 107-ю танковую дивизию, в группу генерала Качалова — 104-ю танковую дивизию, а в группу генерала К. К. Рокоссовского — 101-ю танковую дивизию, части 7-го и 17-го механизированных корпусов и отдельные подразделения 105-й танковой дивизии. К 20 июля штаб 7-го мехкорпуса, на базе которого разворачивали штаб армейской оперативной группы Рокоссовского, и все его части сосредоточились в районе населенных пунктов Сосновка, Теплуха, Митьково. К 23 июля управление корпуса и его тылы были отведены к населенному пункту Сосновка в 20 км северо-восточнее Вязьмы. Оперативная группа управления корпуса в этот же день выехала в распоряжение генерала Рокоссовского. Туда да же под Ярцево были отправлены сводный батальон и мотоциклетная рота. Всех танкистов отправили в резерв фронта в запасной полк для переобучения. Остальной личный состав корпуса вооружили и отправили на фронт. От корпуса также был выделен сводный мотострелковый полк и отправлен в распоряжение Рокоссовского.
17-й механизированный корпус выделил свой моторизованный полк, который к 23 июля поступил в распоряжение группы войск Рокоссовского. 101-я танковая дивизия, как уже упоминалось, имела к началу боев 220 танков, из них исправных осталось не более 60, остальные были потеряны в боях под Ярцево 18–21 июля. Большинство танков сгорело от огня артиллерии противника. К 23 июля танки дивизии в атаку уже не посылались, их держали в резерве на случай контратаки и использовали в качестве огневых точек. 107-я танковая дивизия на 20 июля имела в своем составе около 210 танков и выдвинулась для поддержки стрелковых соединений 30 А[31].
104-я танковая дивизия, привлекаемая для контрудара, была выведена прямо из боя. В период с 19 по 22 июля 104 тд поддерживала 19-ю стрелковую дивизию, действующую под Ельней. В этих боях из состава 104-й танковой дивизии участвовало 22 танка БТ и Т-26, а 21 июля в атаке участвовало 28 танков БТ и Т-26 и один танк КВ.
Танки 104-й танковой дивизии, выполняя задачи непосредственной поддержки пехоты 19-й стрелковой дивизии, несли потери по причине отсутствия хорошо организованного взаимодействия с пехотой и артиллерией. Отдельные танки врывались в Ельню, тогда как пехота оставалась далеко позади, а артиллерия не знала, где в данный момент ведут бой танки. Кроме того, подготовка танковой атаки была настолько скоропалительной, что необходимых разведывательных данных о системе противотанковой обороны противника штабы танковых полков и дивизий не имели. И как результат, танки, подавив часть огневых точек противника, на подступах к Ельне были встречены сильным противотанковым и артиллерийским огнем, а затем, неся большие потери, возвратились на исходные рубежи к своей пехоте.
Противник в борьбе с нашими танками широко применял термические снаряды, ввиду чего большая часть танков горела от артиллерийских выстрелов. Несмотря на храбрость и героизм, в контратакующих советских частях царила неорганизованность и неразбериха. Так, 104-я танковая дивизия, действующая в районе Ельни, трижды получала приказ командующего 28-й армии о совместных действиях с 19-й стрелковой дивизией по захвату Ельни, но ни одного из них не смогла выполнить по причине того, что приказом командарма выводилась на новое направление. Так, например, 20 июля дивизия получила приказ о выходе в район Ворошилово. Части 104 тд были выведены из боя в ночь на 21 июля и с утра начали марш в указанный район. В 6.00 дивизия вновь получила приказ о совместных действиях с 19 сд по захвату Ельни, поэтому части соединения вновь были возвращены в исходное положение. В течение ночи на 22 июля со штабом 19 сд и с артиллерией были увязаны все вопросы взаимодействия, но в 4.00, то есть за два часа до атаки дивизия получила приказ выйти в район Ковали. Или другой пример: согласно приказа командующего 28-й армией и распоряжения командира 149-й дивизии танковый батальон с батальоном пехоты был направлен для ликвидации якобы высадившегося десанта в районе Средней Усохи. Батальон совершил марш около 180 км и с потрепанной матчастью возвратился в дивизию, так как никакого воздушного десанта не оказалось.
22 июля в момент дневного перехода из района Ельни в район села Ковали 104-я танковая дивизия подвергалась у деревни Лосинок мощным ударам авиации противника. С 24 июля дивизия начала вести боевые действия в районе Ворошилово. 104 тд было приказано перейти в район Новоселье, Герасимовка, Егоровка с задачей — действуя в направлении населенных пунктов Починок, Шумаево, Хмара, овладеть в районе села Егоровка переправами через реку Хмара и не допустить отхода противника на север[32].
Для обеспечения успешности контрнаступления на Западный фронт были переброшены новые формирования реактивной артиллерии. В ночь на 22 июля в оперативное подчинение 19-й армии генерал-лейтенанта И. С. Конева убыла 2-я батарея РС (командир — лейтенант А. М. Кун) из 9 установок. Вскоре за ней последовала батарея (3 пусковые установки) под командованием старшего лейтенанта Н. И. Денисенко. Она была передана в оперативное подчинение группы войск генерала К. К. Рокоссовского[33].
Первой 23 июля нанесла удар в районе севернее Рославля группа Качалова (145, 149 сд, 104 тд). На следующий день из района Белого перешла в наступление группа Хоменко (107 тд, 242, 250, 251, 166 сд и кавалерийская группа), а в районе Ярцево атаковала группа Калинина. В течение нескольких дней группа Рокоссовского (91, 89, 38 сд, 101 тд, части 105 тд, 7 и 17 мк) отражала атаки противника, пытавшегося прорваться к Ельне и Вязьме, и только 28 июля смогла нанести свой удар силами 38 сд и 101 тд, овладев Ярцево и форсировав реку Вопь. Последней выступила группа Масленникова. Чтобы парировать наступление советских войск, противник использовал все соединения 3-й танковой группы Гота, включая даже и учебные подразделения. Лишенные свободы маневра, наши войска были вынуждены отражать атаки на широком фронте, а на ряде участков перейти к обороне.
Советские войска с трудом продвигались вперед. За четыре дня упорных боев группе Хоменко удалось продвинуться вперед на 20–25 км. Противник понес серьезные потери. На участке одной лишь 107-й танковой дивизии, танковые батальоны которой были приданы мотопехоте, осталось 700 вражеских трупов и более 200 разбитых танков и бронемашин. Но и в 107 тд на 28 июля находилось только 80 исправных танков, а 30 было в ремонте. Преодолевая упорное сопротивление немцев на другом участке, группа Качалова до 27 июля продвигалась вдоль шоссе, ведущего на Смоленск.
Усмотрев в действиях группы серьезную угрозу своим замыслам, германское командование начало перебрасывать в этот район крупные силы. Против трех дивизий генерала В. Я. Качалова было выдвинуто 3 немецких корпуса. Они нанесли сильный контрудар в направлении на Рославль и овладели городом. В результате наши соединения оказались в очень тяжелом положении. Противнику удалось обойти фланги группы, а затем окружить ее. При выходе из окружения группа понесла большие потери. Смертью храбрых погиб и генерал В. Я. Качалов. Однако большинству соединений, в том числе и 104 тд, удалось выйти из окружения. Вот как описан период этих боев в одном из отчетов бронетанковых войск Западного фронта: