Координацию действий фронтов осуществлял представитель Ставки маршал С.К. Тимошенко.
Для проведения операции привлекались 91 дивизия, 3 укрепленных района, 3 танковых и 3 механизированных корпуса, 2 отдельные танковые, 1 самоходно-артиллерийская бригада и 1 мотострелковая бригада, 7 танковых и 20 самоходно-артиллерийских полков — 1 314 200 человек, 16 000 орудий и минометов, 893 установки реактивной артиллерии, 1870 танков и САУ и 2200 боевых самолетов. В составе советских войск находилась 1-я добровольческая румынская пехотная дивизия имени Тудора Владимиреску, набранная из румынских эмигрантов и бывших военнопленных.
В ходе подготовки был осуществлен ряд перегруппировок, на направлениях главных ударов созданы мощные ударные группировки. Здесь было сосредоточено 67–72% пехоты, до 61% артиллерии, 85% танков, почти вся авиация. Благодаря этому на участках прорыва фронты имели превосходство над противником: в людях — в 4–8, в артиллерии — в 6–11, в танках — в 6 раз. Это обеспечивало им возможность непрерывно наращивать мощь ударов и поддерживать высокие темпы наступления. Артиллерийская плотность на участках прорыва достигала 240–280 стволов на 1 км фронта. Столь высокая концентрация огневой мощи позволила Малиновскому отказаться от авиационной подготовки прорыва. Впервые за войну на обоих фронтах была произведена перспективная аэрофотосъемка всех основных маршрутов действия подвижных войск и переправ на глубину 60–80 км. В течение весны фронты мобилизовали в освобожденных районах Украины около 400 тысяч человек, в некоторых соединениях пополнение составляло более половины личного состава.
18–19 августа немцы наконец вскрыли советскую подготовку к наступлению и даже установили дату его начала. Генерал Фриснер обратился ко всем старшим офицерам немецких и румынских войск со специальным воззванием, в котором предупреждал, что в ближайшие дни следует ожидать большого наступления Красной Армии. Фриснер требовал защищать позиции до последней возможности, обеспечить тесное взаимодействие союзных войск: «Плечом к плечу с нашими испытанными румынскими товарищами, полагаясь на нашу боевую подготовку, наше вооружение и наши укрепленные позиции, мы можем с решительной уверенностью встретить эти атаки».
На большее времени не оставалось.
Наступление обоих фронтов началось утром 20 августа после сильной артиллерийской, а на 3-м Украинском фронте и авиационной подготовки, подавившей первую позицию главной полосы обороны.
Войска 2-го Украинского фронта в первый же день прорвали тактическую оборону противника на всю глубину и продвинулись на 16 км. Германское командование, пытаясь остановить продвижение, в районе Ясс бросило в контратаки три пехотные и 1-ю танковую дивизии. Но это не изменило положение, поскольку в дело вступили более 1000 советских танков. В полосе 27-й армии генерала С.Г. Трофименко после преодоления второй линии обороны в прорыв была введена 6-я танковая армия под командованием генерала А.Г. Кравченко, имевшая 506 боевых машин. Это был единственный в ходе Отечественной войны случай, когда танковая армия вошла в «чистый» прорыв. К исходу дня ее соединения вышли к третьей оборонительной полосе, проходившей по хребту Маре. В высоком темпе развивалось и наступление 3-го Украинского фронта. 37-я, 46-я и 57-я армии в течение дня прорвали главную полосу обороны и, продвинувшись в глубину на 12 км, местами вклинились во вторую полосу.
Расчет оказался точен: румыны дрогнули, вновь оголив фланги немецких дивизий. Генерал Фриснер пишет: «…причиной этого сравнительно быстрого успеха явилось не численное превосходство, а прежде всего недостаточная стойкость и ненадежность многих румынских соединений… Значительная часть личного состава этих дивизий бросила свои позиции еще во время артиллерийской подготовки… противник неожиданно быстро сумел глубоко вклиниться в расположение 7-й и 5-й румынских пехотных дивизий, которые покинули свои позиции без боя».
В течение 20 августа группа армий «Южная Украина» потеряла сразу 6 дивизий и в один день оказалась на грани катастрофы. Вечером генерал Велер докладывал: «То впечатление, которое производят румынские части, можно определить как катастрофическое».
На второй день наступления ударная группировка 2-го Украинского фронта вела упорную борьбу за третью полосу на хребте Маре, а 7-я гвардейская армия генерала М.С. Шумилова и конно-механизированная группа генерала СИ. Горшкова — за Тыргу-Фрумос. 21 августа к району прорыва германское командование стянуло части 12 дивизий, в том числе двух танковых. Наиболее упорные бои развернулись на подступах к Яссам, где войска противника трижды переходили в контратаки. Но ввод в сражение в полосе 52-й армии 18-го (250 машин) и 23-го (190 машин) танковых и 5-го гвардейского кавалерийского корпусов сорвали планы Фриснера. К исходу дня войска Малиновского окончательно сокрушили оборону противника. Расширив прорыв до 65 км по фронту и до 40 км в глубину и преодолев третью оборонительную полосу, они овладели городами Яссы и Тыргу-Фрумос и вышли на оперативный простор.
Войска 3-го Украинского фронта в этот день также завершили прорыв. Введенные в сражение 7-й (203 машины) и 4-й гвардейский (237 машин) механизированные корпуса продвинулись до 30 км в глубину и фактически отсекли 6-ю немецкую армию от 3-й румынской.
Вечером 21 августа Ставка Верховного Главнокомандования приказала фронтам как можно быстрее выйти в район Хуши, чтобы завершить окружение группировки противника и открыть дорогу к основным экономическим и политическим центрам Румынии.
22 августа германское командование начало отвод группы «Думитреску» с кишиневского выступа за реку Прут. Одновременно группа «Велер» получила приказ отступить на тыловую оборонительную позицию «Траян». Но было уже слишком поздно. С утра 22 августа в наступление вдоль реки перешла 4-я гвардейская армия генерала И.В. Галанина. Действуя совместно с 52-й армией генерала К.А. Коротеева, она к исходу дня продвинулась на 25 км и овладела двумя переправами через Прут. Обходя узлы сопротивления противника, 18-й танковый корпус совершил стремительный 50-километровый бросок к Хуши. На внешнем фронте окружения советские войска захватили Васлуй. Танковая армия Кравченко устремилась к Фокшанским воротам, чтобы с ходу прорвать укрепленный район и тем самым открыть путь в Центральную Румынию, Болгарию, к границам Югославии и Венгрии.
Крупных успехов добился и фронт Толбухина. Соединения 7-го механизированного корпуса генерала Ф.Г. Каткова вышли в район Гуры—Галбены, а 4-й гвардейский механизированный корпус, заняв Тарутино и Комрат, развивал наступление на Леово. Тем самым 3-я румынская армия была окончательно изолирована от 6-й немецкой армии.
К исходу 22 августа ударные группировки фронтов перехватили основные пути отхода противника на запад. Моряки Дунайской флотилии совместно с десантной группой 46-й армии форсировали Днестровский лиман, освободили город Белгород-Днестровский и развивали наступление в юго-западном направлении.
23 августа 18-й танковый корпус вышел в район Хуши, 7-й механизированный — к переправам через Прут в районе Леушены, а 4-й гвардейский механизированный — к Леово. Оперативное окружение кишиневской группировки противника было завершено.
В тот же день 46-я армия генерала И.Т. Шлемина во взаимодействии с Дунайской флотилией закончила окружение 3-й румынской армии, которая на следующий день прекратила сопротивление. Группа «Думитреску» перестала существовать. 6-я армия перешла в непосредственное подчинение командования группы армий «Южная Украина». Армии была поставлена задача скорее перебросить войска через Прут и организовать оборону на его западном берегу. Но эти попытки были тщетными, фронт рухнул, войсками никто не управлял: «…не существовало уже ни штабов, ни тылов, ни специальных небоевых подразделений; все, от генерала до штабного писаря, превратились в обычных бойцов».
В 20 часов 30 минут 23 августа германскому командованию стало известно о крупнейших политических изменениях в Румынии и падении правительства Антонеску. Положение немецких войск коренным образом изменилось. Через три часа было принято решение, санкционированное Гитлером, об отходе кратчайшим путем в Карпаты. Но и эта задача оказалась невыполнима.
24 августа 5-я ударная армия генерала Н.Э. Берзарина освободила Кишинев. 25 августа было завершено создание внутреннего фронта окружения ясско-кишиневской группировки противника. В гигантском «котле» оказались 18 из 25 немецких дивизий. Почти все находившиеся на фронте румынские соединения к этому времени были разгромлены.
Таким образом, на пятый день операции было достигнуто окружение главных сил группы армий «Южная Украина». Войска, действовавшие на внешнем фронте, заняли города Роман, Бакэу, Бырлад и подошли к городу Текуч. Между внутренним и внешним фронтами окружения образовалась полоса глубиной 100–120 км. Тем самым создавались благоприятные условия для ликвидации окруженной группировки и стремительного наступления советских войск в глубь румынской территории. Эти задачи решались уже в новых военно-политических условиях.