Сталин сумел создать из этих разных людей, относившихся с предубеждением друг к другу, рабочую группу, которая подготовила оборону Царицына и превратила отдельные красные отряды в боеспособную армию. 23 июня А.Е. Снесарев как военный руководитель Северокавказского военного округа подписал приказ: «Все оставшиеся части бывших 3-й и 5-й армий, части бывшей армии царицынского фронта и части, сформированные из населения Морозовского и Донецкого округов, объединить в одну группу, командующим назначается бывший командующий 5-й армии т. Климент Ефремович Ворошилов». Приказ был утвержден Сталиным. 22 июля в Царицыне был создан Военный совет Северо-кавказского военного округа под председательством Сталина. Членами Военного совета стали К.Е. Ворошилов и С.К. Минин.
Поддерживая командиров – выходцев из народа, Сталин в то же время решительно выступал за превращение плохо организованного красного воинства в дисциплинированную армию. На первом совещании по вопросу о создании солдатских комитетов, подобных тем, что существовали в армии во времена Февральской революции, он энергично поддержал Буденного, который считал ненужной эту затею. Буденный так описал свои первые впечатления о Сталине: «Со стула, поставленного в уголке помещения, поднялся смуглый, худощавый, среднего роста человек. Одет был в кожаную куртку, на голове – кожаная фуражка, утопающая в черных волосах. Черные усы, прямой нос, черные чуть-чуть прищуренные глаза». По словам Буденного, Сталин, положительно оценив роль солдатских комитетов в Февральскую революцию, в то же время «полностью поддержал меня в том, что в Красной Армии создавать солдатские комитеты не нужно – это может посеять недоверие к командирам и расшатать дисциплину в частях».
Общий развал страны, массовое дезертирство в конце 1917 – начале 1918 года, самоуправство солдатских комитетов разложило армию, подорвало основы воинской дисциплины. Донские казаки из белых армий храбро защищали Дон, но многие из них дезертировали, как только фронт уходил далеко от родных станиц. Ко всему прочему казаки не были уверены, что в их отсутствие дома не подвергнутся грабежу. Не лучше было положение и в Красной Армии. Крестьяне, мобилизованные в Красную Армию, не желали терпеть лишений и рисковать своей жизнью за идеи мировой пролетарской революции. Многие из них норовили сбежать в свои деревни и села, несмотря на приказы Троцкого о расстреле дезертиров и их пособников.
Нелегко было призвать к дисциплине и население прифронтового Царицына. Чтобы навести элементарный порядок и соблюдать дисциплину военного времени, Сталину, судя по воспоминаниям СМ. Буденного, «пришлось провести коренную перестройку работы не только гражданских, но и военных учреждений и фактически возглавить оборону города». 24 июля в Царицыне была проведена мобилизация городского населения для строительства оборонных укреплений, были созданы рабочие отряды для охраны города и приняты другие меры для укрепления дисциплины и наведения порядка. В письме Ленину в начале августа Сталин уже мог констатировать «полную ликвидацию отрядной неразберихи и своевременное удаление так называемых специалистов (больших сторонников отчасти казаков, отчасти англо-французов), давшие возможность расположить к себе воинские части и установить в них железную дисциплину».
Помимо общих дисциплинарных мер Сталин постарался укрепить административное звено в управлении армией и тылом. В беседе с сотрудником газеты «Известия» Сталин отметил «два отрадных явления: первое – выделение в тылу фронта администраторов из рабочих, умеющих не только агитировать за Советскую власть, но и строить государство на новых, коммунистических началах, и второе – появление нового командного состава из офицеров, вышедших из солдат и получивших практику в империалистической войне, которому всецело доверяют солдаты Красной Армии».
Верный своему принципу обнаружения «решающего звена», от которого зависит успех, Сталин обратил особое внимание на продовольственное обеспечение армии. Он сообщал корреспонденту, что «благодаря системе базисных пунктов, выделенных самими боевыми участками, фронт не испытывает нужды в продовольствии. В настоящее время ежедневный паек красноармейца состоит из 2 фунтов хлеба, мяса картофеля и капусты».
Одновременно он продолжал заниматься вопросами продовольственного снабжения центральной России, ради решения которых он прибыл в Царицын. Он докладывал Ленину: «Взятие Калача дало нам несколько десятков тысяч пудов хлеба… Уборка хлеба, плохо ли, хорошо ли, все же идет. Надеюсь в ближайшие дни добыть несколько десятков тысяч пудов хлеба и также отправить Вам… Я предписал котельниковскому уполномоченному организовать соление мяса в больших размерах, дело уже начато, результаты есть, и, если дело разрастется, то на зиму мяса будет достаточно (в одном Котельниковском районе скопилось 40 тысяч голов крупного скота)».
Сталин придавал большое значение и пропагандистской работе среди солдат. Он заботился о распространении советских газет и других видов информации в частях, о награждении частей знаменами, а отдельных красноармейцев отличительными знаками.
Всесторонняя подготовка армии и тыла Царицынского фронта принесла свои плоды. В ходе своего наступления, начатого в конце июля, армии генерала Краснова подошли к Царицыну. 18—20 августа развернулись бои на ближних подступах к городу. Именно на 18 августа был назначен мятеж под руководством Носовича, но заговор уже был раскрыт и заговорщики арестованы. Части Краснова были разбиты и в начале сентября отброшены за Дон. Первая победа была отмечена парадом красных частей в Царицыне 10 сентября.
Второе наступление Донской армии (45 тысяч штыков и сабель) началось в конце сентября. Ей противостояла объединенная 10-я армия под командованием Ворошилова (54 тысячи штыков, 10 тысяч сабель, 195 орудий). В эти дни от Сталина, который держал под контролем все нити управления, требовалось максимальное внимание к боевым действиям, но его постоянно отвлекали интриги, которые разгорелись в это время. 3 октября Троцкий потребовал реорганизовать руководство Царицынским фронтом, приказав Сталину и Минину образовать революционный совет Южного фронта и поместить его штаб в Козлове. Приказ Троцкого завершался предупреждением: «Неисполнение в течение 24 часов этого предписания заставит меня принять суровые меры». Сталин и Ворошилов тут же опротестовали этот приказ обращением к Ленину. Однако вскоре Сталину пришлось выехать в Москву. Конфликт закончился компромиссом: был создан новый Реввоенсовет Южного фронта, Ворошилов утвержден командующим 10-й армией, а Сталин включен в состав Реввоенсовета республики.