Задачи мирного строительства принципиально отличались от тех, что решала партия в годы его «революционного ученичества», а потому он подчеркивал, что партия «исключила из арсенала пролетариата ставшие теперь уже ненужными в России такие формы борьбы, как забастовку, восстание». Сталин признавал, что решение новых задач потребует качественного повышения уровня партийной работы: «Раньше можно было обойтись без знатоков военного дела и хозяйственного дела, ибо работа партии была по преимуществу критическая, а критиковать легко… Теперь партия не может обойтись без знатоков дела; наряду с использованием старых специалистов, она должна выработать своих знатоков: формировщиков, снабженцев, операторов (по военной линии), продовольственников, сельскохозяйственников, железнодорожников, кооператоров, знатоков индустрии, внешней торговли (по хозяйственной линии). Без этого строить нельзя».
Мирное строительство требовало обеспечение стабильности внутри Советской страны и безопасности ее границ. Решение этих задач в значительной степени зависело от положения на окраинах Советской страны, населенных главным образом национальными меньшинствами. Поэтому вопросы регулирования межнациональных отношений, которыми занимался Сталин как нарком по делам национальностей, приобретали огромное значение.
Сразу же после возвращения с фронтов Гражданской войны и краткого отпуска Сталин опубликовал в «Правде» 10 октября 1920 года статью «Политика Советской власти по национальному вопросу в России», в которой он подчеркивал: «Три года революции и гражданской войны в России показали, что без взаимной поддержки центральной России и ее окраин невозможна победа революции, невозможно освобождение России от когтей империализма». Сталин обращал особое внимание на экономическую взаимозависимость России и ее окраин: «Центральная Россия, этот очаг мировой революции, не может долго держаться без помощи окраин, изобилующих сырьем, топливом, продуктами продовольствия. Окраины России, в свою очередь, обречены на неминуемую империалистическую кабалу без политической, военной и организационной помощи более развитой центральной России».
Хотя Сталин и признавал право на отделение от России национальных меньшинств, он осуждал попытки воспользоваться этим правом. Он писал: «Требование отделения окраин от России, как форма отношений между центром и окраинами, должно быть исключено не только потому, что оно противоречит самой постановке вопроса об установлении союза между центром и окраинами, но, прежде всего, потому что оно в корне противоречит интересам народных масс». Сталин видел лишь две альтернативы для развития национальных окраин: «либо вместе с Россией, и тогда – освобождение трудовых масс окраин от империалистического гнета; либо вместе с Антантой, и тогда – неминуемое империалистическое ярмо. Третьего выхода нет».
«Советизация» Армении в конце 1920 года, а затем и Грузии весной 1921 года свидетельствовали о том, что взгляды Сталина на эти республики, отделившиеся от России, были присущи многим в руководстве Советской страны. После этих событий границы Советской страны на Кавказе проходили в основном там, где они существовали до революции 1917 года. Восстановлены были и дореволюционные границы в Средней Азии. Лишь западная граница существенно сдвинулась в сторону центральной России после создания независимых государств: Польши, Финляндии, а также трех прибалтийских республик.
В июле 1921 года Сталин прибыл на свою родину, которая незадолго до того была «советизирована». Выступая на собрании тифлисской организации коммунистической партии Грузии, Сталин подчеркивал экономическую и социальную обусловленность союза Грузии с Россией и соседними закавказскими республиками. Он призывал «раздавить гидру национализма и создать здоровую атмосферу интернационализма для облегчения хозяйственных усилий советских республик Закавказья при сохранения независимости этих республик».
В то же время Сталин обращал внимание на необходимость сохранения и развития национальных черт на окраинах страны ради укрепления Советской власти: «Необходимо, чтобы Советская власть стала… родной и близкой для народных окраин России. Но для того, чтобы сделаться родной, Советская власть должна стать прежде всего понятной для них». Он призывал выдвигать в руководство национальных образований прежде всего представителей местного населения. Он особо подчеркивал важность развития национальных языков: «Одно из двух: либо украинский, азербайджанский, киргизский, узбекский, башкирский и прочие языки представляют действительную реальность,…и тогда – советская автономия должна быть проведена в этих областях до конца, без оговорок; либо украинский, азербайджанский и прочие языки являются пустой выдумкой, школы и прочие институты на родном языке не нужны, и тогда – советская автономия должна быть отброшена прочь, как ненужный хлам. Искание третьего пути есть результат незнания дела или печального недомыслия». Сталин призывал решительно отказаться «от кавалерийских набегов по части „немедленной коммунизации“ отсталых народных масс» и «перейти к осмотрительной и продуманной политике постепенного вовлечения этих масс в общее русло советского развития». По поводу заявлений Сталина по национальному вопросу тех лет Адам Улам писал: «Создается впечатление, что они были сделаны начитанным человеком, который высказывал разумные суждения».
С первого же дня существования Советского правительства Сталин разрабатывал его национальную политику. Венцом усилий Сталина стало создание Союза Советских Социалистических Республик, просуществовавшего 69 лет. Выступая на I съезде Советов СССР 30 декабря 1922 года, Сталин высоко оценивал создание СССР: «В истории Советской власти сегодняшний день является переломным… Период борьбы с военной разрухой дал нам Красную Армию – одну из основ существования Советской власти. Следующий период – период борьбы с хозяйственной разрухой – дает нам новые рамки для государственного существования – Союз Советских Социалистических Республик, который, без сомнения, подвинет вперед дело восстановления советского хозяйства».
«Нас, коммунистов, – говорил он, – часто ругают, утверждая, что мы неспособны строить… Пусть сегодняшний съезд Советов, призванный утвердить Декларацию и Договор о Союзе Республик, принятые вчера конференцией полномочных делегаций, пусть этот союзный съезд покажет всем тем, кто еще не потерял способность понимать, что коммунисты умеют так же хорошо строить новое, как они умеют хорошо разрушать старое».