В результате тяжелый душевный кризис, вызванный долгой дорогой в Сибирь, в неизвестность, миновал, и композитор начинает интенсивно трудиться. Теперь у него совсем нет времени для размышлений о доле ссыльного, лишенного прав человека; он не перестает благодарить судьбу за ссылку в родной город.
В Тобольске жило немало ценителей музыки, существовали духовой оркестр, несколько хоров. С оркестром композитор начинает работать вскоре после приезда, летом 1828 года, а 22 января 1829 года состоялся первый открытый концерт, собравший много благодарной публики. Произведения Алябьева, прозвучавшие в концерте тобольского оркестра, были встречены с восторгом.
Примечательно, что один из концертов состоялся в помещении гимназии, директором которой был отец великого ученого Д. И. Менделеева — И. П. Менделеев.
В Тобольске композитор обращается к близкой для него теме — он пишет музыку к инсценировке второй части «Кавказского пленника» А. С. Пушкина, создает романсы, пронизанные тоской по покинутым друзьям, — «Разлука», «Вечерний звон», «Иртыш», объединив их в цикл «Северный певец».
В довольно благоприятной атмосфере Тобольска Алябьев скучает по Москве, по театру. Иногда он получает письма из Москвы, которые привозят ему в Тобольск бывшие его слуги, снаряженные в Сибирь заботливыми родственниками. Они же доставляли и литературу, которую Алябьев передавал политическим ссыльным, например П.И. Мошинскому, с которым подружился.
Здесь же, в Тобольске, произошла еще одна встреча Алябьева — с декабристом Александром Бестужевым, направлявшимся из Якутии к месту своей новой ссылки — на Кавказ.
В октябре 1828 года к Алябьеву приехала его сестра Екатерина Александровна, не покидавшая его затем во все время его скитаний.
В декабре следующего года родственники композитора начинают энергично ходатайствовать о пересмотре дела Алябьева, надеясь на его полную реабилитацию, как несправедливо осужденного.
Александр Алябьев, конечно, не мог не знать о хлопотах родственников и не мог относиться к этому безразлично. Желая как-то заглушить тревогу, он усиливает свои творческие занятия, сочиняет множество музыкальных произведений, работает с оркестром. Алябьев пишет одночастный квинтет для флейты, гобоя, кларнета, фагота и валторны, являющийся законченным образцом русской инструментальной музыки первой половины XIX века. По-прежнему сочиняет он и романсы: «Два ворона», «Пробуждение» («Мечты, мечты, где ваща сладость...») на слова Пушкина, «О друг младой, прекрасный друг...» на слова Ф.Н. Глинки и др.
Но самым значительным произведением этого периода явилась созданная им для симфонического оркестра одночастная симфония e-moll, в какой-то степени подготовившая рождение симфонической увертюры М. И. Глинки. Алябьев пишет и несколько концертных увертюр.
Многочисленные ходатайства, прошения семьи, друзей Алябьева наконец возымели некоторое действие: ему разрешено поехать на Кавказ поправить сильно пошатнувшееся здоровье; считается, что тамошние минеральные воды помогают от болезни глаз, которой Алябьев страдал всю жизнь.
В мае 1832 года он поселяется в Пятигорске, где находит довольно интересное общество.
Здесь ждет Алябьева счастливое знакомство с коллегой — известным чешским композитором Иосифом Гунке; близко сходится он и с М.А. Максимовичем, профессором ботаники Московского университета. Михаил Александрович оказался человеком необыкновенно разносторонним. Ученый-естествоиспытатель уживался в нем со страстным любителем и глубоким знатоком украинской народной песни. Он был знаком с Гоголем и Пушкиным. Известно, что великий поэт внимал советам Максимовича, работая над «Полтавой». Встреча с Максимовичем на Кавказе сыграла большую роль в дальнейшей творческой деятельности Александра Алябьева. Общаясь с Максимовичем, он заражается любовью к народной песне и начинает увлеченно изучать украинский фольклор. А вскоре, летом того же 1832 года, они вместе приступают к подготовке сборника «Голоса украинских песен». К тексту песен прилагались музыкальные напевы, обработанные для голоса с фортепиано. Сборник «Голоса украинских песен» включал в себя двадцать пять песен различного содержания и был первым собранием украинских народных песен.
На Кавказе происходит встреча, всколыхнувшая в Алябьеве давнее, но, видимо, не ушедшее в прошлое чувство. В Пятигорск приезжает Екатерина Александровна Офросимова, урожденная Римская-Корсакова, которую он любил еще в Москве. Прежде ему казалось, что весть о ее замужестве, услышанная в тюрьме, навсегда разлучила их, хотя память о ней не исчезала и вдохновляла его в Тобольске. В Пятигорске любовь вспыхивает с новой силой, и композитор сочиняет романсы, посвящая их Екатерине Офросимовой — Римской-Корсаковой.
Через две недели после встречи с ней Алябьев сочиняет романс «Тайна» на стихи А. Ф. Вельтмана:
Навек оставить грустной тайной,
Кого я пламенно люблю!
С образом Римской-Корсаковой связан и прекрасный романс композитора на стихи Пушкина «Я вас любил...».
Закончив работу с Максимовичем, Алябьев из Пятигорска переселяется в Кисловодск, чтобы продолжить курс лечения водами.
Композитор присутствует на праздниках горцев и принимает в них участие. На одном таком празднике под Кисловодском был исполнен в сопровождении хорового пения полонез, сочиненный Алябьевым в Тобольске.
...Друзья покидают Кавказ, уезжает любимая женщина. Кто знает, когда они встретятся снова? И встретятся ли вообще? И опять тяжелое душевное состояние находит благотворный выход в творчестве.
Все романсы Алябьева той поры проникнуты щемящей тоской по любимой, тяжестью разлуки: «Я вижу образ твой...» (на стихи Гете), «Печально на кольцо заветное гляжу...» (на слова М. А. Бестужева-Рюмина), «Где ты, где ты, друг милый...» (на слова С. Степанова). Шесть романсов, написанных Алябьевым на Кавказе, вдохновленных любовью к Е.А. Офросимовой, выходят в свет в Москве в 1833 году. Другие романсы написаны Алябьевым на стихотворения, опубликованные в сборнике «Денница»: «Туманен образ твой, как даль...» (на слова А. Вельтмана), «Уединение» (на слова неизвестного автора). На стихи М. Максимовича написан романс «Сердцем в первые дни жизни, но не к счастью я расцвел».
В декабре 1832 года Алябьев переселяется в Ставрополь. Здесь он сочиняет романс «Узник» на стихи Пушкина.
Хлопоты родных, мечтавших, чтобы композитор мог поселиться у кого-нибудь из них в подмосковном имении, привели лишь к ухудшению в его положении: Алябьеву предписано переехать в Оренбург. Командующий войсками на Кавказе А.А. Вельяминов (брат сибирского Вельяминова), передовой и высокообразованный человек, друг прославленного генерала А.П. Ермолова, берет на себя смелость и самовольно откладывает отъезд Алябьева на Урал.
Следующий сезон Алябьев вновь проводит на минеральных водах. Его все больше и больше увлекают народные мелодии, они ложатся в основу некоторых «восточных» романсов и фортепианных пьес. Интересна в этом отношении написанная композитором «Французская кадриль из азиатских песен» — сочетание мелодий кавказского фольклора с европейским бальным танцем (впоследствии одна из этих мелодий будет использована М. И. Глинкой в «Персидском хоре» из «Руслана и Людмилы»). Создание кадрили говорило о прогрессивном стремлении Алябьева познакомить русское общество с неизвестными напевами других народов России.
Итогом вокального творчества композитора на Кавказе был изданный в 1834 году сборник «Кавказский певец», куда вошли двенадцать песен, элегий, романсов.
В лирических романсах Алябьева этого периода начинает сказываться не только личное, пережитое, но и судьба и настроение всего русского общества в пору реакции, наступившей после подавления декабрьского восстания. По-видимому, немалое влияние' оказал на творчество композитора декабрист А. Бестужев.
Александр Бестужев (Марлинский), писатель, автор романтических повестей, которыми в 30—40-е годы зачитывалась вся Россия, 14 декабря 1825 года вместе со своим братом Михаилом Бестужевым и Д. А. Щепиным-Ростовским возглавил восстание Московского полка на Сенатской площади. В результате А. Бестужев был приговорен к смертной казни, которая была заменена ссылкой в Якутию на каторжные работы.
Во время пребывания Алябьева в 1832—1833 годах на Кавказе где-то неподалеку служил рядовым и Бестужев, однако точных сведений об их встречах там не существует. Но по произведениям Алябьева ясно, что он внимательно следил за творчеством писателя-декабриста А. Бестужева-Марлинского. В 1832 году появилась в печати повесть «Аммалат-бек. Кавказская быль», а в 1834 году публикуется «Кабардинская песня» Алябьева на стихи из «Аммалат-бека»:
На Казбек слетались тучи,
Словно горные орлы...
Им навстречу, на скалы
Узденей отряд летучий...
Позднее Алябьев вернется к повести, будет работать над оперой «Аммалат-бек».