Это письмо огорчило Ермолова, а все военное сословие на Кавказе глубоко оскорбилось и начало выражать громкий протест. Вскоре на это письмо появился ответ молодого офицера, князя Д. И. Святополк-Мирского, быстро распространившийся среди публики:
«Неужели мы, кавказские служивые, должны безропотно покоряться этому приговору и со стыдом преклонять пред ним голову. Нет, наша совесть слишком чиста для такого унижения. Не стали немощными и бессильными те войска, которые победили многочисленных врагов под Баш-Кадыкларом, Курюк-Дара и на Чолоке. Мы не обманывали Россию в течение четверти века; она смело может гордиться нами и сказать, что нет армии на свете, которая переносила бы столько трудов и лишений, сколько Кавказская. Нет армии, в которой бы чувство самоотвержения было бы более развито. Здесь каждый фронтовой офицер, каждый солдат убежден, что не сегодня, то завтра, не завтра, так послезавтра он будет убит или изувечен. А много ли в России кавказских ветеранов? Их там нет почти, кости их разбросаны по всему Кавказу. Письмо, написанное новым главнокомандующим в крепости Грозной и распространенное по Кавказу и России, изумило нас и огорчило; но недолго будет наше уныние. Наше чувство чуждо подлого унижения; мы покорны, но покорны царской воле и закону, но не бранному слову. Мы поднимаем брошенную нам перчатку пред судом России и потомства. Пусть нами руководят мудрые начертания; пусть гениальная рука укажет путь – мы готовы на все, что возможно человеку, на всякие жертвы и лишения. Сколько бы ни было жертв и страданий частных, во всяком случае, это исполинское соревнование поведет ко благу и славе нашего отечества. Нам остается вознести ко Всевышнему усердные молитвы, дабы потомство сказало, что вождь был достоин армии, а армия достойна вождя».
Оба этих письма были впоследствии опубликованы И. А. Пузыревским в «Русской старине» (1872 г., т. IV, с. 542–546).
Муравьёв отнесся снисходительно к поступку молодого офицера, и князь Мирский был переведен «по собственному желанию» в Крым.
Муравьёв приехал в Тифлис 1 марта. Приезд его произвел общее смущение, однако не столько видом и толками, сколько известием о кончине императора Николая I, печальным вестником коего явился сам Муравьёв, узнавший о том от фельдъегеря незадолго до въезда в Тифлис. На первом приеме Муравьёв произвел на представлявшихся приятное впечатление своими остроумными разговорами и замечаниями, но вскоре не сошёлся со своим начальником штаба князем А. И. Барятинским, покинувшим Кавказ под предлогом болезни. Вступив в командование корпусом, Муравьёв отдал приказ, в котором самым лестным образом отзывался о войсках, на подвиги коих «более полвека с гордостью и изумлением Россия внимает», и призывал их стать полными «рвения и готовности за святое дело» в наступившую для России годину испытаний.
В начале июня 1855 года русская армия двинулась к Карсу. В составе отряда для действий против крепости было всего 21200 пехоты, 3000 регулярной кавалерии и столько же казаков, 400 грузинской и армянской милиции, артиллерийский парк состоял из 88 орудий (в основной массе лёгких). Гарнизон Карса состоял, по разным оценкам от 19000 до 33000 человек под командованием Вассифа-паши, там же была группа британских военных советников во главе с полковником Уильямсом; близ Баязета находилось около 12000 человек под начальством Вели-паши, в Эрзеруме 12000 человек.
На военном совете всех генералов отряда было принято решение не штурмовать крепость с ходу, а начать систематическое обложение подступов и полностью перекрыть пути сообщения с Эрзерумом. Инициаторами этого решения выступили В. О. Бебутов и Я. П. Бакланов. Периметр обложения составил 50 верст, но сам характер местности не позволял прикрыть все возможные пути в Карс. В труднодоступных местах были расположены наблюдательные казачьи посты. Уже в самом начале осады Баклановым 18 августа был разгромлен сильный отряд турецких фуражиров, 20 августа отрядом графа Нирода был разбит ещё один фуражирский отряд, наконец, 22 августа была пресечена попытка гарнизона прорвать блокаду. В конце августа из Эрезерума было отправлено подкрепление карсскому гарнизону под командованием Али-паши, общим числом 2500 конницы и несколько сотен пехоты; Муравьёв, оперативно выслал навстречу туркам отряд генерала Ковалевского в составе 7 батальонов пехоты, 1800 кавалерии и 20 орудий. 31 августа у селения Пеняк Ковалевский встретил Али-пашу, причем из Карса к Пеняку сумел прорваться небольшой турецкий отряд, также принявший участие в бою. Турки потерпели поражение, сам Али-паша попал в плен.
Полное обложение Карса русскими войсками завершилось к концу июля 1855 года. В начале сентября между Муравьёвым и Баклановым начались серьёзные разногласия. Муравьёв был настроен начинать штурм крепости, Бакланов был категорически против, утверждая что разведка крепостных укреплений проведена неудовлетворительно, в имеющихся картах есть многочисленные ошибки и неточности. На этом основании Бакланов утверждал, что при штурме русские войска понесут неоправданно высокие потери при полной неопределенности исхода штурма. Однако Муравьёва переубедить не удалось. Штурм был назначен на раннее утро 17 сентября. Накануне выяснилось, что турки откуда-то узнали о русских планах и готовы отразить штурмующих. Бакланов сделал последнюю попытку переубедить Муравьёва, тот был непреклонен. Штурмующие колонны были встречены сильнейшим артиллерийским огнём, тем не менее генералам Базину и Бакланову удалось один за другим взять три редута, им оставалось взять лишь форт Вели-Табия. Оба генерала тщетно просили у Муравьёва подкреплений, но тот был вынужден бросить весь резерв на выручку колонны генерала Майделя, гибнущей под фортом Шорах. Севернее Шораха, у Чахмахских укреплений, огромные потери понесла колонна генерала Ковалевского, сам Ковалевский был убит. Муравьёв был вынужден скомандовать общее отступление. По официальным данным потери убитыми и ранеными среди русских войск составили 4 генерала (1 убит), 250 офицеров (74 убито) и более 7000 нижних чинов (убито около 2300 человек). Потери обороняющихся исчисляются в 1400 человек убитыми и ранеными.
На следующий день после неудачного штурма на военном совете было принято предложение Бакланова брать Карс измором. Несмотря на крайне уязвлённое самолюбие, Муравьёв примирился с Баклановым, хотя нрав у обоих был весьма тяжёлым и неуживчивым, да и сам Бакланов никак не мог заставить себя соблюдать субординацию. К чести Муравьёва, он не упал духом и твёрдой рукой продолжал руководить осадным корпусом.
Из грузинских, армянских и азербайджанских добровольцев был организован большой партизанский отряд под командованием М. Т. Лорис-Меликова, действующий на дальних коммуникациях турок и пресекающий попытки доставить продовольствие осаждённым. В крепости начался голод, жители разбегались по окрестностям, началось дезертирство. Русские войска не препятствовали выходу из крепости безоружных, но жёстко пресекали любые попытки обратного проникновения. 12 ноября начались переговоры о сдаче, 14 ноября 1855 года карсский командующий Вассиф-паша подписал полную капитуляцию крепости. Муравьёв был 4 декабря 1855 года награждён орденом св. Георгия 2-й степени № 97 «За взятие крепости Карса 16 ноября 1855 года» и удостоен приставки к фамилии «Карсский».