Создание новой системы государственной безопасности — системы грандиозной по своему размаху, разветвленной, всеохватывающей и в то же время, в отличие от предшествующего периода, строго централизованной — разворачивалось в двух направлениях. Прежде всего в 1826–1827 годах был сформирован корпус жандармов (с 1836 года — Отдельный корпус жандармов), составивший костяк системы. У этого не совсем обычного военно-полицейского формирования имелись предшественники, которые и послужили для него исходным строительным материалом: к середине 1820-х годов в России было ни много ни мало — 59 различных жандармских частей. Одни из них действовали в войсках, обеспечивая порядок или собирая сведения о настроениях солдат и офицеров; другие несли полицейскую службу в столицах и губернских городах — ловили преступников, выбивали недоимки, подавляли народные волнения и пр.
Во главе корпуса стоял шеф жандармов, опиравшийся в своей руководящей деятельности на специальное Управление (впоследствии — Штаб). Ему непосредственно подчинялись генералы корпуса, стоявшие во главе округов, на которые была разделена вся Россия (сначала их было 5, к 1836 году — 7). В каждый губернский город назначался жандармский штаб-офицер (от майора до полковника), под началом которого находились специальные команды из обер-офицеров и рядовых чинов.
Одновременно с этой «явной» политической полицией создавалась и иная ипостась новой системы — тайная. 27 июля 1826 года начало свою деятельность III отделение Собственной его императорского величества канцелярии. Создавая этот орган, Николай лишний раз продемонстрировал, как серьезно он относится к вопросу государственной безопасности: в ведение собственной канцелярии передавались лишь те категории дел, которые, по мнению царя, требовали его личного, постоянного и чрезвычайного контроля. III отделение, функционировавшее «негласно», составило единое — точнее, двуединое — целое с жандармскими органами в центре и на местах; эта двуединая сущность новой системы подчеркивалась и тем, что начиная с 1826 года и вплоть до ликвидации III отделения в 1880 году шеф жандармов был в то же время и его начальником.
III отделение быстро превратилось в настоящий мозговой центр новой системы государственной безопасности: сюда стекалась вся информация с мест, здесь разрабатывались операции по борьбе с «инакомыслием» и составлялись инструкции, координирующие деятельность жандармов в округах и губерниях. Именно III отделение придавало этой системе тот жутковатый колорит таинственности и вездесущности, который заставил А. И. Герцена характеризовать ее как «вооруженную инквизицию, полицейское масонство, имевшее во всех уголках Империи, от Риги до Нерчинска, своих братьев слушающих и подслушивающих…»
Функции новых органов, если судить по соответствующим «нормативным документам», поражают своей почти бескрайней широтой: жандармы должны были «наблюдать за общим мнением и народным духом»; следить за «подозрительными лицами»; обнаруживать тайные общества; разыскивать фальшивомонетчиков; контролировать деятельность государственного аппарата, выявляя злоупотребления и неблагонадежность чиновников всех рангов; надзирать за «направлением, духом и действиями» различных религиозных сект, а также за деятельностью культурных и научных обществ; вести наблюдение за иностранцами, пребывающими в России, и ведать, в случае необходимости, их высылкой; разбирать жалобы, просьбы и прошения «по тяжебным и семейным делам», поступавшие как на высочайшее имя, так и в само отделение; сверх того, «заниматься всеми вообще происшествиями в государстве» — пожарами, убийствами, народными волнениями и пр. — собирая о них информацию и составляя соответствующие «ведомости».
Таким образом, предполагалось, что новая политическая полиция будет осуществлять поистине всеобъемлющий надзор за народом и обществом. Подобный «тотальный» характер деятельности органов государственной безопасности, созданных при Николае I, определялся господствовавшей в его царствование идеологией — так называемой теорией «официальной народности». Она претендовала на то, чтобы утвердить самодержавие и православие в качестве неотъемлемых основ духовного и материального бытия русского народа: он существует лишь потому, что сохраняет верность самодержавному строю и подчиняется отеческому попечению православной церкви. Падут эти устои — не будет России… Поэтому делом первостепенной важности объявлялось всемерное укрепление самодержавного государства и православной церкви, с одной стороны, и беспощадная борьба с любыми попытками подорвать «основы основ» русской жизни — с другой. При этом «подрывная деятельность» понималась чрезвычайно широко: ее видели не только в идейной борьбе, в либеральных и атеистических «умствованиях», но и в служебных проступках, пренебрежении церковными обрядами, безнравственном поведении — в любых отступлениях от раз и навсегда определенных норм частной и общественной жизни. Жандармам приходилось принимать на себя массу обязанностей, как правило, политической полиции не свойственных: они должны были не только бороться с противниками существующего строя, но и брать под свою сурово-благожелательную опеку всех благонамеренных россиян, зорко следя за тем, чтобы эта благонамеренность нигде и ни в чем не давала сбою: чтобы чиновники не воровали, обыватели не спивались, мужья не изменяли женам, богатые не притесняли бедных, бедные не держали зла на богатых и т. д., и т. п. В результате система безопасности, имевшая в своей организации целый ряд новых, весьма многообещающих черт, все же явно несла отпечаток родства с предшествующими ей учреждениями былых времен: она стремилась держать под своим контролем чуть ли не все бытие России, во всех его проявлениях.
Подобная «сверхзадача», конечно же, донельзя затрудняла профессиональную специализацию этих органов в отношении политического сыска как такового. Основные «опоры» его оставались прежними, характерными еще для XVIII века: перлюстрация (здесь III отделение весьма плодотворно сотрудничало с Главным управлением почт); наблюдение за печатью (непосредственное и через цензоров, которые обязаны были сообщать в политическую полицию обо всех отклонениях от самодержавно-православных постулатов, обнаруженных ими в рукописях российских авторов); и самое главное — доносы, устные и письменные, добровольные и вынужденные. Предпринимались определенные попытки и к созданию тайной агентурной сети во всех слоях общества, но ничего сколько-нибудь цельного и стабильного в результате так и не получилось.
Следует отметить, что при всем том новые органы действовали несравненно более успешно, нежели анекдотические «секретные полиции» начала века — прежде всего за счет хорошей штатной организации, разветвленной и в то же время строго централизованной; не последнюю роль играла и дисциплина, поставленная здесь на военную ногу. Они неплохо справлялись с противником, пытавшимся действовать революционными средствами, — с подпольными студенческими кружками, возникавшими в начале николаевского царствования.