В сентябре 1964 года С. А. Емельянова выдвинули на должность прокурора отдела кадров. Прокурор города Москвы М. Г. Мальков характеризовал его как «добросовестного, дисциплинированного и исполнительного работника, умеющего правильно и принципиально решать вопросы подбора, расстановки и воспитания кадров». Обладая хорошими ораторскими данными, он часто поддерживал государственное обвинение в Московском городском суде по наиболее сложным уголовным делам, охотно выступал с лекциями и беседами в трудовых коллективах. Его избрали в партийное бюро парторганизации прокуратуры города Москвы. Будучи исключительно честным, скромным и чутким человеком, он пользовался неподдельным авторитетом среди сотрудников прокуратуры.
14 июля 1965 года приказом Прокурора РСФСР С. А. Емельянов был назначен прокурором города Зеленограда, основанного в 1963 году и вошедшего в состав Москвы. Через пять дней Генеральный прокурор СССР утвердил его в этой должности. Прокурором города он пробыл три года. За это время стал советником юстиции (классный чин ему присвоен 27 марта 1967 года). С. А. Емельянов уделял большое внимание правильной организации работы небольшого коллектива прокуратуры, занимаясь всеми участками работы. Следователи прокуратуры и органов внутренних дел расследовали до сотни преступлений в год, и за каждым делом был установлен настолько жесткий контроль, что грубые ошибки, процессуальные нарушения не допускались. Поэтому суд при новом прокуроре никогда не возвращал дела на дополнительное расследование. По трети всех уголовных дел, рассматривавшихся Зеленоградским судом, Сергей Андреевич лично поддерживал государственное обвинений, еще больше — проверял в кассационном и надзорном порядках. Кроме того, он часто выступал на заседаниях исполкома и сессиях Зеленоградского Совета народных депутатов не только как прокурор, но и как депутат, а также на бюро райкома партии, членом которого он состоял.
В июне 1968 года С. А. Емельянов был назначен на должность начальника отдела общего надзора прокуратуры города Москвы. В январе 1969 года Генеральный прокурор СССР присвоил ему классный чин старшего советника юстиции. Сергей Андреевич еще со студенчества всегда был склонен к творческой и научной работе, а потому и поступил в заочную аспирантуру Всесоюзного научно-исследовательского института по изучению причин и разработке мер предупреждения преступности Прокуратуры СССР.
Отдел общего надзора под руководством Емельянова проводил большую работу по обеспечению законности в столице. Постоянно организовывались хорошо подготовленные, целенаправленные проверки в городских организациях, на крупнейших предприятиях столицы, а также в исполнительных органах власти. Незаконные правовые акты, в том числе изданные исполкомом Мосгорсовета, незамедлительно опротестовывались. По материалам общего надзора возбуждалось не мало уголовных дел, которые после соответствующего расследования, как правило, направлялись в суд. С помощниками районных прокуроров проводились методические семинары, им оказывалась квалифицированная помощь в работе, что сразу же сказалось и на результативности их работы. За успешное руководство отделом Сергей Андреевич неоднократно поощрялся Генеральным прокурором СССР.
27 июля 1971 года С. А. Емельянов был назначен заместителем прокурора города Москвы. Указом Президиума Верховного Совета РСФСР от 22 мая 1972 года в связи с 50-летием советской прокуратуры он был награжден Почетной грамотой Президиума Верховного Совета РСФСР.
В сентябре 1973 года Сергей Андреевич назначается на вновь образованную должность заместителя прокурора города Москвы — начальника отдела кадров. На этом посту он прослужил около пяти лет. За это время стал кандидатом юридических наук. Ученая степень ему была присуждена решением совета при Всесоюзном институте по изучению причин и разработке мер предупреждения преступности 23 мая 1977 года после блестяще защищенной диссертации (диплом выдан 1 февраля 1978 года Высшей аттестационной комиссией при Совете Министров СССР). Успешно шли и служебные дела. Приказом Генерального прокурора СССР Р. А. Руденко от 27 декабря 1977 года С. А. Емельянов был награжден подарком за умелое руководство расследованием уголовного дела о выпуске недоброкачественной продукции Заводом резиновых изделий № 1 и квалифицированное поддержание государственного обвинения. Вместе с ним отмечена также работа старшего следователя прокуратуры города Москвы Николая Остаповича Боровика и прокурора отдела Александры Алексеевны Колесниковой.
В январе 1978 года С. А. Емельянов был выдвинут на должность первого заместителя прокурора города Москвы. В ходатайстве перед Прокуратурой СССР заместитель Прокурора РСФСР А. С. Побежимов отмечал, что он является «опытным, квалифицированным, инициативным прокурором, требовательным и принципиальным руководителем. Обладает организаторскими способностями, умело координирует работу административных органов по борьбе с преступностью, постоянно занимается воспитанием прокурорско-следственных кадров, пользуется заслуженным авторитетом среди партийно-советского актива и коллектива прокуратуры, принимает активное участие в общественной жизни». Вскоре после этого Генеральный прокурор СССР Руденко своим приказом от 26 июля 1978 года поощрил С. А. Емельянова за успешное выполнение специального задания (расследование, надзор и поддержание обвинения в суде по сложному делу). Вместе с ним благодарность заслужили прокурор Калужской области В. В. Савкин, заместитель прокурора города Москвы Г. И. Скаредов и старшие помощники прокуроров города Москвы и Калужской области Н. И. Фунтов и К. Э. Кагаров.
В должности первого заместителя прокурора города Москвы Сергей Андреевич работал до сентября 1980 года, после чего перешел на работу в Центральный Комитет партии инструктором отдела административных органов. В аппарате ЦК КПСС он пробыл два с половиной года. Указом Президиума Верховного Совета СССР от 26 мая 1982 года, подписанного Л. И. Брежневым, С. А. Емельянов в связи с 60-летием советской прокуратуры был награжден орденом «Знак Почета».
Приказом Генерального прокурора СССР А. М. Рекункова от 5 апреля 1983 года С. А. Емельянова назначили прокурором города Москвы сроком на пять лет. Вскоре указом Президиума Верховного Совета СССР ему был присвоен чин государственного советника юстиции 3-го класса. Следует заметить, что еще в 1979 году проверкой, проведенной бригадой Прокуратуры СССР, в деятельности органов прокуратуры Москвы были вскрыты серьезные недостатки, в связи с чем Генеральный прокурор СССР 13 сентября 1979 года издал приказ. Контрольная проверка в 1982 году показала, что не все отмеченные недостатки были устранены. С первых же дней работы прокурором города С. А. Емельянову пришлось энергично заняться наведением порядка, особенно при организации борьбы с правонарушениями. Он был избран членом Московского городского и Москворецкого районного комитетов партии, депутатом Московского городского Совета народных депутатов.
