Только после того, как в 1783 году Дмитриев познакомился и близко сошелся с Н. М. Карамзиным (а он был его дальним родственником), Иван Иванович попал в ту колею, которая вывела его к славе. По собственному признанию Дмитриева, именно благодаря Карамзину, он принялся за «усовершенствование в себе человека». Но особую роль в становлении поэтического таланта Дмитриева оказало знакомство с Гаврилой Романовичем Державиным, состоявшееся в 1790 году. В доме маститого поэта он встретился и познакомился со всеми знаменитыми писателями и поэтами того времени: И. Ф. Богдановичем, В. В. Капнистом, Н. А. Львовым, Д. И. Фонвизиным и многими другими.
Постепенно продвигался Дмитриев и по службе. В 1787 году он получил чин прапорщика, принимал участие в кампании 1788 года против шведов. Затем последовали чины подпоручика, поручика, а в 1793 году — капитан-поручика.
В 1790-х годах поэтическая звезда Дмитриева заблистала во всем своем великолепии. Один за другим появляются в печати его стихи, оды, сатиры, басни, стихотворные сказки. Чрезвычайно популярными стали его сказки в стихах: «Модная жена», «Причудница». Пользовались успехом его эпиграммы, пародии, мадригалы и прочие поэтические «мелочи». Особенно нравились публике песни на его слова: «Стонет сизый голубочек» (часто исполняется и в наше время), «Видел славный я дворец…», «Пой, скачи, кружись Параша» и др.
В 1795 году Иван Иванович издал свой первый поэтический сборник, получивший название «И мои безделки», а в 1796 году — «Карманный песенник, или Собрание лучших светских и простонародных песен», куда, кроме фольклора, он включил свои произведения, а также песни Г. Р. Державина, А. П. Сумарокова, Ю. А. Нелединского, Н. П. Николаева, П. М. Карабанова и других поэтов.
В январе 1796 года Дмитриев, получив чин капитана и взяв годовой отпуск, намеревался выйти в отставку, чтобы полностью отдаться и творчеству. В ноябре 1796 году умерла императрица Екатерина И. Дмитриев вернулся в полк. Спустя месяц ему все же удалось выхлопотать себе отставку. В приказе от 17 декабря 1796 года отмечалось: «Семеновского полку капитан Дмитриев 1-й уволен в отставку с награждением чина полковника и со всемилостивейшим позволением носить мундир». Теперь можно было устраивать свои поэтические дела. Но произошло событие, круто изменившее его жизнь.
25 декабря 1796 Дмитриев и его товарищ Лихачев неожиданно были арестованы. Обоих под конвоем доставили к императору Павлу I, который сообщил им о поступившем на них доносе о том, что они якобы «умышляют» на жизнь государя. Монарх повелел разобраться в этом деле военному генерал-губернатору Н. П. Архарову. Наступили долгие дни тревожного ожидания. Однако вскоре доносчик был найден, и Павел I лично объявил Дмитриеву и Лихачеву о их «совершенной невиновности». Более того, Дмитриев был приглашен в Москву на коронацию императора. Павел I «осыпал» его своими милостями и приказал своему сыну, великому князю Александру Павловичу спросить его, чего он хочет. Дмитриев ответил: «Ничего, кроме спокойной жизни в отставке». Когда же великий князь в третий раз настойчиво повторил ему: «Скажи что-нибудь, батюшка решительно требует», только тогда Иван Иванович ответил, что желал бы поступить на статскую службу.
И 22 мая 1797 года Дмитриев был принят на службу, совершенно неожиданно получив «хорошее место» товарища министра уделов и обер-прокурора третьего департамента Правительствующего сената, а через несколько дней стал статским советником.
В своих воспоминаниях Дмитриев писал: «Отсюда начинается ученичество мое в науке законоведения и знакомство с происками, эгоизмом, надменностью и раболепством двум господствующим в наше время страстям: любостяжанию и честолюбию». Он отмечал далее, что «не без смущения» занял свой новый пост, думая прежде всего о важности своего нового звания — «блюстителя законов». По его мнению, это звание обязывало охранять законы от «умышленно кривых истолкований», «сносить равнодушно пристрастные толки и поклеп тяжущихся или подсудимых», противостоять иногда «особам, украшенным сединами, знаками отличий».
Службу на прокурорском поприще он начал с того, что основательно проштудировал всю нормативную базу, которой следовало ему руководствоваться в своей деятельности, познакомился с «внутренним положением» поднадзорного ему департамента, порядком ведения дел. Департамент, где он служил, был, по его выражению, «энциклопедическим». Именно сюда стекалось множество уголовных и гражданских дел из Малороссии, Царства Польского, Лифляндии, Курляндии, Эстляндии и Финляндии. Департаменту были подведомственны Юстиц-коллегия, полиция, почта. Сенаторы обязаны были заниматься организацией работы школ и училищ, следить за устройством дорог и водных сообщений. Работы было много, а для Дмитриева она была поначалу к тому же совершенно незнакомой и немного занудной. Ведь в душе он все же оставался поэтом…
Нужно отдать должное Ивану Ивановичу — он довольно быстро освоил круг своих обязанностей и с первых дней пребывания в должности обер-прокурора очень хорошо вписался в роль и активно отстаивал интересы законности. Это не всегда нравилось сенаторам. «Едва ли проходила неделя без жаркого спора с кем-нибудь из сенаторов, без невольного раздражения их самолюбия», — вспоминал позднее Дмитриев. Стычки по службе случались у него даже с поэтическим наставником Г. Р. Державиным, которого Дмитриев «любил и уважал от всего сердца». «Благородная душа его, — вспоминал Дмитриев, — конечно, была чужда корысти и эгоизма, но пылкость ума увлекала его иногда к решениям, требовавшим для большей осторожности других мер, некоторых изъятий или дополнений. Та же пылкость его оскорблялась противоречием, однако же, не на долгое время: чистая совесть его скоро брала верх, и он соглашался с замечанием прокурора».
Служба его продвигалась успешно. В ноябре 1798 года он получил чин действительного статского советника. Однако времени для творчества практически не оставалось. По этому поводу он писал: «Во все это время, находясь в гражданской службе, я уже не имел досуга предаваться поэзии. Притом же и сам хотел на время забыть ее, чтобы сноснее для меня был запутанный, варварский слог наших толстых экстрактов и апелляционных челобитен».
В декабре 1799 года жизнь Дмитриева опять круто изменилась. Неожиданно для всех, в том числе и для генерал-прокурора А. А. Беклешова, Дмитриев подает в отставку. 30 декабря он освобождается от занимаемой должности с пенсионом и присвоением чина тайного советника. Дмитриев селится в Москве и занимается исключительно литературной деятельностью. В 1803–1805 годах выходят в свет три тома его сочинений.
