С детства он избрал себе чисто военную карьеру, поступив в Воронежский Михайловский кадетский корпус и надев на себя черный кадетский мундирчик с золотыми пуговицами и белыми погончиками. Воронежский кадетский корпус, основанный в 1845 году, был достаточно солидным учебным заведением того времени, готовившим кадры не только для Русской Императорской армии, но и для гражданской службы. В корпусе был прекрасный состав преподавателей, дававших своим питомцам основательные знания в гуманитарных и естественных науках. Среди его выпускников оказалось немало известных впоследствии военных и гражданских деятелей России. Достаточно сказать, что в свое время этот корпус закончили изобретатель знаменитой трехлинейной винтовки С.И. Мосин, создатель электрической лампочки А.Н. Лодыгин, герой Брусиловского прорыва 1916 года, а затем Донской атаман генерал А.М. Каледин.
В августе 1899 года, по окончании корпуса, Алексей Гришин поступил в Михайловское артиллерийское училище в Петербурге. Это было одно из самых престижных военных учебных заведений империи. Срок обучения в нем составлял три года. Юнкер Гришин неплохо учился и отличался примерным поведением — уже 8 мая[2] следующего, 1900 года он был произведен в унтер-офицерское звание, а в ноябре 1901 года в портупей-юнкера. Интересно, что вместе с ним в училище учился великий князь Андрей Владимирович (1879—1956), внук императора Александра II, а впоследствии муж знаменитой балерины Матильды Кшесинской. Обучение в столице империи и общение, пусть небольшое, с людьми из высших слоев российского общества дало юнкеру из провинциальной семьи внешний лоск, способствовало его общему развитию и эрудированности, да и просто позволило ему смотреть на мир уже другими тазами.
Окончив Михайловское артиллерийское училище по первому разряду, А.Н. Гришин, высочайшим приказом от 10 августа 1902 года был произведен в подпоручики и причислен к 5-му мортирному артиллерийскому полку. Прежде чем отправиться к постоянному месту службы, свежеиспеченный подпоручик ушел в 28-дневный отпуск, отгуляв который прибыл 19 сентября на место, в установленный срок.
5-й мортирный артиллерийский полк был расквартирован в городе Коломне Московской губернии. Начались обычные армейские будни — занятия с солдатами, боевая подготовка, изучение материальной части. Видимо, ничего особенного в жизни подпоручика Гришина в это время не происходит. По послужному списку видно, что с 16 сентября 1903 года он опять находился в 28-дневном отпуске с сохранением содержания «по домашним обстоятельствам», из которого прибыл ранее срока на один день.
Начавшаяся вскоре Русско-японская война была первым испытанием для молодого артиллерийского офицера. В полку была объявлена мобилизация. 1 июня 1904 года подпоручик Гришин был командирован к себе на родину, в город Тамбов, в распоряжение Тамбовского уездного воинского начальника «для приема и препровождения запасных лошадей для штаба 6-го Сибирского армейского корпуса» (корпус формировался в это время в Московском военном округе и готовился к отправке на фронт). Уже 8 июня он прибыл обратно из командировки. 27 июня в Коломне состоялся парад частей, отправляющихся на Дальний Восток, на котором присутствовал только что прибывший в город Император Николай II. Перед ним торжественным строем прошли 5-й и 6-й Восточно-Сибирские саперные батальоны и 5-й мортирный артиллерийский полк.
7 июля Гришин в составе полка проследовал по железной дороге на Дальний Восток, на театр военных действий и 3 августа перешел границу и вступил в пределы Маньчжурии.
С 3 августа 1904 по 10 ноября 1905 года он находится в составе действующей армии на театре военных действий. Уже в августе участвует в крупном сражении с японцами под Ляояном. Сразу после окончания этой битвы, 29 августа, он высочайшим приказом производится в поручики, а вскоре, «за отличие в бою с японцами под городом Ляояном» награждается своим первым орденом — Святой Анны 4-й степени с надписью «За храбрость».
За время этой войны поручику Гришину удалось поучаствовать в сражении на реке Шахэ, зимнем сражении при селении Сандепу и еще нескольких небольших боях. 7 апреля 1905 года он прибыл с батареей в Харбин.
Русско-японская война была неудачной для России, но на Гришина это никак не повлияло — за время боевых действий ранений и контузий не имел, набрался боевого опыта и получил первую награду. 10 ноября 1905 года он возвращается в Россию и сразу же прикомандировывается к 8-му Восточно-Сибирскому стрелковому артиллерийскому дивизиону.
После окончания войны—опять лямка артиллерийского офицера, которую он тянул в частях Иркутского и Приамурского военных округов. 7 января 1906 года он был официально переведен в 8-й Восточно-Сибирский артиллерийский дивизион, где временно занимал должность заведующего хозяйством 1-й батареи, а затем был назначен делопроизводителем батареи. В 1907 году 8-й Восточно-Сибирский стрелковый артиллерийский дивизион переименовывается в 8-ю Восточно-Сибирскую стрелковую артиллерийскую бригаду. Гришин служит в ней вторым старшим офицером 6-й батареи. В ноябре 1907 года получает орден Святого Станислава 3-й степени с мечами и бантом, за боевые отличия.
Высочайшим приказом от 29 августа 1908 года поручик Гришин производится в штабс-капитаны. В это время он служит первым старшим офицером батареи, частенько исполняя должность временно командующего батареей. В марте 1909 года он прикомандировывается к 1-му Сибирскому резервному артиллерийскому дивизиону, где возглавляет команду разведчиков, а в ноябре этого же года окончательно переводится в дивизион. Дивизион располагался в селе Усть-Балей Иркутской губернии. В апреле 1910 года назначен заведующим учебной командой дивизиона. Ездит квартирьером в Хабаровск и Благовещенск.
10 июля того же 1910 года по случаю реорганизации армии в составе 1-го полудивизиона 1-го Сибирского резервного артиллерийского дивизиона штабс-капитан Гришин выступает из Иркутского в Приамурский военный округ и 20 июля прибывает в город Благовещенск. Здесь дивизион переформировывается в 10-ю Сибирскую стрелковую артиллерийскую бригаду, где он продолжает исполнять должность заведующего учебной команды (с 1913 года — начальник учебной команды). Помимо этого он состоит также членом суда общества офицеров, библиотекарем офицерской библиотеки и членом распорядительного комитета офицерского собрания.
Высочайшим приказом от 4 марта 1911 года ему был пожалован орден Святой Анны 3-й степени. По всей видимости, Алексей Николаевич был не лишен литературного слога и проявлял определенный интерес к истории — в октябре 1913 года ему было поручено составлять историю своей бригады.