К этому времени к активным действиям перешло и Разведочное отделение. В. Н. Лавров получил информацию о попытке Акаси восстановить связи со своей агентурой в Петербурге и принял решение о задержании ротмистра Ивкова. 26 февраля 1904 г. он был под благовидным предлогом приглашен в Санкт-Петербургское охранное отделение, где ему было предъявлено обвинение в государственной измене. После ареста на допросах под давлением неопровержимых улик Ивков признал себя виновным, показав при этом, что «он передавал Акаси и Тано сведения военного характера, частью из мобилизационного плана, частью составленные по случайным данным и собственному соображению…».
В ходе следствия подтвердились данные наружного наблюдения о контактах Ивкова с германским военным агентом фон Лютвицем. Во время конспиративной встречи с ним 2 февраля 1904 г. в Варваринской гостинице Ивков передал Лютвицу часть секретных военных сведений, получив за это 2 тыс. руб. Обыск на его квартире подтвердил эти показания. На квартире Ивкова были обнаружены не только деньги, но и копии частей мобилизационного плана русской армии и еще не переданные немцам выписки из секретных документов военного характера. «Впоследствии, — писал Лавров, — при формальном дознании Ивков, допрошенный по имевшимся заграничным агентурным сведениям, сознался и в том, что вел такие же преступные сношения с австрийским военным представителем». К моменту окончания предварительного следствия Ивков, находясь под арестом, покончил жизнь самоубийством. Зная систему охраны преступников, обвиняемых в государственной измене в российских тюрьмах, можно предположить, что в целях сохранения тайны деятельности Разведочного отделения по агентурной разработке целого ряда военных агентов иностранных государств не только противников, но и союзников России и ввиду нежелательности судебного процесса Ивкову помогли или вовремя не помешали уйти из жизни. К тому же заметим, что это был уже не первый случай смерти разоблаченного шпиона. В 1907 г. при весьма похожих обстоятельствах ушел из жизни завербованный австрийской разведкой поручик Турчанинов.
Дело ротмистра Ивкова совпало с началом Русско-японской войны. Оно стало своеобразным импульсом для активизации борьбы с японским шпионажем. Однако в полной мере противостоять наплыву японских шпионов в Россию не удалось. К контрразведывательной работе в срочном порядке стали подключаться разведывательные отделения штабов военных округов, а на флоте — иностранная часть Главного морского штаба. В сентябре 1904 г. в Санкт-Петербурге были арестованы два японца, мелкие служащие коммерческой пароходной кампании — Кензо Камакура и Сейко Акиоши. К этому времени они приняли православие, регулярно посещали православные богослужения, а один из них — Камакура в день своего ареста предполагал обвенчаться с русской невестой. В ходе следствия выяснилось, что под маской скромных служащих скрывались кадровые морские офицеры военно-морского флота Японии. Они длительное время собирали разведывательную информацию о русском Балтийском флоте.
В августе 1904 г. российская контрразведка раскрыла еще одну резидентуру японской разведки. Начиналось это так. В 1901 г. в контору чайного магазина «Васильев и Дементьев» явился японский подданный Хори Сан с лучшими рекомендациями своего посольства, прекрасно и всесторонне образованный, владеющий иностранными и отчасти русским языком. Он предложил свои услуги в качестве подручного приказчика и посредника в связях с китайскими и японскими чайными фирмами. В декабре того же года по рекомендации уже Хори Сан к Дементьеву поступил на тех же основаниях другой японский подданный, Миура Кен Забура, высокообразованный господин 30-35 лет, отлично знакомый с большими городами России, Сибирью, островом Сахалин. По его словам, он исколесил всю Сибирь и Сахалин вдоль и поперек и был хорошо знаком не только с местностью, но и с обычаями населения. Оба японца проживали в квартире служащих магазина по адресу: Морская улица, дом № 13.
1 апреля 1902 г. Хори Сан оставил службу в магазине и переехал в Москву, не прерывая связей с Миура-Кен-Забура, который в ноябре того же года перешел на службу в японское посольство. На свое место он рекомендовал японца Сиратори, который, как выяснилось впоследствии, был выпускником философского института в Токио. Сиратори, в свою очередь, устроил на службу в этот же магазин некоего Мамиури Токаки, окончившего морскую школу в Токио и прибывшего будто бы из Одессы. Эти японцы проживали сначала на Садовой улице, а потом в той же квартире на Морской улице, получая жалованье 30-40 руб. в месяц. Цель своего прибытия в Россию они объясняли тем, что при содействии японского посольства хотели открыть в Санкт-Петербурге японско-русский банк.
Наружное наблюдение установило их связи и круг знакомств в столице. Среди них был студент университета, с которым они занимались русским языком, сотрудники японского и китайского посольств и консульств, а также американские и английские представительства. Миура рассказал им об особенностях российской столицы и о ряде лиц, с которыми познакомился во время работы в посольстве. Среди них были морские офицеры лейтенант де Лаврон, капитан 2 ранга Катаев, курсистки Кажданская и Никольская, замеченные в политической неблагонадежности, и ученый-лесовод Марк Левин.
В начале 1903 г. Сиратори сделал предложение и женился на кассирше магазина, дочери полковника Е. П. Никуловой, для чего принял православие. После женитьбы Сиратори с женой и Токаки переехали в меблированные комнаты в доме № 15 на Итальянской улице. Здесь их частыми гостями были уже названные морские офицеры, а также сотрудник газеты «Русь» Шебуев, военный атташе китайского посольства и др. Департамент полиции установил за ними «самое строгое» наблюдение.
После начала войны японцы были уволены из магазина, но продолжали посещать американское, английское и китайское представительства. Они были замечены с пачками печатных изданий и почтовой корреспонденцией. Во время негласного осмотра комнаты на Итальянской улице в ней был обнаружен счет на имя лейтенанта де Лаврона, а также было установлено, что всю корреспонденцию японцы отправляли через американское консульство. При этом внешний конверт был адресован в Гамбург, а внутренний — в Токио. Свою корреспонденцию они также получали через американцев. Агентами наружного наблюдения было установлено, что всех своих знакомых они встречали в квартире всегда лично, «не допуская к открытию дверей на лестницу по звонку ни прислугу, ни хозяина».
В первых числах августа их посетил приехавший из Москвы Хори Сан. Сразу же после его отъезда негласным путем была получена информация, что Токаки 7 или 8 августа намеревается выехать за границу в Берлин. За японцами было установлено плотное наружное наблюдение, которое не позволило им скрыться. Днем в 2 часа японцы направились в американское консульство, где Токаки получил 400 руб. для поездки за границу.
В 10 часов вечера они вернулись домой, где их уже ждали сотрудники охранного отделения Департамента полиции штабс-ротмистр М. С. Комисаров, чиновник особых поручений И. Ф. Манасевич-Мануйлов, и. о. пристава 1-го участка Спасской части г. Санкт-Петербурга капитан Чеважевский, а также околоточные надзиратели Водопьянов и Грабовский. При обыске у японцев были обнаружены компрометирующие их бумаги, и они были арестованы. В ходе следствия было установлено, что Сиратори прекрасно владел русским языком и письмом и даже опубликовал в газете «Русь» серию статей под названием «Японские вечера». Токаки великолепно рисовал морские суда и замечательно знал технику сооружения и боевого оборудования кораблей. Арестовали также и Елену Сиратори, а на квартире была оставлена засада.
При обыске было обнаружено большое количество писем на японском языке, рисунки мин, минных заграждений и различного типа судов, а также заметки о состоянии воинских частей и составленная от руки морская карта с путем следования судов, обозначенным на ней пунктиром. Когда часть писем была переведена на русский язык, выяснилось, что в них содержались настойчивые требования усиленной осторожности. Все это давало основания для проведения дознания по обвинению их в шпионской деятельности.
Необходимость противодействия акциям японской разведки в начале XX в. заметно активизировала и другие спецслужбы Российской империи. В это же время наряду с Разведочным отделением Главного штаба русской армии автономно начала действовать агентура охранного отделения Департамента полиции Министерства внутренних дел Российской империи. В конце 1904 г. его руководство приняло решение об учреждении в структуре Особого отдела собственного специального подразделения — совершенно секретного отделения дипломатической агентуры. Его задачи определялись как «розыск международного шпионства» и наблюдение «за пребывающими в столице представителями некоторых держав, сочувствующих Японии». Однако Военное министерство и Главный штаб не были поставлены об этом в известность. Ведомственная разобщенность оставалась непреодолимым барьером на пути становления российской контрразведки.