Начальник IV управления Берзин был в числе немногих, приглашенных в сентябре 1932 г. на объединенный пленум ЦК и Президиума ЦКК. Обсуждался вопрос «О контрреволюционной группе Рютина — Слепкова». Об этом информировался лишь узкий круг партийного актива. Вальтер видел страшные последствия голода во время поездки на отдых в 1932 г. Постепенно рождались сомнения, но они тонули в повседневной многотрудной работе, которой он отдавал все свои силы.
В 1933 г. Кривицкий был назначен директором Института военной промышленности. Эта должность по штату приравнивалась к категории командира дивизии. Поэтому в записках, отредактированных для западноевропейского и американского читателя, он неизменно будет представляться как генерал РККА. В этой должности он пробыл до 1934 г., когда международная обстановка вновь резко обострилась. Приход Гитлера к власти в Германии не оставлял никаких иллюзий; на Европу надвигалась фашистская опасность. Резко осложнилось положение и на Дальнем Востоке. В этих условиях активизировалась деятельность советской военной разведки. После попыток фашистского путча в Австрии и убийства канцлера Дольфуса летом 1934 г. Кривицкий был командирован сначала в Австрию, а затем в Германию. Поездки в Берлин и Вену убедили Вальтера, что фашизм представляет серьезную опасность для всего мира.
Ближайшие сотрудники Вальтера, убежденные сторонники социалистической идеи, подобно ему, верили, что своей деятельностью они способны помешать продвижению фашизма и своевременно предупредить мировое общественное мнение об опасности. Советский Союз представлялся им воплощением социалистических идеалов, оплотом свободолюбивых и демократических сил. Если же говорить о его помощниках и информаторах, то неверно утверждать, как это делалось в популярной литературе, что все они были убежденными коммунистами. В задачу разведчика никогда не входило ведение политических диспутов и пропагандистской работы. Его главная задача — выполнение конкретных заданий командования. Так, чертежи новейшей итальянской подводной лодки Вальтер попросту купил у фашиста, занимавшего высокий пост. Через свою сеть в Берлине он приобрел коды японских дипломатических шифров.
Принимая разведывательную сеть и текущие дела от своего предшественника в Германии, Вальтер обнаружил, что один из его агентов напал на след сверхсекретных переговоров, которые вели личный представитель Гитлера Иоахим фон Риббентроп и японский военный атташе Хироси Осима. Сразу же оценив значимость этих переговоров, Вальтер доложил в центр о необходимости дополнительных средств и специалистов для ведения контроля за этими переговорами, а затем сам выехал в Москву. Ему удалось убедить в этом руководство, и он возвратился в Европу. К концу 1935 г. было уже ясно, что переговоры продвигаются к намеченной цели. Наконец в июле 1936 г. сотрудниками и помощниками Вальтера в Берлине была получена в переснятом виде полная подборка секретной переписки Хироси Осимы с высшим военным и политическим руководством в Токио. Переговоры велись под личным контролем Гитлера, который постоянно совещался с Риббентропом и инструктировал его.
Из корреспонденции стало очевидным, что целью переговоров было заключение секретного пакта, а также координация всех действий Германии и Японии как в Западной Европе, так и на Дальнем Востоке и Тихом океане. Во всей корреспонденции, которая охватывала период переговоров более чем за год, не было никаких ссылок на Коминтерн, не упоминались никакие акции, предпринимаемые Коминтерном. Речь шла фактически о разделе сфер влияния в мировой политике. В отношении СССР Япония и Германия взаимно обязывались не делать никаких шагов ни в Европе, ни на Дальнем Востоке без предварительных консультаций друг с другом. Берлин брал на себя обязательство содействовать модернизации вооружения японской армии; предполагался обмен военными миссиями.
В целях конспирации и для дезинформации мирового общественного мнения 25 ноября в Берлине в присутствии всех послов иностранных держав, за исключением СССР, представителями правительств Японии и Германии был подписан знаменитый Антикоминтерновский пакт. Он явился своеобразной дымовой завесой, за которой скрывалось соглашение, о сути которого никто не догадывался. Подробная информация о переговорах Японии и Германии оказалась в распоряжении Советского правительства. Это был подлинный триумф советской военной разведки. Через какое-то время сведения об этих переговорах стали появляться на страницах американской и западноевропейской печати. Службы безопасности фашистской Германии пытались отыскать канал утечки столь серьезной информации. Однако главное было впереди. 24 ноября 1936 г. нарком иностранных дел СССР М. М. Литвинов подробно рассказал об этом в выступлении на VIII Чрезвычайном съезде Советов. Это вызвало уже настоящий переполох в Берлине.
За блестящее выполнение ответственного правительственного задания разведчик был представлен к награждению орденом Ленина. Однако получить награду ему не довелось: помешали совершенно другие обстоятельства, нежели конспиративный характер его работы. К этому времени Кривицкий возглавлял советскую военную разведку в Западной Европе. Имея свой офис в Париже, сам он с семьей проживал в Гааге под именем австрийца Мартина Лесснера на Целебесстраат, 32. В деловых кругах он представлялся как торговец антикварными книгами. Деятельность, позволявшая разъезжать по странам Европы, обеспечивала ему не только «крышу», но и способ перевозки полученной информации. Японские дипломатические шифры, приобретенные у высокопоставленных эсэсовцев, были перевезены из Берлина в переплете раннего издания сочинений Фрэнсиса Бэкона.
В декабре 1936 г. Вальтер неожиданно получил указание Центра «заморозить» всю советскую агентурную сеть в Германии, то есть сделать ее бездействующей. Это вызвало недоумение и требовало разъяснений. Вальтер получил их от начальника Иностранного отдела Главного управления государственной безопасности (ГУГБ) НКВД СССР А. А. Слуцкого, находившегося в это время в служебной командировке в Барселоне. При встрече Вальтер высказал мучающие его опасения, однако получил ответ, что все это делается по указанию Сталина, Более того — от него потребовали компрометирующих материалов на видных политических деятелей, которых уже причислили к «врагам народа». Это не только противоречило самой сути деятельности разведывательных органов, но в определенной степени вело и к нарушению конспирации. Вальтер оказался в сложном положении: как поставить задачу своим сотрудникам и помощникам, среди которых было немало иностранцев?
