Опытным нелегалом был Бертольд Карлович Ильк, венский еврей, который вел агентурную работу в Австрии и Германии еще до приезда в СССР в 1926 году. Его снова направили в Берлин в качестве резидента. Вдвоем с Морицем Иосифовичем Вайнштейном они сформировали агентурные группы не только в Германии, но и в Варшаве, Данциге и Риге.
Затем Ильк был направлен в Лондон и завербовал там целый ряд журналистов и чиновников. В 1930 году он снова стал нелегальным резидентом в Берлине. В 1931 году его сменил Борис Давидович Берман. Он родился 10 октября 1901 года в белорусском местечке Бортичи, участвовал в Гражданской войне и в 24-летнем возрасте стал кадровым сотрудником ОГПУ. Специализировался по агентурной разведке и около пяти лет действовал в качестве агента-нелегала в различных странах Европы.
Пост резидента агентурной разведки в Германии был, пожалуй, крупнейшим за время его работы за рубежом. В тот период Центр получал из Берлина весьма ценное агентурное и документальное освещение обстановки в Германии, а также вполне достоверные и полные сведения о положении в ее вооруженных силах. Одним из важнейших достижений Бориса Бермана в то время стала вербовка полицейского комиссара Вилли Лемана, который впоследствии служил в гестапо, имел высокий эсэсовский чин гауптштурмфюрера. Его агентурный псевдоним был «Брайтенбах», и это он послужил прототипом Штирлица из «Семнадцати мгновений весны».
Кстати, Вилли Леман ничего общего с этим экранным суперменом не имел. Он родился в Германии в 1884 году в семье чистокровного немца. Был он невысок ростом, склонен к полноте, внешне малопривлекателен. Однако сведения, которые Леман передавал своим кураторам, имели колоссальную ценность. Он действовал весьма успешно вплоть до своего разоблачения гестапо и расстрела в декабре 1942 года.
А Борис Берман в 1932 году был отозван в Москву и вскоре назначен заместителем начальника ИНО НКВД. Затем, в 1937 году, он стал наркомом НКВД Белоруссии, однако меньше чем через год вызван в Москву, обвинен в шпионаже и расстрелян.
Теперь речь пойдет о «Великом Нелегале». Именно так называют спецслужбы Арнольда Генриховича Дейча. Он родился в 1904 году в семье словацких евреев. Стал агентом ОМС в Вене в 1928 году. Через 4 года перешел на службу в ИНО НКВД, шпионил в Париже, Вене и Лондоне.
В октябре 1933 года Дейч осел в Англии и проработал там почти пять лет. За это время он завербовал более 20 молодых представителей английского истеблишмента. Из них особую роль в дальнейших шпионских операциях советской разведки сыграла знаменитая «кембриджская пятерка»: К.Филби, Д.Маклин, Э.Блант, Г.Берджесс, Д.Кернкросс. Эти агенты впоследствии добились весьма высокого общественного и служебного положения. К примеру, Ким Филби едва не возглавил английскую разведку и был одним из создателей ЦРУ. «Кембриджская пятерка» считается одной из самых результативных агентурных групп в истории советского шпионажа.
В конце 1937 года Дейч возвратился в Москву. В это время шел настоящий разгром советских спецслужб. Их руководители сменялись чуть ли не ежемесячно, агенты отзывались и уничтожались. Дейча спасло то, что его уволили из НКВД. Он сидел без работы, получая мизерное содержание, и просил, чтобы его вернули к нелегальной деятельности.
Между тем в мире полным ходом шла Вторая мировая война, немцы вторглись в СССР. Но лишь в ноябре 1942 года Дейча направили для агентурной работы в Америку. Он плыл на пароходе «Донбасс». Судно было торпедировано в Атлантике германской подлодкой, и Дейч погиб. Так завершилась жизнь и служба «Великого Нелегала».
Когда Дейч работал в Лондоне, резидентом там был другой выдающийся советский разведчик Александр Орлов. На самом деле его звали Лейб Лазаревич Фельдбин. Он родился в 1885 году в Бобруйске. С 1920 года — в ВЧК. Нелегалом стал в 1926 году, работал в Париже, затем с 1930 года был начальником отделения экономической разведки ИНО. С 1933 по 1936 год — резидент в Лондоне. Затем Орлов становится руководителем советской разведки в Испании.
В 1938 году Орлов получил приказ выехать в Москву. Но, зная, что там идет повальное уничтожение закордонной агентуры, он с женой и дочерью бежит в Америку. Умер Орлов в США в 1973 году.
После бегства Орлова агентурную деятельность в Испании возглавил его заместитель Наум Исаакович Эйтингон. Он родился в 1898 году в Могилеве. С 1919 года — сотрудник ВЧК, окончил военную академию. С 1925 года на нелегальной работе, сначала в Китае, затем в Турции и, наконец, — в Испании. По возвращении в Москву получил задание любой ценой уничтожить Льва Троцкого, который тогда жил в Мексике. Эйтингон организовал два покушения, в результате второго Троцкий был убит Рамоном Меркадером.
В годы Великой Отечественной войны Наум Эйтингон был заместителем Судоплатова и непосредственно руководил разведывательно-диверсионной деятельностью органов НКВД в германском тылу. Награжден пятью орденами, стал генерал-майором. Активно участвовал в похищении атомных секретов. Тем не менее Наум Эйтингон в 1951 году был арестован по обвинению в сионизме. Но после смерти Сталина освобожден. И вновь арестован в том же году после казни Берии. Отсидел 11 лет, умер в 1981 году.
Еще более трагичен финал карьеры Якова Серебрянского, руководившего Особой группой, которая проводила диверсии против белоэмигрантов. Его люди обеспечивали также поставку советской боевой техники испанским республиканцам в 1936–1937 годах, за что Серебрянский получил орден Ленина. Но в 1938 году его отозвали в Москву, зверскими пытками добились признания в предательстве и приговорили к смерти. Но почему-то не расстреляли.
Началась война, и опытного диверсанта выпустили из тюрьмы. Его забрал в свою группу Судоплатов, и Серебрянский снова занялся знакомым делом — на этот раз в германском тылу. Действовали его отряды весьма успешно, он был неоднократно награжден, но после войны немедленно уволен в отставку. Однако после смерти Сталина Серебрянского восстановили на службе, но после казни Берии опять арестовали и осудили на 10 лет. Через три года Яков Серебрянский умер в тюрьме.
В 30-х годах закордонной разведкой НКВД руководил Абрам Аронович Слуцкий. Он родился в 1898 году, участвовал в Гражданской войне и с 1920 года служил в органах ВЧК-ОГПУ. С 1930 года — в ИНО НКВД, нелегальный резидент в Берлине. С 1934 года Абрам Слуцкий возглавлял ИНО. Это было время самых страшных репрессий против агентов и руководителей отдела. И в феврале 1938 года Абрам Слуцкий был отравлен прямо в кабинете Ежова и скончался на месте.
Его заместителями были два еврея, опытные нелегалы. Сначала — старший майор госбезопасности (комбриг) Моисей Савельевич Горб, которого арестовали и расстреляли в 1937 году. Затем — Сергей Миронович Шпигельглас, который с 1922 года шпионил во Франции, истреблял белоэмигрантов в Европе, действовал в республиканской Испании. В 1937–1938 годах Шпигельглас был заместителем Слуцкого, а после его гибели — стал начальником ИНО. Однако в 1939 году и он был арестован и расстрелян.
К этому времени практически большинство представителей зарубежной агентуры НКВД были вызваны в Москву и погибло в подвалах Лубянки. Среди немногих, кто сумел возвратиться в свои резидентуры, был Борис Николаевич Рыбкин. Его настоящее имя — Борух Аронович Рывкин. Это был опытнейший разведчик, действовавший в Иране, в Финляндии, где имел дипломатическое прикрытие, вместе со своей женой Зоей Рыбкиной, впоследствии известной писательницей Воскресенской. Во время Второй мировой войны эти супруги работали под «крышей» советского посольства в Швеции. После войны Рыбкин стал резидентом в Чехословакии, где и погиб при весьма странных обстоятельствах в 1947 году.
Планомерное истребление закордонной агентуры и руководства ИНО сталинскими палачами перед Великой Отечественной войной привело к тому, что в ходе ее разведслужба НКВД практически не располагала сколько-нибудь эффективными организациями или группами в самой Германии и оккупированных ею странах.