В 1881 г. Зиллиакус ушел с государственной службы и вел хозяйство в собственном поместье, однако скоро разорился и уехал в США, где проживал с 1889 по 1893 г. Затем он перебрался в Японию (1893-1897), а оттуда во Францию (1897-1898). Именно в это время он получил европейскую известность как журналист и писатель, автор книг об индейцах, путевых заметок, переводов японских сказок на шведский язык. Свои публикации в газетах и журналах Европы и Америки он частенько подписывал псевдонимом Самурай.
В 1898 г. Зиллиакус вернулся в Финляндию, где в 1899-1900 гг. являлся соредактором и одним из авторов либеральной газеты «Нюа прессен». После ее закрытия переехал в Швецию, где с 1901 г. стал редактором нелегальных финляндских газет «Фриа урд» (на шведском языке) и «Вапайта санойа» (на финском языке), издаваемых в Стокгольме. Он был одним из инициаторов и организаторов подачи адреса императору Николаю II от имени деятелей европейской науки и культуры с протестом против политики русификации Финляндии. В это же время он активно занимался революционной деятельностью, связанной с нелегальной транспортировкой в Россию революционной литературы и оружия. С этой целью он приобрел яхту и установил тесные контакты с российскими либеральными и революционными деятелями, особенно социал-демократами и социалистами-революционерами. В 1902 г. в Стокгольме вышла его книга «Революционная Россия» сначала на шведском, а в 1904 г. на финском языке, в которой рассматривалась история революционного движения в России за последние десятилетия XIX в. С 1903 г. активно сотрудничал в шведском журнале «Нордиск ревыо», в котором публиковались его статьи о положении в Финляндии.
Зиллиакус еще до начала Русско-японской войны установил прочные связи с кланом «Черного Дракона». Очевидно, его знакомство с Акаси относится к периоду Японо-китайской войны. Акаси в это время был прикомандирован к штабу японской армии в Китае, а Зиллиакус подвизался там же в качестве военного корреспондента. В 1904 г. это знакомство переросло в тесное сотрудничество. Как опытный разведчик, Акаси рассчитывал использовать в интересах Японии движение сепаратистов, русских революционеров и оппозиционеров. Вместе с Зиллиакусом они вынашивали идею оказания финансовой помощи сепаратистским кругам, прежде всего в Прибалтике, Закавказье и Финляндии, для ускорения их вооруженного выступления против царского режима. Эта инициатива получила поддержку японского посла в Лондоне Т. Хияси и японского Генерального штаба в лице одного из руководителей разведки генерала Я. Фукушимы.
Опираясь на материальную поддержку Акаси, Зиллиакус предпринял практические усилия организационного характера для консолидации радикально настроенных революционных и оппозиционных сил эмиграции. В ноябре 1904 г. он стал одним из создателей Партии активного сопротивления Финляндии. Эта партия во многом копировала эсеровскую тактику и осуществила ряд террористических актов. Так, 16 июня 1904 г. Э. Шауманом был убит генерал-губернатор Финляндии Г. И. Бобриков. 6 февраля 1905 г. студент Л. Хохенталь совершил покушение на прокурора Сената Сойсалона-Сойнинена. Партия активного сопротивления оказывала всемерную помощь революционному движению в России. В частности, организовывала закупки оружия в Бельгии и Англии и последующую транспортировку его в Финляндию и Россию. В это время Зиллиакус установил тесные связи с представителями Боевой организации партии социалистов-революционеров Е. Азефом, Н. В. Чайковским и др., а также с представителями Российской социал-демократической партии в лице Н. Е. Буренина и Л. Б. Красина. Зиллиакус выступил инициатором проведения межпартийных конференций и принимал участие в совместных конференциях российской оппозиции и революционных партий в Париже и Женеве.
Конспиративная связь японской разведки с финнами и радикально настроенными революционерами не сразу стала известна в Петербурге. Заграничная агентура Департамента полиции представляла в это время аппарат российской внешней разведки. Ее руководитель Л. А. Ратаев был, главным образом, сориентирован на работу в оппозиционной правительству среде эмигрантов из числа российских либералов и революционеров. В свою очередь русские военные агенты и их сотрудники занимались добыванием чисто военной информации в странах пребывания. В начале Русско-японской войны их усилия были сосредоточены на выявлении военных заказов Японии в европейских странах. Очевидно, поэтому диверсионная и разведывательно-подрывная деятельность японской разведки определенное время была вне поля зрения российских секретных служб. Заметим также, что Акаси и Зиллиакус были опытными конспираторами и выявить их тайные контакты было не просто.
К этому времени Департаменту полиции стало известно, что в середине марта один из членов Центрального революционного комитета Польской партии социалистов (ППС), Витольд Иодко-Наркевич, представил Акаси план вооруженного восстания в Польше. Заметим, что лидеры ППС еще с самого начала Русско-японской войны выступили с лозунгом поражения России в войне и взяли курс на организацию вооруженного восстания. Одним из его инициаторов был Юзеф Пилсудский. По его инициативе состоялись контакты между эмиссарами партии и японскими разведчиками.
Однако сама идея восстания в русской армии военнослужащих-поляков, разрушение мостов и железнодорожного полотна Транссибирской железнодорожной магистрали показалась фантастической даже такому авантюристу, как Акаси.
Поэтому для продолжения переговоров Пилсудского пригласили в Токио. Поездка полностью финансировалась японским Генеральным штабом. В июле 1904 г. через Лондон, Нью-Йорк и Сан-Франциско делегация ППС во главе с Пилсудским добралась до Токио. В привезенной делегацией памятной записке и проекте о сотрудничестве Пилсудский предложил, чтобы японская разведка финансировала антирусские повстанческие акции Польской партии социалистов, снабжала ее боевиков оружием, сформировала из военнопленных польского происхождения легион для борьбы на дальневосточном фронте. Взамен представители ППС обещали активно мешать проведению мобилизации в Царстве Польском, осуществлять разведку и саботаж и в конечном итоге поднять восстание вместе с другими народами Российской империи.
Эти заманчивые предложения основывались на том, что в Сибири и на Дальнем Востоке Российской империи проживало в это время значительное число этнических поляков. Это были участники польского восстания 1863 г. и их потомки, сосланные на поселение. Однако японцы мало верили в реальность этих планов. Их укрепил в этой убежденности лидер национальных демократов Царства Польского Роман Дмовский, который также находился в это время в Токио. Он доказывал, что локальные выступления нанесут Польше и Японии только вред, ибо к общенациональному восстанию поляки не готовы, а Россия держит на Висле большую армию и может утопить в крови любой бунт. Широкое вмешательство в европейские дела в это время не входило в намерения Японии. Поэтому предложения Пилсудского не были приняты и японская разведка ограничилась финансовой поддержкой ППС.
К этому времени в конце июня 1904 г. по заданию Акаси Зиллиакус установил связи с представителями основных политических оппозиционных партий и кавказскими сепаратистами. Одним из них был грузинский дворянин Георгий Деканози (Деканозов), издатель журнала «Сакартвело». Вокруг этого издания группировались лица, принадлежавшие к Грузинской партии социалистов-федералистов (революционеров), созданной в апреле 1904 г. Другим был представитель армянских националистов граф И. 3. Лорис-Меликов. Он представлял группу, возникшую вокруг газеты «Дрошак» («Знамя») и ставшую ядром политической партии «Дашнакцутюн». Первые два номера «Дрошак» были изданы в подпольной типографии в Тифлисе, а с 1894 по 1920 г. она регулярно издавалась в Женеве. Дашнаки, опираясь на поддержку западных держав, рассчитывали путем вооруженных выступлений и террористических актов добиться сначала создания автономного государства в границах Российской империи, а затем, после присоединения Турецкой Армении, воссоздать Великую Армению. Антироссийские настроения кавказских сепаратистов были хорошо известны Акаси и Зиллиакусу. Поэтому на совещании речь шла об организации беспорядков в России с целью ослабления ее политического влияния и авторитета в европейской политике. Акаси завербовал Деканозова, который стал одним из его самых доверенных и высокооплачиваемых агентов.
После этой акции Зиллиакус отправился в Лондон, где вел переговоры с Н. В. Чайковским о координации антиправительственных действий оппозиционеров, либералов и радикально настроенных революционеров из числа социал-демократов и социалистов-революционеров. Н. В. Чайковский был в это время одной из самых авторитетных фигур в российском демократическом и революционном движении. Потомственный дворянин, он окончил в 1872 г. физико-математический факультет Петербургского университета. В 1869 г. явился создателем народнического кружка, известного как кружок «чайковцев». С 1874 г. находился в эмиграции, проживал в Лондоне и Париже. В 1904 г. Чайковский стал членом партии социалистов-революционеров. С ним одинаково считались российские либералы-оппозиционеры и революционеры-радикалы. Он и организовал встречу Зиллиакуса с лидерами партии эсеров и руководством объединенной Боевой организации.
