В Лондоне О.А. Трояновскому было поручено работать в составе советской делегации, участвовавшей в переговорах по разработке устава готовящегося Нюрнбергского процесса, в котором затем он принял участие в качестве секретаря советского судьи. В 1946 году – работа переводчиком на Парижской мирной конференции по разработке мирных договоров со странами-союзниками гитлеровской Германии, а в начале 1947 года – назначение в секретариат министра иностранных дел В.М.Молотова.
В начале 1951 года по предложению ЦК КПСС О.А. Трояновский перешел на работу в редколлегию вновь созданного журнала на английском языке «Новости». С апреля 1953 года он работал помощником министра иностранных дел и одновременно, в 1956 году, окончил Институт иностранных языков.
С 1958 по 1967 год О.А. Трояновский был помощником председателя Совета Министров СССР. Работая при Н.С.Хрущеве и А.Н.Косыгине, он принимал участие почти во всех встречах министров иностранных дел и на высшем уровне, привлекался к составлению проектов выступлений главы правительства и важных правительственных решений.
Накопив большой международный опыт, О.А.Трояновский не хотел превращаться в вечного чиновника секретариатов. В 1966 году А.Н.Косыгин пошел навстречу его настойчивому пожеланию и разрешил перейти на дипломатическую работу. Вскоре его назначили послом в Японию. Он приехал в Токио в 1967 году и занял место за письменным столом, за которым когда-то работал его отец. Через несколько лет, подобно своему отцу, он стал дуайеном (старейшиной) дипкорпуса.
О.А. Трояновский проработал в Токио значительно дольше, чем другие советские послы – почти 9 лет, и добился результатов, которые превзошли достижения его предшественников в Японии и по целому ряду параметров считаются непревзойденными по сей день. В силу своих достоинств посла и личностных качеств Олег Александрович пользовался наибольшей из наших послов известностью и популярностью в Японии. Благодаря его деятельности советско-японские отношения в те годы приобрели качественно иной характер: именно в этот период после двух послевоенных десятилетий взаимной враждебности и настороженности СССР и Япония начали нащупывать пути к улучшению отношений, постепенно, а потом все более широко открываться друг другу как соседние государства.
Развернулась деятельность японо-советского и советско-японского комитетов по экономическому сотрудничеству, ознаменовавшаяся реализацией ряда крупных совместных проектов, которые вывели Японию на место одного из основных наших деловых партнеров. Завязались контакты между парламентариями. В японском парламенте была создана массовая, насчитывавшая в пору наибольшей активности до 600 членов, Ассоциация депутатов за дружбу с Советским Союзом. Значительно расширились культурное сотрудничество, людские обмены и т. д.
В октябре 1973 года в Москве была проведена первая советско-японская встреча на высшем уровне. Наладились достаточно регулярные контакты на уровне министров иностранных дел. Более четко обозначились усилия советской дипломатии освободиться от тормозившей их развитие так называемой «проблемы северных территорий». Конечно, речь шла не об удовлетворении японских притязаний, но о создании такой атмосферы в двусторонних отношениях, при которой их прогресс «не отягощался бы», как выражался А.А.Громыко, этой проблемой.
Добиться столь значительных результатов было бы невозможно без обширных связей в политической и экономической элите Японии. О.А.Трояновский установил дружеские и деловые контакты с десятками видных представителей японского общества – политических деятелей, парламентариев, бизнесменов. Он был избран президентом Токийского теннисного клуба, почетными членами которого были наследный принц и его супруга. Знакомства с представителями императорской семьи открывали ему двери в другие влиятельные японские дома.
В 1976 году О.А.Трояновский возвращается из Токио в Москву и уже через несколько месяцев получает назначение на один из высших постов в дипломатической иерархии – пост постоянного представителя при ООН, на котором он проработал, как и в Японии, 9 лет. Перед отъездом в Нью-Йорк с ним подробно беседовал А.А.Громыко, который настойчиво рекомендовал не увлекаться полемикой с представителями других стран.
Обстановка в ООН в те годы осложнялась событиями, которые разворачивались вдали от стеклянного небоскреба на Ист-Ривер в Нью-Йорке, но отдавались эхом словесных политических дебатов в его стенах. Это нескончаемые конфликты на Ближнем Востоке, агрессия США против крошечной Гренады, подогреваемые ими сражения между сандинистами и контрас в Никарагуа, война в Кампучии и т. д. Еще большее обострение в ооновские дебаты привнес конфликт в Афганистане, связанный с вводом в страну советских войск.
С другой же стороны, новым и позитивным фактором в жизни ООН стало расширение ее членского состава до 150 государств. На арену большой политики вышли десятки бывших колониальных, а теперь независимых государств, объединившихся в Движение неприсоединения, которое превратилось в активную политическую силу. В процесс их освобождения Советский Союз внес весомый вклад. Этот большой отряд новых членов ООН требовал к себе внимания. За влияние на него стали бороться две другие силы – ведущие державы Запада и Востока.
В этот момент представительство СССР и возглавил О.А. Трояновский. Он оказался, используя английское выражение, «тем самым человеком, в том самом месте, в то самое время». Его эрудиция, мягкие манеры помогли ему найти подход и нужные слова в отношениях с западными дипломатами, особенно американскими, которые воспринимали его как человека почти с семейной традицией, в прошлом связывавшей его с Америкой. Добрые, доверительные отношения установились у него со многими коллегами из неприсоединившихся государств.
В выступлениях Трояновского не было напористых, полемических выражений, но они содержали много тонких и метких аргументов, которые производили впечатление на профессиональных дипломатов и комментаторов.
Сам Трояновский проявил себя в Нью-Йорке как интересный и умелый собеседник. Как опытный дипломат Олег Александрович давал пример хладнокровия и выдержки в самых неожиданных и острых ситуациях. Однажды в ООН хулиганствующие маоисты, попав под видом журналистов в зал заседаний Совета Безопасности, облили красной краской его и одного из американских представителей. Наш постпред, улыбнувшись, сказал: «Лучше быть красным, чем мертвым». Все присутствовавшие хорошо восприняли эту шутку. На утро она попала во многие газеты и журналы как цитата дня. Дело в том, что Трояновский быстро сымпровизировал и переиначил популярное в годы антикоммунистической истерии в США выражение «лучше быть мертвым, чем красным» («better dead than red»).