Аппарат прокуратуры Украины, большая часть территории которой была оккупирована, располагался в то время в Ворошиловграде. Штат был невелик — всего 23 человека вместе с техническими работниками, а задач по прокурорскому надзору — много: выполнение оборонных заказов, ремонт боевой техники, строительство оборонительных сооружений и т. д. Заниматься приходилось также укреплением трудовой дисциплины и предупреждением эпидемий. Работники прокуратуры выезжали в прифронтовые районы, чтобы налаживать там работу, помогали районным прокурорам. Транспорта обычно не было, приходилось добираться до места на попутных машинах, а то и пешком.
Когда в конце июля 1942 года военная обстановка осложнилась и советские войска полностью оставили Украину, оперативная группа прокуратуры республики во главе с исполняющим обязанности прокурора Украины Р. А. Руденко продолжала действовать на территории РСФСР.
Освобождение украинской земли началось в 1943 году и к октябрю 1944 года было завершено. Оперативной группе Прокуратуры УССР предстояло восстановить все звенья прокурорского надзора. В начале 1943 года группа базировалась в очищенных от врага районах Ворошиловградской области, затем — Харьковской, а с августа 1943 года — в самом Харькове.
23 июня 1943 года Р. А. Руденко назначается на пост Прокурора Украинской ССР вместо Л. И. Яченина — тот действовал в Красной армии на должности прокурора фронта.
Забот у руководителя прокуратуры второй по величине советской республики, серьезно пострадавшей от фашистов, было предостаточно. Прокурорский надзор был направлен на выполнение директив правительства о восстановлении народного хозяйства, соблюдение прав военнослужащих и членов их семей, инвалидов войны, трудящихся предприятий и колхозов, борьбу с детской беспризорностью. Р. А. Руденко лично возглавил работу по расследованию фактов злодеяний, бесчинств и террора нацистов против мирных жителей. Собранные по этому вопросу материалы передавались в созданную Правительством СССР Чрезвычайную государственную комиссию.
Незадолго до освобождения Киева, 4 октября 1943 года, Руденко своим приказом создал специальную группу. В приказе говорилось: "1. Группе войти в Киев в день его освобождения. 2. Под руководством и при содействии партийных и советских органов обеспечить соблюдение в нем социалистической законности и советского правопорядка".
Прокуроры вошли в город 6 ноября, вслед за войсками. Член группы К. Н. Гавинский вспоминал: "…Оставив позади пылающую Дарницу, наша группа вышла к Днепру. Нашли лодку без весел и поплыли по течению, подгребая к правому берегу обломком доски. Нас снесло к разрушенному мосту. По его фермам добрались до берега. Среди руин Крещатика шла узкая тропа. По безлюдным улицам, промокшие и озябшие, но бесконечно счастливые, мы вышли на площадь Калинина.
Было шесть часов вечера. Неожиданно из репродуктора, установленного воинской частью на одной из стен полуразрушенного здания городского Совета, раздался голос диктора: "От Советского Информбюро…" Прозвучало сообщение об освобождении Киева.
На следующий же день мы приступили к делу. Прежде всего установили связь с прибывающими в город партийными и советскими работниками. Каждый из нас, возглавив одну из прокуратур района, обязан был немедленно организовать ее деятельность".
В столицу республики, еще дымящуюся военными пожарами, переместился Р. А. Руденко и весь аппарат прокуратуры.
Гавинский рассказывал автору книги, что Роман Андреевич проявил тогда большие организаторские способности и умение работать в экстремальных условиях. Был очень доступным для общения руководителем, все вопросы решал быстро, четко и профессионально.
В начале 1944 года на освобожденной территории Украины уже действовала 321 районная прокуратура. Кадры для них собирали по всей стране. По состоянию на июнь 1944 года в распоряжение Прокурора УССР прибыло две тысячи человек. Этого, конечно, не хватало, тогда Р. А. Руденко распорядился создать в шести городах краткосрочные юридические курсы.
Будучи профессионалом, он часто выступал в судах в качестве государственного обвинителя, в том числе и в Москве. Например, с 20 по 22 июня 1945 года Военная коллегия Верховного суда СССР рассматривала дело по обвинению генерала Л. Б. Окулицкого и других (всего 15 человек), руководивших польским подпольем в тылу Красной армии (так называемой Армии Крайовой). В ходе террористической деятельности этой "армии" только с июля 1944 по май 1945 года было убито и ранено около пятисот советских солдат и офицеров.
Основным обвинителем был утвержден Главный военный прокурор Н. П. Афанасьев. Когда при обсуждении этого дела у Сталина возник вопрос о том, кто будет помогать обвинителю, Афанасьев назвал Прокурора Украинской ССР Р. А. Руденко. Сталин с ним согласился.
Процесс был громким, его широко освещала советская и зарубежная пресса, некоторые заседания транслировались по радио на всю страну. Роман Андреевич показал себя на этом процессе настойчивым и находчивым обвинителем, ярким, красноречивым оратором. Сталин не мог этого не заметить — возможно, внимание вождя и было причиной назначения Руденко Главным обвинителем от СССР на Нюрнбергском процессе.
Что ж, Прокурор Украинской ССР блестяще справился с трудной задачей! Он показал себя юристом высочайшей квалификации, человеком твердых принципов, великолепным оратором. Стиль допроса Руденко отличался наступательностью, четкой аргументацией, неопровержимой и убийственной логикой преподнесения факта.
Характерную деталь привел участник Нюрнбергского процесса А. Полторак. Он писал: "Геринг и его коллеги по скамье с самого начала прибегали к весьма примитивному приему, для того чтобы посеять рознь между обвинителями четырех держав. Держась в рамках судебного приличия в отношениях с западными обвинителями, они сразу же пытались подвергнуть обструкции советского прокурора. Как только Руденко начал вступительную речь, Геринг и Гесс демонстративно сняли наушники. Но продолжалось это недолго. Стоило же только Руденко назвать имя Геринга, как у рейхсмаршала сдали нервы, он быстренько опять надел наушники и через минуту-две уже стал что-то записывать".
По его же словам, когда Руденко закончил допрос Риббентропа, Геринг с жалостью посмотрел на бывшего министра иностранных дел и лаконично подвел итог: "С Риббентропом покончено. Он теперь морально сломлен".
"С неменьшим основанием, — писал А. Полторак, — Риббентроп мог сказать это же и в отношении Германа Геринга, когда он возвращался на свое место после допроса советским обвинителем. В Нюрнберге в то время распространился нелепый слух, будто Руденко, возмущенный в ходе допроса наглостью Геринга, выхватил пистолет и застрелил нациста № 2. 10 апреля 1946 года об этом даже сообщила газета "Старз энд страйпс". Такая дичайшая газетная утка многих из нас буквально ошеломила. Но меня тотчас же успокоил один американский журналист: "Собственно, чего вы так возмущаетесь, майор? Какая разница, как было покончено с Герингом? Как будто ему легче пришлось от пулеметной очереди убийственных вопросов вашего обвинителя…"