Впрочем, Михаила Григорьевича в довоенный период эти вопросы еще не волновали — он, как сам пишет, участвовал в раскопках других городов и собирался стать историком или этнографом. К раскопкам в Москве он пришел только после Великой Отечественной войны, когда в археологии произошел ряд важных изменений. В политике сталинизма явственно обозначился великодержавный шовинистический акцент, в силу которого изучение национального наследия, в том числе археологическое, воспринималось уже как проявление патриотической активности. Кроме того, подогревался интерес к Москве как столице СССР, началась подготовка празднования ее 800-летия. Наконец, в послевоенный период из Ленинграда в Москву переместился, в ходе общей централизации управления наукой, академический Институт истории материальной культуры (позже археологии), на который, естественно, ложилась ответственность за раскопки: археологическое прошлое Москвы не должно было уступать ее блестящему настоящему и фантастическому будущему.
В этих условиях и началось создание специальной структуры — Московской археологической экспедиции ИИМК, руководителем которой в первый период ее существования и стал Михаил Григорьевич. Начало было очень удачным: удалось провести первые научные послойные раскопки у церкви Никиты Мученика, на мысу при впадении реки Яузы в реку Москву — в одном из мест, где предполагалось древнейшее поселение города, легендарная ранняя Москва — «Кучково». На этом мысу планировалось строительство высотного здания, так что раскопки имели и охранную цель. Ученик А. В. Арциховского и М. Н. Тихомирова, Рабинович смог организовать на Яузе образцовые с точки зрения методики раскопки: впервые в Москве культурный слой открывали достаточно методично, пласт за пластом. Впервые же было изучено кладбище XVI в. (ученые середины XX в. обычно этими материалами пренебрегали). Наконец, на Яузе была впервые открыта и часть большого района керамического производства Москвы, ее Гончарной слободы.
Следующим крупным «полевым проектом», начатым Михаилом Григорьевичем в Москве, стали широкие раскопки в Зарядье. Их необходимость была вызвана начинавшейся безумной «очисткой» этого древнейшего района города под строительство гостиницы «Россия». Впрочем, Рабиновичу удалось проработать в Зарядье лишь первые сезоны: начавшаяся кампания борьбы с «космополитизмом» прервала его быстро и успешно развивавшуюся карьеру археолога Москвы. А затем случилось то, о чем говорилось выше, — он был уволен из Института по причине «несовместимости» его фамилии с должностью руководителя археологических работ в Москве. Борьба за справедливость ни к чему не привела, да и не могла, разумеется, в тогдашних условиях привести. Раскопки в Москве, кстати, были приостановлены на несколько лет. Рабинович, в общем, «легко отделался». Если не считать таких «пустяков», как отстранение от любимого дела и понижение зарплаты в несколько раз.
Об этих гонениях, так же как и о своем упорном сопротивлении травле, Рабинович рассказал в мемуарах с впечатляющими подробностями. Но Михаил Григорьевич продолжал работать в Музее истории и реконструкции Москвы, где с 1947 по 1957 г. заведовал археологическим отделом, а в 1953–1957 гг. был заместителем директора по научной части.
Последняя возможность изучить древнейшие объекты города открылась для него уже после вынужденного ухода из Московской экспедиции, при строительстве Дворца съездов в Кремле (на рубеже 1950–1960-х годов). Правда, эта «хирургическая операция» по встраиванию Дворца в исторический ансамбль Кремля была настоящим преступлением, да и условия для исследований были самые ограниченные. Но все же это были первые серьезные археологические работы в Кремле, прежде совершенно недоступном для археологов. Михаилу Григорьевичу удалось получить первые сведения о ранней топографии и особенно об укреплениях домонгольской Москвы. Правда, он и те ученые, которые с ним сотрудничали и поддерживали его точку зрения, несколько удревнили даты открытых ими памятников. В их глазах история древнейшей крепости начиналась в X в., задолго до первого упоминания Москвы в летописи. Сегодня это общее для историографии того времени положение представляется ошибочным: большинство историков сходится во мнении, что Москва не выросла из родового славянского поселка, а была возведена единовременно в середине XII в. как княжеская крепость. Разница здесь не только хронологическая, но и принципиальная. Уже в ходе раскопок с Рабиновичем спорили ученые, работавшие рядом, — например, столь нелестно характеризуемая им Т. В. Равдина настаивала, что в Кремле нет слоев не только X, но и XI в. Тем не менее сам факт открытий внутри Кремля стал неожиданным и ярким событием в хронике городской жизни, а обнаружение древнейших крепостей — выдающимся вкладом в историю Москвы, давшим материал для последующей дискуссии и реинтерпретаций.
Следует отметить, что Михаил Григорьевич в воспоминаниях сравнительно мало рассказывает о научных результатах своих исследований в Москве, которые далеко не ограничиваются полевыми работами и отчетами. При поддержке известного историка архитектуры и искусства Н. Н. Воронина (который с конца 1930-х годов прилагал все возможные усилия для развития охраны памятников старины и изучения средневековых городов) Рабинович принял активное участие в начатом с 1947 г. издании серии основополагающих сборников по московской археологии, первый из которых вышел под редакцией А. В. Арциховского. В нем и в последующих четырех томах Рабинович не только опубликовал материалы своих исследований, но и разработал, по материалам Гончарной слободы, первую достаточно полную систему керамической стратиграфии Москвы. Эта хроностратиграфическая шкала (без которой не может считаться надежной археологическая хронология никакого памятника) сохраняет значение и по сей день, несмотря на появление ряда гораздо более разработанных и детальных систем (опубликована в большой и очень информативной статье, «втиснутой» в очередной том Материалов и исследований по археологии Москвы). Ему принадлежит и первая монография по археологии Москвы (написанная достаточно живо для того, чтобы стать одновременно популярным чтением), в которой проанализирован культурный слой, нарисована картина распространения его в центральных районах Москвы, даны точные вещеведческие характеристики отдельных пластов, предложен общий очерк материальной культуры города до конца XVII в. («О древней Москве». М., 1964).
Можно утверждать, что именно Михаил Григорьевич, опираясь на собранный при раскопках материал, в серии статей и монографий 1940–1960-х годов заложил основы археологического москвоведения, создав системный подход к изучению и охране культурного слоя Москвы эпохи Средневековья и, что оказалось важным впоследствии, раннего Нового времени. Он создал тот фундамент, на который опираются и долго еще будут опираться его коллеги-археологи и просто любители московской старины.