В ноябре 1943 года все войска, находившиеся в Италии, были подчинены Кессельрингу, и Роммель вновь оказался не у дел. Не зная, что делать с ним, Гитлер пока поручил Роммелю проинспектировать Атлантический вал (так называлась линия сооружаемых от Дании до Испании прибрежных укреплений). Выводы возглавляемой Роммелем инспекции были неутешительны для Гитлера. В своем докладе фюреру Роммель заявил, что последний для Германии шанс выиграть войну — это не допустить высадки англо-американских войск во Франции и тем самым сорвать план западных союзников открыть Второй фронт в Европе. Решение этой задачи он готов был взять на себя. Но командующий войсками на Западе генерал-фельдмаршал Г. фон Рундштедт был не в восторге от активности, которую развернул находящийся не у дел фельдмаршал в сфере, находившейся в пределах его компетенции. Он заподозрил, что Роммель прислан на Запад ему на замену и приложил немалые усилия, чтобы дезавуировать деятельность своего «соперника».
Но в конце декабря все же состоялась встреча двух фельдмаршалов, на которой они сумели прийти к согласию. 30 декабря 1943 года Роммель выступил с предложением создать на Западе группу армий «Б» в составе 7-й армии (генерал Ф. Дольман), 15-й армии (генерал Г. фон Зальмут) и 88-го отдельного армейского корпуса — всего 38 дивизий. Гитлер едва ли пришел в восторг от этой идеи, поскольку, судя по всему, намеревался использовать Роммеля на Восточном фронте, но, в конечном счете, вынужден был согласиться. 2 января 1944 года группа армий «Б» была создана, командующим ее назначен Роммель, который вошел в подчинение Рундштедта. Так Роммель получил свое самое крупное и последнее назначение.
Но вскоре после достигнутого компромисса между Роммелем и Рундштедтом вновь возникли крупные разногласия, на это раз по вопросу использования находившихся на Западе 10 танковых дивизий. В распоряжении Роммеля не было ни одной танковой дивизии, все они находились в резерве Рундштедта. Роммель правильно предугадал место возможной высадки англо-американских войск — Нормандия, и приступил к укреплению обороны в этом районе, намереваясь в случае высадки сразу же сбросить противника в море. Но для этого ему нужна была ударная танковая группировка. Однако у Рунштедта был другой план, сводившийся к тому, что, поскольку немецкие войска на Западе не в состоянии помешать высадке союзников во Франции, то решающее сражение дать им не на побережье, а в глубине, где они будут лишены мощной поддержки флота. Именно там он и предполагал использовать свои танковые дивизии как основную ударную силу. Роммель ему возражал, напоминая, что времена великих танковых побед уже прошли. По собственному опыту, как никто другой из военачальников Третьего рейха, он знал боевые возможности англо-американской авиации и понимал, что стоит только западным союзникам закрепиться на континенте, то выбить их оттуда будет практически уже невозможно. Но переубедить старого фельдмаршала было невозможно. Столкнувшись с новыми разногласиями между фельдмаршалами, Гитлер пошел на компромисс и… поддержал их обоих, притом довольно оригинальным образом. 3 танковые дивизии он подчинил Роммелю, 3 других отправил на юг Франции, в группу армий «Г», а 4 дивизии оставил в распоряжении Рундштедта. В итоге обе заинтересованные стороны остались недовольны таким решением, т. к. планы каждой из них оказались сорванными.
4 июня 1944 года Роммель выехал на несколько дней по делам в Германию, а через 2 дня после его отъезда началась высадка союзных войск в Нормандии. Поздно вечером 6 июня он срочно вернулся в свой штаб и уже 9 июня нанес контрудар силами 3 танковых дивизий. При мощной поддержке авиации и корабельной артиллерии союзников удар был отражен английскими войсками. С большим трудом Роммелю удалось на некоторое время сдержать наступление англо-американских войск, стремившихся расширить захваченный плацдарм. Но силы оборонявшейся на этом участке фронта 7-й армии быстро иссякали, в тяжелых оборонительных боях она несла большие потери, восполнять которые было нечем. Союзники имели подавляющее превосходство в силах, их авиация полностью господствовала в воздухе.
Неоднократные обращения Роммеля к Гитлеру с просьбой направить в Нормандию войска 15-й армии, оборонявшей побережье пролива Па-де-Кале, результата не дали. Фюрер считал, что западные союзники наносят в Нормандии лишь отвлекающий удар, а настоящая их высадка произойдет в полосе 15-й армии. Отчаявшись в своих усилиях удержать фронт, Роммель 15 июля направил Гитлеру послание, походившее скорее на ультиматум, в котором призвал его сделать правильные выводы из создавшейся обстановки, и открыто дал понять, что настало время прекратить войну и заключить мир с западными державами. «Я дал ему последний шанс, — заявил Роммель в своем окружении. — И если он им не воспользуется, мы будем действовать».
К этому времени он уже участвовал (с начала 1944 года) в антигитлеровском заговоре и готов был играть самую активную роль в свержении нацистского режима. Ему даже удалось привлечь на свою сторону командира 2-го танкового корпуса СС генерала З. Дитриха. Но при всех своих радикальных взглядах Роммель был противником физического устранения Гитлера. Он полагал, что фашистский диктатор должен быть арестован и предан суду. Но судьбе было угодно распорядиться иначе. За 3 дня до покушения на Гитлера автомобиль Роммеля попал под бомбежку, а сам он был тяжело ранен в голову осколком авиационной бомбы (17 июля 1944 года). Всем казалось, что ранение смертельное, но фельдмаршал все же выжил и был эвакуирован для лечения в Германию.
После госпиталя он приехал в Херлинген, деревушку в его родной Швабии, близ Ульма, куда он еще в 1943 году перевез свою семью, спасая ее от бомбежек. К этому времени гестапо уже располагало данными и о причастности Роммеля к заговору.
14 октября в его доме, предварительно окруженном эссэсовцами, появились два посланца Гитлера — начальник управления кадров ОКХ генерал-лейтенант В. Бургдорф и его заместитель генерал-майор Э. Мейзель. Они предложили фельдмаршалу на выбор — самоубийство или суд чести. Роммель выбрал последнее. Тогда генералы дали понять ему, что приговор предрешен и, кроме того, репрессиям будет подвергнута его семья. Однако, если фельдмаршал предпочтет самоубийство, то его ожидают государственные похороны со всеми воинскими почестями, а семье гарантируется безопасность и пенсия.
Чтобы спасти свою семью от расправы, Роммель изменил уже принятое решение и заявил о своем согласии покончить жизнь самоубийством. Посланцы Гитлера привезли с собой ампулу с цианистым калием. Они заверили приговоренного Гитлером к смерти фельдмаршала, что смерть будет быстрой и безболезненной. Быстро попрощавшись с женой и сыном, Роммель вместе с генералами уехал на автомобиле в Ульм, где находился военный госпиталь. По дороге он принял яд. В госпитале врачи смогли лишь констатировать смерть Роммеля. Официальной причиной его смерти было объявлено кровоизлияние в мозг.
