В 1948 году Сахаров в составе группы учёных, в основном молодых физиков-теоретиков, был направлен в советский аналог Лос-Аламоса — во Всесоюзный научно-исследовательский институт экспериментальной физики (ВНИИЭФ), в один из самых закрытых и засекреченных институтов в СССР. Эта группа под руководством И. Е. Тамма должна была проверить теоретическое обоснование проекта водородной бомбы, предложенного коллективом под управлением Я. Б. Зельдовича. И здесь Андрей Дмитриевич проявил своё нестандартное мышление, заставлявшее восхищаться лучшие умы планеты. Он не стал, как говорится, зацикливаться на идее, которая, как мы знаем, была ошибочной, а предложил свой проект бомбы, так называемую «слойку», или, говоря научным языком, «ионизационное обжатие дейтерия». Эта идея стала отправной точкой для создания советской водородной бомбы. Работы велись с невероятной скоростью, не замедлились их темпы и после смерти Сталина и ареста Берии, лично курировавших проект водородной бомбы.
В ноябре 1952 года американцы, казалось, вновь добились перевеса в ядерной гонке. На полигоне Элугелаб было взорвано термоядерное устройство «Майк», которое по мощности в 500 раз превосходило сброшенную на Хиросиму бомбу. Однако «Майк» представлял собой огромную конструкцию величиной с двухэтажный дом и, по сути, не являлся бомбой.
Ответом на взрыв «Майка» стало испытание 12 августа 1953 года на полигоне под Семипалатинском первой в мире водородной бомбы. Эти испытания восстановили ядерный паритет между СССР и США. Это была грандиозная победа советской физической школы, триумф Андрея Сахарова, которого стали называть «отцом водородной бомбы». Триумфом, который для самого учёного стал трагедией…
Воочию убедившись в огромной силе своего детища (Сахаров вместе с коллегами и военным руководством присутствовал на полигоне), Андрей Дмитриевич понял, что оно в одно мгновенье может убить, буквально сжечь в пепел миллионы людей. Да, он был учёным, преданным любимому делу, тогда для него главной была наука, но научные исследования Сахарова и его коллег могли привести к всемирной катастрофе. Характерный эпизод произошёл на банкете после испытаний. «Выпьем за то, чтобы бомбы взрывались лишь над полигонами и никогда над городами», — провозгласил тост Андрей Дмитриевич. На это заместитель министра обороны Митрофан Неделин ответил с армейской прямотой: «Ваша, учёных, задача — укреплять оружие, а направить его куда надо военные и сами смогут». И Сахаров понял, что он становится «винтиком в страшной машине ядерной смерти», которая может взорвать всю планету.
Ещё больше эти настроения усилились у Андрея Дмитриевича после испытаний водородной бомбы, сброшенной с самолёта. 22 ноября 1955 года страшный взрыв потряс казахскую степь и задел Семипалатинск. Были разрушены дома и строения, пострадали тысячи людей, двое человек — солдат и маленькая девочка — погибли.
Сахаров, не прекращая работу над ядерным оружием, начал борьбу за запрещение ядерных испытаний. В 1958 году появились две статьи молодого академика, в которой приводились страшные расчёты: каждая мегатонна взорванной в атмосфере ядерной бомбы в будущем приведёт к 10 тысячам заболевших онкологическими заболеваниями. Некоторое время Советским Союзом соблюдался мораторий на проведение ядерных испытаний в атмосфере, однако в 1958 году он был нарушен. «Я не мог ничего поделать с тем, что считал неправильным и ненужным, — вспоминал в связи с прекращением моратория Андрей Дмитриевич. — У меня было ужасное чувство бессилия. После этого я стал другим человеком». И всё-таки настойчивая позиция Сахарова и некоторых его коллег за ограничение ядерных испытаний привела к успеху — в 1963 году в Москве был подписан договор «О запрещении ядерных испытаний в трёх средах — в атмосфере, космической среде и под водой».
В середине 60-х годов Андрей Дмитриевич впервые обращается к проблеме преследования инакомыслия в СССР. В 1966 году состоялся печально знаменитый процесс над писателями Андреем Синявским и Юлием Даниэлем, осуждёнными за публикацию своих произведений на Западе. Этот процесс считается началом правозащитного движения в СССР, именно тогда в обиходе появилось иностранное слово «диссидент». Не остался в стороне и Андрей Сахаров. Он подписал знаменитое «письмо 25-ти» — обращение видных учёных и общественных деятелей к Брежневу, в котором указывалось, что «любые попытки возродить сталинскую политику нетерпимости к инакомыслию были бы величайшим бедствием для советского народа». Власть после этого письма взяла Сахарова «на заметку». Одно дело — борьба за отмену ядерных испытаний, и совсем другое — обвинение режима в преследовании инакомыслия и защита такого нелюбимого советской властью понятия, как свобода слова. Однако «выводов» по отношению к строптивому академику не последовало. Они были сделаны позже…
Летом 1968 года в иностранной печати появляется статья Сахарова «Размышления о прогрессе, мирном сосуществовании и интеллектуальной свободе». Необходимость демократизации советского общества, осуждение гонки ядерных вооружений, призыв к сближению двух супердержав, СССР и США, взаимопроникновению двух систем, социалистической и капиталистической, необходимого для решения глобальных проблем, — вот основные тезисы этой работы, изданной за рубежом тиражом более 20 миллионов экземпляров. Любой здравомыслящий человек будет двумя руками голосовать за эти призывы. Однако лидеры советского режима рассуждали иначе. В СССР «Размышления» официально не публиковались (но были хорошо известны благодаря распространению многочисленных «самиздатовских» копий). Последовали и «выводы», правда, пока достаточно мягкие. Сахаров к тому времени был настолько известной фигурой, что применить к нему жёсткие меры не решались. Он был отстранён от работ, связанных с военными секретами. Андрей Дмитриевич вернулся в ФИАН на должность старшего научного сотрудника — самую низкую должность, которую мог занимать академик.
В 1969 году от рака умерла супруга Сахарова Клавдия Алексеевна. Андрей Дмитриевич тяжело переживал утрату любимого человека. Но несмотря на душевное опустошение, он и в такой тяжёлый момент своей жизни всё равно думал не только о себе. Все свои сбережения, 139 тысяч рублей, огромную по тем временам сумму, Сахаров перевёл на строительство московского онкологического центра.
В 1970 году Андрей Сахаров вместе с физиками В. Чалидзе и А. Твердохлебовым организовал Комитет прав человека, главной задачей которого было отстаивание основных принципов Всеобщей декларации прав человека. В этом же году в Калуге, во время пикетирования здания суда, где проходил процесс над правозащитниками Р. Пименовым и Б. Вайлем, Андрей Дмитриевич познакомился с Еленой Георгиевной Боннэр, ставшей через два года его женой.
«С 1972 года всё более усиливалось давление на меня и моих близких, — писал Андрей Дмитриевич в автобиографии, — кругом нарастали репрессии, я больше о них узнавал, и почти каждый день надо было выступать в защиту кого-то». В это же время в средствах массовой информации началась массированная и хорошо спланированная кампания по дискредитации опального академика. После того как Андрей Дмитриевич, несмотря на запрет со стороны властей, созвал пресс-конференцию для иностранных журналистов, в «Правде» появилось письмо, подписанное 40 членами Академии наук. Это письмо послужило сигналом к началу гонений на Сахарова и его соратников. Понятно, как писались такие письма, и наверняка коллеги Андрея Дмитриевича по Академии наук не горели желанием подписывать этот пасквиль. Но этим-то и отличался Сахаров от остальных — если он видел несправедливость, то не молчал, не носил её в себе, а всеми силами боролся с нею.
В 1975 году Андрей Сахаров был удостоен Нобелевской премии мира за «бесстрашную поддержку фундаментальных принципов мира между людьми» и «мужественную борьбу со злоупотреблением властью и любыми формами подавления человеческого достоинства». Самого лауреата за границу не пустили, и премию получала Елена Боннэр, находившаяся в то время за рубежом на лечении. Признание роли Сахарова в защите прав человека в СССР действовало на советский режим как красная тряпка на быка. В 1980 году, когда Андрей Дмитриевич в интервью западным СМИ резко осудил ввод советских войск в Афганистан, он был лишён всех званий и государственных наград и сослан в Горький — город, закрытый в то время для иностранцев. Власть таким образом пыталась изолировать его от мира, однако письма и статьи Сахарова всё равно появлялись в иностранной печати. В Горьком Андрей Дмитриевич находился под круглосуточным наблюдением КГБ, его квартира прослушивалась, а каждый выход на улицу фиксировался на плёнку.
Ссылка Сахарова и его супруги была прекращена только после прихода к власти Михаила Горбачёва. 14 декабря 1986 года между Генеральным секретарём ЦК КПСС и ссыльным академиком состоялся телефонный разговор. «Возвращайтесь и приступайте к своей патриотической деятельности», — сказал Горбачёв. Через неделю Андрей Сахаров и Елена Боннэр вернулись в Москву.