Необычайно широкий диапазон его исследований, охватывающих почти все области теоретической физики, привлёк в Харьков многих высокоодарённых студентов и молодых учёных, в том числе Евгения Михайловича Лифшица, ставшего не только ближайшим сотрудником Ландау, но и его другом. Выросшая вокруг Ландау школа превратила Харьков в ведущий центр советской теоретической физики. Поразительно: строго научная школа зародилась в середине 30-х годов, когда её основателю не исполнилось ещё тридцати, и он часто оказывался одного возраста со своими последователями. Оттого в этой школе все были друг с другом, а многие и с учителем на «ты».
Школа Ландау была, наверное, самым демократическим сообществом в российской науке. Вступить в неё мог кто угодно — от доктора наук до школьника, от профессора до лаборанта. Единственное, что требовалось от претендента: успешно сдать самому мэтру или его доверенному сотруднику то, что называлось ТЕОРМИНИМУМ ЛАНДАУ.
Сдача теорминимума Ландау была сродни испытаниям альпинистов при восхождении на «восьмитысячник». Евгений Лившиц рассказывал, что начиная с 1934 года Ландау сам стал вести поимённый список выдержавших это испытание. К январю 1962 года этот гроссмейстерский список включал лишь сорок три имени. Но зато десять из этих имён уже принадлежали академикам и двадцать шесть — докторам наук!
В помощь своим ученикам Ландау в 1935 году создал исчерпывающий курс теоретической физики, опубликованный им и Лифшицем в виде серии учебников, содержание которых авторы пересматривали и обновляли в течение последующих двадцати лет. Эти учебники, переведённые на многие языки, во всём мире заслуженно считаются классическими.
Но жил Ландау и его товарищи не одной работой. В свободное время играли в теннис, сочиняли песенки, ставили спектакли, устраивали костюмированные вечера, вообще всячески веселились. Как и в Ленинграде, молодёжь наделяла друг друга прозвищами. Ландау называли «Тощий Лев» (потом он стал говорить о себе, что у него не телосложение, а теловычитание). При этом была у него какая-то своеобразная грация. И даже ловкость. Неплохо, хотя и смешно, не по правилам держа ракетку, играл он в теннис.
С Харькова начались перемены и в личной судьбе Ландау. Он познакомился с Конкордией Дробанцевой, абсолютная красота которой покорила его с первого взгляда, и влюбился в неё. В 1937 году, спустя несколько лет, Кора Дробанцева, инженер-технолог кондитерской фабрики, переехала в Москву и стала женой Ландау. В 1946 году у них родился сын Игорь, работавший впоследствии физиком-эспериментатором в том же Институте физических проблем, в котором так много сделал его отец.
Ландау презирал тех, кто задался целью непременно перевернуть науку и возвеличиться в ней, равно как и всяких карьеристов и конъюнктурщиков от науки. Дау был удивительно чистый человек, рассказывает О. Н. Трапезникова. Поэтому многое в его поведении нельзя мерить обычными мерками. Он боролся с «зубрами», ненавидел «гнусов». В то же время, вспоминает Трапезникова, на её вопрос, какое качество он больше всего ценит в людях, Ландау, не колеблясь, ответил: «Доброту».
Конфликты, в которые вступал Ландау и некоторые его друзья и ученики, стали оборачиваться крупными неприятностями, дело приобретало нешуточный оборот. В конце концов, встал вопрос о переезде в другой город.
В 1937 году Ландау по приглашению Петра Капицы возглавил отдел теоретической физики во вновь созданном Институте физических проблем в Москве. Но на следующий год Ландау был арестован по ложному обвинению в шпионаже в пользу Германии. Только вмешательство Капицы, обратившегося непосредственно в Кремль, позволило добиться освобождения Ландау.
Когда Ландау переехал из Харькова в Москву, эксперименты Капицы с жидким гелием шли полным ходом. Газообразный гелий переходит в жидкое состояние при охлаждении до температуры ниже 4,2 K (в градусах Кельвина измеряется абсолютная температура, отсчитываемая от абсолютного нуля, или от температуры минус 273,18 °C). В этом состоянии гелий называется гелием-1. При охлаждении до температуры ниже 2,17 K гелий переходит в жидкость, называемую гелием-2 и обладающую необычными свойствами. Гелий-2 протекает сквозь мельчайшие отверстия с такой лёгкостью, как будто у него полностью отсутствует вязкость. Он поднимается по стенке сосуда, как будто на него не действует сила тяжести, и обладает теплопроводностью, в сотни раз превышающей теплопроводность меди. Капица назвал гелий-2 сверхтекучей жидкостью.
Но при проверке стандартными методами, например измерением сопротивления крутильным колебаниям диска с заданной частотой, выяснилось, что гелий-2 не обладает нулевой вязкостью. Учёные высказали предположение о том, что необычное поведение гелия-2 обусловлено эффектами, относящимися к области квантовой теории, а не классической физики, которые проявляются только при низких температурах и обычно наблюдаются в твёрдых телах, так как большинство веществ при этих условиях замерзают. Гелий является исключением — если его не подвергать очень высокому давлению, остаётся жидким вплоть до абсолютного нуля. В 1938 году Ласло Тисса предположил, что жидкий гелий в действительности представляет собой смесь двух форм: гелия-1 (нормальной жидкости) и гелия-2 (сверхтекучей жидкости). Когда температура падает почти до абсолютного нуля, доминирующей компонентой становится гелий-2. Эта гипотеза позволила объяснить, почему при разных условиях наблюдается различная вязкость.
Ландау объяснил сверхтекучесть, используя принципиально новый математический аппарат. В то время как другие исследователи применяли квантовую механику к поведению отдельных атомов, он рассмотрел квантовые состояния объёма жидкости почти так же, как если бы та была твёрдым телом. Ландау выдвинул гипотезу о существовании двух компонент движения, или возбуждения: фононов, описывающих относительно нормальное прямолинейное распространение звуковых волн при малых значениях импульса и энергии, и ротонов, описывающих вращательное движение, т. е. более сложное проявление возбуждений при более высоких значениях импульса и энергии.
Наблюдаемые явления обусловлены вкладами фононов и ротонов и их взаимодействием. Жидкий гелий, утверждал Ландау, можно рассматривать как «нормальную» компоненту, погружённую в сверхтекучий «фон» В эксперименте по истечению жидкого гелия через узкую щель сверхтекучая компонента течёт, в то время как фононы и ротоны сталкиваются со стенками, которые удерживают их. В эксперименте с крутильными колебаниями диска сверхтекучая компонента оказывает пренебрежимо слабое воздействие, тогда как фононы и ротоны сталкиваются с диском и замедляют его движение. Отношение концентраций нормальной и сверхтекучей компонент зависит от температуры. Ротоны доминируют при температуре выше 1 K, фононы — ниже 0,6 K.
