Стремясь доказать теорему двойственности Александера для произвольного компактного подмножества евклидового пространства, я пришёл к необходимости рассмотрения группы характеров произвольной коммутативной счётной группы, т.е. столкнулся с T-теорией топологических групп, с топологической алгеброй. В дальнейшем это привело меня к построению общей теории топологических групп.
Я пришёл к топологической алгебре, стремясь доказать теорему двойственности Александера для произвольного компактного подмножества евклидового пространства. Не знаю, как пришёл к ней А. Н. Колмогоров, но он сформулировал мне следующее общее положение: «Математический объект, в котором одновременно определены алгебраические и топологические операции, причём алгебраические операции непрерывны в заданной в нём топологии, должен быть сравнительно конкретным». На этом пути Колмогоров пытался построить аксиоматику пространств постоянной кривизны, т.е. единую аксиоматику для пространства Евклида, Лобачевского и Римана.
Передо мной он поставил следующую конкретную задачу: доказать, что всякое связное локально компактное топологическое тело является либо телом действительных чисел, либо телом комплексных чисел, либо телом кватернионов. Для коммутативных тел, т.е. полей, я решил её очень быстро — за неделю или две. И сообщил об этом П. С. Александрову. И вот мы трое собрались в маленькой комнате Павла Сергеевича в Старопименовском переулке. Колмогоров с оттенком иронии сказал: «Ну что же, Лев Семёнович, я слышал, вы решили мою задачу? — Расскажите!» Я начал рассказ, и первое же моё утверждение Колмогоров объявил неверным. Но я в нескольких словах объяснил ему его ошибку. Колмогоров сказал: «Да, да, вы правы! По-видимому, задача, которую я вам поставил, не так трудна, как я думал».
Потом я решил задачу и для случая некоммутативных тел, но это заняло у меня уже около года. Колмогоров тщательно отредактировал эту мою работу и устроил в ней 33 леммы. В таком виде она и была опубликована. Я и сейчас считаю этот мой результат в числе лучших моих достижений[14].
С Колмогоровым я познакомился летом 1929 года в Гаграх, где мы с матерью провели целых два месяца. Я часто встречался там с Александровым и Колмогоровым, Во всяком случае, мы очень часто купались вместе. Александров и Колмогоров приехали в Гагры не одновременно. Сперва приехал Александров и стал ждать Колмогорова, который шёл через перевал, притом совершенно один, что очень беспокоило Александрова и меня. Беспокойство это переросло в мучительную тревогу, когда Колмогоров не явился к назначенному сроку.
Александров за несколько лет до этого потерял своего друга, Урысона, при трагических обстоятельствах. Урысон утонул в Атлантическом океане во время сильного прибоя на глазах у Александрова. В Гаграх Александрову чудилась гибель только что обретённого нового друга. Колмогоров опоздал на несколько дней. Оказалось, что при переходе через перевал он уронил сумку с документами в пропасть и не мог её достать. Когда он ночью спустился в Сочи, то женщина-милиционер задержала его как подозрительную личность и отправила в дом предварительного заключения, где он просидел четыре или пять дней, тщетно добиваясь, чтобы его выпустили или навели о нём справки. Наконец это удалось сделать, и тогда ему была возвращена свобода.
* * *
Топологическая алгебра, точнее, теория топологических или непрерывных групп была предметом моей научной и педагогической деятельности в течение нескольких лет. Большой успех в этой области был достигнут мною на основе только что появившейся тогда замечательной работы венгерского математика Хаара. В ней Хаар построил на локально компактной топологической группе инвариантную меру. Это позволяло строить и решать на группе интегральные уравнения, так что можно было применить данную ранее Германом Вейлем теорию представлений компактных групп Ли. Работа Хаара была опубликована в американском журнале «Annals of Mathematics», где членом редакции был фон Нейман. Последний сразу же воспользовался замечательным результатом Хаара, решив при помощи него пятую проблему Гильберта для компактных групп. Я, конечно, мог использовать результат Хаара только уже после Неймана. Для компактных групп я получил результат несколько более сильный, чем у Неймана, но это уже не было решением проблемы Гильберта, так как она была решена Нейманом. Кроме того, я изучил локально компактные коммутативные топологические группы. Моя работа о локально компактных коммутативных группах была послана в тот же журнал. Лефшец, который в то время находился в Москве, процитировал мне письмо Неймана, в котором писал, что от Понтрягина получена действительно замечательная работа[15].
По теории непрерывных групп, в частности групп Ли, я прочёл несколько спецкурсов и провёл несколько семинаров. Получил важные собственные результаты. И мне захотелось написать книгу. К 1935 году я уже был готов к написанию большой монографии «Непрерывные группы». В неё вошли: общая теория топологических групп, мои собственные результаты, а также очень хорошее только что полученное мною изложение теории групп Ли. Я писал эту книгу два года и в 1937 году сдал в печать. На этом я научился писать математические работы. В 40-м году за эту монографию мне была присуждена Сталинская премия 2-й степени. Книга очень скоро была переведена в США на английский язык и сильно увеличила мою международную известность[16].
Другим ответвлением от моих студенческих работ по теореме двойственности Александера была попытка локализировать эту теорему. Это было связано с новой тематикой П. С. Александрова. Он стал применять комбинаторную топологию для изучения компактных топологических пространств, в частности переносить на них теорию гомологий.
Он старался определить при помощи гомологий размерность множества, ввёл понятие «по модулю два» и пытался доказать, что обычная размерность совпадает с гомологической размерностью по модулю два. Я сразу увидел, что размерность можно определить не только по модулю два, но и по любому другому модулю. Так что получается счётное число различных гомологических размерностей.
Доказательство того, что размерности эти различны, было моим достижением. Пользуясь этими соображениями, я построил ставший знаменитым пример двух компактных топологических множеств размерности два, топологическое произведение которых имеет размерность три.
Результат был опубликован в журнале «Comptes Rendus»[17]. Эта заметка попала в руки С. А. Лефшеца и оказалась противоречащим примером к уже построенной Лефшецом и публикуемой им теории гомологической разности. Ему пришлось срочно выкидывать из набора целую главу своей книги.
