В работе В.С. Новоселова «Некоторые вопросы механики переменных масс с учетом внутреннего движения частиц» (1957) выведены законы изменения главного вектора количества движения и кинетического момента для систем и тел переменной массы при возможном относительном движении частиц, рассмотрен закон изменения кинетической энергии для системы и тела переменной массы, получены уравнения Лагранжа второго рода для голономных систем с переменными массами в общем случае возможного относительного движения частиц, указаны необходимые и достаточные условия, при выполнении которых в механике переменных масс справедлив принцип Гамильтона — Остроградского. В другой работе Новоселова «Уравнения движения нелинейных неголономных систем с переменными массами» (1959) строится неголономная механика тел переменной массы: рассмотрены уравнения движения тел с неопределенными множителями Лагранжа, уравнения вида С.А. Чаплыгина, П.В. Воронца, Г. Гамеля (1877—1954), обобщается принцип Гаусса и выводятся уравнения, аналогичные уравнениям П. Аппеля (1855—1930). В работе «Движение механических систем со связями, зависящими от процесса изменения масс» (1960) В.С. Новоселов рассмотрел системы, на которые наложены связи, изменяющиеся вместе с изменением масс.
С середины 50-х годов начинается новый этап, когда аналитическая механика точки и тела переменной массы развивается главным образом в более общей постановке — исходя из предположения, что одновременно происходит и отделение и присоединение частиц[35]. Вместе с тем начинают разрабатываться и вопросы устойчивости.
В работе В.Ф. Котова «Основы аналитической механики для систем переменной массы» (1955) выведены принципы виртуальных перемещений, уравнения Лагранжа второго рода, канонические уравнения, уравнения Аппеля, уравнения движения свободной точки переменной массы, уравнения движения свободного тела переменной массы, принцип наименьшего действия. В.А. Сапа в статье «Вариационные принципы в механике переменной массы» (1956) сформулировал принцип виртуальных перемещений для общего случая системы точек переменной массы, получил принципы Даламбера, Гаусса, Гамильтона—Остроградского и из этих принципов вывел соответствующие уравнения движения системы переменной массы.
В другой его работе «Движение материальной точки переменной массы в случаях одновременного отделения и присоединения частиц» (1957) выведены общие теоремы механики для абсолютного и относительного движений точки переменной массы в случае одновременного отделения и присоединения частиц. Там же выведены уравнения движения голономной системы переменной массы в неголономных координатах (в квазикоординатах), уравнения движения в неголономных координатах системы переменной массы с линейными неголономными связями, уравнения движения систем переменной массы в обобщенных координатах (уравнения Лагранжа второго рода, уравнения Рауса, Аппеля). В других работах Сапа движение тела переменной массы вокруг неподвижной точки исследуется с учетом как вращения главных осей инерции, так и перемещения центра масс в теле.
В статье В.М. Карагодина «Некоторые вопросы механики тела переменной массы» (1956) и в его монографии «Теоретические основы механики тела переменного состава» (1963) дано обобщение теоремы Кенига на случай тела переменной массы, центр инерции которого в процессе движения самого тела перемещается с некоторой скоростью по отношению к точкам тела, и сформулирована для этого случая теорема о кинетической энергии тела переменной массы. Там же дано обобщение уравнений Эйлера на случай тела переменной массы с переменными моментами инерции, когда центр масс перемещается внутри тела, а центральная система осей координат вращается по отношению к телу с определенной угловой скоростью.
Как отмечалось выше, в рассматриваемый период достаточно видное место в механике переменных масс заняли задачи об устойчивости движения. В работе А.С. Галиуллина «Об одной задаче устойчивости движения точки переменной массы на конечном интервале времени» (1954) устойчивость движения исследована в предположении, что сопротивление прямо пропорционально квадрату скорости точки, при этом коэффициент пропорциональности явно зависит от времени (кроме того, допускалось, что скорость изменяющейся массы и скорость самой точки коллинеарны).
В двух работах М. Ш. Аминова: «Об устойчивости вращения твердого тела переменной массы вокруг неподвижной точки» (1958) и «Некоторые вопросы движения и устойчивости твердого тела переменной массы» (1959) — содержатся некоторые общие результаты: для системы п материальных точек переменной массы, подчиненной идеальным голономным связям, формулируется принцип Гамильтона-Остроградского, который затем применяется к выводу дифференциальных уравнений движения твердого тела переменной массы вокруг неподвижной точки и для свободного движения тела переменной массы. Устойчивость вращения тяжелого тела переменной массы с одной закрепленной точкой исследуется в предположениях, аналогичных тем, которые характеризуют классический случай Лагранжа. Были получены достаточные условия устойчивости равномерного вращения вокруг вертикальной оси симметричного тела переменной массы.
В течение ряда лет в области ракетодинамики значительное место занимали задачи, которые можно охарактеризовать как задачи внешней баллистики неуправляемых ракет. Над такими проблемами работали и за рубежом. Военные годы, естественно, вызвали повсеместно задержку публикаций. Когда же стали появляться журнальные статьи и книги по теории неуправляемых ракет, то выяснилось, что методы исследования и способы расчета применялись разные, но по сути в советских работах были получены все существенные результаты, какие удалось найти зарубежным ученым. Для решения первой основной проблемы внешней баллистики неуправляемых ракет — в расчете траекторий — были использованы общие положения механики тел переменной массы. Для вывода уравнений движения в общем случае достаточен восходящий к Мещерскому принцип затвердевания для системы переменной массы с твердой оболочкой. Вторая основная проблема внешней баллистики неуправляемых ракет — проблема рассеяния, или проблема кучности, — требует, разумеется, привлечения вероятностных методов. Советские исследования в этой области в основном подытожены в книге Ф.Р. Гантмахера и Л.М. Левина «Теория полета неуправляемых ракет», изданной в 1959 г.
Особый интерес в механике переменных масс представляют экстремальные задачи. А.А. Космодемьянский в работе «Механика тела переменной массы» отмечает, что вариационные методы решения задач внешней баллистики для тел переменной массы являются наиболее естественными и адекватными механической сущности поставленной проблемы. В самом деле, дифференциальные уравнения движения на активном участке полета (т. е. пока работает двигатель) содержат в качестве коэффициентов некоторую функцию и ее первую производную. Интегралы этих уравнений, следовательно, будут зависеть не только от произвольных постоянных, но и от вида некоторой функции и ее первой производной, т. е. будут функционалами. Следует думать, что применение мощного аппарата вариационного исчисления обеспечит значительный прогресс в механике переменной массы. Еще в 1934 г. на- Всесоюзной конференции по изучению стратосферы М.В. Мачинский и А.Н. Штерн в докладе «Научные проблемы ракетного движения» рассмотрели задачу о прямолинейном вертикальном полете ракеты, пользуясь вариационным методом. В докладе приведен вывод уравнения, решающего вопрос о полете ракеты с наименьшей затратой горючего.
Систематически применялись вариационные методы А.А. Космодемьянским. В частности, в работе «Экстремальные задачи динамики точки переменной массы» (1946) им поставлены и решены задачи определения максимальной высоты подъема ракеты и задача достижения ракетой заданной высоты в минимальное время (при наличии сил сопротивления среды). А.Ю. Ишлинский еще в 1944 г. в работе «Два замечания к теории движения ракет» показал, что для однородной атмосферы задачу о максимальной высоте подъема ракеты можно привести к простейшей задаче вариационного исчисления с помощью соответствующей замены переменных.
Эта идея была развита в работах Д.Е. Охоцимского и А.А. Космодемьянского.
Задача о максимальной горизонтальной дальности ракеты в среде без сопротивления и задача о подъеме ракеты на максимальную высоту при наличии сопротивления воздуха с учетом изменения плотности воздуха и его температуры с высотой решена в работе Д.Е. Охоцимского «К теории движения ракет» (1946) методом вычисления первой вариации. Особенностью этих двух вариационных задач является то, что искомые характеристики движения представляют собой функционалы, заданные неявно посредством дифференциальных уравнений движения и некоторых начальных условий, при этом нельзя получить явное выражение этих функционалов через функцию, выражающую зависимость изменения массы от времени и их первых вариаций при варьировании этой функции. Кроме того, экстремальное значение достигается на кривых, имеющих угловые точки. А.А. Космодемьянский в своем курсе «Лекции по механике тел переменной массы» упростил решение задачи о максимальной высоте подъема ракеты в неоднородной атмосфере, показав, что ее можно рассматривать как вариационную задачу с неголономными связями.