Abnormal sub-Riemannian geodesics: Morse index and rigidity

  • A.A. Agrachev

    Steklov Mathematical Institute, Russian Academy of Sciences, Vavilova ul. 42, 117966, Moscow, Russia
  • A.V. Sarychev

    Departamento de Matemática, Universidade de Aveiro, 3810, Aveiro, Portugal

Abstract

Considering a smooth manifold Μ provided with a sub-Riemannian structure, i.e. with Riemannian metric and nonintegrable vector distribution, we set a problem of finding for two given points q0, q1 ∈ Μ a length minimizer among Lipschitzian paths tangent to the vector distribution (admissible) and connecting these points. Extremals of this variational problem are called sub-Riemannian geodesics and we single out the abnormal sub-Riemannian geodesics, which correspond to the vanishing Lagrange multiplier for the length functional. These abnormal geodesics are not related to the Riemannian structure but only to the vector distribution and, in fact, are singular points in the set of admissible paths connecting q0 and q1. Developing the Legendre-Jacobi-Morse-type theory of 2nd variation for abnormal geodesics we investigate some of their specific properties such as weak minimality and rigidity-isolatedness in the space of admissible paths connecting the two given points.

Résumé

Soit Μ une variété régulière avec une structure sous-riemannienne (i.e. avec une métrique riemannienne et une distribution vectorielle non intégrable). Nous étudions l’existence d’un chemin de longueur minimale entre deux points q0 et q1 de Μ, parmi les chemins lipschitziens tangents à la distribution vectorielle (chemins admissibles). Des points stationnaires de ce problème variationnel sont appelés des géodésiques sous-riemanniennes et nous nous intéressons plus particulièrement aux géodésiques sous-riemanniennes « anormales », correspondant à un multiplicateur de Lagrange nul. Les géodésiques anormales ne sont pas reliées à la structure riemannienne mais seulement à la distribution vectorielle et en fait sont des points irréguliers dans l’ensemble des chemins admissibles reliant q0 à q1. En développant une théorie de type Legendre-Jacobi-Morse de seconde variation pour les géodésiques anormales, nous étudions quelques-unes de leurs propriétés spécifiques comme la minimalité faible et la rigidité – le fait qu’elles sont isolées dans l’espace des chemins admissibles reliant les deux points.

Cite this article

A.A. Agrachev, A.V. Sarychev, Abnormal sub-Riemannian geodesics: Morse index and rigidity. Ann. Inst. H. Poincaré Anal. Non Linéaire 13 (1996), no. 6, pp. 635–690

DOI 10.1016/S0294-1449(16)30118-4