Abnormal sub-Riemannian geodesics: Morse index and rigidity

Abstract

Considering a smooth manifold $M$ provided with a sub-Riemannian structure, i.e. with Riemannian metric and nonintegrable vector distribution, we set a problem of finding for two given points $q^0,q^1\in M$ a length minimizer among Lipschitzian paths tangent to the vector distribution (admissible) and connecting these points. Extremals of this variational problem are called sub-Riemannian geodesics and we single out the abnormal sub-Riemannian geodesics, which correspond to the vanishing Lagrange multiplier for the length functional. These abnormal geodesics are not related to the Riemannian structure but only to the vector distribution and, in fact, are singular points in the set of admissible paths connecting $q^0$ and $q^1$. Developing the Legendre–Jacobi–Morse-type theory of 2nd variation for abnormal geodesics we investigate some of their specific properties such as weak minimality and rigidity-isolatedness in the space of admissible paths connecting the two given points.

Résumé

Soit $M$ une variété régulière avec une structure sous-riemannienne (i.e. avec une métrique riemannienne et une distribution vectorielle non intégrable). Nous étudions l’existence d’un chemin de longueur minimale entre deux points $q^0$ et $q^1$ de $M$, parmi les chemins lipschitziens tangents à la distribution vectorielle (chemins admissibles). Des points stationnaires de ce problème variationnel sont appelés des géodésiques sous-riemanniennes et nous nous intéressons plus particulièrement aux géodésiques sous-riemanniennes « anormales », correspondant à un multiplicateur de Lagrange nul. Les géodésiques anormales ne sont pas reliées à la structure riemannienne mais seulement à la distribution vectorielle et en fait sont des points irréguliers dans l’ensemble des chemins admissibles reliant $q^0$ à $q^1$. En développant une théorie de type Legendre–Jacobi–Morse de seconde variation pour les géodésiques anormales, nous étudions quelques-unes de leurs propriétés spécifiques comme la minimalité faible et la rigidité – le fait qu’elles sont isolées dans l’espace des chemins admissibles reliant les deux points.