Institut de Recherche Mathématique avancée

Université Louis Pasteur et C.N.R.S. (URA 01) 7, rue René Descartes 67084 STRASBOURG Cedex

Structures polynomiales en théorie des groupes nilpotents

par

Manfred HARTL

email actuel : hartl@univ-valenciennes.fr

Classification A.M.S. : 20F18, 20G10, 20F28, 20J05, 16A26, 16A27, 17B30, 17B35.

Mots clés : groupes nilpotents, cohomologie de groupes, groupes des automorphismes, groupes simpliciaux, algèbres de groupes, représentations affines, applications polynomiales.

Table des matières

1 Introduction 4

2 Applications et foncteurs polynomiaux sur les groupes 12 2.1 Applications polynomiales . . . . . . . . . . . . . . . . . . . . . . . 12 2.2 Sur la structure des foncteurs polynomiaux de Passi . . . . . . . . . 16 2.3 Les foncteurs polynomiaux relatifs . . . . . . . . . . . . . . . . . . . 20

3 La deuxième cohomologie d’un groupe nilpotent sans torsion à coefficients dans un module nilpotent 25 3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25 3.2 La cohomologie polynomiale d’une algèbre augmentée . . . . . . . . 28 3.3 La cohomologie polynomiale d’un groupe . . . . . . . . . . . . . . . 31 3.4 L’homologie polynomiale . . . . . . . . . . . . . . . . . . . . . . . . 37

4 Le multiplicateur de Schur et le produit tensoriel nonabélien d’un groupe de classe 2 39 4.1 Motivations et résultats connus concernant le multiplicateur de Schur

d’un p-groupe . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40 4.2 Une approche récursive . . . . . . . . . . . . . . . . . . . . . . . . . 43

5 Des modèles abéliens et les groupes d’automorphismes des groupes nilpotents 50 5.1 Des modèles abéliens pour les groupes nilpotents de classe 2 …. 52 5.2 Modèles abéliens des extensions de T -groupes . . . . . . . . . . . . 56 5.3 Le groupe des automorphismes d’un T -groupe . . . . . . . . . . . . 58 5.4 Le groupe des automorphismes d’un groupe nilpotent libre . . . . . 63

6 Structures affines sur des algèbres de Lie nilpotentes 65 6.1 Une algébrisation de la question de Milnor . . . . . . . . . . . . . . 66 6.2 Existence de structures affines . . . . . . . . . . . . . . . . . . . . . 67

7 Sous-groupes induits par des idéaux d’une algèbre de groupe 70 7.1 Une décomposition à coefficients universels . . . . . . . . . . . . . . 73 7.2 Sous-groupes de dimension . . . . . . . . . . . . . . . . . . . . . . . 75 7.3 Une approche homologique aux quotients de Fox . . . . . . . . . . . 79 7.4 Les deux premiers sous-groupes de Fox relatifs . . . . . . . . . . . . 84

8 Bibliographie 88

Chapitre 1

Introduction

La notion de foncteur polynomial est née en topologie algébrique, dans l’étude de l’homologie des espaces de Eilenberg-MacLane. Les foncteurs polynomiaux jouent également un rôle important pour les groupes d’homotopie des CW-complexes. Ces dernières années, ils connaissent un regain d’intérêt considérable en algèbre, grâce à la découverte de liens variés avec la cohomologie de MacLane, la K-théorie algébrique, les modules de Steenrod instables, les représentations de groupes symétriques et autres. A part les puissances tensorielles A^{⊗n}, leurs modifications (produits symétriques, extérieurs) et leurs dérivés, ce sont surtout les foncteurs P_{n}(A) introduits par Passi en 1968 en théorie des groupes qui jouent un rôle distingué (comme générateurs projectifs, par exemple).

Dans nos travaux, nous montrons que ces foncteurs, et leurs variantes, définis sur tous groupes, représentent un outil puissant également en théorie des groupes nilpotents. Outre les sous-groupes de dimension (cf. le problème (4) ci-dessous) qui étaient à l’origine des travaux de Passi, nous utilisons les foncteurs polynomiaux pour faire avancer de nombreux problèmes : deuxième groupe de (co)homologie, invariant clé dans beaucoup de contextes (cf. l’introduction des chapitres 2 et 3) ; groupes des automorphismes ; groupes simpliciaux ; représentations affines ; sous-groupes de Fox. Par ailleurs, ces applications nous obligent à approfondir l’étude de la structure même des foncteurs polynomiaux, ainsi que de diverses généralisations que nous introduisons.

Dans la suite, nous développons d’abord un aperçu des problèmes abordés et leurs motivations, avant de donner une brève description de nos résultats.

En théorie classique des groupes nilpotents, on rencontre assez souvent des structures polynomiales, sous la forme de fonctions polynomiales numériques en plusieures variables. Par exemple, on pense au formalisme exponentiel, à la formule de Hall-Petrescu, la théorie de Lazard sur les suites typiques, ou le fait que pour tout groupe nilpotent sans torsion (= T -groupe) de type fini, G, il existe une paramétrisation G ↔ ZZ^{n} telle que la loi de multiplication de G s’exprime en termes de fonctions polynomiales du type susdit. Ce fait a permis à Pickel et à Grunewald et Segal d’employer en théorie des groupes nilpotents, des méthodes puissantes de la théorie des groupes arithmétiques, afin d’établir de propriétés de finitude et de décidabilité du problème d’isomorphie et de conjugaison, cf. [26]. Cependant, la méthode des fonctions polynomiales se prête mal au traitement des problèmes fondamentaux suivants.

(1) Construire explicitement toutes les structures de T -groupe sur ZZ^{n}.

Par itération, ce problème revient au problème suivant :

(2) Calculer H^{2}(G, M) d’un T -groupe de type fini pour un G-module nilpotent sans ZZ -torsion M. En outre, représenter les classes de cohomologie par des 2-cocycles explicites qui sont des applications polynomiales numériques, par rapport à une paramétrisation G ↔ ZZ^{n} associée à une base de Mal’cev de G.

Dans le but d’obtenir, ensuite, une classification à isomorphie près, il faut aussi résoudre le problème suivant :

(3) Déterminer les morphismes entre les T -groupes, en particulier leurs groupes des automorphismes, ainsi que leurs objets simpliciaux.

Ces derniers jouent un rôle clé dans la modélisation algébrique des espaces topologiques.

En effet, l’usage de fonctions polynomiales classiques implique ipso facto le choix d’une paramétrisation, i.e., de générateurs appropriés ; il est alors évident qu’elles se comportent mal par rapport aux morphismes. Par contre, une notion intrinsèque et fonctorielle d’application polynomiale sur un groupe n’a vu le jour qu’en 1968 dans les travaux de Passi [55], cf. aussi [59], ou 2.1.2 : une application f : G → A dans un groupe abélien est dite polynomiale de degré ≤ n si f(1) = 0 et si son extension ZZ -linéaire f̄: ZZ(G) → A à l’algèbre de groupe ZZ(G) annule la (n + 1)-ième puissance I_{Z Z}^{n+1}(G) de l’idéal d’augmentation I_{Z Z}(G) de ZZ(G). Pour une paramétrisation fixée, une telle application polynomiale se décrit en termes de certaines fonctions polynomiales classiques universelles (cf. [59, p. 55], ou 2.1.3 (3)) ; et la classification des applications polynomiales de degré n sur G revient à l’étude du quotient P_{n}(G) = I_{Z Z}(G)/I_{Z Z}^{n+1}(G), dit foncteur polynomial de Passi, grâce à l’existence d’une application polynomiale de degree ≤ n universelle p_{n}: G → P_{n}(G), a ↦ a−1+I_{Z Z}^{n+1}(G). Or le groupe abélien P_{n}(G) est de type fini (respectivement fini) si G est de type fini (respectivement fini), et il est calculable à partir d’une présentation de G par un simple calcul matriciel. Pourtant, pour son usage comme outil théorique, il est essentiel de comprendre sa structure de manière fonctorielle, en terme d’autres invariants naturels des groupes, et de foncteurs plus simples, comme des algèbres de Lie libres ou, de manière recursive, des foncteurs P_{m}(G), m < n. Ce problème est très difficile ; même pour n = 3, notre solution donnée dans [H2] requiert un effort technique considérable.

Les applications polynomiales de Passi s’avèrent un outil très puissant ; dans la suite de nos travaux nous en donnons beaucoup d’applications auxquelles on ne s’attendait pas auparavant. A l’origine, Passi les introduisit afin d’étudier le problème suivant :

(4) Le “sous-groupe de dimension” D_{n}(G) = G ∩ (1 + I_{Z Z}^{n}(G)) coïncide-t-il toujours avec le n-ième terme G_{n} de la suite centrale descendante de G (où G = G_{1})?

On soupçonnait depuis les années 1920 que la réponse serait positive, et cette conjecture fut vérifiée pour beaucoup de classes de groupes, ainsi que pour tous les groupes si n ≤ 3. Etant le premier à impliquer des méthodes homologiques, Passi relia ce problème à une filtration ascendante (P_{n}H^{2}(G, A))_{n≥0} de H^{2}(G, A) pour un G-module trivial A. Ici P_{n}H^{2}(G, A) désigne le sous-groupe de toutes les classes de cohomologie représentables par un 2-cocycle d: G × G → A, qui est une application polynomiale de degré ≤ n dans les deux variables. Dans les travaux de Passi et son école, et d’autres auteurs, il fut démontré que le problème (4) (pour n fixé), est essentiellement équivalent au problème suivant :

(5) Etant donné un groupe G nilpotent de classe n−2, est-il vrai que P_{n−2}H^{2}(G, Q/ZZ) = H^{2}(G, Q/ZZ)?

Pour n = 4, Passi n’a pu répondre à cette question que pour les groupes d’ordre impair, l’obstruction principale étant le problème classique suivant :

(6) Déterminer la structure du multiplicateur de Schur M(G) = H^{2}(G, Q/ZZ) ≅ H_{2}(G) d’un p-groupe fini.

Ce problème est d’importance fondamentale dans beaucoup de contextes algébriques, par exemple, en théorie des p-groupes, des présentations, des représentations projectives, des tours de corps de classe, des plongements d’extensions de corps, etc. Cependant, M(G) n’est connu que pour des classes de groupes très particulières, même parmi les groupes de classe 2. Ainsi, Passi n’a pas pu découvrir le contre-exemple à la conjecture (4) qui fut construit par Rips en 1972 pour n = 4. Plus tard, Gupta donna des contre-exemples pour tout n ≥ 4 ; pourtant, il a annoncé une preuve de la conjecture pour tout groupe d’ordre impair, par des méthodes combinatoires très compliquées. En vu du problème (5), il reste comme un défi d’en donner une preuve homologique.

Mais aussi en regard du problème de construction explicite d’extensions centrales de groupes, il est convenable de savoir si H^{2}(G, A) = P_{n}H^{2}(G, A) pour un n approprié et aussi petit que possible, vu la calculabilité efficace du groupe P_{n}H^{2}(G, A) et la structure relativement simple d’un cocycle polynomial : il est déterminé par ses valeurs sur des couples de monômes de générateurs de G, et est alors donné sur un couple d’éléments de G quelconques en termes de fonctions polynomiales classiques. Pour cette raison, nous étendons la définition de Passi au cas d’un module nontrivial de coefficients M, en disant qu’un 2-cocycle G × G → M est polynomial de degré ≤ n si, comme application, il est polynomial de degré ≤ n dans la première variable et de degré ≤ n + 1 dans la deuxième variable. En généralisant le problème (5), on se propose alors d’étudier le problème suivant :

(7) Etant donné un groupe G et un G-module M, quelles extensions 0 → M → E → G → 1 sont représentables par un 2-cocycle polynomial (de degré ≤ n)?

En particulier, en prenant pour G un T -groupe et pour M un module nilpotent sans ZZ -torsion, on obtiendra ainsi une approche au problème (2), ainsi que, comme fut observé pour la première fois par Igodt et Dekimpe, au problème géométrique suivant posé par J. Milnor en 1972.

(8) Tous les groupes virtuellement polycycliques sans torsion sont-ils réalisables comme groupe fondamental de variétés compactes, complètes et affinement plates?

La question (7) fut traité dans de nombreux travaux ; mais même dans le cas important où M = ZZ et G est un T -groupe, n’existaient de réponses que dans des cas très particuliers. Pour M = Q et un groupe nilpotent quelconque de classe c, Passi, Sucheta, et Tahara montrèrent que l’on a bien H^{2}(G, Q) = P_{c}H^{2}(G, Q), mais la “descente” de Q à ZZ s’avère très difficile. Le résultat mentionné pour M = Q repose sur le théorème de Mal’cev affirmant que les groupes nilpotents uniquement divisibles sont fonctoriellement équivalents aux algèbres de Lie nilpotentes sur Q. Ce fait est à la base de tous les résultats plus profonds sur les T -groupes, ainsi que de l’homotopie rationnelle développée par Quillen. Le point essentiel est, qu’à l’aide de son algèbre de Lie correspondante, toute information non abélienne d’un groupe nilpotent uniquement divisible est encodée dans un groupe abélien muni de quelque structure supplémentaire. Existent alors de fortes motivations algébriques ainsi que topologiques de tenter de généraliser, dans un sens large, les modèles de Mal’cev (plus généralement, de Lazard) au cas des groupes nilpotents non divisibles :

(9) Existe-t-il des modèles fonctoriels des groupes nilpotents en terme de groupes abéliens ?

Dans nos travaux, nous avons développé de nouvelles approches à tous les problèmes susmentionnés, suivant l’idée d’utiliser des applications polynomiales pour traduire un problème donné en groupes nilpotents, en un problème en groupes abéliens où il se prête aux méthodes homologiques. Le point de départ de [H1] étant l’aspect homotopique du problème (9), nous construisons des “modèles abéliens” pour tous les groupes nilpotents sans torsion ou de classe 2, cf. le chapitre 5. Ces modèles permettent d’étudier systématiquement différentes propriétés des groupes en question, par exemple leurs sous-groupes, mais surtout leurs groupes d’automorphismes – plus généralement, toute la catégorie simultanément –, en terme d’extensions itérées. Ce travail est basé sur l’introduction et l’étude d’une version relative P_{n}(G, N) du foncteur polynomial de Passi, où N est un sousgroupe normal de G. En particulier, on détermine des générateurs canoniques de la torsion de P_{n}(G), la structure de P_{n}(G, N)/torsion, de P_{2}(G, N), et de P_{3}(G) (en fait, des versions généralisées de ces foncteurs, définies par rapport à une N-série de G, cf. le chapitre 2).

Par ailleurs, une adaptation des foncteurs polynomiaux aux algèbres de Lie permet de faire avancer le problème (8) : dans [H5], on donne une réponse positive pour une classe assez large de T -groupes de classe 4, cf. le chapitre 6.

Il s’avère que (7) est très lié à la structure de P_{n}(E, M), ce qui conduit à une réponse à ce problème , dans un cadre très général : étant donné n ≥ 1, une extension \underline{E} = (0 → M → E → G → 1) d’un groupe G de type fini par un G-module sans ZZ -torsion M, on établit une condition nécessaire et suffisante pour que \underline{E} soit représentable par un 2-cocycle polynomial de degré ≤ n. Il en découle que P_{n}H^{2}(G, M) = H^{2}(G, M) si G est un T -groupe de classe c, M est un G-module nilpotent de classe k (i.e., I_{Z Z}^{k}(G)M = 0), et si n ≥ c + k − 1. Ici on définit P_{n}H^{2}(G, M) comme étant le quotient du groupe des 2-cocycles polynomiaux de degré ≤ n par le sous-groupe des cobords polynomiaux de degré ≤ n + 1. Au troisième chapitre de ce mémoire, on présente une définition de cohomologie polynomiale P_{n}H^{i}(G, M) pour tout i ≥ 2, en remplaçant la bar résolution B_{∗}(G) par un complexe acyclique quotient naturel de B_{∗}(G), dont tous les termes sont, pour G de type fini, des G-modules nilpotents et de type fini. Etant donné une présentation libre finie de G, P_{n}H^{i}(G, M) se calcule facilement par un calcul de matrices, puisqu’il s’identifie à l’homologie d’un complexe de ZZ -modules libres de type fini (si M est de type fini comme ZZ -module).

Ce résultat permet de résoudre le problème (1) de façon récursive : tous les T -groupes de classe ≤ c seront construits par une suite de ⟨log_{2}(c + 1)⟩ extensions itérées de la forme 1 → \sqrt{G_{[c/2]}} → G → G/\sqrt{G_{[c/2]}} → 1, où \sqrt{G_{n}} désigne l’isolateur du n-ième terme de la suite centrale descendante (G = G_{1}). On doit cette croissance logarithmique (au lieu d’une croissance linéaire) du nombre des extensions nécessaires au fait que notre résultat couvre le cas des modules de coefficients nilpotents au lieu de modules triviaux uniquement.

Etant basées sur l’équivalence de Mal’cev, nos méthodes mentionnées ne donnent plus de résultats dès que M contient de la ZZ -torsion. Dans l’approche que l’on développe à cette situation, on supposera que M est un module trivial, i.e., on étudiera l’homologie H_{2}(G). Dans [H4], on la détermine pour tous les groupes de classe 2, en l’imbriquant dans une suite exacte naturelle, et en terme de formules si G est un p-groupe fini ou est donné par une présentation quelconque, cf. le chapitre 4. Ces formules ne font appel qu’à des groupes abéliens, et sont facilement évaluables par un calcul matriciel. Moralement, elles constituent des “ abélianisations” de la formule de Hopf, à l’aide de structures polynomiales. Contrairement à ce que l’on soupçonnait auparavant, cf. le livre de Karpilovsky sur ce sujet, ces résultats revèlent une structure simple et naturelle; ceci permet d’étudier la différence entre H^{2}(G, Q/ZZ) et P_{2}H^{2}(G, Q/ZZ), cf. problème (5), et en conséquence, de construire une famille large de contre-exemples nouveaux où D_{4}(G) ≠ G_{4}, cf. (4). Sous quelques conditions supplémentaires, on montre même que la liste obtenue est complète.

Le problème des sous-groupes de dimension s’imbrique dans le cadre plus général des “sous-groupes induits” qui forment le sujet du chapitre 7 :

(10) Soient R un anneau commutatif avec unité 1_{R}, G un groupe et I un sous-R-module de l’idéal d’augmentation I_{R}(G) de l’algèbre de groupe R(G). Déterminer la partie G ∩ (1_{R} + I) de G.

En pratique, on ajoutera toujours une hypothèse sur I (par exemple, I est un idéal unilatère), assurant que G ∩ (1_{R} + I) soit un sous-groupe de G, dit alors “sous-groupe induit par I ”. Les cas les plus importants sont les suivants.

• I = I_{R}^{n}(G), le sous-groupe induit étant alors D_{n,R}(G), le n-ième sous-groupe de dimension à coefficients dans R ;

• I = I_{R}(N)I_{R}(G) + I_{R}^{n}(G) où N est un sous-groupe normal de G ; nous appellons le sous-groupe induit correspondant D_{n,R}(G, N), le n-ième sousgroupe de dimension relatif à N à coefficients dans R ;

• I = I_{R}^{(n)}(G), défini par I_{R}^{(1)}(G) = I_{R}(G), I_{R}^{(i+1)}(G) = [I_{R}^{(i)}(G), I_{R}(G)]R(G), le sous-groupe induit correspondant s’appellant n-ième sous-groupe de dimension de Lie à coefficients dans R ;

• I = I_{R}^{n}(G)I_{R}(H) où H est un sous-groupe de G ; le sous-groupe induit correspondant F_{n,R}(G, H) s’appelle n-ième sous-groupe de Fox par rapport à H et à coefficients dans R, dont l’étude est motivée par le calcul différentiel libre de Fox ;

• I = I_{R}(H_{1}) ⋯ I_{R}(H_{n})R(G) où H_{1}, …, H_{n} sont des sous-groupes normaux de G.

Plus généralement, on remplace souvent, dans tout ce qui suit, le terme I_{R}^{n}(G) par le terme I_{R,N}^{n} (G), défini par rapport à une N-série N de G donnée, cf. la section 2.1.

Après une longue suite de travaux, tous les sous-groupes de Fox furent enfin déterminés dans le cas où G est libre et R = ZZ. Pour un groupe G quelconque, l’égalité F_{1,Z Z}(G, H) = [H, H] est élémentaire, tandis que F_{2,Z Z}(G, H) ne fut déterminé que récemment par C.K. Gupta.

Du dernier exemple de la liste précédente comprenant les sous-groupes de dimension et de Fox, très peu en est connu, et uniquement dans le cas où G est libre et si au plus deux des H_{i} sont différents de G.

Dans nos travaux dans ce domaine, une première réduction du problème concerne l’anneau des coefficients R. Pour les sous-groupes de dimension et les sousgroupes de dimension de Lie, Sandling découvrit et Passi, Parmenter et Seghal démontrèrent rigoureusement, que le cas d’un anneau R quelconque se ramène aux cas “universels” R = ZZ ou R = ZZ/p^{r}ZZ, p premier, r ≥ 1. Pour la démonstration, ils développèrent une théorie d’idéaux polynomiaux d’une algèbre de groupe. A l’aide des méthodes homologiques, nous étendons dans [H8] leur résultat à une famille très générale de R-sous-modules I de R(G) qui couvre non seulement tous les types étudiés dans la littérature auparavant, mais aussi des généralisations qui apparaissent dans notre étude ultérieure des types classiques.

Dans [H11], [H16] on étudie les sous-groupes de dimension relatifs introduits par Passi et étudiés par de nombreux auteurs, récemment notamment par Kuz’min. Pour un sous-groupe normal N de G, on cherche à déterminer le quotient D_{n,Z Z}(G, N)/N_{2}G_{n} qui est non trivial en général, même si N = {1} où D_{n,Z Z}(G, N) = D_{n}(G), cf. les remarques suivant le problème (4) ci-dessus. Bien qu’il y ait une série de travaux confirmant que D_{3,Z Z}(G, N) = N_{2}G_{3} pour certaines classes de couples G, N, nous déterminons une description homologique du quotient de ces deux termes qui s’avère non trivial en général, le contre-exemple minimal parvenant pour un groupe G d’ordre 16. Plus généralement, on montre que pour tout n, il existe un foncteur D̃_{n} allant de la catégorie des groupes de classe ≤ n − 2 dans la catégorie des groupes abéliens de torsion qui détermine le groupe D_{n}(G, N), pour tous les groupes G et sous-groupes normaux N. Pour n = 3, on trouve que D̃_{3}(A) = A ∗^{∧} A, le produit de torsion A ∗ A = Tor_{1}^{Z Z}(A, A) antisymétrisé. Il est intéressant de voir que c’est le même foncteur qui détermine aussi les phénomènes de torsion subtils dans la structure du quotient I_{Z Z}^{3}(G)/I_{Z Z}^{4}(G) ainsi que du multiplicateur de Schur d’un groupe nilpotent de classe 2. Il semble alors possible que le foncteur D̃_{n} joue un rôle essentiel dans plusieurs problèmes fondamentaux en théorie des groupes nilpotents ; ce phénomène mérite alors des études approfondies. Nous observons encore que D̃_{n}(G) est calculable à l’aide du calcul différentiel de Fox, pourvu que la structure de P_{n−2}(G) soit connue. Cette condition étant satisfaite pour n ≤ 5, on pourra étudier les cas n = 4, 5 dans la suite.

Dans [H12], on étudie les sous-groupes induits du type G ∩ (1_{R} + MI_{R}(H)), où M est un sous-R-module de R(G) et H est un sous-groupe de G. Ce type comprend les sous-groupes de Fox. Nous construisons un idéal M′ de I_{R}(H) tel que G∩(1_{R}+MI_{R}(H)) = H ∩(1_{R}+M′) ; M′ s’exprime en terme de M ∩I_{R}(H) et de l’homologie de H. Notamment, si H est libre, M′ = (M ∩I_{R}(H))I_{R}(H). Ainsi on détermine le groupe G ∩ (1_{Z Z} + I_{Z Z}(K)I_{Z Z}(G)I_{Z Z}(H)), H, K ⊲ G, H libre, qui n’était connu que dans le cas où G est libre ; dans le cas général, un phénomène de torsion apparaît. Quant aux sous-groupes de Fox, on définit une généralisation commune du n-ième sous-groupe de Fox et du n+1-ième sous-groupe de dimension relatif, en posant

F_{n,R}^{N}(G, H; K) =^{def} G ∩ (1_{R} + I_{R}(K)R(G)I_{R}(H) + I_{R,N}^{n} (G)I_{R}(H)) ,

H, K < G, K normal. Dans [H11], on calcule ce groupe pour n = 2 et tout G, H, K, R, et N, généralisant ainsi le calcul récent de F_{2,Z Z}(G, H) par C.K. Gupta. Ce résultat est basé sur une étude homologique des quotients de Fox Q_{n}(G, H) = I_{Z Z}^{n−1}(G)I_{Z Z}(H)/I_{Z Z}^{n}(G)I_{Z Z}(H) que l’on détermine pour n = 2, 3, et pour tout n ≥ 1 si H est un facteur direct de G, sous quelques conditions de torsion nulle. Ceci généralise des résultats partiels dans la littérature pour n ≤ 4.

Applications et foncteurs polynomiaux sur les groupes

On rappelle, généralise, et étudie ces notions introduites par Passi en 1968 ; elles sont à la base de la plupart de nos travaux en théorie des groupes. Par rapport à une notion classique d’application polynomiale faisant référence aux fonctions polynomiales numériques, cette notion a deux avantages importants : elle est intrinsèque et fonctorielle, et elle admet un exemple universel. Dans nos travaux, on exploite pleinement ces deux aspects.

On donne la définition d’application polynomiale sur un groupe G par rapport à une N-série donnée de G, généralisation due à Tahara que l’on justifie par de nombreux exemples. Après quelques propriétés élémentaires des applications polynomiales, on donne des exemples nouveaux obtenus dans [H2] par une méthode efficace permettant de vérifier qu’une application donnée est polynomiale d’un certain degré. Ensuite, on étudie l’exemple universel p_{n,R}^{N} : G → P_{n,R}^{N}(G) , i.e., la structure des foncteurs polynomiaux P_{n,R}^{N}(G) . Outre un rappel des propriétés de base, dont une formule de calcul en terme d’une présentation de G, on discute le problème relié de déterminer la structure de l’algèbre graduée Gr^{N} (R(G)) associée à R(G), par rapport à la filtration induite par une N-série N de G. On la détermine complètement dans le cas où les quotients de N n’ont pas de torsion, et on donne une desription fonctorielle de Gr_{2}^{N} (ZZ(G)) et Gr_{3}^{N} (ZZ(G)) pour tout groupe G et N-série N de G. Dans la dernière section, on introduit et étudie une version relative P_{n,R}^{N}(E, B) , où B est un sous-groupe normal du groupe E. Pour R = ZZ et N = γ, on détermine sa structure modulo torsion pour tout n, et complètement pour n = 2. On en donne une application à la cohomologie variétale N_{2} des groupes de classe 2.

2.1 Applications polynomiales

On rappellera la construction d’une filtration de l’algèbre de groupe R(G) à partir de la donnée d’une filtration appropriée (N-série) du groupe G. Ces filtrations de R(G) généralisent la filtration classique par les puissances de l’idéal d’augmentation, mais elles servent, entr’autres, à l’étude de ce cas classique. Ensuite, on introduira et discutera la notion d’une application polynomiale par rapport à une N-série, suivant Passi et Tahara. On en donne des examples, dont la plupart sont nouveaux et obtenus dans [H2].

Suivant Lazard [47], une N-series N = (N_{i})_{i≥1} d’un groupe G est une suite de sous-groupes

G = N_{1} ⊃ N_{2} ⊃ … ⊃ 1

tels que [N_{i}, N_{j}] ⊂ N_{i+j}, où nous adaptons la convention [a, b] = aba^{−1}b^{−1} pour a, b ∈ G tout au long de nos travaux et de ce mémoire.

On note que pour toute N-série N, on a N_{n} ⊃ G_{n} pour tout n ≥ 1, où γ = (G_{i})_{i≥1} signifie la suite centrale descendante définie par G_{1} = G et G_{i+1} = [G_{i}, G].

Soit R un anneau commutatif avec unité 1_{R}. Une N-série N induit une filtration descendante

R(G) ⊃ I_{R,N}^{1} (G) ⊃ I_{R,N}^{2} (G) ⊃ … ⊃ 0

de l’algèbre de groupe R(G) par des idéaux bilatères, où I_{R,N}^{n} (G) est le R-sous-module de R(G) engendré par les éléments

(a_{1} − 1) ⋯ (a_{r} − 1) , a_{i} ∈ N_{k_{i}}, tels que k_{1} + … + k_{r} ≥ n.

On note que I_{R,N}^{1} (G) est égal à I_{R}(G), l’idéal d’augmentation de R(G).

En particulier, si N = γ, on a I_{R,N}^{n} (G) = I_{R}^{n}(G), la n-ième puissance de l’idéal d’augmentation I_{R}(G) de R(G). Des N-séries N ≠ γ s’imposent naturellement dans l’étude de la filtration classique I_{R}^{n}(G), comme suit :

Exemples 2.1.1

(1) Si N ⊲ G est un sous-groupe normal, N = (N_{(i)})_{i} avec N_{(1)} = N et N_{(i+1)} = [N_{(i)}, G] est une N-série de N ; elle a été utilisée par Sjœgren dans son travail célèbre [68] sur les sous-groupes de dimension. En outre, Tahara [72] montre que si G = N × T est un produit semidirect,

I_{R}^{n}(G) = I_{R,N}^{n} (N) ⊕ I_{R}^{n}(T) ⊕ ∑_{p+q=n} I_{R,N}^{p} (N)I_{R}^{q}(T) .

(2) Si H < G est un sous-groupe, H = (H ∩ G_{i})_{i} est une N-série de H ; si G est libre, ses sous-groupes de Fox (voir chapitre 7) peuvent être décrits en terme de H, cf. [29].

(3) Si N = (N_{i})_{i} est une N-série quelconque de G, \sqrt{N} = (\sqrt{N}_{i})_{i} est aussi une N-série de G, où pour une partie U de G, \sqrt{U} = \{a ∈ G | ∃k ∈ ZZ^{∗}: a^{k} ∈ U\} désigne l’isolateur de U dans G. Nous montrons dans [H3] que l’isolateur + \sqrt{I_{Z Z,N}^{n} (G)} dans ZZ(G) (par rapport à la structure additive) est déterminé par l’identité

+ \sqrt{I_{Z Z,N}^{n} (G)} = I_{Z Z,\sqrt{N}}^{n} (G) ,  (2.1)

ce qui joue un rôle clé dans notre travail sur la deuxième cohomologie d’un T -groupe, cf. chapitre 3, ainsi que dans notre description du groupe des automorphismes d’un T -groupe, cf. chapitre 5.

(4) Si N = (N_{i})_{i} est une N-série quelconque de G, (N_{[i]})_{i} avec N_{[1]} = N_{[2]} = N_{2}, N_{[i]} = N_{i} pour i > 1, est une N-série de N_{2} qui rentre dans notre description d’une structure récursive des foncteurs polynomiaux P_{n,R}^{N}(G), n ≥ 1, voir plus loin.

(5) Dans [H5], on utilise des N-séries pour construire des structures affines sur des algèbres de Lie nilpotentes. Ceci permet de couvrir beaucoup plus d’exemples que si l’on ne considerait que la suite centrale descendante.

Définition 2.1.2 (cf. [55], [72]) Soit N une N-série de G et f : G → A une application dans un groupe abélien A. On dit que f est N -polynomiale de degré ≤ n si son extension linéaire f̄: ZZ(G) → A annule 1 + I_{Z Z,N}^{n+1} (G) .

2.1.3 Propriétés élémentaires :

(1) Une application N -polynomiale de degré ≤ n est γ -polynomiale de degré ≤ n puisque I_{R}^{n}(G) ⊂ I_{R,N}^{n} (G) .

(2) Une application N -polynomiale de degré ≤ n f : G → A se factorise par G/N_{n+1}, comme N_{n+1} − 1 ⊂ I_{R,N}^{n+1}(G) et ab − 1 = a(b − 1) + (a − 1) pour a, b ∈ G.

(3) La notion de polynomialité se justifie par le fait suivant : pour une paramétrisation fixée du groupe nilpotent G/N_{n+1}, une application N -polynomiale de degré ≤ n f se décrit en terme de fonctions numériques polynomiales de degré ≤ n. En effet, soient e_{1}, …, e_{r} ∈ G et c_{1}, …, c_{r} ∈ ZZ. Alors on a

f(e_{1}^{c_{1}} ⋯ e_{r}^{c_{r}}) = f̄(((e_{1} − 1) + 1)^{c_{1}} ⋯ ((e_{r} − 1) + 1)^{c_{r}})
= ∑_{{0≤μ_{i} \atop μ_{1}+...+μr≤n}} \binom{c_{1}}{μ_{1}} ⋯ \binom{c_{r}}{μ_{r}}f̄((e_{1} − 1)^{μ_{1}} ⋯ (e_{r} − 1)^{μ_{r}})

La fonction ZZ^{r} → ZZ, (μ_{1}, …, μ_{r}) ↦ \binom{c_{1}}{μ_{1}} ⋯ \binom{c_{r}}{μ_{r}}, est polynomiale de degré n car μ_{1} + … + μ_{r} ≤ n.

La notion de polynomialité définie dans 2.1.2 est alors une version forte et intrinsèque de la notion classique définie en terme de fonctions polynomiales qui nécessite un choix de générateurs. En effet, pour N = γ, la notion de Passi peut être caractérisée en ces termes classiques, cf. [59, section V.2].

(4) La notion d’application N -polynomiale admet un exemple universel : Considérons l’application

p_{n,R}^{N} : G → P_{n,R}^{N}(G) =^{def} I_{R}(G)/I_{R,N}^{n+1}(G) , p_{n,R}^{N}(a) = a − 1 + I_{R,N}^{n+1}(G) .

Alors p_{n,R}^{N} est universelle parmis les applications N -polynomiales de degré ≤ n allant de G dans des R-modules. On écrira souvent p_{n} à la place de p_{n,R}^{N}, pour alléger la notation.

Remarque 2.1.4 De la propriété (4) provient une des motivations principales d’étudier la structure de P_{n,R}^{N}(G) : Au moyen de la propriété universelle, des relations dans le R-module P_{n,R}^{N}(G) induisent des relations dans tous les R-modules qui sont buts d’une application N -polynomiale de degré ≤ n sur G. Ce fait peut servir à déterminer leur structure dans certains cas intéressants ; on en verra des exemples plus loin.

Exemples 2.1.5

(1) Si G est abélien, la diagonale δ: G → G^{⊗n}, δ(a) = a ⊗ … ⊗ a, est γ -polynomiale de degré ≤ n, cf. [H2, corollary 2.12]. Pour le produit tensoriel symétrisé S^{n}(G) au lieu de G^{⊗n}, cette proposition est due à Vermani [73] ; il en déduit que I_{Z Z}^{n}(G)/I_{Z Z}^{n+1}(G) ≅ S^{n}(G) si G est abélien sans torsion.

(2) L’application commutateur c: G × G → G_{2}/G_{4} d’un groupe G, c(a, b) = [a, b]G_{4}, est bi-γ -polynomiale de degré ≤ 2, donc donne naissance à un épimorphisme c̄: P_{2,Z Z}^{γ}(G) ⊗ P_{2,Z Z}^{γ}(G) → G_{2}/G_{4}. A titre d’illustration de la remarque 2.1.4, observons que la relation p_{2}(a^{k}) = kp_{2}(a) + \binom{k}{2}p_{2}(a)^{2} dans P_{2,Z Z}^{γ}(G) induit la relation bien connue

[a^{k}, b]G_{4} = c(a^{k}, b) = c̄(p_{2}(a^{k}) ⊗ p_{2}(b)) = [a, b]^{k}[a, [a, b]]^{\binom{k}{2}}G_{4}

puisque c̄(p_{2}(a)p_{2}(b) ⊗ p_{2}(c)) = [a, [b, c]]G_{4}.

(3) Soit G un groupe nilpotent de classe 2. Alors son carré tensoriel nonabélien G ⊗ G est abélien, et l’application canonique ζ: G × G → G ⊗ G, ζ(a, b) = a ⊗ b, est bi-γ -polynomial de degré ≤ 2. Dans l’esprit de la remarque 2.1.4, ce fait nous permettra de calculer G ⊗ G et H_{2}(G) d’un groupe de classe 2, voir le chapitre 4.

(4) Une application G → P_{n,R}^{N}(G) donnée par un polynôme en p_{n,R}^{N}(a), a ∈ G, est N -polynomiale de degré ≤ n. Plus précisement, on rappelle que le N -poids w(x) d’un élément x ∈ R(G) est le maximum w des entiers tels que

x ∈ I_{R,N}^{w} (G) (avec I_{R,N}^{0} (G) =^{def} R(G)). Soient alors r > 1, x_{1}, …, x_{r} ∈ R(G) et

e_{1}, …, e_{r−1} des entiers ≥ 1. Alors pour n ≥ 1, l’application

f : G → P_{n,R}^{N}(G) , a ↦ x_{1}(a − 1)^{e_{1}} ⋯ x_{r−1}(a − 1)^{e_{r−1}}x_{r} + I_{R,N}^{n+1}(G)

est N -polynomiale de degré ≤ n − ∑_{j=1}^{r} w(x_{j}).

(5) Soit A une algèbre augmentée, I un idéal nilpotent, disons I^{n} = 0, U le groupe des unités de la forme U = 1 + I et U = (U_{i})_{i} la N-série U_{i} = 1 + I^{i}. Alors l’application

log : U → A , log(u) = ∑_{k=1}^{n−1} \frac{(−1)^{k}}{k} (u − 1)^{k} ,

est une application U -polynomiale de degré ≤ n−1. Ceci découle immédiatement de l’exemple (4), à l’aide de la propriété universelle de l’algèbre de groupe.

On trouvera d’autres exemples d’applications polynomiales dans [59, V.1.3].

En général, c’est une tache fastidieuse de vérifier la polynomialité d’une application donnée au moyen de la définition même, cf. la preuve de Vermani dans [73] pour l’exemple (1). Dans [H2, section 1], nous fournissons une méthode plus maniable, basée sur une caractérisation récursive de la notion de polynomialité ; e.g., tous les exemples précédents sont obtenus par cette méthode.

2.2 Sur la structure des foncteurs polynomiaux de Passi

Considérons maintenant la structure de P_{n,R}^{N}(G). Outre des propriétés qualitatives, on rappelera comment P_{n,R}^{γ}(G) peut être calculé à partir de la donnée d’une présentation de G, par un simple calcul de matrices. La structure de P_{n,Z Z}^{N}(G) modulo torsion sera déterminée. On discutera l’approximation de Quillen de l’algèbre graduée associée à la filtration (I_{R,N}^{n} (G))_{n≥1} de R(G), par l’algèbre enveloppante de l’algèbre de Lie graduée associée à la filtration N de G. Au degré 3, on détermine la déviation de cet approximation, i.e., le noyau de l’épimorphisme canonique U_{3}L^{N} (G) → → Gr_{3}^{N} (ZZ(G)). En effet, on rammène cette déviation à un phénomène homologique d’assymétrie qui expliquera de même les phénomènes de torsion dans le multiplicateur de Schur et les sous-groupes de dimension relatifs, cf. les chapitres 4 et 7.

On note d’abord quelques

2.2.1 Propriétés élémentaires:

(1) L’application quotient π : G→ →G/N_{n+1} induit un isomorphisme

P_{n,R}^{N}(G) ⟶^{≅}P_{n,R}^{πN}(G/N_{n+1}) ,

donc P_{n,R}^{N}(−) est essentiellement défini sur les groupes nilpotents de classe ≤ n.

(2) Si G est de type fini, P_{n,R}^{N}(G) l’est aussi en tant que R-module. Si G est fini, P_{n,Z Z}^{N}(G) l’est aussi.

(3) Une présentation G = ⟨X | Y ⟩ donne naissance à une présentation de P_{n,R}^{γ}(G) comme R-module, comme suit. Écrivons π : F → →G = F/N où F est le groupe libre engendré par X et N est le sous-groupe normal de F engendré par Y . Soit T la R-algèbre de polynômes non commutative en les variables x_{i} ∈ X, T̄ son idéal d’augmentation, T_{n} = T/T̄^{n+1}, T̄_{n} = T̄/T̄^{n+1}. Écrivons r_{j} = x_{j1}^{ϵ_{j1}} ⋯ x_{js_{j}}^{ϵ_{js_{j}}} dans F, ϵ_{jk} = ±1, et soit

r̄_{j} = (1 + x_{j1})^{ϵ_{j1}} ⋯ (1 + x_{js_{j}})^{ϵ_{js_{j}}} − 1 dans T̄_{n} ,

où (1 + x)^{−1} = 1 + ∑_{μ=1}^{n}(−1)^{μ}x^{μ} , et soit Ȳ = span{r̄_{j}}. Soit S ⊂ T̄_{n} un sous-groupe engendré par des éléments qui engendrent T_{n}Ȳ T_{n} comme idéal bilatère, i.e. T_{n}Ȳ T_{n} = T_{n}ST_{n} (e.g., on peut prendre S = Ȳ). Alors la surjection m = m_{G} : T̄_{n} → →P_{n,Z Z}(G) définie par m(x_{t_{1}} ⋯ x_{t_{m}}) = p_{n,Z Z}π(x_{t_{1}}) ⋯ p_{n,Z Z}π(x_{t_{m}}) induit un isomorphisme de R-algèbres

m̄: T̄_{n}/T_{n}ST_{n} ≅ P_{n,R}^{γ}(G) .  (2.2)

Cette dernière propriété permet de calculer P_{n,R}^{γ}(G) pour un groupe G donné ; mais afin de mieux comprendre sa structure, on cherche à l’exprimer de manière fonctorielle, en terme de sous-quotients abéliens de G et des relations entre eux données par des commutateurs et des extensions.

Si R est un corps, ce problème a été resolu par Quillen, voir plus loin. Pour R = ZZ, cependant, le problème est extrémement difficile : Même pour un pgroupe abélien élémentaire, la structure de P_{n,Z Z}^{γ}(G) est assez compliquée [55] ; et pour un p-groupe abélien fini quelconque, les coefficients de torsion de P_{n,Z Z}^{γ}(G) ne sont toujours pas connues en fonction des coefficients de torsion de G. On poursuit alors une autre approche : en regard de la filtration finie (I_{R,N}^{i} (G)/I_{R,N}^{n+1}(G))_{i} de P_{n,R}^{N}(G), on étudie les quotients de cette filtration, c.a.d., l’algèbre graduée Gr^{N} (R(G)) associée à la filtration (I_{R,N}^{i} (G))_{i} de R(G). On écrit aussi Q_{n}^{N} (G) = I_{Z Z,N}^{n} (G)/I_{Z Z,N}^{n+1} (G) . Un cadre général pour un traitement du problème relève du travail de Quillen [62] sur le cas R = Q, N = γ : on considère une approximation de Gr^{N} (R(G)) par un épimorphisme de R-algèbres graduées

θ_{R}^{N} = ⨁_{n} θ_{n,R}^{N} : U(R ⊗ L^{N} (G)) → →Gr^{N} (R(G))  (2.3)

où U signifie l’algèbre enveloppante et L^{N} (G) = ⨁_{i≥1} N_{i}/N_{i+1} est la ZZ -algèbre de Lie dont le crochet est induit par le commutateur dans G, et où θ_{R}^{N} est induit par l’application N_{i} → I_{R,N}^{i} (G) ⊂ ZZ(G), a ↦ a − 1, cf. [59, VIII]. Quillen montre que θ_{Q}^{N} = θ_{Z Z}^{N} ⊗ Q est un isomorphisme pour N = γ ; c’est vrai pour une N-série N quelconque car l’argument de Quillen s’adapte au cas général grâce a un résultat de Hartley, cf. [59, III.1.7], [H15]. On en déduit, comme dans [H3] pour N = γ :

Théorème 2.2.2 Soit N une N-série de G telle que N_{i}/N_{i+1} n’aie pas de torsion pour tout n ≥ 1. Alors

θ_{Z Z}^{N} : UL^{N} (G) → Gr^{N} (ZZ(G))

est un isomorphisme.

Ce résultat est une version fonctorielle et généralisée d’un théorème de Sandling et Tahara pour le cas N = γ, cf. [66] ; on redécouvre leur formule pour Gr^{N} (ZZ(G)) à l’aide du théorème de Poincaré-Birkhoff-Witt.

Pour un groupe abélien, écrivons τA = torsion de A et τ̄A = A/τA.

Corollaire 2.2.3 ([H3], cf. 2.1.1(3)) Soit N une N-série quelconque de G. Alors on a un isomorphisme naturel

τ̄ P_{n,Z Z}^{N}(G) ≅ P_{n,Z Z}^{√\overline{N}} (G) .

Par suite, si G est de type fini, il existe un isomorphisme non-naturel

τ̄ P_{n,Z Z}^{N}(G) ≅ ⨁_{i=1}^{n} U_{i}L^{\sqrt{N}} (G) .

Reprenons le problème général de déterminer les groupes Q_{n}^{N} (G), sans condition de torsion nulle. Tandis qu’il est facile de voir que θ_{1,Z Z}^{N} : N_{1}/N_{2} → Q_{1}^{N} (G) est un isomorphisme, le calcul de Q_{2}^{N} (G) ne s’est dévelopé que progressivement dans des travaux de Passi [57], Sandling [65], Losey [49], Bachmann et Gruenenfelder [2], et enfin [H2] pour N quelconque. En fait, [2] étaient les premiers à impliquer l’approximation de Quillen, en montrant que aussi θ_{2,Z Z}^{γ} est un isomorphisme. Pourtant, à partir de n = 3, θ_{Z Z}^{N} est loin d’être un isomorphisme, en général, même pour N = γ ; par exemple, les seuls groupes abéliens finis pour lesquels θ_{Z Z}^{γ} est un isomorphisme, sont les groupes cycliques ! Au moins on sait que le noyau de θ_{Z Z}^{N} est de torsion, d’après le résultat de Quillen susmentionné. Le groupe Q_{3}^{N} (G) fut déterminé pour tout groupe abélien et N = γ par Pirashvili, et pour tout groupe fini et toute N par Tahara, en terme de décompositions cycliques de certains sous-quotients abéliens de G.

Dans [H2], nous montrons d’abord que θ_{2,Z Z}^{N} est un isomorphisme pour toute N-série N. Ensuite, on donne une description fonctorielle de Ker(θ_{3,Z Z}^{N}) pour tout groupe G et toute N-série N; il s’avère que la non trivialité de ce groupe revient à un phénomène intéressant de l’algèbre homologique qui ne paraît pas avoir été explicité auparavant. Afin de décrire ce résultat, notons d’abord que puisque θ_{1,Z Z}^{N} et θ_{2,Z Z}^{N} sont des isomorphismes, on a une suite exacte courte

U_{2}L^{N} (G) ⟶^{>} I_{Z Z}(G)/I_{Z Z,N}^{3} (G) ⟶ N_{1}/N_{2} .

Tensoriser par N_{1}/N_{2} à gauche et à droite donne naissance aux morphismes connectants τ_{1}, τ_{2} dans le diagramme suivant.

Tor_{1}^{Z Z}(N_{1}/N_{2}, N_{1}/N_{2}) ⟶^{τ_{1}} U_{2}L^{N} (G) ⊗ (N_{1}/N_{2})
↓^{τ_{2}}  ↓^{q_{1}}
(N_{1}/N_{2}) ⊗ U_{2}L^{N} (G) ⟶^{q_{2}}  U_{3}L^{N} (G)

(2.4)

Les applications q_{1} et q_{2} sont données par N_{1}/N_{2} ≅ U_{1}L^{N} (G) et par multiplication dans UL^{N} (G). Alors on obtient le résultat suivant.

Théorème 2.2.4 Soit δ = q_{1}τ_{1} − q_{2}τ_{2}. Alors la suite de morphismes naturels

Tor_{1}^{Z Z}(N_{1}/N_{2}, N_{1}/N_{2}) ⟶^{δ} U_{3}L^{N} (G) ⟶^{θ_{3}^{N}} Q_{3}^{N} (G) → 0

est exacte pour tout groupe G et toute N-série N de G. Plus explicitement, soit ⟨x̄_{1}, k, x̄_{2}⟩ un générateur typique de Tor_{1}^{Z Z}(N_{1}/N_{2}, N_{1}/N_{2}), i.e. k ∈ ZZ et x̄_{i} = x_{i}N_{2} ∈ L_{1}^{N} (G) = U_{1}L^{N} (G) pour quelques x_{i} ∈ G, tels que x_{1}^{k}, x_{2}^{k} ∈ N_{2}, cf. [53] V.6. Alors

δ⟨x̄_{1}, k, x̄_{2}⟩ = x_{1}^{k}x̄_{2} − x̄_{1}x_{2}^{k} + \binom{k}{2}(x̄_{1}x̄_{2}^{2} − x̄_{1}^{2}x̄_{2}) ,  (2.5)

où on regarde x_{i}^{k} ∈ N_{2} comme élément de U_{2}L^{N} (G) , via les applications canoniques N_{2} → → N_{2}/N_{3} = L_{2}^{N} (G) → U_{2}L^{N} (G) , et où les produits sont formés dans l’anneau UL^{N} (G). □

On peut alors dire que la non injectivité de θ_{3,Z Z}^{N} est due à et mésurée par la différence entre les morphismes connectants à gauche et à droite. Ce phénomène évoque le point de départ de la construction des opérations de Steenrod ; il donne ainsi naissance à la question de l’existence de structures “homotopiques” en groupes nilpotents.

On note encore que δ annule les éléments diagonals ⟨x̄, k, x̄⟩ puisque [x^{k}, x] s’annule dans N_{3} et donc aussi dans U_{3}L^{N} (G) . Par conséquent, on peut ici remplacer le terme Tor_{1}^{Z Z}(N_{1}/N_{2}, N_{1}/N_{2}) par le produit de torsion extérieur (N_{1}/N_{2}) ∗^{∧} (N_{1}/N_{2}), défini pour un groupe abélien A par

A ∗^{∧} A =^{def} Tor_{1}^{Z Z}(A, A)/⟨{ ⟨x, k, x⟩ | x ∈ A, k ∈ ZZ, kx = 0}⟩ .  (2.6)

Ce foncteur réapparaîtra dans notre traitement du multiplicateur de Schur et du troisième sous-groupe de dimension relatif, voir les chapitres 4 et 7.

Le théorème 2.2.4 est obtenu le long les idées suivantes : on détermine d’abord la structure du groupe I_{Z Z,N}^{2} (G)/I_{Z Z,N}^{4} (G) , après celle de son sous-groupe Q_{3}^{N} (G). Il s’avère que I_{Z Z,N}^{2} (G)/I_{Z Z,N}^{4} (G) décompose en somme amalgamée, de la même façon que Q_{2}^{N} (G) : En effet, l’isomorphisme θ_{2,Z Z}^{N} : Q_{2}^{N} (G) ≅ U_{2}L^{N} (G) peut être reformulé en disant que le carré suivant est cocartésien dans la catégorie des groupes abéliens :

\begin{matrix}(N_{1}/N_{2}) ∧ (N_{1}/N_{2}) & ⟶^{l_{2}} & (N_{1}/N_{2}) ⊗ (N_{1}/N_{2}) \\ ↓^{c_{2}} & & ↓^{μ_{2}} \\ N_{2}/N_{3} & ⟶^{p_{2}} & Q_{2}^{N} (G) \end{matrix}  (2.7)

Ici pour un groupe abélien X, X ∧X désigne le produit extérieur, et pour a, b ∈ G, on pose c_{2}(aN_{2} ∧ bN_{2}) = [a, b]N_{3}, l_{2}(aN_{2} ∧ bN_{2}) = aN_{2} ⊗ bN_{2} − bN_{2} ⊗ aN_{2} , et μ_{2}(aN_{2} ⊗ bN_{2}) = (a − 1)(b − 1) + I_{R,N}^{3} (G) . Alors dans [H2], nous obtenons un carré cocartésien de groupes abéliens

P_{2,Z Z}^{N}(G) ∧ P_{2,Z Z}^{N}(G) ⟶^{l_{3}} P_{2,Z Z}^{N}(G) ⊗_{Z Z(G)} P_{2,Z Z}^{N}(G)/Im(I_{Z Z,N}^{2} (G) ⊗ I_{Z Z,N}^{2} (G))
↓^{c_{3}}  ↓^{μ_{3}}
N_{2}/N_{4}  ⟶^{p_{3}}  I_{Z Z,N}^{2} (G)/I_{Z Z,N}^{4} (G)

(2.8)

où les morphismes c_{3}, μ_{3}, l_{3} sont bien définis en exigeant que pour a, b ∈ G, on ait c_{3}(a, b) = [a, b]N_{4}, μ_{3}(p_{2}(a) ⊗ p_{2}(b)) = (a − 1)(b − 1) + I_{R,N}^{4} (G) , et

l_{3}(a, b) = p_{2}(a) ⊗ p_{2}(b) − p_{2}(b) ⊗ p_{2}(a) − [p_{2}(a), p_{2}(b)] ⊗ (p_{2}(a) + p_{2}(b)) .

Récémment, nous avons obtenu une décomposition analogue pour le quotient I_{Z Z,N}^{2} (G)/I_{Z Z,N}^{n+1} (G) pour tout n ≥ 2, en remplaçant le groupe N_{2}/N_{n+1} – qui n’est plus abélien pour n > 3 – par un terme P_{k,Z Z}^{M}(N_{2}), k = [n/2], approprié. Comme les trois “morceaux” constituant la somme amalgamée ne dépendent que des foncteurs polynomiaux de degré ≤ n−1, ce résultat peut être considéré comme une structure récursive sur l’ensemble des foncteurs P_{n}: (G, N) ↦ P_{n,Z Z}^{N}(G) , n ≥ 1.

2.3 Les foncteurs polynomiaux relatifs

Dans beaucoup de situations, on est amené à utiliser une version du foncteur polynomial P_{n,R}^{N}(E) relative à un sous-groupe normal B du groupe E. Pour une N-série N de E, on pose alors

P_{n,R}^{N}(E, B) =^{def} I_{R}(E)/(I_{R}(B)I_{R}(E) + I_{R,N}^{n+1}(E)) .

Cette construction est implicite dans la litterature depuis longtemps, par exemple dans la démonstration due à Roquette de l’inégalité de Golod-Šafarevič, cf. [40, p. 150], dans l’étude des sous-groupes de dimension effectuée par Passi, cf. [59], et dans un travail de Kuz’min sur la cohomologie variétale [45]. Pourtant, il semble qu’une étude systématique de la structure de P_{n,R}^{N}(E, B) n’a été lancée que dans notre thèse et nos travaux ultérieurs, où on donne aussi d’autres applications, par exemple aux groupes des automorphismes des groupes nilpotents, cf. [H10] ou le chapitre 5.

On rassemble d’abord quelques propriétés élémentaires de P_{n,R}^{N}(E, B) .

Lemme 2.3.1 Soit E un groupe, B ⊲ E un sous-groupe normal et N une Nsérie de E. Écrivons π : E → →G =^{def} E/B . Alors P_{n,R}^{N}(E, B) a une structure de R(G)-module structure à gauche induite par la multiplication dans I_{R}(E), ce qui rend l’application canonique

p_{n,R}^{N}: E → P_{n,R}^{N}(E, B) , a ↦ (a − 1) + I_{R}(B)I_{R}(E) + I_{R,N}^{n+1}(E)

une π-dérivation, i.e., p_{n,R}^{N}(ab) = π(a) p_{n,R}^{N}(b) + p_{n,R}^{N}(a) pour a, b ∈ E. De plus, il y a une suite exacte de morphismes R(G)-linéaires

R ⊗ (BN_{n+1}/B_{2}N_{n+1}) ⟶^{p_{n,R}^{N}i} P_{n,R}^{N}(E, B) ⟶^{P_{n,R}^{N}(π)} P_{n,R}^{πN}(G) → 0 ,  (2.9)

où i est induite par l’inclusion B ↪ E, p_{n,R}^{N}i signifie aussi son extension Rlinéaire, πN est la N-série πN_{i} = π(N_{i}), P_{n,R}^{N}(π){a − 1} = {aB − 1}, et où l’action de R(G) sur le terme à gauche est induite par l’extension R-linéaire de l’action de G sur B induite par conjugaison dans E.

En général, p_{n}^{N} i n’est pas injective, ce qui est le problème profond des sousgroupes de dimension relatifs, cf. le chapitre 7. Kuz’min montre dans [45] que p_{n}^{N} i est pourtant injective si R = Q, et par conséquent, aussi pour R = ZZ si G est nilpotent de classe ≤ n sans torsion.

Dans notre travail sur la cohomologie H^{2}(G, M) (voir au chapitre 3), on est amené à étudier la structure de

Pn^{√} (E, B) =^{def} P_{n,Z Z}^{γ}(E, B)/ZZ − torsion .

Plus précisement, il s’agit de savoir sous quelles conditions la suite (2.9) reste exacte si on remplace P_{n,R}^{N}(−) par Pn^{√} (−), cf. 3.3.10. La réponse obtenue est la suivante.

Théorème 2.3.2 Soit B ^{≻}→^{i} E → →^{π}G une extension de groupes telle que B soit abélien sans torsion, et soit n ≥ 1. Alors la suite de morphismes G-linéaires

0 ⟶ B ⟶^{p_{n}^{√} i} Pn^{√} (E, B) ⟶^{P_{n}^{√} (π)} Pn^{√} (G) ⟶ 0  (2.10)

est exacte si et seulement si les trois relations (A) – (C) suivantes sont satisfaites dans E :

(A) B ∩ E_{n+1} = {1}

(B) \sqrt{B E_{n+1}} ⊂ B \sqrt{E_{n+1}}

(C) Soit 1 ≤ j ≤ n, u ≥ 2, r ≥ 1, et soit b ∈ B ∩ ((E − B \sqrt{E_{j}})^{u}E_{j}) et

a_{q} ∈ \sqrt{B E_{s_{q}}} , 1 ≤ q ≤ r, tels que s_{1} + … + s_{r} + j > n. Alors

[a_{1}, [… [a_{r}, b] …] ∈ B^{u} .

Ici la relation (B) peut être remplacée par la relation

(B)’ B ∩ ((E − B \sqrt{E_{n+1}})^{u}E_{n+1}) ⊂ B^{u} pour tout u ≥ 2.

De plus, si les propriétés (A) – (C) sont satisfaites, alors le sous-groupe de torsion de P_{n,Z Z}(E, B) est engendré par l’ensemble p_{n,Z Z} \sqrt{E_{n+1}} et les éléments

p_{n,Z Z}(a_{1}) ⋯ p_{n,Z Z}(a_{r+1}) − p_{n,Z Z} ((a_{1}, (… (a_{r}, b) …)^{\frac{1}{u}} ) ,  (2.11)

où r ≥ 1, a_{q} ∈ \sqrt{B E_{s_{q}}} , 1 ≤ q ≤ r + 1, tels que s_{1} + … + s_{r+1} > n, et a_{r+1}^{u} = bc pour quelques u ≥ 2, b ∈ B, c ∈ E_{s_{r+1}} .

Remarque 2.3.3 Les conditions (A) et (B) sont équivalentes à dire que la restriction de π: \sqrt{E_{n+1}} → \sqrt{G_{n+1}} est un isomorphisme, i.e., que l’extension \underline{E}

est induite par une extension B ⟶^{>}^{i} Ẽ ⟶^{π} G/\sqrt{G_{n+1}} de groupes nilpotents sans torsion. En particulier, l’action de G sur B induite par conjugaison dans E, est nilpotente de classe ≤ n.

La relation (C) est une propriété de divisibilité subtile qui est, pourtant, automatiquement satisfaite si B est divisible ou est central dans E.

Pour toutes les applications qui suivent, il est cruciel de noter que tous les termes de la suite 2.10 sont des ZZ -modules libres de type fini si E est de type fini.

Corollaire 2.3.4 Sous les hypothèses de 2.3.2, la suite (2.10) est exacte s’il existe un entier c ≤ n satisfaisant les trois propriétés suivantes :

(a) π: \sqrt{E_{n+1}} → \sqrt{G_{n+1}} est un isomorphisme

(b) π: \sqrt{E_{j}} → \sqrt{G_{j}} est surjective pour c < j ≤ n

(c) n ≥ c + k − 1 où k est la classe de nilpotence de l’action de G sur B, cf. la remarque précédente.

Le corollaire suivant découle immédiatement de 2.3.4.

Corollaire 2.3.5 Soit B ^{≻}→^{i} E → →^{π}G une extension de groupes telle que B soit abélien et E et G soient nilpotent sans torsion. Soit c, e, k la classe de nilpotence de G, E, respectivement de l’action de G sur B induite par conjugaison dans E. Alors pour n ≥ max{e, c + k − 1} la suite (2.10) est exacte.

Reprenons l’étude de P_{n,Z Z}^{γ}(E, B) sans réduction modulo torsion. Le résultat de Kuz’min mentionné nous dit qu’au moins le groupe Ker( p_{n,Z Z}^{N} i) est torsion ; mais son calcul explicite est très difficile. Pour n = 2, nous obtenons dans [H11] le résultat suivant.

On utilisera la partie suivante d’une suite exacte à six termes pour le produit tensoriel des groupes abéliens.

Tor_{1}^{Z Z}(E/BN_{2}, E/BN_{2}) ⟶^{τ} (E/BN_{2}) ⊗ (BN_{2}/N_{2}) ⟶^{id⊗j} (E/BN_{2}) ⊗ (E/N_{2})
↓^{id⊗q}
0 ← (E/BN_{2}) ⊗ (E/BN_{2})

Ici j est l’inclusion et q est l’application quotient canonique. En outre, la commutation dans G induit un morphisme

[ , ] : (E/BN_{2}) ⊗ (BN_{2}/N_{2}) → BN_{3}/B_{2}N_{3} .

Théorème 2.3.6 Soit B un sous-groupe normal d’un groupe E, N une N-série de E, et G = E/B. Alors la suite naturelle suivante de G-modules est exacte, où l’action de G sur le Tor-terme est triviale.

Tor_{1}^{Z Z}(E/BN_{2}, E/BN_{2}) ⟶^{[ ,]τ} BN_{3}/B_{2}N_{3} ⟶^{p_{2,Z Z}^{N}i} P_{2,Z Z}^{N}(E, B) ⟶^{P_{2,Z Z}^{N}(π)} P_{2,Z Z}^{πN}(G) → 0 .

Ce résultat admet l’application suivante en cohomologie des groupes variétale :

Pour c ≥ 1, soit N_{c} la variété des groupes nilpotents de classe ≤ c. Soient G ∈ N_{c} et M un module sur ZZ(G)/I_{Z Z}^{c}(G). Alors Kuz’min [45] construit un monomorphisme naturel

i_{M} : Ext_{Z Z(G)/Ic_{Z Z,γ}(G)}^{1}(P_{c,Z Z}^{γ}(G), M) ⟶^{>} H_{N_{c}}^{2}(G, M)

(pour une construction plus simple et catégorielle voir [H1]). Kuz’min montre aussi que coker(i_{M}) est un groupe de torsion. Dans [H16] nous précisons cette propriété pour c = 2, comme suit.

Théorème 2.3.7 Soient c = 2, G et M comme ci-dessus. Alors on a une suite exacte naturelle

0 → Ext_{Z Z(G)/I2_{Z Z,γ}(G)}^{1}(P_{2,Z Z}^{γ}(G), M) ⟶^{i_{M}} H_{N_{2}}^{2}(G, M) → Hom_{Z Z}(G^{ab} ∗^{∧} G^{ab}, M) ,

cf. (2.6). En outre, i_{M} est un isomorphisme pour tout M si et seulement si G^{ab} ∗^{∧} G^{ab} = 0. En particulier, si G est de type fini, ceci est le cas si et seulement si le sous-groupe de torsion de G^{ab} est cyclique.

Ce résultat généralise un exemple de Leedham-Green qui avait remarqué dans [48] que pour le groupe de Klein, Ext_{Z Z(G)/I2_{Z Z}(G)}^{1}(P_{2,Z Z}^{γ}(G), M) n’est pas isomorphe

à H_{N_{2}}^{2}(G, M) pour tout module M sur ZZ(G)/I_{Z Z}^{2}(G).

La deuxième cohomologie d’un groupe nilpotent sans torsion à coefficients dans un module nilpotent

3.1 Introduction

Dans [H3] on étudie la cohomologie H^{2}(G, M) d’un groupe nilpotent sans torsion (= T -groupe) G à coefficients dans un G-module nilpotent M. On rappelle qu’un G-module M est dit nilpotent de classe ≤ k si I_{Z Z}^{k}(G)M = 0, i.e., si M est un module sur l’anneau

ZZ_{(k)}(G) =^{def} ZZ(G)/I_{Z Z}^{k}(G) .

Comme G est nilpotent, les groupes H^{i}(G, M) sont de type fini si les groupes G et M le sont ; il est donc naturel de chercher à les calculer.

Si M est un espace vectoriel sur Q, on peut remplacer G par son algèbre de Lie de Mal’cev M(G). On sait que d’après Quillen [63, Appendix], M(G) peut être obtenue comme algèbre de Lie des éléments primitifs de l’algèbre de Hopf complète Q̂(G) (la complétion de Q(G) par rapport à la filtration (I_{Q}^{n} (G))_{n}). Quillen établit aussi un isomorphisme d’algèbres complètes Q̂(G) ≅ ÛM(G) qui permet de considérer le G-module M ⊗Q comme M(G)-module nilpotent. Alors H^{∗}(M(G), M ⊗ Q) est définie. En généralisant un résultat de Pickel pour le cas M = Q, on obtient un isomorphisme naturel

H^{∗}(G, M ⊗ Q) ≅ H^{∗}(M(G), M ⊗ Q) .

Par suite, on peut utiliser la résolution de Koszul, par exemple, pour calculer H^{∗}(G, M) ⊗ Q ≅ H^{∗}(M(G), M ⊗ Q). Mais cette approche a les deux points faibles suivants :

(1) L’identification du réseau H^{∗}(G, M)/torsion dans H^{∗}(G, M)⊗Q est difficile ; dans le cas M = ZZ, une solution algorithmique de ce problème pour ∗ = 2 a été donnée dans [27].

(2) Pour de nombreuses applications, il ne suffit pas de calculer H^{2}(G, M) comme groupe, mais il faut une interprétation de ses éléments en terme de cocycles explicites G × G → M. En effet, le problème de transformer un 2-cocycle de Lie sur M(G) en un 2-cocycle de groupe sur G n’admet qu’une solution algorithmique.

Pour le cas M = ZZ, on trouve, dans la littérature, trois approches différentes basées, cette fois, sur la théorie des perturbations. Dans la première, due à Lambe et Stasheff, on “résoud” topologiquement l’espace classifiant K(G, 1) de G par une suite de n fibrations itérées à fibre S^{1}, où n est le rang de G. Cette résolution correspond à la construction de G par une suite de n extensions centrales à noyau ZZ, ce qui revient à une identification ensembliste G ↔ ZZ^{n}, par le choix d’une base de Mal’cev. Alors la théorie des perturbations permet de construire une différentielle sur l’algèbre extérieure Λ(ZZ^{n}) ≅ H_{∗}(S^{1})^{⊗n} telle que le complexe ainsi obtenu est homotopiquement équivalent à C_{∗}(K(G, 1)).

La deuxième approche, encore due à Lambe et Stasheff, consiste en une variante obtenue en établissant d’abord un modèle homologique de K(ZZ^{n}, 1), i.e. un rétracte de déformation fort de complexes

H_{∗}(ZZ^{n}) ≅ (Λ(ZZ^{n}), 0) ⟶^{∇} ; ⟵_{f} B̄(ZZ^{n}) = ZZ ⊗_{G} B(ZZ^{n})

où B(ZZ^{n}) est la bar résolution réduite de ZZ^{n}. Maintenant, l’identification G ↔ ZZ^{n} induit une différentielle δ_{∘} sur le ZZ -module gradué B̄(ZZ^{n}) qui est donnée par la multiplication de G, i.e. telle que (B̄(ZZ^{n}), δ_{∘}) ≅ B̄(G). Alors la différence entre δ_{∘} et la différentielle canonique δ_{+} de B̄(ZZ^{n}) s’interprête comme déformation de δ_{+} ; l’algorithme de perturbation permet d’en déduire une différentielle δ_{∞} sur Λ(ZZ^{n}), ainsi qu’un autre rétracte de déformation fort

(Λ(ZZ^{n}), δ_{∞}) ⟶^{∇_{∞}} ; ⟵_{f_{∞}} (B̄(ZZ^{n}), δ_{∘}) .

On obtient alors un isomorphisme

f_{∞}^{∗}: H^{∗}(Λ(ZZ^{n}), δ_{∞}) ⟶^{≅} H^{∗}(G, ZZ)

qui permet de calculer la cohomologie de G et de représenter ses éléments par des cocycles explicites sur G. Seulement, l’expression donnant f et l’algorithme mentionné étant très compliqués, on ne peut effectuer ce calcul qu’à l’aide d’un ordinateur. En outre, on ne sait pas si les cocycles représentants obtenus sont polynomiaux numériques, ce qui pourtant aurait été souhaitable en vue de résoudre le problème de la construction de l’ensemble des lois de T -groupe sur ZZ^{n} (cf. (1) de l’introduction).

Afin de pallier à cette dernière insuffisance, Cenkl et Porter ont développé la troisième approche suivante : ils introduisent d’abord le sous-complexe des “cochaînes polynomiales” P (G) de C^{∗}(B̄(G), ZZ), où α ∈ P_{k}(G) est de la forme

[\underline{x}_{1}| … |\underline{x}_{k}] ↦ ∑_{l} a_{l} ∏_{\begin{matrix}1≤i≤n \\ 1≤j≤k \end{matrix}} \binom{x_{ij}}{b_{ijl}} ,

x̄_{j} ∈ ZZ^{n}, a_{l}, b_{ijl} ∈ ZZ. Les auteurs démontrent dans [16] que H^{∗}(P (G)) ≅ H^{∗}(B̄(G), ZZ). Ensuite, ils développent dans [17] un algorithme qui détermine un rétracte de déformation fort

(Λ(ZZ^{n}), D_{n}) ⟶^{∇_{n}} ; ⟵_{f_{n}} P (G) .

On obtient alors un isomorphisme

∇_{n}^{∗} : H^{∗}(Λ(ZZ^{n}), D_{n}) ⟶^{≅} H^{∗}(G, ZZ)

qui permet de calculer la cohomologie de G et de représenter ses éléments par des cocycles sur G donnés par des fonctions polynomiales numériques. Toutefois, pour calculer la différentielle D_{n} et l’application ∇_{n} deux algorithmes différents sont nécessaires ; le nombre d’itérations de chacun est égal à (n−1). Ils sont alors trop complexes pour des groupes de grand rang, même si leur classe de nilpotence est seulement égale à 2 (à titre d’exemple, les auteurs calculent la cohomologie de tous les T -groupes de rang 3, où les formules à évaluer sont déjà assez impressionantes).

Pour terminer, signalons que toutes les méthodes décrites partagent les insuffisances suivantes :

• étant basées sur le choix d’une base de Mal’cev, elles sont non naturelles ; par conséquent, elles ne permettent pas de déterminer l’action de Aut(G) sur H^{2}(G, ZZ). Or ceci est important pour une classification des extensions à isomorphisme près, ainsi que pour un calcul des groupes des automorphismes mêmes des T -groupes, cf. le chapitre 5.

• G est supposé être donné par une paramétrisation G ↔ ZZ^{n} et une loi polynomiale sur ZZ^{n}. Cépendant, en pratique, les T -groupes sont souvent donnés sous la forme d’une présentation. Comme le passage d’une présentation à une base de Mal’cev et à la loi polynomiale correspondante requiert du calcul de commutateurs itérés, on est ammené à mettre en œvre un algorithme supplémentaire dont la complexité augmente, de surcroît, énormement avec le rang et la classe de G.

Afin de remédier à toutes ces insuffisances, nous proposons une approche différente qui est, dans un sens, duale à celles qui existent dans la littérature. En effet, leur principe consiste en la construction algorithmique d’un sous-complexe finiment engendré (des coinvariants) d’une résolution standard (Koszul ou bar), qui a le même type d’homotopie. Par contre, nous construisons des complexes acycliques quotients naturels

B(G) ⟶^{ρ} … ⟶^{ρ} Pn+1^{√}B (G) → → Pn^{√} B (G) → → … → → P0^{√} B(G) = 0

de la bar-résolution B(G), ayant les propriétés suivantes.

3.1.1 Propriétés de Pn^{√} B (G). Supposons que G est de type fini.

(1) Pour tout n ≥ 0 et i ≥ 1, Pn^{√} B_{i}(G) est un module libre de type fini sur l’anneau ZZ_{(n+1)}(G)/ZZ -torsion, donc aussi sur ZZ (cf. 2.2.1).

(2) Un cocycle f ∈ Hom_{G}( Pn^{√} B_{i}(G), M) donne naissance à un cocycle explicite ρ^{∗}f : G^{×i} → M tel que la valeur ρ^{∗}f(a_{1}, …, a_{i}), après le choix d’une base de Mal’cev de G, s’exprime en terme de fonctions polynomiales numériques universelles en les coordonnées des éléments a_{1}, …, a_{i} ∈ G.

(3) Une présentation de G donne naissance à une présentation de Pn^{√} B_{i}(G) comme ZZ -module. Pour une description détaillée de cette propriété, voir 3.3.1.

Ces propriétés découlent facilement de la définition de Pn^{√} B (G) au paragraphe 3.3, à l’aide des propriétés élémentaires de P_{n,R}^{N}(G) énoncées au chapitre 1. Elles font que la cohomologie “polynomiale de degré n”

Pn^{√} H^{∗}(G, M) =^{def} H^{∗}(Hom_{G}( Pn^{√} B (G), M))

est bien calculable, à l’aide de matrices si G est donné par une présentation. C’est alors une question intéressante de savoir si le morphisme Pn^{√} H^{∗}(G, M) → H^{∗}(G, M) induit par l’application quotient B(G) → → Pn^{√} B (G) est un isomorphisme, pour une valeur de n appropriée. Comme résultat principal de [H3], nous obtenons une réponse positive pour ∗ = 2, cf. 2.3.2 ; pour ∗ > 2, la question est encore ouverte.

3.2 La cohomologie polynomiale d’une algèbre augmentée

On décrira la construction du complexe Pn^{√} B (G) de la section 1, dans le cadre plus général de la cohomologie de Hochschild ; ce concept servira aussi pour d’autres structures algébriques que les groupes, surtout les algèbres de Lie, ce qu’on utilise dans [H17]. On définit la cohomologie polynomiale de degré n, P_{n}H^{∗}(A, M), pour une algèbre augmentée A et un A-module M nilpotent à gauche et trivial à droite. On la considère comme une approximation de la cohomologie de Hochschild H^{∗}(A, M). Pour ∗ = 2, P_{n}H^{∗}(A, M) s’identifie à un sous-groupe de H^{∗}(A, M), et donne naissance à une filtration ascendante (P_{n}H^{2}(A, M))_{n≥0} de H^{2}(A, M).

On commence par quelques observations sur la bar-résolution . Soit A une algèbre sur un anneau commutatif unitaire K, 1_{A} l’unité de A, ϵ: A → K une augmentation de A, et Ā = Ker(ϵ) . Soit C un A-module à gauche. En utilisant l’isomorphisme canonique

ϵ̄: A/K · 1_{K} ≅ Ā , ϵ̄(x) = x − ϵ(x)1_{A} ,

on voit que la bar-résolution usuelle B(A, C) (cf. [53], p. 280) est canoniquement isomorphe au complexe B̃(A, C) défini par

B̃_{i}(A, C) = A ⊗ Ā^{⊗i} ⊗ C

et par la formule usuelle pour la différentielle (tout au long de ce chapitre, on pose ⊗ = ⊗_{K}). On observe alors qu’il existe un isomorphisme canonique

B̃_{i}(A, K) ≅ B̃_{i−1}(A, Ā) ,

car le dernier terme de la différentielle de B̃_{i}(A, K) s’annule. Soit maintenant I un idéal bilatère et J un idéal à gauche de A tel que J ⊃ I Ā. Nous définissons alors le complexe acyclique

B_{∗}^{I,J}(A) =^{def} B̃_{∗−1}(A/I, Ā/J) , ∗ ≥ 1,

et la cohomologie (I, J)-négligeante

H_{I,J}^{∗}(A, M) =^{def} H^{∗}(Hom_{A/I}(B^{I,J}(A), M))
= Ext_{(A/I,K)}^{∗−1}(Ā/J, M) ,

de A pour un A/I -module à gauche M, où le dernier terme est un foncteur Ext relatif, cf. [53] chapter IX et p. 281. En considérant M comme A-bimodule où la A-structure à droite est triviale (i.e., donnée par ϵ), on observe que

Hom_{A−A}(B(A, A), M) ≅ Hom_{A}(B(A, K), M) ;

par conséquent, une transformation naturelle

ρ^{∗}: H_{I,J}^{i}(A, M) → H^{i}(A, M)

est induite par les morphismes

B_{i}(A, K) ≅ B̃_{i}(A, K) ≅ B̃_{i−1}(A, Ā) ⟶^{ρ} B̃_{i−1}(A/I, Ā/J)

où ρ est l’application quotient canonique. On regarde H_{I,J}^{i}(A, M) comme approximation de H^{i}(A, M) via ρ^{∗}.

Pour i = 2, ρ^{∗} est au moins souvent injectif :

Proposition 3.2.1 Si J = I Ā (condition satisfaite pour la cohomologie polynomiale définie ci-dessous), le morphisme ρ^{∗}: H_{I,J}^{2}(A, M) → H^{2}(A, M) est injectif.

Ce cadre général établi, on définit la bar-résolution polynomiale de degré n de A en prenant I = Ā^{n+1}, J = Ā^{n+2},

P_{n}B(A) =^{def} B^{Ā^{n+1},Ā^{n+2}}(A) ,

et la cohomologie polynomiale de degré n de A

P_{n}H^{∗}(A, M) =^{def} H^{∗}(Hom(P_{n}B(A), M))
= Ext_{(A/Ā^{n+1},K)}^{∗−1}(Ā/Ā^{n+2}, M)

pour un A/Ā^{n+1}-module à gauche M.

Les K -modules P_{n}H^{i}(A, M), pour i ≥ 2 fixé et des valeurs de n ≥ 0 variées, sont reliés par une chaîne de morphismes

0 = P_{n}H^{i}(A, M) → … → P_{n}H^{i}(A, M)⟶^{σ_{n}^{∗}}P_{n}H^{i}(A, M) → … ⟶^{ρ^{∗}}H^{i}(A, M)

compatibles avec les morphismes ρ^{∗}: P_{n}H^{i}(A, M) → H^{i}(A, M). En fait, σ_{n}^{∗} est induit par l’application quotient canonique σ_{n} : P_{n+1}B(A)→ →P_{n}B(A) . Pour i = 2, les σ_{n}^{∗} sont injectifs grâce à 3.2.1 ; en identifiant P_{n}H^{2}(A, M) avec son image isomorphe ρ^{∗}P_{n}H^{2}(A, M) ⊂ H^{2}(A, M), on obtient alors une filtration naturelle de H^{2}(A, M),

0 = P_{n}H^{2}(A, M) ⊂ … ⊂ P_{n}H^{2}(A, M) ⊂ P_{n+1}H^{2}(A, M) ⊂ … ⊂ H^{2}(A, M) .

(3.1)

En passant par l’algèbre enveloppante, on dispose ainsi de la notion de cohomologie polynomiale aussi pour d’autres structures algébriques. Par exemple, pour les algèbres de Lie, où on l’utilise dans l’étude des représentations affines, cf. [H17], et pour les groupes que l’on va traiter dans les sections suivantes. D’abord, on note une description très simple de l’A-module coker(δ_{m+1}) dans la bar-résolution B(A, C). Cette observation élémentaire s’avère très utile dans le calcul du foncteur relatif Ext_{(A,K)}^{∗}(C, M).

On définit une famille d’endofoncteurs B_{m}, m ≥ 1, de la catégorie _{A}Mod des A-modules, comme suit. Pour C ∈ _{A}Mod, posons

B_{m}(C) = Ā^{⊗m} ⊗ C

comme K -module, et pour a ∈ A, a_{1}, …, a_{m} ∈ Ā, c ∈ C,

a(a_{1} ⊗ ⋯ ⊗ a_{m} ⊗ c) = aa_{1} ⊗ a_{2} ⊗ ⋯ ⊗ a_{m} ⊗ c

+ ∑_{i=1}^{m−1}(−1)^{i}ϵ̄(a) ⊗ a_{1} ⊗ ⋯ ⊗ a_{i}a_{i+1} ⊗ ⋯ a_{m} ⊗ c

+ (−1)^{m}ϵ̄(a) ⊗ a_{1} ⊗ ⋯ ⊗ a_{m−1} ⊗ a_{m}c .

C’est un calcul fastidieux de vérifier que cette formule définit bien une structure de A-module. On note que pour A = ZZ(G), B_{2}(ZZ) = B_{1}(I_{Z Z}(G)) est canoniquement isomorphe à I_{Z Z}(G) ⊗ I_{Z Z}(G) muni de l’action diagonale de G.

En conséquence immédiate, on obtient la

Proposition 3.2.2 On a un isomorphisme naturel de A-modules

B_{m}(A, C)/Im(δ_{m+1}) ≅ B_{m}(C) ,

induit par l’extension A-linéaire de l’identité sur Ā^{⊗m} ⊗ C ⊂ A ⊗ Ā^{⊗m} ⊗ C ≅ B_{m}(A, C).

Par suite, on a des isomorphismes naturels

Ext_{(A,K)}^{m}(C, M) ≅ Ext_{(A,K)}^{1}(B_{m−1}(C), M)
≅ Hom_{A}(B_{m}(C), M)/δ̃_{m}^{∗}Hom_{K}(B_{m−1}(C), M) (3.2)

où

δ̃_{m}^{∗}(f)(a_{1} ⊗ ⋯ ⊗ a_{m} ⊗ c) = a_{1}f(a_{2} ⊗ ⋯ ⊗ a_{m} ⊗ c)

+ ∑_{i=1}^{m−1}(−1)^{i}f(a_{1} ⊗ ⋯ ⊗ a_{i}a_{i+1} ⊗ ⋯ a_{m} ⊗ c)

+ (−1)^{m}f(a_{1} ⊗ ⋯ ⊗ a_{m−1} ⊗ a_{m}c) .

On exploitera le deuxième isomorphisme plus loin, dans le cas où A = ZZ(G)/I_{Z Z}^{n}(G).

Pour A = ZZ(G) et C = ZZ, une analyse du module coker(δ_{3}) en terme de la donnée d’une présentation de G, est effectuée dans [23].

3.3 La cohomologie polynomiale d’un groupe

On définit la cohomologie polynomiale de degré n, P_{n}H^{∗}(G, M), d’un groupe G à coefficients dans un G-module nilpotent M. Si M est sans ZZ -torsion, elle s’identifie à la cohomologie d’un complexe Pn^{√} B (G) qui a les propriétés 3.1.1, que l’on précise pour ∗ = 2. On donne une caractérisation intrinsèque des extensions de groupes M ^{≻}→^{i} E → →^{π}G qui sont représentables par un 2-cocycle polynomial de degré ≤ n. (Par définition, ce sont les extensions dont la classe de cohomologie se trouve dans le sous-groupe ρ^{∗}P_{n}H^{2}(G, M) de H^{2}(G, M), cf. 3.1, toujours dans l’hypothèse que M a ZZ -torsion nulle). On en déduit que H^{2}(G, M) est isomorphe à P_{c+k−1}H^{2}(G, M) si G est un T -groupe de classe ≤ c (= T_{c}-groupe) de type fini et M un G-module nilpotent de classe ≤ k et sans ZZ -torsion. Dans ce cas, H^{2}(G, M) jouit donc de toutes les bonnes propriétés de la cohomologie polynomiale. On propose d’utiliser ce résultat afin de construire, de façon explicite et systématique, tous les T -groupes de type fini de classe ≤ 7. En outre, il serait intéressant de préciser la relation entre les cocycles polynomiaux et le calcul de commutateurs dans les groupes nilpotents.

Soit G un groupe. Pour n ≥ 0 et un G-module nilpotent M de classe ≤ n+1, on pose alors

P_{n}B_{∗}(G) = P_{n}B_{∗}(ZZ(G))
P_{n}H^{∗}(G, M) = P_{n}H^{∗}(ZZ(G), M) ,  (3.3)

que l’on appele la bar-résolution et la cohomologie polynomiale de degré n de G. Cette notation se justifie comme suit : étant donné une cochaîne f ∈ Hom_{Z Z_{(n+1)}(G)} (P_{n}B_{i}(G), M), le i-cocycle ρ^{∗}(f) : G^{×i} → M correspondant se factorise en

ρ^{∗}(f) : G^{×i−1} × G ⟶^{(p_{n,Z Z}^{γ})^{i−1}⊗p_{n+1,Z Z}^{γ}} P_{n,Z Z}^{γ}(G)^{⊗i−1} ⊗ P_{n+1,Z Z}^{γ}(G) ⟶^{f}M .  (3.4)

Par suite, ρ^{∗}(f) est une application multipolynomiale de degré ≤ n en les i − 1 premières variables et de degré ≤ n + 1 en la dernière. Un tel cocycle sera appelé un i-cocycle polynomial de degré ≤ n.

Vu 2.1.3, on constate la propriété suivante des cocycles polynomiaux : contrairement à une application multilinéaire, un i-cocycle n’est pas entièrement déterminé par ses valeurs sur les i-uplets de générateurs de G ; toutefois, un cocycle polynomial est bien déterminé par les valeurs (de son extension ZZ -linéaire à ZZ(G)^{⊗i}) sur les i-uplets d’un nombre fini de monômes en des générateurs de G, cf. aussi 3.3.1.

Pour ∗ = 2, notre construction de P_{n}H^{∗}(G, M) reproduit l’invariant P_{n}H^{2}(G, M) introduit par Passi, pour des G-modules M triviaux, dans son étude des sousgroupes de dimension (pour l’identification on utilise 3.4 et 3.2.1). Nous avons alors étendu cet invariant classique (pour un aperçu voir [75]) aux G-modules nilpotents non-triviaux ; en plus, on l’a identifié à un foncteur Ext relatif à cause de l’isomorphisme

P_{n}H^{∗}(G, M) ≅ Ext_{(Z Z_{n+1}(G),Z Z)}^{∗}(P_{n+1,Z Z}^{γ}(G) , M) .

Ces invariants forment toute une théorie de cohomologie

P_{n}H^{∗}(G, −) : _{Z Z_{(n+1)}(G)}Mod →_{Z Z} Mod

pour tout n ≥ 1.

Dans le traitement des modules M sans ZZ -torsion, il convient d’introduire la modification suivante des constructions précédentes. On pose

Pn^{√} B (G) =^{def} B^{^{+} \sqrt{I_{Z Z}^{n+1}(G)}, ^{+} \sqrt{I_{Z Z}^{n+2}(G)}}(G) , cf. 2.1.1 (3),

Pn^{√} H^{∗}(G, M) =^{def} H^{∗}(Hom( Pn^{√} B (G), M)) ,

car si M n’a pas de ZZ -torsion, l’application quotient q^{√} : P_{n}B(G)→ → Pn^{√} B (G) induit l’isomorphisme naturel

q^{^{√} ∗}: Hom_{Z Z(G)/ ^{+} \sqrt{I_{Z Z}^{n+1}(G)}}( Pn^{√} B (G), M) → Hom_{Z Z_{(n+1)}(G)}(P_{n}B(G), M)

et aussi

q^{^{√} ∗}: Pn^{√} H^{∗}(G, M) ≅ P_{n}H^{∗}(G, M) .

Si G est de type fini, le complexe Pn^{√} B (G) a les propriétés 3.1.1 (1) – (3). Nous en ajouterons quelques-unes qui éclairent la structure de P_{n}H^{2}(G, M) et facilitent son calcul.

Soit P_{n,Z Z}^{γ}(G) ˜⊗ P_{n+1,Z Z}^{γ}(G) = P_{n,Z Z}^{γ}(G) ⊗_{Z Z} P_{n+1,Z Z}^{γ}(G) muni de la G-action g(x ⊗ y) = gx ⊗ y − (g − 1) ⊗ xy pour g ∈ G, x ∈ P_{n,Z Z}^{γ}(G), y ∈ P_{n+1,Z Z}^{γ}(G) . La formule 3.2 donne alors un isomorphisme

P_{n}H^{2}(G, M) ≅ Hom_{G}( P_{n,Z Z}^{γ}(G) ˜⊗ P_{n+1,Z Z}^{γ}(G) , M)/γ Hom_{Z Z}( P_{n+1,Z Z}^{γ}(G) , M) ,

(3.5)

où γ(f)(x ⊗ y) = xf(y) − f(xy). En particulier, si M est un module trivial,

P_{n}H^{2}(G, M) ≅ Hom_{G}( P_{n,Z Z}^{γ}(G) ⊗_{Z Z(G)} P_{n,Z Z}^{γ}(G) , M)/μ^{∗} Hom_{Z Z}( P_{n+1,Z Z}^{γ}(G) , M) ,

(3.6)

où μ: P_{n,Z Z}^{γ}(G) ⊗_{Z Z(G)} P_{n,Z Z}^{γ}(G) → P_{n+1,Z Z}^{γ}(G) est induit par la multiplication de ZZ(G).

Si M n’a pas de ZZ -torsion, on peut remplacer P_{n,Z Z}^{γ}(G) et P_{n+1,Z Z}^{γ}(G) dans (3.5) et (3.6) par Pn^{√} (G) et respectivement Pn+1^{√}(G).

La description (3.5) de P_{n}H^{2}(G, M) est à la base de la formule 3.3.1 suivante.

Soit G = ⟨X | Y ⟩ une présentation du groupe G et M un G-module nilpotent de classe ≤ n. Avec la notation de 2.2.1 (3), on construit un complexe de ZZ - modules

Hom_{Z Z}(T̄_{n}/T_{n}ST_{n} , M) ⟶^{δ_{1}} Hom_{Z Z}(T̄_{n}^{2}/T_{n}ST̄_{n} , M) ⟶^{δ_{2}} Hom_{Z Z}(T̄_{n−1}⊗S, M), (3.7)

voir [H3, p. 408]. Alors on a la

Proposition 3.3.1 Il existe un isomorphisme

P_{n−1}H^{2}(G, M) ≅ Ker(δ_{2})/Im(δ_{1})

tel que le 2-cocycle d: G × G → M correspondant à g ∈ Ker(δ_{2}) est donné par

d (x_{p_{1}}^{m_{1}} ⋯ x_{p_{r}}^{m_{r}} , x_{q_{1}}^{n_{1}} ⋯ x_{q_{s}}^{n_{s}}) =

∑_{I_{1}} \binom{m_{1}}{μ_{1}} ⋯ \binom{m_{r}}{μ_{r}}\binom{n_{1}}{ν_{1}} ⋯ \binom{n_{s}}{ν_{s}} g (x_{p_{1}}^{μ_{1}} ⋯ x_{p_{r}}^{μ_{r}}x_{q_{1}}^{ν_{1}} ⋯ x_{q_{s}}^{ν_{s}}) +

− ∑_{I_{2}} \binom{m_{1}}{μ_{1}} ⋯ \binom{m_{r}}{μ_{r}}\binom{n_{1}}{ν_{1}} ⋯ \binom{n_{s}}{ν_{s}} (π(x_{p_{1}}) − 1)^{μ_{1}} ⋯ (π(x_{p_{r}}) − 1)^{μ_{r}} g (x_{q_{1}}^{ν_{1}} ⋯ x_{q_{s}}^{ν_{s}})

où

I_{1} = {(μ_{1}, …, μ_{r}, ν_{1}, …, ν_{s}) | 0 ≤ μ_{i}, ν_{j}; 1 ≤ ∑ μ_{i}, ∑ ν_{j}; ∑ μ_{i} + ∑ ν_{j} ≤ n }

I_{2} = {(μ_{1}, …, μ_{r}, ν_{1}, …, ν_{s}) | 0 ≤ μ_{i}, ν_{j}; 1 ≤ ∑ μ_{i} ≤ k − 1 ; 1 < ∑ ν_{j} ≤ n }

Comme d’habitude, on pose ici \binom{s}{μ} = \frac{s(s−1)···(s−μ+1)}{μ!} pour tout s ∈ ZZ − \{0\}, et

\binom{s}{0}x^{0} =^{def} 1.

On remarque que les coefficients de l’expression somme pour d sont des fonctions polynomiales ZZ^{r}×ZZ^{s} → ZZ en les variables m_{1}, …, m_{r}, n_{1}, …, n_{s}, de degré total ≤ (n − 1) en les variables m_{1}, …, m_{r}, de degré total ≤ n en les variables n_{1}, …, n_{s}, et de degré total ≤ n + k − 1 toutes variables confondues.

On note encore que si les groupes G et M sont de type fini, le complexe (3.7) consiste de ZZ -modules libres de type fini.

En outre, comme P_{n}H^{2}(G, M) ≅ P_{n}H^{2}(G/G_{n+1}, M), cf. 3.5 et 2.2.1, on va en général choisir une présentation G = ⟨X | Y ⟩ telle que les éléments de X forment une base de Mal’cev de G.

Récemment, on a observé que le calcul explicite de P_{n}H^{2}(G, M) peut être encore beaucoup simplifié en utilisant des présentations pondérées, certaines filtrations associées et le théoème de Poincaré-Birkhoff-Witt. Comme première application, cette idée abouti à une formule pour H^{2}(G, ZZ) d’un T -groupe de classe 2, cf. 3.3.7.

3.3.2 Vu les bonnes propriétés mentionnées des cocycles polynomiaux et de la cohomologie polynomiale, les deux questions suivantes s’imposent naturellement :

(1) Etant donné une classe de cohomologie x ∈ H^{i}(G, M), est-elle représentable par un cocycle polynomial d’un degré n approprié ? Si oui, déterminer la valeur minimale de n.

(2) Sous quelles conditions portant sur le groupe G et le G-module M, l’approxi-

mation

ρ^{∗}: P_{n}H^{i}(G, M) → H^{i}(G, M)

est-elle un isomorphisme pour un nombre n = n(i) approprié ?

A cause de la théorie des extensions, ces questions sont particulièrement intéressantes pour i = 2. Elles sont beaucoup étudiées dans la littérature, pour M = ZZ/pZZ dans [67], pour M = Q/ZZ (le cas relié aux sous-groupes de dimension), cf. l’article résumé [75], et pour M = Q ou ZZ, cf. les remarques suivant le théorème 3.3.6 ci-dessous.

Rappelons (cf. [H3]) une réponse complète aux questions (1) et (2), dans le cas où i = 2 et le G-module M n’a pas de ZZ -torsion.

3.3.3 Soit G un groupe, M un G-module nilpotent de classe ≤ k sans ZZ - torsion. Supposons que M est divisible comme groupe abélien, ou bien que G est de type fini. Soit

\underline{E}: M ^{≻}→^{i} E → →^{π}G

une extension de groupes (telle que l’action de G induite sur M par la conjugaison dans E coïncide avec l’action donnée). Soit n ≥ k.

Théorème 3.3.4 Sous les hypothèses de 3.3.3, \underline{E} est représentable par un cocycle polynomial de degré ≤ n − 1 si et seulement si les trois conditions (A) - (C) dans le théorème 2.3.2 sont satisfaites.

En particulier, c’est le cas s’il existe un nombre c ≤ n tel que les propriétés (a) - (c) dans 2.3.4 sont satisfaites. □

Corollaire 3.3.5 En plus de 3.3.3, supposons que G est nilpotent sans torsion. Désignons c, e la classe de nilpotence de G, respectivement de E. Alors \underline{E} est représentable par un cocycle polynomial de degré ≤ n pour n = e si M est divisible et pour n = max{e, c + k − 1} si G est de type fini. □

En conséquence, on obtient la réponse suivante à la question 3.3.2 (2).

Théorème de convergence 3.3.6 Soit G un groupe nilpotent de classe ≤ c sans torsion et M un G-module nilpotent de classe ≤ k sans ZZ -torsion tels que, soit M est divisible comme groupe abélien, soit G est de type fini. Alors ρ^{∗} est un isomorphisme

P_{c+k−1}H^{2}(G, M) ≅ H^{2}(G, M) . □

Des cas particuliers de ce résultat se trouvent dans la littérature, où la structure de G-module sur M est toujours triviale et ou M est divisible [61] ou M = ZZ mais en plus G est abélien [31], ou nilpotent de class 2 [19], ou a une suite centrale descendante à quotients sans torsion (Passi 1991, cf. [75]), ou est un T -groupe quelconque de type fini [H1].

Comme application du théorème, on calcule H^{2}(G, ZZ) de tous les T -groupes de classe 2, comme suit : désignons L_{1} = G/\sqrt{G_{2}}, L_{2} = \sqrt{G_{2}} et c: L_{1} ∧ L_{1} → L_{2} , c[ā, b̄] = [a, b] pour a, b ∈ G, ā = a\sqrt{G_{2}}. Considérons les morphismes

Λ^{3}L_{1} ⟶^{J} L_{1} ⊗ Λ^{2}L_{1} ⟶^{id⊗c} L_{1} ⊗ L_{2} ,

où J(x, y, z) = x ⊗ (y ∧ z) + y ⊗ (z ∧ x) + z ⊗ (x ∧ y).

Corollaire 3.3.7 Soit G un T -groupe de classe 2. Alors

H^{2}(G, ZZ) ≅ Hom_{Z Z} (coker ((id ⊗ c)J) ⊕ Ker(c) , ZZ) ⊕ coker(c) .

On donne aussi une formule pour des 2-cocycles représentants sous la forme de polynômes numériques.

Ce résultat n’est qu’un point de départ d’une étude approdondie de la 2cohomologie des T -groupes, basée sur le théroème 3.3.6, et qu’il reste à effectuer dans l’avenir.

Exemple 3.3.8 Considérons le groupe de Heisenberg tordu

G_{q} = ⟨a, b, c | [a, b] = c^{q}, [a, c] = [b, c] = 1⟩ ,

q ∈ ZZ. De fait, tout T -groupe de rang 3 est de ce type. Alors

H^{2}(G_{q}, ZZ) ≅ ZZ/qZZ ⊕ ZZ ⊕ ZZ ,

où un triplet (u, w, z) ∈ ZZ/qZZ ⊕ZZ ⊕ZZ est représenté par le cocycle polynomial numérique

D(u, w, z)(a^{a_{1}}b^{b_{1}}c^{c_{1}} , a^{a_{2}}b^{b_{2}}c^{c_{2}}) =

u b_{1}a_{2} + (qb_{1}\binom{a_{2}}{2} − c_{1}a_{2}) + z (qb_{1}a_{2}b_{2} + q\binom{b_{1}}{2}a_{2} − c_{1}b_{2}) ,

a_{i}, b_{i}, c_{i} ∈ ZZ.

L’application suivante du théorème 3.3.6 peut s’avérer intéressante pour une construction récursive “rapide” des T -groupes.

Corollaire 3.3.9 Soient E un T_{e}-groupe de type fini et M un sous-groupe normal abélien. Alors \sqrt{M} est abélien. Soient c, k les classes de nilpotence de G = E/\sqrt{M} et de l’action de G sur \sqrt{M} induite par la conjugaison dans E. Alors l’extension \sqrt{M} ↪ E → → G est représentable par un cocycle polynomial de degré ≤ n pour n = max{e, c + k − 1}. □

En particulier, ceci s’applique au sous-groupe M = γ_{f}(E) où f est le plus petit entier ≥ \frac{e+1}{2} , ou à M = γ_{2}(E) si E est metabélien. Dans les deux cas on a n = e.

Par exemple, en partant des groupes abéliens libres de type fini, on peut construire tous les T -groupes de classe ≤ 7 par deux extensions itérées uniquement. La première étape est traitée dans [H3].

Quant à la stratégie de preuve, on ramène le théorème 3.3.4 au théorème 2.3.2, au moyen de l’observation clé suivante [H3, Theorem 3.4] qui établit un lien étroit entre la cohomologie polynomiale et les foncteurs polynomiaux relatifs du chapitre 2.

Théorème 3.3.10 Soit \underline{E}: B ^{≻}→^{i} E → →^{π}G une extension de groupes telle que B soit abélien, n ≥ 1. Alors les propriétés suivantes de \underline{E} sont équivalentes:

(i) L’action de G sur B induite par conjugaison dans E est nilpotente de classe ≤ n, et \underline{E} est représentable par un 2-cocycle polynomial de degré ≤ n.

(ii) Le morphisme p_{n,Z Z}i: B → P_{n,Z Z}(E, B) de groupes est injectif et scindé.

En outre, si le groupe B est sans torsion alors ces propriétés sont équivalentes à la propriété suivante.

(iv) La suite 0 → B ⟶^{p_{n}^{√} i} Pn^{√} (E, B) ⟶^{P_{n}^{√} (π)} Pn^{√} (G) → 0 de ZZ_{(n)}(G)-modules

est exacte et admet un scindage ZZ -linéaire.

Dans le cas particulier où \underline{E} est une extension centrale, l’equivalence entre (i) et (ii) fut découverte par Passi, cf. [58], [59, p. 64].

3.4 L’homologie polynomiale

Il est clair que tout ce qui a été fait en cohomologie dans les sections précédentes admet un dual en homologie. En effet, si N est un A/I -module à droite, on définit

H_{∗}^{I,J}(A, N) =^{def} H_{∗}(N ⊗_{A/I} B_{∗}^{I,J}(A))
= Tor_{∗}^{(A/I,K)}(N, Ā/J) ,

P_{n}H_{∗}(A, N) =^{def} H_{∗}^{Ā^{n+1},Ā^{n+2}}(A, N) .

Or il existe un morphisme canonique

ρ_{∗}: H_{∗}(A, N) → H_{∗}^{I,J}(A, N)

qui est surjectif pour ∗ = 2 et J = I Ā. En particulier, on obtient une cofiltration naturelle

H_{2}(A, N) ⟶^{ρ_{∗}} … ⟶^{σ_{n+1∗}} P_{n+1}H_{2}(A, N) ⟶^{σ_{n∗}} P_{n}H_{2}(A, N) ⟶^{σ_{n−1∗}} … ⟶^{σ_{1∗}} P_{0}H_{2}(A, N) = 0 .

(3.8)

Pour un groupe G et un G-module à droite N nilpotent de classe ≤ n + 1, on pose

P_{n}H_{∗}(G, N) =^{def} P_{n}H_{∗}(ZZ(G), N) .

Le dual de 3.6 est l’isomorphisme naturel

P_{n}H^{2}(G, ZZ) ≅ Ker(μ: P_{n,Z Z}^{γ}(G) ⊗_{Z Z(G)} P_{n,Z Z}^{γ}(G) → P_{n+1,Z Z}^{γ}(G) ) .

Par conséquent, le groupe P_{n}H_{2}(G, ZZ) peut être calculé comme suit [H1].

Proposition 3.4.1 Soit G = ⟨X | Y ⟩ une présentation d’un groupe G. Alors

P_{n}H_{2}(G, ZZ) ≅ T_{n+1}ST_{n+1}/T̄_{n}ST_{n} + T_{n}ST̄_{n} ,

cf. (2.2).

A l’aide d’un théorème de coefficients universels, on déduit du théorème de convergence 3.3.6 le résultat suivant [H1].

Théorème 3.4.2 Soit G un groupe nilpotent de classe ≤ c. Alors on a des isomorphismes naturels

τ̄H_{2}(G, ZZ) ≅ τ̄P_{n}H_{2}(G, ZZ) ≅ τ̄Ker(μ: Pn^{√} (G) ⊗_{Z Z(G)} Pn^{√} (G) → Pn+1^{√}(G) ) .

Le multiplicateur de Schur et le produit tensoriel nonabélien d’un groupe de classe 2

Le multiplicateur de Schur M(G) =^{def} H^{2}(G, C^{∗}) d’un groupe G joue un rôle clé dans beaucoup de domaines comme la théorie des représentations projectives, des p-groupes finis, le problème de plongement en théorie de Galois, etc. Après un rappel de quelques-unes de ces applications, on focalisera sur le cas d’un groupe nilpotent. On donne un bref aperçu de quelques résultats type de la littérature. Ensuite on développe une approche récursive basée sur la suite exacte de cinq termes, étendue à gauche par l’application de Ganea,

G^{ab} ⊗ Z → H_{2}(G) → H_{2}(G/Z) → H_{1}(Z) → H_{1}(G) → H_{1}(G/Z) → 0 (4.1)

où Z est un sous-groupe central de G. En prenant Z = G_{n} pour G de classe n, (4.1) devient

G^{ab} ⊗ G_{n} ⟶^{g_{n}} H_{2}(G) → H_{2}(G/G_{n}) → G_{n} → 1  (4.2)

Il s’agit alors, à part un problème d’extension, du calcul de Ker(g_{n}). On en donne quelques générateurs nouveaux pour n quelconque (les groupes V_{n+1} décrits cidessous), et détermine Ker(g_{3}), complètement, comme image naturelle du groupe Tor_{1}^{Z Z}(G^{ab}, G^{ab}). Ensuite, on donne une formule pour H_{2}(G) d’un groupe de classe 2, en terme soit de P_{2}(G), soit d’une présentation standard ou d’une présentation quelconque. A titre d’application, on décrit une classe importante de p-groupes de classe 2 qui n’admettent pas d’extension de classe 3. Pour un groupe nilpotent quelconque, on introduit une filtration naturelle finie de H_{2}(G) et détermine les premiers quotients de manière fonctorielle. Le groupe gradué associé à cette filtration s’identifie à un idéal trivial d’une algèbre de Lie graduée G(G) associée à G en termes homologiques ; ceci fournit un nouveau foncteur de la catégorie des groupes dans la catégorie des algèbres de Lie qui est très lié au produit tensoriel non-abélien de Brown et Loday. La filtration mentionnée de H_{2}(G) induit d’ailleurs une filtration finie ascendante de M(G) pour tous les groupes finis.

4.1 Motivations et résultats connus concernant le multiplicateur de Schur d’un p-groupe

Le multiplicateur de Schur fut introduit par Schur dans son étude des représentations projectives. En effet, si \underline{E} désigne l’extension centrale 1 → C^{∗} · I_{n} ↪ Gl(n, C) → PGl(n, C) → 1, et si une représentation projective est donnée par un morphisme ρ: G → PGl(n, C), l’invariant Φ(ρ) = ρ^{∗}\{\underline{E} \} ∈ M(G) donne naissance à une suite exacte d’ensembles

{représentation linéaires de G}/ ∼ → {représentations projectives de G}/ ∼

⟶^{Φ} M(G) → 0 ,

cf. [40]. En fait, Φ est surjectif car la donnée d’un 2-cocycle α: G × G → C^{∗} permet de construire l’algèbre de groupe tordue par α C^{α}(G) dont les modules correspondent exactement aux représentations projectives satisfaisant Φ(ρ) = {α}. D’où une première motivation de ne pas seulement calculer M(G) en tant que groupe abélien, mais aussi les 2-cocycles explicites représentant ses éléments.

D’un autre coté, l’invariant H^{2}(G, IF_{p}) joue un rôle clé en théorie des p-groupes finis. Non seulement permet-il – théoriquement – leurs construction systématique par une suite finie d’extensions centrales, ou au moins, la construction d’exemples de groupes ayant des propriétés intéressantes, cf. section 6.2, mais aussi il s’avère l’invariant clé dans l’étude de leurs présentations libres : Notons d(G), r(G) le nombre minimal de générateurs, respectivement relations, nécessaires pour définir G comme groupe discret, respectivement comme pro-p-groupe. Alors on a les relations

d(G) = dim_{IF_{p}}H_{1}(G, IF_{p})
r(G) = dim_{IF_{p}}H_{2}(G, IF_{p})
= d(G) + d(M(G))

cf. [25]. Cependant, c’est toujours un problème ouvert de savoir si le nombre minimal R(G) de relations nécessaires pour définir G comme groupe discret, coïncide avec r(G) en général. Outre son importance en théorie des p-groupes, la comparaison de r(G) avec d(G) conduit à la resolution – négative – d’un problème célèbre de Hilbert : A l’aide de la fameuse inégalité

r(G) > d(G)^{2}/4  (4.3)

qu’ils établissent, Golod et Shafarevitch montrèrent l’existence de tours de corps de classe infinies.

Tandis que pour ces applications il suffit d’étudier la dimension sur IF_{p} de l’espace H^{2}(G, IF_{p}) ≅ G/G′G^{p} ⊕ Hom(M(G), IF_{p}), la connaissance de 2-cocycles explicites est essentiel dans le problème de plongement en théorie de Galois constructive : Soit E/K une extension de corps Galoisienne de groupe Gal (E/K) = G. Etant donné un groupe abélien A et une classe de cohomologie {α} ∈ H^{2}(G, A), on cherche à savoir s’il existe une surextension Galoisienne N/E de groupe Gal (N/E) ≅ A telle que N soit Galoisien sur K et que l’extension 1 → A → Gal(N/K) → G → 1 corresponde à α. En effet, ce n’est pas toujours le cas, même pour A = IF_{p}, et l’existence et la structure de N dépendent de façon subtile de la structure de l’extension de groupes abstraite définie par {α}, cf. [52].

On mentionne encore que M(G) intervient aussi dans l’étude des sous-groupes de dimension d’après Passi, cf. chapitre 7.

Grâce à la suite des coefficients universels, le calcul de H^{2}(G, A), A un groupe abélien, en tant que groupe, revient au calcul de H_{2}(G), bien que la version cohomologique se prête mieux à l’étude de ses propriétés qualitatives, dont notamment l’identification de M(G) d’un groupe G fini, comme facteur direct de ∏_{p||G|} M(Π_{p}) où Π_{p} signifie un p-sous-groupe de Sylow de G, cf. [40]. Ainsi, théoriquement, le multiplicateur de Schur des groupes finis se ramène au multiplicateur de Schur des p-groupes ; mais en effet, sa structure s’avère ici bien plus difficile à éclairer que pour, par exemple, certaines classes de groupes simples. En conséquence, il y a bon nombre de travaux dans la littérature consacrés au multiplicateur de Schur d’un p-groupe fini.

Ces travaux se regroupent d’avantage autour des aspects suivants :

La plupart des travaux existants sur ce thème s’adressent aux encadrements des invariants numériques de M(G), i.e., de son ordre |M(G)|, son rang d(M(G)), voir r(G), ou son exposant e(M(G)). Trop nombreux sont les résultats dans la littérature pour les rappeller tous ici ; on se contente alors d’en donner quelques exemples représentatifs.

Majorations de |M(G)|

Soit G un p-groupe d’ordre p^{n} et de classe de nilpotence c. Alors

|M(G)| ≤ p^{\binom{n}{2}} , cf. [24]  (4.4)
|M(G)| ≤ |M(G/G_{2})| · |G_{2}|^{d(G/Z(G))−1} , cf. [22];  (4.5)

ce résultat fut étendu à tous les groupes nilpotents finis par Vermani [74].

|M(G)| ≤ e(G)^{\binom{s}{2}+s^{2}⟨log_{2}(s)⟩+s^{2}} , cf. [50],  (4.6)

où s = max(d(H) | H ≤ G) et pour un réel α, ⟨log_{2}(α)⟩ signifie le plus petit entier ≥ α. En outre, le dernier terme s^{2} de l’exposant dans (4.6) peut être omis si |G| est impair.

Vu l’inégalité (4.4) de Green, Berkovich introduit l’approche inverse suivante : on définit un invariant t(G) par

|M(G)| = p^{\binom{n}{2}−t(G)} ,

et on se propose de classifier les groupes dont t(G) vaut une valeur donnée. Berkovich resout le problème pour t = 0 et 1 [8], ensuite Zhou [77] pour t = 2. En effet,

t(G) = 0 ⇔ G est élémentaire abélien
t(G) = 1 ⇔ G = C_{p^{2}} ou G est extraspécial d’ordre p^{3} et d’exposant > p
t(G) = 2 ⇔ G = C_{p^{2}} × C_{p} , D_{8} , ou D_{p^{3}} × C_{p} si p est impair.

On rappele qu’un p-groupe G est extraspécial si G_{2} = Φ(G) = Z(G) ≅ C_{p}, où Φ(G) et Z(G) désignent le sous-groupe de Frattini, respectivement le centre, de G. En outre, D_{p^{3}} est le groupe non abélien d’ordre p^{3} et d’exposant p.

Encadrements de d(M(G))

(d(G)(p − 1)/p) − 1 < d(M(G)) ≤ \frac{1}{2}s((2c − 1)s − 1) , cf. [32], [33], (4.7)

où c est la classe de nilpotence de G. Une majoration de d(M(G)) pour un groupe fini quelconque, en terme du seul rang s, est due à [50] : Posons t = s − 1. Alors

d(M(G)) ≤ \binom{t}{2} + t^{2}⟨log_{2}(t)⟩ + t^{2} .  (4.8)

Le dernier terme t^{2} peut être omis si |G| est impair. Si G est un p-groupe puissant, on a même d(M(G)) ≤ \binom{d(G)}{2}.

Majorations de e(M(G))

Si G est un groupe nilpotent, on a

e(M(G)) ≤ e(G)^{c−1} , cf. [33],  (4.9)
e(M(G)) ≤ e(G) p^{s ⟨log_{2}(s)⟩}  (4.10)

si G est un p-groupe d’ordre impair, et

e(M(G)) ≤ e(G) 2^{s⟨log_{2}(s)⟩^{2}+s}  (4.11)

si G est un 2-groupe, cf. [50].

La conjecture que e(M(G)) ≤ e(G), qui avait tenu longtemps, fut rejétée par G. Macdonald et Wamsley, cf. [6]. Cette majoration est pourtant vraie si G est un p-groupe puissant, cf. [50].

En outre, on sait qu’il y a très peu de p-groupes dont le multiplicateur de Schur est trivial. En effet, M(G) ≠ 0 si • d(G) > 3 (corollaire de (4.3))

• il existe une famille de générateurs de G qui sont tous d’ordre p [32].

4.2 Une approche récursive

Pourtant, le problème primordial de déterminer la structure même de M(G) voir H_{2}(G) d’un p-groupe paraît assez ”intraitable” (cf. [40, p. 131]) par les méthodes existantes, outre des cas très particuliers que l’on rappellera dans la suite.

Alors qu’il est élémentaire à voir que pour un groupe abélien on a H_{2}(G) ≅ G ∧ G, déjà le cas des groupes nilpotents de classe 2 ne fut traité que sous des hypothèses supplémentaires très restrictives, par Beyl et Tappe [9], et Blackburn et Evens [10]. Pour les groupes de classe 3, à part quelques exemples particuliers, rien ne semble être connu. Dans la suite, on développera d’abord une approche systématique introduite par Ganea et étudiée pas plusieurs auteurs, notamment par Lue [51], Jones [33] et Blackburn et Evens [10]. Cette approche est de nature récursive, comme suit.

Soit G un groupe nilpotent de classe n. Rappellons la suite exacte (4.2). Dans un premier temps, il s’agit alors du calcul de Ker(g_{n}). A ce propos, on rappelle la formule de Hopf,

H_{2}(G) ≅ F_{2} ∩ R/[F, R] ,

où R ↪ F ⟶^{π} G est une présentation libre de G, i.e., F est libre et R = Ker(π) . En découle une suite exacte

1 → F_{n+1}/[F, R] ∩ F_{n+1} → H_{2}(G) → H_{2}(G/G_{n}) → G_{n} → 1 .

Or F_{n+1} ⊂ R, donc le terme à gauche est un quotient de F_{n+1}/F_{n+2}. On emploit alors la construction suivante de Witt : Pour un groupe H, soit L(H^{ab}) l’algèbre de Lie libre sur H^{ab}, munie de sa graduation canonique. Alors un épimorphisme d’algèbres de Lie graduées

c : L(H^{ab})→ →L^{γ}(H) ,

cf. section 1.2, est défini par extension de l’injection canonique H^{ab} = L_{1}^{γ}(H) ↪ L^{γ}(H). Si H est libre, c est un isomorphisme. Alors l’application L_{n+1}(F^{ab}) ≅ F_{n+1}/F_{n+2} → → F_{n+1}/[F, R] ∩ F_{n+1} se factorise par

L_{n+1}(F^{ab}) ⟶^{L_{n+1}(π^{ab})} L_{n+1}(G^{ab})/[G^{ab} , Ker(c_{n})] ⟶^{c̄_{n+1}} F_{n+1}/[F, R] ∩ F_{n+1} ,

et l’application L_{i}(G^{ab}) ⊗ L_{n+1−i}(G^{ab}) ⟶^{[ ,]} L_{n+1}(G^{ab})/[G^{ab} , Ker(c_{n})] se factorise par

L_{i}(G^{ab})⊗L_{n+1−i}(G^{ab}) ⟶^{c_{i}⊗c_{n+1−i}} L_{i}^{γ}(G)⊗L_{n+1−i}^{γ}(G) ⟶^{[ ,]} L_{n+1}(G^{ab})/[G^{ab} , Ker(c_{n})],

d’après l’identité de Jacobi. Pour i ∈ [1, n], soit V_{n+1,i} le sous-groupe de L_{n+1}(G^{ab})/ [G^{ab} , Ker(c_{n})] engendré par les éléments [x^{o_{i}(x)}G_{i+1} , x^{o_{n+1−i}(x)}G_{n+2−i}], où x ∈ G et o_{j}(x) ∈ IN^{∗} tels que ⟨x⟩ ∩ G_{j} soit engendré par x^{o_{j}(x)}. On observe alors que V_{n+1} = ∑_{i=1}^{n} V_{n+1,i} est annulé par c̄_{n+1}. En conclusion, nous obtenons l’améliorisation suivante de l’application de Ganea g_{n} : La suite naturelle

\frac{L_{n+1}(G^{ab})}{[G^{ab} , Ker(c_{n})] + V_{n+1}} ⟶^{c̄_{n+1}} H_{2}(G) → H_{2}(G/G_{n}) → G_{n} → 1  (4.12)

est exacte. Pourtant, c̄_{n+1} est toujours loin d’être injectif en général, même pour n = 2 où au moins la partie droite de (4.12) est connue, car l’application H_{2}(G/G_{2}) → G_{2} s’identifie à c_{2} : G^{ab} ∧ G^{ab} = L_{2}(G^{ab}) → G_{2}, xG_{2} ∧ yG_{2} ↦ [x, y]. Quant au calcul de Ker(c̄_{n+1}), Karpilovski écrit dans [40, p. 130-131] “... but for arbitrary n ≥ 2, this is a formidable task... Since the problem is so untractable one needs to impose more hypothesis’ to make further progress.” En effet, le premier cas particulier ayant traité dans la littérature est celui des groupes extraspéciaux, cf. plus haut. Ces groupes sont de classe 2 et d’ordre p^{2m+1}, m ≥ 1. En employant la terminologie développée ci-dessus, le résultat de Beyl et Tappe se lit comme suit.

Théorème 4.2.1 ([9]) Soit G un groupe extraspécial d’ordre p^{2m+1}.

(1) Si m > 1, H_{2}(G) ≅ Ker(c_{2} : G^{ab} ∧ G^{ab} → G_{2}) ≅ ZZ/pZZ^{2n^{2}−n−1}.

Supposons que n = 1. On écrit G^{ab} = C_{p} · x̄_{1} × C_{p} · x̄_{2}. Alors

(3) Si p est impair,

H_{2}(G) = \{ \begin{matrix}ZZ/pZZ · \{[[x̄_{1}, x̄_{2}], x̄_{1}]\} ⊕ ZZ/pZZ · \{[x̄_{1}, x̄_{2}], x̄_{2}]\} & si e(G) = p \\ 0 & si e(G) = p^{2} \end{matrix}

(4) H_{2}(H_{8}) = 0 et H_{2}(D_{8}) = ZZ/2ZZ · {[[x̄_{1}, x̄_{2}], x̄_{1}]} si x_{1}^{2} = 1, x_{2}^{2} = [x_{1}, x_{2}].

Plus généralement, Blackburn et Evens obtinrent le résultat suivant.

Théorème 4.2.2 ([10]) Soit G un groupe nilpotent de classe 2 tel que G^{ab} est un p-groupe abélien élémentaire. Alors Ker(c̄_{3}) = 0 dans (4.12).

De plus, ils calculèrent H_{2}(G) complètement dans ce cas en donnant la classe d’extension correspondant à la suite (4.12).

En introduisant une approche nouvelle, nous déterminons dans [H4] le groupe H_{2}(G) pour tous les groupes de classe 2. Il s’avère qu’en fait, Ker(c̄_{3}) a une structure relativement simple, comme suit.

Théorème 4.2.3 Soit G un groupe nilpotent de classe 2. Alors on a une suite exacte naturelle

Tor_{1}^{Z Z}(G^{ab}, G^{ab}) ⟶^{δ} \frac{L_{3}(G^{ab})}{[G^{ab}, Ker(c_{2})] + V_{3}} ⟶ H_{2}(G) ⟶ G^{ab} ∧ G^{ab} ⟶^{c_{2}} G_{2} → 1 ,

où δ est défini comme suit : Soit ⟨x̄_{1}, k, x̄_{2}⟩ un générateur typique de Tor_{1}^{Z Z}(G^{ab}, G^{ab}), i.e. k ∈ ZZ and x̄_{i} = x_{i}G_{2} pour x_{i} ∈ G tel que x_{1}^{k}, x_{2}^{k} ∈ G_{2}, cf. 2.2.4. Alors

δ⟨x̄_{1}, k, x̄_{2}⟩ = [x̄_{1}, c_{2}^{−1}(x_{2}^{k})] + [x̄_{2}, c_{2}^{−1}(x_{1}^{k})] + \binom{k}{2}[x̄_{1} + x̄_{2}, [x̄_{1}, x̄_{2}]] .

On note que δ se factorise par G^{ab} ∗^{∧} G^{ab}, cf. (2.6).

A l’aide des résultats de Breen [11] sur H_{3}(A) d’un groupe abélien A = G^{ab}, le théorème 4.2.3 permet de calculer explicitement les différentielles de la suite spectrale de Hochschild-Serre associée à l’extension G_{2} ⟶^{>} G → → G.

La description complète de H_{2}(G), dans le cas général, est trop technique pour la décrire ici ; on la trouvera dans [H4, Corollary 4.2]. Pourtant, on en déduit une formule simple pour H_{2}(G) d’un groupe de classe 2 fini , comme suit.

Théorème 4.2.4 Soit G un p-groupe nilpotent de classe 2 fini. Alors H_{2}(G) est isomorphe à l’homologie de la suite

Tor_{1}^{Z Z}(G^{ab}, G^{ab}) ⊕ D ⊕ D^{∧ 2} ⟶^{κ} \frac{L_{3}(G^{ab})}{[G^{ab}, Ker(c_{2})]} ⊕ D ∧ D ⟶^{(0,c_{2}(q ∧ q))} G_{2} ,

où, pour une décomposition G^{ab} = ∑_{i=1}^{d} ZZ/p^{r(i)} · x̄_{i}, D est le ZZ -module libre de base y_{1}, …, y_{d}, q : D → →G^{ab} est la surjection canonique qui envoie y_{i} sur x̄_{i}, (κ|Tor_{1}^{Z Z}(G^{ab}, G^{ab})) = (δ, 0), κ(0, y_{i}, 0) = ([x̄_{i}, c_{2}^{−1}(x_{i}^{p^{r}(i)}], 0) et

κ(0, 0, y_{i} ∧ y_{j}) = ( [x̄_{j}, c_{2}^{−1}(x_{i}^{p^{r}(i)}] + \binom{p^{r(i)}}{2}[x̄_{i}, [x̄_{i}, x̄_{j}]] , p^{r(i)}y_{i} ∧ y_{j}) .

Exemple 4.2.5 D’après 4.2.1, les seuls groupes extraspéciaux permettant une

extension centrale de classe de nilpotence 3 (i.e, \frac{L_{3}(G^{ab})}{[G^{ab}, Ker(c_{2})] + V_{3} + Im(δ)} ≠ 0),

sont les groupes dihédraux D_{8} et D_{p^{3}} . Or Massy [52] a classifié les p-groupes extensions centrales d’un p-groupe abélien élémentaire par C_{p} ; à un produit direct avec un p-groupe abélien élémentaire près, les seuls groupes de ce type qui ne sont pas extraspéciaux, sont du type G = G_{1}Y … YG_{n}YC_{p^{2}} où n ≥ 1, chaque groupe G_{i} est extraspécial d’ordre p^{3}, et Y signifie la somme amalgamée centrale le long de [G_{i}, G_{i}] ≅ C_{p} pour les G_{i}, et le long du sous-groupe d’ordre p de C_{p^{2}} , cf. [30, p. 49]. D’après le résultat de Blackburn et Evens 4.2.2, ces groupes G n’ont pas d’extension centrale de classe 3. Alors le théorème 4.2.3 permet de généraliser ce fait, comme suit. Soient G_{1}, …, G_{n} des p-groupes de classe 2 tels que [G_{i}, G_{i}] ≅ C_{p^{k}}, k ≥ 1, et

G = G_{1}Y … YG_{n}YC_{p^{k+m}}

tel que p^{m} ≥ max(e(G_{1}^{ab}), …, e(G_{n}^{ab})). Alors G n’a pas d’extension centrale de classe 3.

On obtient aussi une formule pour H_{2}(G) d’un groupe de classe 2 en terme d’une présentation ⟨X|Y ⟩ quelconque de G, qui, contrairement à la formule de Hopf, ne fait appel qu’à des groupes abéliens. En effet, écrivons X = {x_{i}}, Y = {r_{j}}, et

r_{j} = x_{j1}^{ϵ(j1)} ⋯ x_{js_{j}}^{ϵ(js_{j})}

où x_{jt} ∈ X, ϵ(jt) = ±1 for 1 ≤ t ≤ s_{j}. On définit alors des morphismes de groupes abéliens

⟨X⟩^{ab} ⟵^{e_{1}} ⟨Y ⟩^{ab} ⟶^{e_{2}} A ⊗ZZ A

où A = coker(e_{1}) ≅ G^{ab}, comme suit :

e_{1}(r_{j}) = ∑_{1≤t≤s_{j}} ϵ(jt)y_{jt} ,

e_{2}(r_{j}) = ∑_{\begin{matrix}1≤t≤s_{j} \\ ϵ(jt)<0 \end{matrix}} x̄_{jt} ⊗ x̄_{jt} + ∑_{1≤p<q≤s_{j}} ϵ(jp)ϵ(jq)x̄_{jp} ⊗ x̄_{jq} ,

où x̄ = qx. On remarque que e_{1} n’est rien d’autre que la présentation abélienisée ⟨X|Y ⟩^{ab} de G^{ab} ; toute la structure non commutative de G est alors encodée dans e_{2} (en effet, e_{1}, e_{2} déterminent P_{2,Z Z}^{γ}(G) et donc G lui-même s’il est de type fini). Alors une suite exacte et une formule pour H_{2}(G) en terme de e_{1}, e_{2} sont fournis au Corollaire 4.3 de [H4].

Notre approche est basée sur deux observations principales. La première, essentiellement due à [54], utilise un lien entre H_{2}(G) et le produit tensoriel non-abélien des groupes introduit par [51] et, plus généralement, par Brown et Loday [14]. En effet, G ⊗ G est défini par les générateurs a ⊗ b, a, b ∈ G, et les relations

ab ⊗ c = (^{a}b ⊗^{a}c)(a ⊗ c)  (4.13)
a ⊗ bc = (a ⊗ b)(^{b}a ⊗^{b}c) .  (4.14)

De plus, G ∧ G est le quotient de G ⊗ G par le sous-groupe engendré par les éléments x ⊗ x, x ∈ G (qui sont centraux dans G ⊗ G). Alors on a une suite exacte

0 → H_{2}(G) → G ∧ G → G_{2} → 1 ,  (4.15)

[54], cf. aussi [20], grâce à l’isomorphisme G ∧ G ≅ [F, F]/[F, R] et la formule de Hopf. Mais malgré des études intenses de G ⊗ G par beaucoup d’auteurs, son calcul s’avère également très difficile, cf. [13], par exemple.

Alors si G est nilpotent de classe 2, le groupe G ⊗ G est abélien, et nous observons dans [H4] que l’application canonique

G × G⟶G ⊗ G , (a, b) ↦ a ⊗ b,

est polynomial de degré 2 dans les deux variables, donc donne naissance à un morphisme surjectif de groupes abéliens ζ : P_{2}(G) ⊗ P_{2}(G)→ →G ⊗ G défini par ζ(p_{2}(a) ⊗ p_{2}(b)) = a ⊗ b. Un calcul homologique donne alors le résultat suivant.

Théorème 4.2.6 Soit G un groupe de classe 2. Alors il existe une suite exacte naturelle de groupes abéliens

Tor_{1}^{Z Z}(G^{ab}, G^{ab}) ⟶^{δ} \frac{L_{3}(G^{ab})}{[G^{ab}, Ker(c_{2})]} ⟶^{i} G ⊗ G ⟶^{π} G^{ab} ⊗_{Z Z} G^{ab} → 1

où i{[x̄_{1}, [x̄_{2}, x̄_{3}]]} = x_{1} ⊗ [x_{2}, x_{3}], x̄_{i} = x_{i}G_{2}, et où δ est défini au 4.2.3.

De là on déduit les résultats susmentionnés, ainsi qu’un calcul du groupe d’homotopie π_{3}(ΣBG) et des opérations d’homotopie

π_{2}(ΣBG) ⟶^{η^{∗}} π_{3}(ΣBG) ⟵^{[ , ]} π_{2}(ΣBG) ⊗ π_{2}(ΣBG) ,

où η: S^{3} → S^{2} signifie l’application de Hopf et [ , ] le produit de Whitehead. Ici on s’appuie sur l’interprétation topologique de G ⊗ G donnée dans [14] et [12].

Notre calcul fonctoriel de H_{2}(G) permet une interprétation structurelle intéressante, comme suit. Vu l’isomorphisme G^{ab} ≅ P_{1}(G), on peut décrire H_{2}(G) par une suite exacte naturelle de groupes abéliens

0 → H_{2}(G) → \frac{P_{n}(G) ∧ P_{n}(G)}{K_{n}} → G_{2} → 1  (4.16)

si G est nilpotent de classe n ≤ 2, où K_{1} = 0 et K_{2} est donné au [H4, Corollary 4.2]. Autrement dit, on trouve une version “abélienisée” de (4.15) en remplaçant G par P_{n}(G), tout dans l’esprit de notre idée de “modélisation abélienne”, cf. chapitre 4. Il est intéressant de savoir si une modification de (4.16) est encore valable pour n ≥ 3 (G_{2} n’étant plus abélien en général, il faudra le remplacer par un terme P_{k,Z Z}(G_{2}) pour une valeur de k appropriée).

Nous observons encore que H_{2}(G) porte une filtration naturelle descendante H_{2}(G) = Γ_{2}H_{2}(G) ⊃ Γ_{3}H_{2}(G) ⊃ … définie par

Γ_{n}H_{2}(G) = Im(R ∩ γ_{n}(F) ↪ R ∩ γ_{2}(F) → → H_{2}(G)) ⊂ H_{2}(G)

pour n ≥ 2. Si G est nilpotent de classe n, Γ_{n+2}H_{2}(G) = 0.

A l’aide de la dualité canonique M(G) ≅ Hom(H_{2}(G), C^{∗}), on obtient une filtration naturelle ascendante de M(G) définie par

Γ_{n}M(G) = Ker(i_{n}^{∗}: M(G) ≅ Hom(H_{2}(G), C^{∗}) → Hom(Γ_{n}H_{2}(G), C^{∗})) ,

où i_{n}: Γ_{n}H_{2}(G) ↪ H_{2}(G). Certes, cette filtration est triviale pour de nombreux groupes, pour les groupes parfaits, par exemple. Mais en passant par les sousgroupes de Sylow, elle donne naissance à une filtration fonctorielle finie ascendante (F_{n}M(G))_{n≥2} de M(G) pour tous les groupes finis et qui n’est probablement pas triviale. Cette dernière filtration est définie comme suit : pour un nombre premier p divisant l’ordre de G, soient P_{p} un p-sous-groupe de Sylow de G et M(G)_{p} la p-composante de M(G). On sait que l’application

res_{G,P_{p}} |_{M(G)_{p}} : M(G)_{p} → M(P_{p})

plonge M(G)_{p} isomorphiquement sur un facteur direct de M(P_{p}) (cf. [40]). Posons

F_{n}M(G) =^{def} ∑_{p||G|} (res_{G,P_{p}} |_{M(G)_{p}} )^{−1} Γ_{n}M(P_{p}) .

Il n’est pas difficile de vérifier que F_{n}M(G) ne dépend pas du choix des sousgroupes de Sylow, et qu’il est, de plus, naturel. Cette filtration mérite sûrement une investigation approfondie.

L’étude des quotients Q_{n}H_{2}(G) = Γ_{n}H_{2}(G)/Γ_{n+1}H_{2}(G) donne naissance à un nouveau foncteur allant de la catégorie des groupes dans la catégorie des algèbres de Lie graduées, défini par

G(G) = L(F/[R, F])/Im(R → L_{1}(F/[R, F]))
≅ G^{ab} ⊕ ⨁_{n≥2} L_{n}(F/[R, F])
≅ G^{ab} ⊕ ⨁_{n≥1} Q_{n}H_{2}(G/G_{n})
≅ G^{ab} ⊕ ⨁_{n≥2} Q_{n}(G ∧ G) ,

où Q_{n}(G ∧ G) = Γ_{n}(G ∧ G)/Γ_{n+1}(G ∧ G) et Γ_{n}(G ∧ G) = Im(G_{n−1} ∧ G ⟶^{i ∧ id} G ∧ G) ,

i: G_{n−1} ↪ G.

On a une extension centrale d’algèbres de Lie graduées

0 → Q_{∗}H_{2}(G) → G(G) → L(G) → 0 .

Le foncteur G(G) apporte alors la structure supplémentaire d’algèbre de Lie à l’étude de H_{2}(G). Quant au calcul de G(G), il est élémentaire que

G_{2}(G) ≅ L_{2}(G^{ab})

et il découle de 4.2.3 que

G_{3}(G) ≅ \frac{Ker( c_{3} : L_{3}(G^{ab})→ →G_{3}/G_{4} )}{[G^{ab}, Ker(c_{2})] + Im(δ) + V_{3}} ,

de manière fonctorielle pour tout groupe G.

Des modèles abéliens et les groupes d’automorphismes des groupes nilpotents

L’outil principal de l’étude classique des groupes nilpotents sans torsion consiste des “modèles abéliens”, en termes des algèbres de Lie construites par Mal’cev et, plus généralement, par Lazard. En effet, un groupe nilpotent uniquement divisible H (i.e., toutes les racines existent dans H et sont uniques), est en bijection fonctorielle avec une algèbre de Lie nilpotente M(H) sur Q, de la même classe et du même rang que H, et la multiplication de H s’exprime en fonction du crochet de M(H), par la formule de Campbell-Baker-Hausdorff. Alors si G est un T -groupe et G_{Q} est sa complétion rationnelle, l’injection composée ρ: Aut(G) ↪ Aut(G_{Q}) ≅ Aut(M(G_{Q})) fournit une représentation fidèle de Aut(G) comme sous-groupe algébrique de GL(m, Q), où m est le rang de G. Cette représentation est à la base de la plupart des résultats connus sur les automorphismes des T -groupes. Mais la représentation ρ étant rationnelle, elle ne fournit ni une représentation de Aut(G) comme groupe arithmétique, ni une description du groupe Aut(G) lui-même. Pourtant, il est évidemment important de connaître ce groupe ; par exemple, le cas où G est nilpotent libre est intéressant en K-théorie algébrique, où, e.g., l’élément exotique de K_{3}(ZZ) est relié à la classe de cohomologie classifiante des extensions

0 → Hom_{Z Z}(F^{ab}, F^{ab} ∧ F^{ab}) → Aut(F/F_{3}) → GL(k, ZZ) → 1 ,

où F est un groupe libre de rang k, k ≥ 2 ; cf. [5].

Ces extensions s’imbriquent dans le cadre plus général d’une représentation de Aut(G) par une suite finie d’extensions, comme suit :

Un T -groupe G de classe c décomposé en une tour finie d’extensions centrales fonctorielles

G ⟶^{π_{c}} G_{(c)} ⟶^{π_{c−1}} G_{(c−1)} ⟶^{π_{c−2}} … ⟶^{π_{2}} G_{(2)} ,

où pour 2 ≤ n ≤ c, G_{(n)} =^{def} G/\sqrt{G_{n}} est un T_{n−1}-groupe. Cette tour induit une autre tour pour les groupes d’automorphismes,

Aut(G) ⟶^{π̃_{c}} Aut(G_{(c)}) ⟶^{π̃_{c−1}} Aut(G_{(c−1)}) ⟶^{π̃_{c−2}} … ⟶^{π̃_{2}} Aut(G_{(2)}) ;

mais ici les morphismes π̃_{n} ne sont ni injectifs ni surjectifs, en général. Donc, afin de déterminer Aut(G) de façon récursive, au moyen de la deuxième tour, il faut résoudre un problème de relèvement et un problème d’extension à chaque étape : d’abord, il faut déterminer l’image de π̃_{n} dans Aut(G_{(n)}), et ensuite, la classe de congruence de l’extension de groupes

0 → Hom_{Z Z}(G_{(n)}^{ab}, \sqrt{G_{n}}/\sqrt{G_{n+1}}) ⟶^{1^{+}} Aut(G_{(n+1)}) ⟶^{π̃_{n}} Im(π̃_{n}) → 1 . (5.1)

Ici le morphisme 1^{+} est défini pour x ∈ G_{(n+1)} par 1^{+}(α)(x) = x · y, où y = α(π_{n}(x) [G_{(n)}, G_{(n)}]) ∈ G_{(n+1)}.

Nous résolvons ces deux problèmes dans [H1], en fonction de certains modules nilpotents qui sont libres de type fini sur ZZ et calculables en termes de matrices à partir de la donnée d’une présentation de G. Plus précisement, on construit

• un invariant de G_{(n+1)}, élément d’un module du type ci-dessus, qui permet de définir d’abord un sous-groupe intermédiaire cAut(G_{(n)}) de Aut(G_{(n)}) contenant le sous-groupe recherché Im(π̃_{n}) ;

• une dérivation sur cAut(G_{(n)}) dans un module du type ci-dessus, qui donne naissance à un opérateur d’obstruction sur cAut(G_{(n)}) dont le noyau est Im(π̃_{n}), et qui en même temps détermine la classe de cohomologie classifiante de l’extension (5.1), en appliquant un opérateur de Bockstein.

La situation se simplifie encore si G^{ab} ou (G_{(n)})^{ab} est sans torsion : dans ce cas, on a Im(π̃_{n}) = cAut(G_{(n)}). Alors la classe de cohomologie classifiante de l’extension (5.1) est obtenue en appliquant deux opérateurs de Bockstein successifs à une classe de cohomologie de degré 0 canonique. Par exemple, les cas où n = 2 ou G est nilpotent libre, sont de ce type ; on réécrit le résultat dans ces deux cas en termes plus familiers.

Ces résultats sur les groupes d’automorphismes sont basés sur le développement des modèles abéliens pour les extensions de T -groupes et de groupes de classe 2, dans [H3] et [H1]. En effet, vu la puissance et l’utilité des modèles de Mal’cev et Lazard, tant en théorie des groupes qu’en théorie de l’homotopie (cf. la page 54), on s’est posé le problème de construire des “modèles abéliens” analogues pour tous les groupes nilpotents, sans aucune condition de divisibilité. Dans les sections 4.1 et 4.2, on décrit des tels modèles récursifs, pour tous les groupes de classe 2 et tous les T -groupes . On montre qu’une extension centrale dans la variété des groupes nilpotents de classe 2 est fonctoriellement équivalente à une extension de certains groupes abéliens, munie d’une application bilinéaire. Cette application généralise le terme \frac{1}{2}[x, y] dans la formule de Campbell-Baker-Haussdorff. On en donne quelques applications à la théorie des groupes de classe 2, surtout aux groupes d’automorphismes et aux groupes de classe 2 simpliciaux. Les modèles obtenus pour les T -groupes et leurs extensions, sont constitués d’anneaux, respectivement de G-modules, qui sont nilpotents et libres de type fini sur ZZ.

5.1 Des modèles abéliens pour les groupes nilpotents de classe 2

Les “modèles abéliens” en termes d’algèbres de Lie construits par Lazard, constituent l’outil principal de l’étude des groupes nilpotents de classe 2 qui sont finis d’ordre impair, cf. [76]. En effet, si G est un groupe nilpotent de classe 2 uniquement 2-divisible (i.e., toutes les racines carrées existent dans G et sont uniques), alors il existe une algèbre de Lie L nilpotente de classe 2 sur l’anneau ZZ[\frac{1}{2}], avec les propriétés suivantes : en tant qu’ensemble, L = G, et la multiplication de G s’exprime en fonction de la structure de Lie par la formule de Campbell-Baker-Haussdorff tronquée, i.e.,

x · y = x + y + \frac{1}{2}[x, y] .  (5.2)

L est déterminée par cette propriété à isomorphisme près, et en fait, cette correspondance établit une équivalence de catégories.

Dans cette section, on construit des “modèles abéliens” analogues pour tous les groupes de classe 2, sans aucune condition de divisibilité. Outre une construction systématique de toutes les extensions centrales d’un groupe abélien, en termes de groupes abéliens, on en déduit une description du groupe des automorphismes d’un groupe de classe 2, en fonction d’une extension du groupe des automorphismes de l’algèbre de Lie L^{γ}(G) graduée associée ; et on décrit une généralisation du théorème de Dold-Kan aux groupes de classe 2 simpliciaux. Dans des travaux en cours, on découvre de plus en plus d’autres applications des modèles abéliens, au multiplicateur de Schur d’un groupe de classe 3, par exemple, ou au sous-groupe induit par un produit de trois idéaux, cf. chapitre 7.

Soit E la catégorie des objets

(\underline{E} : B ⟶^{>}^{i} E ⟶^{q} G , C) ,

où \underline{E} est une extension centrale de groupes de classe 2 (i.e., E_{3} = [E, B] = \{1\}), et où C est un sous-groupe central de E contenant BE_{2}. D’autre part, soit M la catégorie des ”modèles abéliens”

(G, D, \underline{E′} : B ⟶^{>}^{i′} M ⟶^{q′} P_{2,Z Z}^{γ}(G, D) , W : G/D ⊗_{Z Z} G/D → M ) ,

où • G est un groupe de classe 2,

• D est un sous-groupe central de G contenant G_{2},

• \underline{E′} est une extension de groupes abéliens,

• W est un relèvement du morphisme canonique

μ_{G,D}: G/D ⊗_{Z Z} G/D → P_{2,Z Z}^{γ}(G, D) , aD ⊗ bD ↦ p_{2,Z Z}^{γ}(a) · p_{2,Z Z}^{γ}(b) .

Alors on a le

Théorème 5.1.1 ([H1]) Les catégories E et M sont canoniquement équivalentes, au moyen des foncteurs mutuellement réciproques

E ⟶^{P} ; ⟵_{P ull} M

définis comme suit :

P (B ⟶^{>}^{i} E ⟶^{q} G , C) = (G, q(C) , B ⟶^{>}^{p_{2,Z Z}^{γ}i} P_{2,Z Z}^{γ}(E, C) ⟶^{P_{2,Z Z}^{γ}(q)} P_{2,Z Z}^{γ}(G, C/B) , μ_{E,C}) ,

et P ull est défini par

P ull (G, D, \underline{E} : B ⟶^{>}^{i′} M ⟶^{q′} P_{2,Z Z}^{γ}(G, D) , W ) = (B ⟶^{>}^{i} E ⟶^{q} G , q^{′−1}D)

où

E = { (x, a) ∈ M × G | q′(x) = p_{2,Z Z}^{γ}(a) } ,
(x, a) · (y, b) = (x + y + W (aD ⊗ bD) , ab)  (5.3)
jx = (j′x, 1) , q(x, a) = a .

On remarque que la catégorie des extensions centrales de groupes B ⟶^{>} E ⟶ G à conoyau G abélien peut être considérée comme sous-catégorie de E en prenant C = B, et que la catégorie des groupes de classe 2 peut être considérée comme sous-catégorie de E en prenant B = C = E_{2}. Les paramètres C, D jouent un rôle important dans les applications ; ils permettent de “minimiser” l’effet “non linéaire” W, selon la situation donnée. En comparant (5.3) avec (5.2), on voit que l’on peut regarder (5.3) comme une version “sur ZZ ” de la formule de Campbell-Baker-Hausdorff, où W joue le rôle du terme \frac{1}{2}[x, y]. On peut préciser cette relation, comme suit : Soit (\underline{E} , C) ∈ E telle que B ⊃ E_{2}, et supposons que le groupe abélien A = G/qC est uniquement 2-divisible. Alors on a une décomposition naturelle A ⊗ A ≅ A ∧ A ⊕ S^{2}A, où S^{2}A signifie le produit tensoriel symétrisé, au moyen des injections A ∧ A⟶^{λ}A ⊗ A⟵^{σ}S^{2}A, définies par λ(x ∧ y) = x ⊗ y − y ⊗ x et σ(x ˆ⊗y) = \frac{1}{2}(x ⊗ y + y ⊗ x). Posons L = P_{2,Z Z}^{γ}(E, C)/Im(μ_{E,C}σ) . Alors

la suite exacte B ⟶^{>}^{p_{2,Z Z}^{γ}i} P_{2,Z Z}^{γ}(E, C) ⟶^{P_{2,Z Z}^{γ}(q)} P_{2,Z Z}^{γ}(G, C/B) devient une suite exacte

1 → B → L⟶^{q̃}A → 1 qui montre que la composée G ⟶^{p_{2,Z Z}^{γ}} P_{2,Z Z}^{γ}(E, C) ⟶^{π} L est une bijection ; et L est une algèbre de Lie nilpotente de classe 2, le crochet étant donné par la composée L ∧ L ⟶^{q̃ ∧ q̃} A ∧ A⟶^{πW λ}L. En observant que W = μ_{E,C} pour P (\underline{E} , C), notre formule de Campbell-Baker-Hausdorff “sur ZZ ” (5.3) devient la formule (5.2) classique, car πW (x⊗y) = πW (\frac{1}{2}(x⊗y−y⊗x)) = \frac{1}{2}[x, y]. D’ailleurs, on a ainsi obtenu une extension des modèles de Lazard, au cas où uniquement le quotient G/qC, et non nécessairement G lui-même, est uniquement 2-divisible.

Une fois que les groupes de classe 2 sont remplacés par leurs modèles abéliens fournis par le théorème 5.1.1, on peut effectuer une étude systématique de leurs propriétés entièrement au niveau des groupes abéliens, à l’aide de l’algèbre homologique des ZZ -modules. Ainsi, on a obtenu notamment

• une construction systématique de tous les groupes de classe 2 (non nécessairement de type fini), à partir des données d’un groupe abélien A = G^{ab}, d’un quotient A∧A → → Q (qui déterminera la structure de G_{2} = Q), et d’une résolution quelconque de A par des ZZ -modules libres (l’usage du théorème des coefficients universels nécessiterait la construction d’une base de I_{Z Z}^{2}(A), i.e., on utiliserait la “grande” résolution I_{Z Z}^{2}(A) ↪ I_{Z Z}(A) → → A).

• une description de leurs groupes d’automorphismes à partir du groupe des automorphismes de l’algèbre de Lie L^{γ}(G) associée (cf. 1.2). Dans [H1], on établit une suite exacte

0 → Hom(G^{ab}, G_{2}) → Aut(G) → Aut(L^{γ}(G)) ⟶^{O} Ext_{Z Z}^{1}(G^{ab}, G_{2})

où O est une dérivation. On détermine aussi un 2-cocycle explicite représentant l’extension

0 → Hom(G^{ab}, G_{2}) → Aut(G) → Ker(O) → 1

associée. O et ce cocycle sont exprimés en fonction de P_{2,Z Z}^{γ}(G), dont la structure est directement relevable de la structure de G, cf. le chapitre 2.

• des “petits” modèles pour les groupes de classe 2 simpliciaux, en termes de complexes de chaînes. En effet, la théorie de l’homotopie des espaces 1-connexes est très liée à la théorie de l’homotopie des groupes nilpotents simpliciaux, d’après les travaux fondamentaux de Kan et Curtis. Mais comme les groupes simpliciaux ont une structure combinatoire très compliquée, c’est un problème classique de les remplacer par des objets algébriques plus petits, mais équivalents “à homotopie près”. Pour les groupes abéliens simpliciaux ce but fut atteint avec le fameux théorème de Dold et Kan qui établit une équivalence fonctorielle avec les complexes de chaînes de groupes abéliens. Ce résultat fut utilisé par Dold et Puppe pour la construction de foncteurs dérivés des foncteurs non additifs, ce qui joue un rôle important en théorie de l’homotopie (e.g., dans l’homologie des espaces de Eilenberg-Mac Lane ou, dualement, l’homotopie des espaces de Moore), mais aussi dans des développements récents sur la cohomologie de Mac Lane et la Kthéorie algébrique stable (dus à Pirashvili, Waldhausen, Franjou et al.). Pour la modélisation algébrique des espaces, le théorème de Dold–Kan, avec les modèles de Mal’cev pour les groupes nilpotents divisibles, est un outil clé dans la construction de modèles petits pour les espaces 1-connexes rationnels par Quillen, en termes d’algèbres de Lie différentielles rationnelles (ainsi que de leurs généralisations dites modérées). Alors en essayant de généraliser la construction de Quillen, au cas non divisible, c’est un problème naturel de généraliser le théorème de Dold et Kan, aux groupes nilpotents simpliciaux de classe supérieure à 1. Pour le cas de classe 2, on a donné une solution dans [H1]. Ici le foncteur σ qui associe à un groupe simplicial son complexe de chaînes de Moore, doit être enrichi d’une certaine structure d’extension centrale afin d’obtenir une équivalence de catégories, comme suit.

Soit M_{2} la catégorie des suites exactes

NΛ^{2}K(C)⟶^{i}τ ⟶^{q} C → 0

de complexes de chaînes de groupes avec les propriétés suivantes : C est formé de groupes abéliens, τ de groupes nilpotents de classe 2. N, K sont le foncteur normalisation et son inverse construits par Dold et Kan. Pour tout n ≥ 0, l’application c_{n}: τ_{n} × τ_{n} → τ_{n}, donnée par c_{n}(x, y) = xyx^{−1}y^{−1}, se décompose en

τ_{n} × τ_{n} ⟶^{q×q} C_{n} × C_{n} → C_{n} ∧ C_{n} ⟶^{j_{c}} (NΛ^{2}K(C))_{n} ⟶^{i} τ_{n} ,

où j_{c} est l’application canonique donnée par l’inclusion C → K(C). En particulier, l’image de i est centrale dans τ.

Soit S_{2} la catégorie des groupes nilpotents de classe 2 simpliciaux. Alors nous obtenons le résultat suivant.

Théorème 5.1.2 ([H1], Satz 4.4 ) On a une équivalence de catégories σ_{2}: S_{2} → M_{2} définie par

σ_{2}(G_{•}) = (NΛ^{2}(G_{•}^{ab})⟶^{σ(c)}σ(G_{•}) ⟶^{σ(α)} N(G_{•}^{ab}) → 0) ,

où c est induit par ij_{c} en degré n, et où α est l’abélianisation de G_{•}.

On donne aussi une construction explicite de l’inverse de σ_{2} qui s’effectue presque entièrement au plan des groupes abéliens ; elle s’appuie essentiellement sur la construction K pour le cas des groupes abéliens simpliciaux, et est basée sur le théorème 5.1.1.

On obtient également une description des groupes nilpotents de classe 2 simpliciaux en termes de complexes de groupes abéliens, munis d’une structure bilinéaire qui ressemble à la structure W dans les objets de la catégorie M. Dans le cas 2-divisible, on retrouve les modèles en algèbres de Lie différentielles de l’homotopie modérée, d’après Quillen et Dwyer, et dans le cas 3-dimensionnel les modèles de Baues [4]. En essayant de généraliser les modèles de Quillen au cas non divisible, on a trouvé une obstruction qui rappelle l’idée qui est à la base des opérations de Steenrod.

5.2 Modèles abéliens des extensions de T -groupes

Vu les applications, il serait souhaitable de généraliser les modèles abéliens des extensions de groupes de classe 2 décrits dans la première section, aux extensions B ⟶^{>} E → → G dans la variété des groupes nilpotents de classe n, n > 2, B abélien ou central. Mais ceci n’est possible que pour les extensions dont le morphisme p_{n,Z Z}^{γ}i: B → P_{n,Z Z}^{γ}(E, B) est injectif, cf. 2.3.1. Au moins, d’après un résultat annoncé par Gupta disant que le quotient D_{n,Z Z}^{γ}(G)/G_{n} (cf. chapitre 7) est toujours d’exposant 2, et d’après des travaux de Passi et al., cette dernière propriété est satisfaite si E est fini d’ordre impair et B est central.

D’autre part, on utilise dans [H3, section 5] les résultats de la section 1.3 pour construire des modèles abéliens dans le cas où E et G sont des T -groupes. Ici, les modèles obtenus sont formés de groupes abéliens libres de type fini munis d’une G-action nilpotente.

En effet, soient c, e, k ≥ 1 des entiers fixés tels que c, k ≤ e ≤ c+k. Considérons la catégorie G_{c,e,k} des extensions de groupes \underline{E} = ( B ^{≻}→^{i} E → →^{π}G ) où G et E sont des T -groupes de classe ≤ c et respectivement ≤ e, et où la G-action sur B induite par conjugaison dans E est nilpotente de classe ≤ k.

D’autre part, soit M_{c,e,k} la catégorie des objets (G, \underline{M}) où G est un T_{c}-

groupe et où \underline{M} = (B ⟶^{>}^{j} M ⟶^{q} Pn^{√} (G)) est une extension de G-modules à gauche sans ZZ -torsion, ayant les propriétés suivantes :

(i) n = max{e, c + k − 1}

(ii) la G-action sur M est nilpotente de classe ≤ n

(iii) la G-action sur B est nilpotente de classe ≤ k

(iv) j(B) ∩ I_{Z Z}^{e}(G)M = 0.

On construit des foncteurs

G_{c,e,k} ⟶^{P} ; ⟵_{P ull} M_{c,e,k} ,

comme suit : on pose

P ( B ^{≻}→^{i} E → →^{π}G) = (G, B ⟶^{>}^{p_{n}^{√} i} Pn^{√} (E, B) ⟶^{P_{n}^{√} (π)} Pn^{√} (G)) ;

le terme de droite est un objet dans M_{c,e,k} d’après 2.3.2. Réciproquement, on pose

P ull (G , B ⟶^{>}^{j} M ⟶^{q} Pn^{√} (G)) = ( B ^{≻}→^{i} E → →^{π}G)

où

E = { (x, a) ∈ M × G | q(x) = pn^{√} (a) } ,

(x, a) · (y, b) = (x + a · y , ab) ,
i(x) = (jx, 1) , π(x, a) = a .

La construction de P et P ull s’étend aux morphismes dans G_{c,e,k} et M_{c,e,k}, de manière canonique. Alors on obtient le

Théorème 5.2.1 Les catégories G_{c,e,k} et M_{c,e,k} sont canoniquement équivalentes, au moyen des foncteurs P et P ull qui sont mutuellement réciproques.

Pour un groupe G quelconque, Reiner et Roggenkamp établient dans [64] une équivalence similaire, de la catégorie des extensions de groupes B ⟶^{>} E → → G à noyau abélien B, avec la catégorie des extensions B ⟶^{>} M → → I_{Z Z}(G) de Gmodules que l’on peut aussi regarder comme des modèles abéliens des extensions de groupes. Notre résultat 5.2.1 peut alors être considéré comme une ”réduction polynomiale” de ces modèles généraux, dans le cas particulier des T -groupes. Cette version réduite a plusieurs avantages importants, comme suit :

• Si E est de type fini, le modèle P (\underline{E}) est formé de ZZ -modules libres de type fini.

• Pn^{√} (G) est facilement calculable si G est donné par une présentation finie, cf. 2.2. Ceci est dû au fait que pour un groupe libre F, l’anneau ZZ(F)/I_{Z Z}^{n+1}(G) n’est qu’un anneau polynomial non commutatif tronqué, i.e., il est libre dans la catégorie des anneaux augmentés d’indice n+1, tandis que l’anneau ZZ(G) lui-même n’est pas libre, mais a une structure beaucoup plus compliquée.

• Les modules impliqués dans nos modèles sont nilpotents et donc bien appropriés à des constructions récursives.

On déduit de 5.2.1 les modèles abéliens récursifs suivants pour les T -groupes et leurs morphismes.

Soit S un anneau sans unité d’indice ≤ n + 1, i.e. S^{n+1} = 0. Soit alors Γ_{n}(S) le sous-groupe additif de S engendré par les commutateurs de longueur n de S, et ^{+} \sqrt{Γ_{n}(S)} son isolateur par rapport à la structure additive de S.

On définit la catégorie R_{n} de modèles des T -groupes de classe ≤ n, comme suit : Les objets sont les couples \underline{S} = (G, π : S → → Pn^{√} (G) ) , où G est un T - groupe de classe ≤ n − 1, S est un anneau sans unité d’indice ≤ n + 1 dont le groupe additif est sans torsion, et où π est un morphisme d’anneaux surjectif tel que Ker(π) = ^{+} \sqrt{Γ_{n}(S)}. Les morphismes allant de \underline{S}_{1} dans \underline{S}_{2} dans R_{n} sont les couples (f, F), où f ∈ Hom(G_{1}, G_{2}) , et où F : S_{1} → S_{2} est un morphisme d’anneaux tel que Pn^{√} (f) π_{1} = π_{2} F.

Etant donné un T_{n}-groupe E, on lui associe le modèle

R_{n}(E) = (E/\sqrt{E_{n}} , Pn^{√} (π) : Pn^{√} (E) → →Pn^{√} (E/\sqrt{E_{n}}) )

où π : E → →E/\sqrt{E_{n}} est l’application de passage au quotient. R_{n}(E) est un objet dans R_{n} d’après [H3, Corollary 1.8 (ii) et (iii)]. Réciproquement, un objet \underline{S} = (G, π : S → → Pn^{√} (G) ) dans R_{n} donne naissance à un groupe

G_{n}(\underline{S}) = \{(x, a) ∈ S × G | π(x) = pn^{√} (a) \} avec (x, a)(y, b) = (x + y + xy, ab) .

Les constructions R_{n} et G_{n} s’étendent aux morphismes de manière canonique, définissant ainsi des foncteurs

T_{n} ⟶^{R_{n}} ; ⟵_{G_{n}} R_{n} .

Théorème 5.2.2 La catégorie des T_{n}-groupes est équivalente à la catégorie R_{n}, au moyen des foncteurs R_{n}, G_{n} qui sont mutuellement réciproques.

Pourtant, cette version de modèles abéliens n’est pas encore satisfaisante, car on n’a pas encore réussi à trouver une construction fonctorielle qui exprime le module Pn^{√} (E/E_{n}) dans le modèle R_{n}(E) de E, directement en fonction du modèle R_{n}(E/E_{n}) de E/E_{n}. Jusqu’à maintenant, on a uniquement pu exhiber une construction basée sur un choix de générateurs.

5.3 Le groupe des automorphismes d’un T -groupe

On reprend la notation de l’introduction de ce chapitre. Afin de déterminer le groupe Im(π̃_{n}) , on construit d’abord un groupe intermédiaire

Im(π̃_{n}) ⊂ cAut(G_{(n)}) ⊂ Aut(G_{(n)})

qui est défini par une condition de compatibilité avec un certain invariant ϵ_{n} de G_{(n+1)}.

Ensuite, on définit une dérivation

O_{n}: cAut(G_{(n)}) → Hom( Pn^{√} (G_{(n)})^{2}, K_{n}) ,

K_{n} = \sqrt{G_{n}}/\sqrt{G_{n+1}}, qui résout en même temps les problèmes de relèvement et d’extension soulevés dans l’introduction de ce chapitre, comme suit. En utilisant une suite exacte naturelle de cAut(G_{(n)})-modules à gauche

Hom(G_{(n)}^{ab}, K_{n}) ⟶^{>}^{ρ^{∗}} Hom(Pn^{√} (G_{(n)}), K_{n}) →^{j^{∗}} Hom(Pn^{√} (G_{(n)})^{2}, K_{n}) →^{E^{∗}} Ext_{Z Z}^{1}(G_{(n)}^{ab}, K_{n})

(5.4)

où Hom = Hom_{Z Z}, on montre que la dérivation composée E^{∗}O_{n} est l’opérateur d’obstruction déterminant Im(π̃_{n}), i.e., qu’un élément f ∈ cAut(G_{(n)}) est dans l’image de π̃_{n} si et seulement si E^{∗}O_{n}(f) = 0. D’autre part, on peut appliquer l’opérateur de Bockstein β_{I} associé à la suite exacte courte induite de cAut(G_{(n)})- modules

Hom(G_{(n)}^{ab}, K_{n}) ⟶^{>}^{ρ^{∗}} Hom(Pn^{√} (G_{(n)}), K_{n}) ⟶^{j^{∗}} Ker(E^{∗}) ,  (5.5)

à la classe de cohomologie de degré 1 de O_{n} restreinte à Ker(E^{∗}O_{n}) ; il s’avère alors que l’élément β_{I}{O_{n} | Ker(E^{∗}O_{n})} ∈ H^{2} (Ker(E^{∗}O_{n}) , Hom(G_{(n)}^{ab}, K_{n})), coïncide avec la classe de cohomologie classifiante de l’extension

Hom(G_{(n)}^{ab}, K_{n}) ⟶^{>}^{1^{+}} Aut(G_{(n+1)}) ⟶^{π̃_{n}} Ker(E^{∗}O_{n})

obtenue par (5.1) et la propriété d’obstruction de E^{∗}O_{n}.

La situation se simplifie encore si G^{ab} est sans torsion. Alors tous les morphismes π̃_{n} sont surjectifs sur cAut(G_{(n)}) car les termes Ext dans (5.4) s’annulent pour tout n ≥ 2 ; et la classe de cohomologie de O_{n} est induite elle-même, par une classe de cohomologie {id} de degré 0, au moyen d’un autre opérateur de Bockstein β_{II} associé à une suite exacte

Hom(Pn^{√} (G_{(n)})^{2}, K_{n}) ⟶^{>}^{ι_{∗}} Hom(Pn^{√} (G_{(n)})^{2}, Λ_{n}) ⟶^{π_{∗}} Hom(Pn^{√} (G_{(n)})^{2}, Pn^{√} (G_{(n)})^{2}) .

(5.6)

En fait, la classe {id} est donnée par l’élément identité du dernier groupe ; la classe de cohomologie de l’extension de (5.1) est alors égale à β_{I}β_{II}{id}.

A titre d’illustration, on utilise ce résultat pour décrire le groupe des automorphismes d’un T -groupe de classe 2, comme extension du groupe des automorphismes de l’algèbre de Lie graduée L^{\sqrt{γ}}(G).

Afin de construire l’invariant ϵ_{n}, considérons le diagramme commutatif suivant, où les morphismes μ_{n}, ν_{n} sont induits par la multiplication dans l’anneau Pn^{√} (G_{(n)}), respectivement Pn^{√} (G).

Ker(μ_{n})  ↪  Pn−1^{√}(G_{(n)}) ⊗ _{Z Z(G_{(n)})} Pn−1^{√}(G_{(n)}) ⟶^{μ_{n}} Pn^{√} (G_{(n)})
↓^{ϵ_{n}}  ↓^{ν_{n}}  ∥
K_{n}  ⟶^{>}^{p_{n}^{√} | \sqrt{G_{n}}}  Pn^{√} (G)  ⟶^{P_{n}^{√} (π_{n})} Pn^{√} (G_{(n)})

(5.7)

Les lignes sont exactes, et Im( pn^{√} | \sqrt{G_{n}}) = ^{+} \sqrt{Γ_{n}( Pn^{√} (G))}, cf. 5.2.2, [H3, Corollary 1.8 iii)]. On définit alors

ϵ_{n} ∈ Hom_{Z Z}(Ker(μ_{n}), K_{n})

par restriction de ν_{n}. C’est, en fait, un invariant familier de G_{(n+1)} : vu l’isomorphisme τ̄H_{2}(G_{(n)}, ZZ) ≅ τ̄Ker(μ_{n}) , cf. 3.4.2, ϵ_{n} correspond à l’invariant χ\{\underline{G}_{(n)}\}, où \underline{G}_{(n)} = (K_{n} ↪ G_{(n+1)} → → G_{(n)}), et χ apparaît dans la suite des coefficients universels

0 → Ext_{Z Z}^{1}(G_{(n)}^{ab}, K_{n}) → H^{2}(G_{(n)}, K_{n})⟶^{χ}Hom_{Z Z}(H_{2}(G_{(n)}, ZZ) , K_{n}) → 0 .

On définit alors cAut(G_{(n)}) comme l’ensemble de tous les éléments f de Aut(G_{(n)}) pour lesquels il existe un automorphisme f̃ de K_{n} tel que

f̃ ∘ (ν_{n}| Ker(μ_{n})) = (ν_{n}| Ker(μ_{n})) ∘ (Pn−1^{√}(f) ⊗ Pn−1^{√}(f) | Ker(μ_{n})) .

Il est facile de voir que f̃ est déterminé par f s’il existe, et que pour f dans cAut(G_{(n)}), il existe un et un seul automorphisme f_{♯} du sous-groupe

Λ_{n} =^{def} ^{+} \sqrt{Γ_{n}( Pn^{√} (G))} + Pn^{√} (G)^{2} ,

de Pn^{√} (G) tel que

f_{♯}ν_{n} = ν_{n} (Pn−1^{√}(f) ⊗ Pn−1^{√}(f)) .

Ainsi, K_{n} et Λ_{n} sont des cAut(G_{(n)})-modules à gauche, par f ↦ f̃ et f ↦ f_{♯}.

En observant que Pn^{√} (G_{(n)}) est un ZZ -module libre, on obtient alors les deux suites exactes (5.4) et (5.6), d’abord comme suites de cAut(G_{(n)})-bimodules, de

la manière suivante : (5.6) découle de la suite exacte K_{n} ↪^{ι} Λ_{n} ⟶^{P_{n}^{√} (π_{n})} Pn^{√} (G_{(n)})^{2} obtenue du diagramme (5.7), en posant pour abréger ι = pn^{√} | \sqrt{G_{n}} et π = Pn^{√} (π_{n})_{∗}. (5.4) est dérivée de la suite Pn^{√} (G_{(n)})^{2} ↪^{j} Pn^{√} (G_{(n)}) ⟶^{ρ} G_{n}^{ab} , ρ( pn^{√} (a)) = a[G_{(n)}, G_{(n)}], qui est exacte d’après (2.1). Evidemment, le morphisme E^{∗} dans (5.4) est un morphisme de connexion. La structure de suites de cAut(G_{(n)})-modules à gauche sur (5.4) et (5.6) est obtenue en posant f · α = f_{∗}f^{−1∗}α.

Ensuite, on définit une dérivation

O_{n}: cAut(G_{(n)}) → Hom_{Z Z}( Pn^{√} (G_{(n)})^{2}, K_{n})

par rapport à la structure de cAut(G_{(n)})-module à gauche sur le dernier terme, comme suit : Puisque Pn^{√} (G) est un ZZ -module libre, on peut choisir un scindage ZZ -linéaire t de l’épimorphisme

Pn^{√} (π_{n}) : Pn^{√} (G) → → Pn^{√} (G_{n}) .

Alors t envoie Pn^{√} (G_{(n)})^{2} dans Λ_{n}, donc par restriction de t, on obtient un morphisme

l: Pn^{√} (G_{(n)})^{2} → Λ_{n} .

Ainsi on a pour f dans cAut(G_{(n)}), un morphisme

O_{n}(f) = ι^{−1}(f_{♯}^{∘}l^{∘}( Pn^{√} (f^{−1})| Pn^{√} (G_{(n)})^{2}) − l): Pn^{√} (G_{(n)})^{2} → K_{n}.

Autrement dit, l’opérateur O_{n} satisfait O_{n}(f) = ι^{−1}(f · l − l) , donc O_{n} est une dérivation.

On est alors prêt à décrire le groupe Aut(G_{(n+1)}).

Théorème 5.3.1 Soit G un T -groupe de classe n.

(i) La suite suivante est exacte:

1 ⟶ Hom_{Z Z}((G_{(n)})^{ab}, K_{n}) ⟶^{1^{+}} Aut(G)\underrightarrow{π̃_{n}} cAut(G_{(n)}) ⟶^{E^{∗}O_{n}}Ext_{Z Z}^{1}((G_{(n)})^{ab}, K_{n})

Ici K_{n} = \sqrt{G_{n}}/\sqrt{G_{n+1}}, et le morphisme 1^{+} est défini pour x ∈ G_{(n)} par 1^{+}(α)(x) = x · y où y = α(x [G_{(n)}, G_{(n)}]) ∈ G . La dérivation E^{∗}O_{n} est donnée par E^{∗} dans (5.4). En outre, l’action de Ker(E^{∗}O_{n}) sur Hom_{Z Z}((G_{(n)})^{ab}, K_{n}) définie par conjugaison dans Aut(G) coïncide avec l’action donnée par restriction de l’action de cAut(G_{(n)}) à gauche définie ci-dessus.

(ii) La classe de cohomologie classifiante de l’extension de groupes

Hom_{Z Z}((G_{(n)})^{ab}, K_{n}) ⟶^{>}^{1^{+}} Aut(G) \underrightarrow{π̃_{n}} Ker(E^{∗}O_{n})

déduite de (i), coïncide avec l’élément

β_{I}{O_{n}|Ker(E^{∗}O_{n})} ∈ H^{2}(Ker(E^{∗}O_{n}) , Hom_{Z Z}((G_{(n)})^{ab}, K_{n})) ,

où

β_{I} : H^{1}(Ker(E^{∗}O_{n}) , Ker(E^{∗})) → H^{2}(Ker(E^{∗}O_{n}) , Hom_{Z Z}((G_{(n)})^{ab}, K_{n}))

est l’opérateur de Bockstein associé à l’extension (5.5) de Ker(E^{∗}O_{n})-modules à gauche.

(iii) Supposons que (G_{(n)})^{ab} est sans torsion (en particulier, ceci est satisfait si G^{ab} est sans torsion, i.e., \sqrt{G_{2}} = γ_{2}(G)). Sous cette condition, le terme Ext dans (i) s’annule, donc on obtient une extension

Hom_{Z Z}((G_{(n)})^{ab}, K_{n}) ⟶^{>}^{1^{+}} Aut(G) ⟶^{π̃_{n}} cAut(G_{(n)}) .

Alors sa classe de cohomologie classifiante coïncide avec l’élément

β_{I}β_{II}{id} ∈ H^{2}(cAut(G_{(n)}) , Hom_{Z Z}((G_{(n)})^{ab}, K_{n})) ,

où β_{II} est l’opérateur de Bockstein associé à l’extension (5.6) de cAut(G_{(n)})- modules à gauche, et

{id} ∈ H^{0}(cAut(G_{(n)}) , Hom_{Z Z}( Pn^{√} (G_{(n)})^{2} , Pn^{√} (G_{(n)})^{2}))

est donnée par l’identité de Pn^{√} (G_{(n)})^{2}.

Afin d’illustrer ce théorème, on va décrire dans la suite, deux cas particulièrement intéressants, en des termes plus familiers au lecteur. D’abord, on intercale quelques

Remarques 5.3.2 On souligne encore une fois que tous les termes qui rentrent dans la description de Aut(G) donnée par le théorème, en particulier ceux qui apparaissent dans les suites I et II, sont des ZZ -modules libres de type fini.

En outre, le théorème est une conséquence d’une description similaire de la catégorie T_{n} toute entière, à partir de la catégorie T_{n−1}, fournie dans [H1]. Cette description nécessite les notions d’extension linéaire de catégories, de suite exacte pour un foncteur, et de cohomologie de catégories, établies par Baues dans [3]. Dans ce cadre-ci, il est possible de traiter non seulement les groupes d’automorphismes, mais aussi des diagrammes et des objets simpliciaux dans la catégorie T_{n}.

Soit G un T -groupe de classe 2 . Alors G est déterminé par l’algèbre de Lie L^{\sqrt{γ}}(G), cf. 2.1.1 (3), ce qui découle immédiatement de la suite des coefficients universels. Le théorème 5.3.1 permet alors de décrire Aut(G) comme extension de Aut( L^{\sqrt{γ}}(G)), comme suit.

Les suites (5.4) et (5.6) prennent la forme suivante :

Hom (L_{1} , L_{2}) ⟶^{>}^{ρ^{∗}} Hom (P2^{√} (L_{1}) , L_{2}) ⟶^{γ^{∗}} Hom (S^{2}(L_{1}) , L_{2})  (5.8)

Hom (S^{2}(L_{1}) , L_{2}) ⟶^{>}^{l_{2∗}} Hom (S^{2}(L_{1}) , U_{2}L^{\sqrt{γ}}(G)) ⟶^{Ab_{∗}} Hom (S^{2}(L_{1}) , S^{2}(L_{1})) ,

(5.9)

où on a posé L_{i} =^{def} L_{i}^{√\overline{γ}}(G), S^{2} signifie le produit tensoriel symétrisé, γ: S^{2}(L_{1})

⟶^{>} P2^{√} (L_{1}) est définie par γ(a\sqrt{G_{2}} ˆ⊗b\sqrt{G_{2}}) = p2^{√} (a)p2^{√} (b), a, b ∈ G, l_{2} est le

morphisme canonique, et

Ab: U_{2}L^{\sqrt{γ}}(G) ⟶^{U_{2}L^{\sqrt{γ}}(ab)} U_{2}L^{\sqrt{γ}}(G^{ab}) ≅ S^{2}(L_{1}) .

Ce sont des suites de Aut(L^{\sqrt{γ}}(G))-bimodules de manière évidente, et de Aut(L^{\sqrt{γ}} (G))-modules à gauche en posant f ·α = f_{∗}f^{−1∗}α. Alors le théorème 5.3.1 devient Théorème 5.3.3 Soit G un T -groupe de classe 2. Alors on a une extension de groupes

0 → Hom_{Z Z}(L_{1} , L_{2})⟶^{1^{+}}Aut(G)⟶^{L^{\sqrt{γ}}}Aut(L^{\sqrt{γ}}(G)) → 1 ,

et sa classe de cohomologie classifiante est donnée par β_{I}β_{II}{id}, où β_{I}, β_{II} est l’opérateur de Bockstein associé à la suite (5.8) respectivement (5.9), et

\{id\} ∈ H^{0} (Aut(L^{\sqrt{γ}}(G)) , Hom(S^{2}(L_{1}) , S^{2}(L_{1})))

est donnée par l’identité de S^{2}(L_{1}).

Si G est un groupe nilpotent de classe 2 libre, on a L_{2} ≅ L_{1} ∧L_{1}, U_{2}L^{\sqrt{γ}}(G) ≅ L_{1} ⊗ L_{1}, et Aut(L^{\sqrt{γ}}(G)) ≅ Aut(L_{1}). Notre description de l’extension

0 → Hom_{Z Z}(L_{1} , L_{1} ∧ L_{1})⟶^{1^{+}}Aut(G)⟶Aut(L_{1}) → 1

d’après 5.3.3, diffère de celle donnée par Baues-Dreckmann dans [5], en fonction de deux autres opérateurs de Bockstein successifs.

Le cas d’un groupe nilpotent libre de classe quelconque est traité dans la section suivante.

5.4 Le groupe des automorphismes d’un groupe nilpotent libre

Soit G un groupe nilpotent de classe n libre, i.e., G = F/F_{n+1} pour un groupe libre F. Pour le groupe abélien libre A = G^{ab} = F/F_{2} , soit T (A) = ZZ ⊕ ⨁_{i>1} A^{⊗i} l’anneau tensoriel sur A, T̄ son idéal d’augmentation, T̄_{n} = T̄/T̄^{n+1} l’anneau quotient. Afin d’appliquer le théorème 5.3.1, on note que d’après 2.2.1, on a un isomorphisme d’anneaux T̄_{n} ≅ P_{n,Z Z}^{γ}(G) = Pn^{√} (G) , et que K_{n} = l_{n}(L_{n}(A)) ≅ L_{n}(A), où l_{n} est donnée par restriction de l’injection canonique l : L(A) ⟶^{>} UL(A) ≅ T (A) de l’algèbre de Lie libre sur A, dans son algèbre enveloppante. Par suite, on a aussi un isomorphisme d’anneaux T̄_{n}/L_{n}(A) ≅ P_{n,Z Z}^{γ}(G/G_{n}) = Pn^{√} (G_{(n)}) . En outre, (G_{(n)})^{ab} = A. On note encore que G_{(n)} = G/G_{n} = F/F_{n} est un groupe nilpotent de classe n − 1 libre.

Alors on a les deux suites exactes suivantes, pour n ≥ 2 :

L_{n}(A) ⟶^{>}^{l_{n}} T̄_{n}^{2} ⟶^{μ} T̄_{n}^{2}/L_{n}(A) ↪^{j} T̄_{n}/L_{n}(A) ⟶^{ρ} A  (5.10)

Explicitons l’action de Aut(G_{(n)}) sur ces termes. Soit f ∈ Aut(G_{(n)}). Alors f agit sur A et sur L_{n}(A) par l’application induite f^{ab}, respectivement f̃ = L_{n}(f^{ab}). Soit {x_{i}} une base de G_{(n)}. Ecrivons

f(x_{i}) = x_{i_{1}}^{±1} ⋯ x_{i_{s}}^{±1} G_{n} .

En identifiant T̄_{n} avec l’anneau de polynômes non commutatifs en les générateurs {x_{i}}, des automorphismes, notés f_{n}, des anneaux T̄_{n}^{2} et T̄_{n}/L_{n}(A) sont définis en envoyant le générateur x_{i} sur la classe d’équivalence de l’élément

(1 + x_{i_{1}})^{±1} ⋯ (1 + x_{i_{s}})^{±1} − 1 ,

avec (1 + x)^{−1} = 1 + ∑_{ν=1}^{n}(−1)^{ν}x^{ν}. Les isomorphismes f^{ab}, f_{n}, et L_{n}(f^{ab}) décrivent l’action de f sur les termes des deux suites exactes dans (5.10), qui déviennent ainsi des suites de Aut(G_{(n)})-modules à gauche. On en déduit les suites exactes de Aut(G_{(n)})-bimodules suivantes, avec Hom = Hom_{Z Z}.

Hom(A, L_{n}(A)) ⟶^{>}^{ρ^{∗}} Hom(T̄_{n}/L_{n}(A) , L_{n}(A)) ⟶^{j^{∗}} Hom(T̄_{n}^{2}/L_{n}(A) , L_{n}(A))

(5.11)

Hom(T̄_{n}^{2}/L_{n}(A) , L_{n}(A)) ⟶^{>}^{l_{n∗}} Hom(T̄_{n}^{2}/L_{n}(A) , T̄_{n}^{2}) ⟶^{μ_{∗}} Hom(T̄_{n}^{2}/L_{n}(A) , T̄_{n}^{2}/L_{n}(A))

(5.12)

Ce sont aussi des suites de Aut(G_{(n)})-modules à gauche, en définissant f · α(x) = f_{♯}α(f_{♯}^{−1}x) où f_{♯} = f^{ab}, f_{n} ou L_{n}(f^{ab}), et où α est un élément dans un des termes dans (5.11) ou (5.12).

Le théorème 5.3.1 prend alors la forme suivante.

Théorème 5.4.1 Soit G un groupe nilpotent de classe n libre. Alors la classe de cohomologie classifiante de l’extension de groupes

0 ⟶ Hom(A , L_{n}(A)) ⟶^{1^{+}} Aut(G) ⟶^{π̃_{n}} Aut(G/G_{n}) ⟶ 1

coïncide avec l’élément

β_{I′}β_{II′}{id} ∈ H^{2}(Aut(G/G_{n}) , Hom(A , L_{n}(A)) ,

où β_{I′} et β_{II′} sont des opérateurs de Bockstein associés aux suites (5.11), respectivement (5.12), et {id} est la classe de cohomologie de degré 0 donnée par l’identité de T̄_{n}^{2}/L_{n}(A).

Ici le morphisme 1^{+} se décrit avec l’isomorphisme de Witt w: L_{n}(A) ≅ G_{n}, comme suit : Pour x ∈ G, on a 1^{+}(α)(x) = x · y , où y = w α(x G_{2}) ∈ G .

Structures affines sur des algèbres de Lie nilpotentes

En 1977, J. Milnor a posé la question suivante :

Est-que tous les groupes virtuellement polycycliques sans torsion sont réalisables comme groupe fondamental de variétés compactes, complètes et affinement plates?

Ce problème est important par exemple à cause de son lien avec la conjecture d’Auslander concernant certains groupes de mouvements affines, ainsi que comme élément crucial dans une “théorie de rigidité” développée en ce moment par Farrell et L. Jones. La classe la plus grande où une réponse (positive) à la question de Milnor est connue est toujours celle des groupes virtuellement nilpotents de classe 3, d’après des travaux de Scheunemann en 1974 et de K.B. Lee en 1983. Pour les groupes nilpotents il existe deux versions algébriques du problème, grâce aux travaux de Fried, Goldman et Hirsch et de Hyuk Kim. Une version en terme de représentations affines des algèbres de Lie nilpotentes, et, également, une en terme de leurs structures symétriques à gauche. Dans ce cadre-ci, beaucoup d’exemples ont été traités par Grunewald et Segal, Igodt et Dekimpe, souvent en utilisant des logiciels de calcul formel. De façon très surprenante, les premiers contre-exemples ont été découverts en 1992 par Benoist et, plus tard, par Burde et Grunewald ; il s’agissait de groupes nilpotents de classe 10 et de rang 11. Récemment, Burde a mené une étude systématique du problème pour tous les groupes de classe 9 et de rang 10 ; il s’avère qu’il y a des contre-exemples aussi parmi ces groupes-ci.

Actuellement, ce sont les seules classes de groupes nilpotents pour lesquelles on ait des contre-exemples. Mais on soupçonne qu’il en existe parmi les groupes nilpotents de classe 4.

Une classe assez large de tels groupes est traitée, pour la première fois, dans un article joint avec Dekimpe [H5] : nous obtenons une réponse positive à la question de Milnor à l’aide d’une technique nouvelle, basée sur une adaptation des foncteurs polynomiaux de Passi, aux algèbres de Lie. Plus récemment, on a développé une théorie d’obstructions au problème de Milnor dans le cas des groupes nilpotents, en terme d’une cohomologie polynomiale pour les algèbres de Lie, cf. [H17].

Ces travaux révèlent des structures simples et symétriques dont on ne soupçonnait pas l’existence.

6.1 Une algébrisation de la question de Milnor

Dans le cas d’un groupe nilpotent, le problème admet une traduction en représentations affines de son algèbre de Lie, comme suit. Dans un premier temps, [21] montre qu’une variété compacte, complète et affinement plate est une nilvariété affine ; on désigne ainsi un espace quotient Γ\G, où G est un groupe de Lie nilpotent simplement connexe qui admet une connection affine plate complète invariante à gauche, et où Γ est un réseau uniforme de G.

Dans [44], Hyuk Kim obtient la proposition suivante :

Proposition 6.1.1 Soit G un groupe de Lie simplement connexe, L son algèbre de Lie. Alors les assertions suivantes sont équivalentes :

(1) G admet une connection affine plate complète invariante à gauche.

(2) G agit simplement et transitivement sur un espace vectoriel réel M par transformations affines.

(3) Il existe une structure symétrique à gauche complète sur L.

Rappellons ces dernières notions.

Une structure symétrique à gauche sur une algèbre de Lie L sur un corps K est un produit K -bilinéaire μ: L × L → L, noté μ(x, y) = x · y, tel que ∀x, y, z ∈ L,

[x, y] · z = x · (y · z) − y · (x · z)
où [x, y] = x · y − y · x .

Une structure symétrique à gauche est dite complète si ∀y ∈ L, l’application L → L, x ↦ x + x · y, est bijective. Ces structures se traduisent en termes plus habituels, comme suit. On rappelle qu’une dérivation sur L dans un L–module M est une application K -linéaire t : L → M telle que

∀x, y ∈ L : t[x, y] = x · t(y) − y · t(x) .

Proposition 6.1.2 Pour une algèbre de Lie sur K , les structures suivantes sont équivalentes :

(1) une structure symétrique à gauche μ sur L ; (2) une dérivation t: L → M dans un L-module M telle que t soit un isomor-

phisme K -linéaire ;

(3) une représentation affine ρ: L → 𝔞𝔣𝔣 (L) telle que la composante de translation tr∘ρ: L → L soit un isomorphisme K -linéaire.

De plus, si K = IR, les propriétés suivantes sont équivalentes.

(a) μ est complète ;

(b) M est un L-module nilpotent, i.e., ∃n ∈ IN : L^{n}M = 0 ;

(c) pour tout x ∈ L, la partie linéaire lin(ρ(x)) ∈ 𝔤𝔩 (L) de ρ(x) est un endomorphisme nilpotent de L.

L’équivalence de (a) et (b) est aussi due à Kim.

Une structure μ, t ou ρ comme au 6.1.2 ayant la propriété (a), (b), ou (c), est dite structure affine sur L.

En résumé de ce qui précède, on a le théorème suivant.

Théorème 6.1.3 Soit Γ un groupe nilpotent sans torsion de type fini. Alors Γ est réalisable comme groupe fondamental d’une variété compacte, complète et affinement plate si et seulement si l’algèbre de Lie réelle associée à Γ admet une structure affine.

6.2 Existence de structures affines

Le cadre algébrique établi, on décrira nos résultats de [H5] qui affirment l’existence d’une structure affine pour une classe raisonnable d’algèbres de Lie nilpotentes de classe 4.

Théorème 6.2.1

Soit L une algèbre de Lie nilpotente de classe 4. Supposons que L a une filtration L = L_{1} ⊇ L_{2} ⊇ L_{3} ⊇ L_{4} ⊇ L_{5} = 0 satisfaisant [L_{i}, L_{j}] ⊆ L_{i+j}, telle que le morphisme naturel Λ^{2}(L_{1}/L_{2}) → L_{2}/L_{3} induit par le crochet de L soit injectif.

Alors il existe un L-module filtré M = M_{1} ⊇ M_{2} ⊇ M_{3} ⊇ M_{4} ⊇ M_{5} = 0 satisfaisant L_{i} · M_{j} ⊆ M_{i+j}, et une dérivation t : L → M qui envoit L_{i} bijectivement sur M_{i} pour tout i.

Par conséquent, L admet une structure affine.

En particulier, une algèbre de Lie de classe 4 dont l’algèbre quotient L/[L, [L, L]] est libre de classe 2, satisfait l’hypothèse du théorème, où (L_{i})_{i} est la suite centrale descendante. Ceci comprend notamment le cas où L est engendré par deux éléments.

On donne aussi des descriptions plus explicites d’algèbres L qui ressortissent au théorème précédent, comme suit.

Corollaire 6.2.2

Soit L une algèbre de Lie nilpotente de classe 4 contenant un sous-espace U vérifiant les trois conditions :

(1) [L, L] ⊆ U ⊆ L

(2) [L, [L, [L, U]]] = [U, [U, L]] = 0

(3) dim([L, L]/[U, L]) = \binom{dim(L/U)}{2}.

Alors L admet une structure affine.

Ceci se traduit en terme de présentations, comme suit.

Corollaire 6.2.3 Supposons que X = {x_{1}, x_{2}, …, x_{m}} est un ensemble générateur minimal d’une algèbre de Lie de classe 4 sur un corps K de caractéristique 0. Soit

{R_{i} = ∑_{k}c_{i_{k}}[x_{i_{k}}, y_{i_{k}}]} une base de Ker( ⨁_{1≤p<q≤m} k[x_{p}, x_{q}] → → [L, L]/[L, [L, L]]).

Supposons qu’il existe une partie S de X telle que

(1) ∀i_{k} : c_{i_{k}} ≠ 0 ⇒ x_{i_{k}} ∈ S ou y_{i_{k}} ∈ S ;

(2) [X, [X, [X, S]]] = 0 = [S, [S, X]].

Alors L admet une structure affine.

Voici quelques exemples satisfaisant ces hypothèses :

(1) {R_{i}} = ∅ (avec S = ∅).

(2) Supposons qu’il existe une partie T ⊆ X telle que tout R_{i} est de la forme

R_{i} = [t, x], with t ∈ T, x ∈ X.

Si en outre [X, [X, [X, T]]] = [T, [T, X]] = 0, le théorème 6.2.3 s’applique (avec S = T). Par exemple, cette dernière condition est automatiquement satisfaite si {R_{i}} = {[t, x] || t ∈ T, x ∈ X}.

Ces exemples permettent d’écrire immédiatement des présentations de beaucoup d’algèbres de Lie qui admettent une structure affine d’après le corollaire 6.2.3.

Plus tard, on a encore obtenu l’amélioration suivante de ce résultat.

Théorème 6.2.4 Soit L une algèbre de Lie nilpotente de classe 4. Supposons que L admette une présentation telle que toute relation ne contienne pas à la fois des termes de poids 2 et de poids 3. Alors L admet une structure affine.

Notre approche consiste en une adaptation des foncteurs polynomiaux P_{n,R}^{N}(G) aux algèbres de Lie : Soit L une algèbre de Lie, U(L) son algèbre enveloppante ; étant donnée une N-série L de L, on définit une filtration (F_{i}^{L}(L))_{i} descendante de l’idéal d’augmentation Ū(L). Posons P_{n}^{L}(L) = Ū(L)/F_{n+1}^{L}(L). Alors l’étude de certaines structures affines particulières sur L (dites “de type canonique”, i.e., compatibles avec certaines filtrations) revient à la recherche de certains sous-L-modules de P_{n}^{L}(L).

Sous-groupes induits par des idéaux d’une algèbre de groupe

Etudier la relation entre les idéaux d’une algèbre de groupe R(G) et les sousgroupes de G est un problème classique de la théorie des groupes. Plus précisement, soit G un groupe et R un anneau commutatif avec unité 1_{R}. Considérons un Rsous-module J de l’algèbre de groupe R(G) tel que J soit contenu dans l’idéal I_{R}(G) d’augmentation de R(G). Alors on associe à J la partie G ∩ (1_{R} + J) de G qui est un sous-groupe si J est un idéal à gauche ou à droite (de fait, il y a des conditions plus faibles portant sur J qui assurent que G ∩ (1_{R} + J)est un sous-groupe, par exemple, s’il y a un sous-groupe H de G tel que J ⊂ R(G)I_{R}(H) et que J est un H -sous-module à gauche ou à droite). En tout cas, si G ∩ (1_{R} + J)est un sous-groupe, on l’appele le sous-groupe induit par J .

Il y a surtout deux types de sous-groupes induits qui sont particulièrement intéressants et ont donc été étudiés depuis longtemps : ce sont les sous-groupes de dimension où J = I_{R}^{n}(G), n ≥ 1, et les sous-groupes de Fox où J = I_{R}^{n}(G)I_{R}(H) pour un sous-groupe H de G donné. Considérons d’abord les premiers. Ils proviennent de l’étude du rapport entre des filtrations de R(G) par des idéaux et des filtrations de G par des N-séries. En effet, si R(G) ⊃ I_{R}(G) = J_{1} ⊃ J_{2} ⊃ … est une filtration par des idéaux J_{i} tels que J_{1} = I_{R}(G) et J_{i}J_{j} ⊂ J_{i+j} pour tout i, j ≥ 1, alors les sous-groupes induits G = G ∩ (1_{R} + J_{1}) ⊃ G ∩ (1_{R} + J_{2}) ⊃ … forment une N-série de G. Réciproquement, donné une N-série N de G, on y associe la filtration {I_{R,N}^{n} (G)}_{n} de R(G), cf. section 1.1. Le sous-groupe induit D_{n,R}^{N}(G) = G∩(1_{R}+I_{R,N}^{n} (G)) s’appelle n-ième sous-groupe de dimension (par rapport à R et N), et on cherche à savoir sous quelle condition la N-série {D_{n,R}^{N}(G)}_{n} coïncide avec la N-série du départ, c.à.d., quand l’inclusion N_{n} ⊂ D_{n,R}^{N}(G) est une égalité. Dans le cas classique, où R = ZZ et N est la suite centrale descendante γ où I_{R,γ}^{n}(G) = I_{R}^{n}(G), il a été conjecturé longtemps que c’est le cas pour tout n ≥ 1 et tout groupe G, en partant du résultat positif de Magnus pour les groupes libres. On avait même déjà tiré des conséquences de l’hypothèse que la conjecture fût vraie. Après des essais acharnés pour la démontrer, des résultats positifs partiels mais importants ont été obtenus : d’après des travaux de Hall, Jennings, Lazard et Hartley, on a N_{n} = D_{n,R}^{N}(G) pour tout n si, soit la caractéristique de R est nulle et les quotients N_{i}/N_{i+1} n’ont pas de torsion, soit la caractéristique de R est un nombre premier p et N est une N-série restreinte relativement à p. Par conséquent, D_{n,R}^{N}(G) est au moins toujours contenu dans l’isolateur de N_{n} (i.e., D_{n,R}^{N}(G)/N_{n} est torsion) si la caractéristique de R est nulle. En développant une suite spectrale calculant les quotients D_{n,Z Z}^{γ}(G)/G_{n}, Sjoegren montra que si G est un p-groupe, la conjecture est vraie pour n ≤ p + 1. Pour n ≤ 3, elle est vraie pour tout groupe, le cas n = 3 n’étant déjà pas trivial et n’ayant été résolu qu’avant la fin des années 1960 par Higman et Rees indépendemment.

Pourtant, de façon très surprenante, un contre-exemple fut construit par Rips en 1972, exemple d’un groupe d’ordre 2^{38} où G_{4} = {1} ≠ D_{4,Z Z}^{γ}(G). Plus tard, Tahara donna une famille infinie de contre-exemples pour n = 4, à l’aide de sa description des éléments des quotients D_{n,Z Z}^{γ}(G)/G_{n} pour n = 4, 5 (il est pourtant difficile de trouver des exemples où un de ces éléments est non nul). Plus récemment, N. Gupta donna des exemples qui montrent que pour tout n ≥ 4, il y a des groupes tels que G_{n} ≠ D_{n,Z Z}^{γ}(G). Il a aussi anoncé le résultat fondamental que le quotient D_{n,Z Z}^{γ}(G)/G_{n} est toujours d’exposant 2, ce qui entraîne que l’ex-conjecture est toutefois vraie pour tous les groupes d’ordre impair.

Alors que les méthodes de Gupta, Hartley, Tahara et autres sont de nature combinatoire, des approches homologiques ont été dévelopées par Passi et, plus tard et différemment, par Kuz’min. Ces études ont mené à la notion de “sousgroupe de dimension relatif à un sous-groupe distingué K de G”, défini par

D_{n,R}^{N}(G, K) = G ∩ (1_{R} + I_{R}(K)I_{R}(G) + I_{R,N}^{n} (G)) .  (7.1)

D’une part, cette construction comprend le cas classique car

D_{n,R}^{N}(G) = D_{n,R}^{N}(G, {1}) = D_{n,R}^{N}(G, N_{n−1}) ,

d’autre part, elle se prête aux méthodes homologiques, notamment à cause de la suite exacte de R(G/K)-modules à gauches nilpotents

(D_{n,R}^{N}(G, K)∩KN_{n})/K_{2}N_{n} → KN_{n}/K_{2}N_{n} → P_{n−1,R}^{N}(G, K) → P_{n−1,R}^{πN}(G/K) → 0

si R = ZZ/mZZ, m ≥ 0 (en effet, le cas d’un anneau R de coefficients quelconque se ramène à ce cas particulier par le théorème 7.1.1 ci-dessous). Beaucoup de proprietés qualitatives des sous-groupes de dimension relatifs furent exhibées, par Passi, Karan, Stammbach, Sucheta, Tahara, Vermani, et, récemment, par Kuz’min. Par exemple, on sait que les quotients D_{n,Z Z}^{γ}(G, K)/K_{2}G_{n} sont toujours abéliens, mais pas nécessairement centraux dans G/K_{2}G_{n} (Gupta et Kuz’min, Kuz’min). La version relative de l’ex-conjecture sur les sous-groupes de dimension classiques susmentionnée consiste en le problème de savoir à quelle condition l’inclusion K_{2}N_{n} ⊂ D_{n,R}^{N}(G, K) est une égalité. Par rapport à cette question, les sous-groupes K centraux se comportent de manière analogue au sous-groupe trivial, i.e. au cas classique ; ceci découle des travaux de Passi et son école. Mais si K n’est pas central, très peu d’informations sont connues ; même pour n = 3, N = γ et R = ZZ il n’y avait des travaux affirmant que K_{2}N_{3} = D_{3,Z Z}^{γ}(G, K) que dans quelques cas particuliers.

En resumé, il reste le problème très difficile d’identifier le groupe D_{n,R}^{N}(G, K) directement en termes de G, K etc., ainsi que de contrôler la classe des groupes où K_{2}N_{n} ≠ D_{n,R}^{N}(G, K), même dans le cas le plus classique où K = {1}, N = γ et R = ZZ.

Ce sont les problèmes que l’on attaque dans nos travaux. Dans un premier temps, on vise l’anneau des coefficients : si R est un corps, les groupes D_{n,R}^{N}(G) sont connus. Si R n’est pas un corps, on peut ramener le calcul de D_{n,R}^{γ}(G) aux cas des anneaux de coefficients “universels” R = ZZ et R = ZZ/p^{r}ZZ, p premier, r > 0. Ce fait fut découvert par Sandling et rigoureusement démontré par Passi, Parmenter et Sehgal, en développant une théorie des idéaux polynomiaux d’une algèbre de groupe. Mais cette théorie ne couvre pas le cas d’une N-série N ≠ γ, ni les sous-groupes de dimension relatifs, ni d’autres types intéressants de sousgroupes induits, comme les sous-groupes de Fox. Dans la première section de ce chapitre, on étend cette “décomposition à coefficients universels” à une classe très large d’idéaux J, qui contient tous les types étudiés dans la littérature, ainsi que des généralisations provenant de nos travaux sur les types classiques, que l’on décrira dans la suite.

Dans la deuxième section, on montre que le quotient D_{n,Z Z}^{γ}(E, B)/B_{2}E_{n} est un quotient naturel d’un “n-ième sous-groupe de dimension relatif universel” qui ne dépend que du quotient E/BE_{n−1}, et qui est donné par un foncteur D̃_{n}, n ≥ 3, allant de la catégorie N_{n−2} des groupes nilpotents de classe ≤ n−2 dans la catégorie TAb des groupes abéliens de torsion. Autrement dit, un groupe G dans N_{n−2} admet une extension B ⟶^{>} E → → G telle que D_{n,Z Z}^{γ}(E, B) ≠ B_{2}E_{n} si et seulement si D̃_{n}(G) ≠ 0. Vu cette propriété, D̃_{n} joue le même rôle pour les sous-groupes normaux B quelconques que le quotient H^{2}(G, Q/ZZ)/P_{n−2}H^{2}(G, Q/ZZ) pour les sous-groupes centraux, d’après la théorie de Passi. En calculant le foncteur D̃_{3} il s’avère qu’il coïncide, lui aussi, avec le foncteur “produit de torsion antisymétrisé”, A ↦ A ∗^{∧} A (cf. (2.6)), qui joue aussi un rôle clé dans notre description du multiplicateur de Schur d’un groupe de classe 2 et du troisième quotient de filtration d’une algèbre de groupe. Il en découle que D_{3,Z Z}^{γ}(E, B) ne coïncide “presque jamais” avec B_{2}E_{3} si B est non central dans E, le contre-exemple minimal étant d’ordre 16.

Plus généralement, on détermine le groupe D_{3,R}^{N}(E, B), pour R quelconque. Si on restreint l’attention au cas où B est central dans E, on montre le quo-

tient D_{n,Z Z}^{γ}(E, B)/B_{2}E_{n} est un quotient naturel d’un autre foncteur N_{n−2} → TAb évalué en G = E/BE_{n−1} ; ce foncteur est donné par la différence entre H_{2}(G) et son approximation polynomiale P_{n−2}H_{2}(G), cf. section 3.4. Cette approche est duale à celle de Passi. Basé sur nos résultats des chapitres 2 et 4, elle nous permet de construire une très grande famille de contre-exemples où D_{4,Z Z}^{γ}(E) ≠ E_{4}, et de donner une condition nécessaire et suffisante portant sur un 2-groupe abélien A de rang 4 pour qu’il existe un tel contre-exemple (satisfaisant une condition supplémentaire légère) avec G^{ab} ≅ A.

Dans les section 3 et 4, on étudie les sous-groupes et quotients de Fox, définis pour un sous-groupe H de G par F_{n}(G, H) = G ∩ (1 + I^{n}(G)I(H)) et respectivement Q_{n}(G, H) = I^{n−1}(G)I(H)/I^{n}(G)I(H). Les groupes F_{n}(G, H) proviennent d’un problème concernant le calcul différentiel libre introduit par Fox et sont beaucoup étudiés dans la littérature, cf. [29]. Après une longue suite de travaux, ils furent enfin complètement déterminés pour les groupes libres, par Enright, N. Gupta et Hurley. Pourtant, pour un groupe G quelconque, uniquement F_{2}(G, H) fut récemment calculé par Curzio et K. Gupta. L’intérêt des quotients Q_{n}(G, H) provient du fait qu’ils peuvent servir à un calcul récursif de F_{n}(G, H), grâce à l’identité F_{n+1}(G, H) = Ker(F_{n}(G, H) → Q_{n+1}(G, H)) .

Ici on introduit une approche homologique aux sous-groupes induits de la forme G ∩ (1_{R} + MI_{R}(H)), où M est un R(H)-sous-module à droite de I_{R}(G). Ce type comprend les sous-groupes de Fox, ainsi que le cas M = I_{R}(H_{1}) ⋯ I_{R}(H_{m})R(G), H_{i} ⊲ G, aussi considéré dans la littérature, cf. [29] ; mais il comprend aussi les “sous-groupes de Fox relatifs” que l’on définit ici, afin d’unifier l’étude du n-ième sous-groupe de Fox et du n + 1-ième sous-groupe de dimension relatif. Dans la section 3, nous étudions les quotients I_{R}(G)I_{R}(H)/MI_{R}(H), aboûtissant au calcul du deuxième quotient de Fox sous une forme généralisée, et de tous les quotients de Fox dans le cas où H est un facteur semi-direct de G, sous quelques conditions de torsion nulle. Ces résultats étendent des résultats partiels pour n ≤ 4 obtenus par Karan et Vermani et par Khambadkone.

Dans la dernière section, on construit un sous-module M′ de I_{R}(H) tel que G ∩ (1_{R} + MI_{R}(H)) = H ∩ (1_{R} + M′) ; en particulier, il s’avère que M′ = (M ∩ I_{R}(H))I_{R}(H) si H est libre. On calcule M′ dans plusieurs cas intéressants ; ainsi on arrive à déterminer complètement le premier et deuxième sous-groupe de Fox relatif, pour un anneau de coefficients quelconque, et le groupe G ∩ (1_{Z Z} + I_{Z Z}(R)I_{Z Z}(G)I_{Z Z}(S)), R, S ⊲ G, si S est libre ; ceci généralise un résultat de K. Gupta dans le cas où G est libre.

7.1 Une décomposition à coefficients universels

Dans cette section, on étudie comment les sous-groupes induits G ∩ (1_{R} + J_{R}) dépendent de l’anneau de coefficients R si J_{R} est défini pour tout R “de façon analogue”. Plus précisement, soit J un sous-groupe additif de ZZ(G) fixé et J_{R} le R-sous-module de R(G) engendré par i_{R}(J), où i_{R}: ZZ(G) → R(G) est le morphisme d’anneaux donné par extension ZZ -linéaire de l’identité de G. Alors on montre que pour un anneau commutatif unitaire R quelconque, G ∩ (1_{R} + J_{R}) se décompose en terme des groupes “universels” G ∩ (1_{Z Z} + J) et G ∩ (1_{Z Z/p^{r}Z Z} + J_{Z Z/p^{r}Z Z})), p premier et r ≥ 1, si J est convenable. Le résultat précis est le suivant.

Théorème 7.1.1 Soit H un sous-groupe de G et J ⊂ ZZ(G)I_{Z Z}(H) un H-sous-module ayant la propriété que pour tout h ∈ H, il existe n = n(h) ≥ 1 tel que (h−1_{Z Z})^{n} ∈ J. Alors pour un anneau commutatif R avec unité 1_{R} les affirmations suivantes sont vraies.

(i) Si la caractéristique de R est zéro, alors

G∩(1_{R}+J_{R}) = ∏_{p∈σ(R)}{H∩t_{p}(G mod (G ∩ (1_{Z Z} + J)))∩(G∩(1_{Z Z/p^{e}Z Z}+J_{Z Z/p^{e}Z Z}))}

où G ∩ (1_{R} + J_{R}) et tous les facteurs à droite sont des sous-groupes qui commutent. Ici σ(R) = {p|p est premier et ∃n ≥ 0 : p^{n}R = p^{n+1}R}, et pour p ∈ σ(R), p^{e} est la puissance minimale de p telle que p^{e}R = p^{e+1}R. (Si σ(R) est vide, le terme à droite s’interprète comme G ∩ (1_{Z Z} + J)). Par définition,

t_{p}(G mod (G ∩ (1_{Z Z} + J))) = {g ∈ G | ∃k ≥ 0 : g^{p^{k}} ∈ G ∩ (1_{Z Z} + J) } .

(ii) Si la caractéristique de R est r > 0, alors

G ∩ (1_{R} + J_{R}) = G ∩ (1_{Z Z/rZ Z} + J_{Z Z/rZ Z}) = ⋂_{j} G ∩ (1_{Z Z/p_{j}^{e_{j}} Z Z} + J_{Z Z/p_{j}^{e_{j}} Z Z}) ,

où r = ∏_{j} p_{j}^{e_{j}} est la décomposition de r en facteurs premiers.

Il est convenable de résumer la conclusion du théorème en disant que les groupes G ∩ (1_{R} + J_{R}) satisfont une “décomposition à coefficients universels”.

Exemples 7.1.2 Les sous-groupes J suivants de ZZ(G) satisfont l’hypothèse du théorème :

(i) Les puissances associatives I_{Z Z}^{n}(G) pour tout n ≥ 1 et les puissances de Lie I_{Z Z}^{(n)}(G) pour tout n ≥ 2, en prenant H = G et respectivement H = G_{2}. En effet, pour n ≥ 2 on a I_{Z Z}^{(n)}(G) ⊂ I_{Z Z}^{(2)}(G) = ZZ(G)I_{Z Z}(G_{2}) et I_{Z Z}^{n−1}(G_{2}) ⊂ I_{Z Z}^{(n)}(G) d’après la formule de Sandling pour I_{R}^{(n)}(G), cf. [59, I.1.8]. Dans le cas des puissances associatives, la décomposition à coefficients universels fut découverte par Sandling [65] et rigoureusement démontrée par Passi, Parmenter et Sehgal dans [60], en développant une théorie d’idéaux polynomiaux d’une algèbre de groupe. Cette théorie comprend aussi le cas des puissances de Lie, mais pas les cas des sous-groupes de dimension par rapport à une N-série générale, des sous-groupes de dimension relatifs, et des sous-groupes de Fox qui sont tous bien couverts par le théorème 7.1.1, cf. 7.1.3.

(ii) les sous-groupes J = MI_{Z Z}(H), où H ≤ G et M est un ZZ(H)-sous-module à droite de I_{Z Z}(G) ayant la propriété que pour tout h ∈ H il existe n ≥ 1 tel que (h − 1_{Z Z})^{n} ∈ M. Ce cas sera étudié en plus de détail à la section 6.4.

Corollaire 7.1.3 Les sous-groupes de dimension (relatifs) (cf. (7.1)) et les sous-groupes de Fox (relatifs) (cf. (7.2)) satisfont une décomposition à coefficients universels.

Passi, Parmenter et Sehgal déduisent leur décomposition à coefficients universels d’une décomposition similaire des idéaux polynomiaux J_{R} de R(G). Nous procédons d’une manière analogue, en donnant d’abord une décomposition de tous les sous-groupes additifs J_{R} de R(G). Ceci montre que de façon surprenante, le phénomène n’a rien à voir avec la structure multiplicative de R(G), mais uniquement avec celle de R. En effet, notre approche n’utilise que l’algèbre homologique des ZZ -modules.

7.2 Sous-groupes de dimension

Dans [H16], [H13] nous étudions les sous-groupes de dimension D_{n,R}^{N}(G, K), cf. (7.1). On montre que pour R = ZZ et N = γ, ces groupes sont déterminés par un certain foncteur défini sur la catégorie des groupes nilpotents de classe ≤ n−2. Il s’avère que D_{3,Z Z}^{γ}(G, K) coïncide avec le produit de torsion antisymétrisé G^{ab} ∗^{∧} G^{ab}, qui est déjà apparu dans notre étude du multiplicateur de Schur et des quotients de filtration des algèbres de groupes, cf. les sections 2.2 et 4.2. Plus généralement, on détermine D_{3,R}^{N}(G, K) pour tout R et N.

Ensuite, on étudie le quatrième sous-groupe de dimension classique D_{4,Z Z}^{γ}(E). On dit qu’un groupe G est un contre-exemple (à l’ex-conjecture des sous-groupes de dimension ) s’il existe n ∈ IN tel que D_{n,Z Z}^{γ}(G) ≠ G_{n} ; sans perte de généralité, on suppose que G_{n} = {1}. Ici on s’intéresse alors au cas n = 4.

Soit A un groupe abélien fini de rang 4, à coefficients de torsion 2^{β_{i}}, β_{1} ≤ … ≤ β_{4}. Alors Tahara [71] construisit un contre-exemple G avec G^{ab} ≅ A si β_{1} ≥ 2 et β_{12} = β_{23} = 2, où β_{ij} = β_{j} − β_{i}. Dans [H13], nous donnons une famille de contre-exemples beaucoup plus large. En fait, on construit plusieurs contreexemples G avec G^{ab} ≅ A si β_{1}, β_{12}, β_{23} ≥ 2, tels que la divisibilité par 2 d’un élément non trivial dans D_{4,Z Z}^{γ}(G) peut être aussi préscrite arbitrairement, dans un certain intervalle dépendant des β_{i}. Ces conditions sont aussi nécessaires si on exige une certaine condition de centralité légère de G. En outre, le nombre de contre-exemples, pour un groupe G^{ab} ≅ A fixé, augmente avec les nombres β_{1}, β_{12} et β_{23}.

Notre méthode est basée sur notre calcul de H_{2}(G, ZZ) et son approximation polynomiale de degré 2, d’un groupe G de classe 2.

On désigne par N_{n}, Ab, TAb respectivement la catégorie des groupes nilpotents de classe ≤ n, des groupes abéliens et des groupes abéliens de torsion.

Théorème 7.2.1 ([H16]) Il existe un foncteur

D̃_{n}: N_{n−2} → TAb

ayant la propriété suivante : Pour un groupe E et un sous-groupe normal B de E, il existe un épimorphisme naturel

λ_{n} : D̃_{n}(G/G_{n−1})→ →D_{n}(E, B)/B_{2}E_{n}

où G = E/B. De plus, λ_{n} est un isomorphisme si E est libre.

Cette dernière propriété entraîne que l’on peut calculer des générateurs des groupes D̃_{n}(G) à partir d’une présentation quelconque de G, de façon récursive ; à l’aide du calcul différentiel de Fox. Le problème revient à contrôler certaines relations dans P_{n−2,Z Z}^{γ}(G) dont la structure doit être alors connue. Selon cette méthode, nous avons calculé le foncteur D̃_{3} ainsi que des générateurs de D̃_{4}(G). On donne le résultat pour n = 3 ; pour n = 4 on n’a pas encore pu exhiber une description intrinsèque n’impliquant pas un choix de générateurs.

Théorème 7.2.2 Le foncteur D̃_{3} : Ab → TAb est donné par

D̃_{3}(A) = A ∗^{∧} A ,

cf. 2.6, et la transformation λ_{3} dans 7.2.1 est donnée comme suit. Soit ⟨x̄_{1}, k, x̄_{2}⟩ un générateur typique de Tor_{1}^{Z Z}(E/BE_{2} , E/BE_{2}), i.e., x̄_{i} = x_{i}BE_{2}, x_{i} ∈ E, k ∈ ZZ tels que x_{i}^{k} ∈ BE_{2}, cf. 2.2.4, alors

λ_{3}⟨x̄_{1}, k, x̄_{2}⟩ = [x_{1}, x_{2}^{k}]B_{2}E_{3} .

Plus généralement, on donne dans [H11] une description complète de D_{3,R}^{N}(E, B), pour N et R quelconques : le théorème 7.1.1 réduit le problème aux cas R = ZZ/mZZ, m ≥ 0, où nous avons le résultat suivant, où on pose

U_{m} = sgp{[a, b^{k}] | a, b ∈ E, k ∈ ZZ, a^{k}, b^{k} ∈ BN_{2}E^{m}} ,
V_{m} = {a ∈ E | a^{m/2} ∈ BN_{2}E^{m}} si m est pair.

Théorème 7.2.3 Soit E un groupe, B un sous-groupe, N une N-série de E et m ≥ 0. Alors

D_{3,Z Z}^{N}(E, B) = U_{0}N_{3}
D_{3,Z Z/mZ Z}^{N}(E, B) = U_{m}N_{3}E^{m} si m est impair
D_{3,Z Z/mZ Z}^{N}(E, B) = U_{m}N_{3}E^{2m}(V_{m})^{m} si m est pair.

Pour B = {1} on redécouvre un résult de Sandling [65]. Quelques autres cas particuliers sont rassemblés dans le corollaire suivant.

Corollaire 7.2.4 L’inclusion B_{2}N_{3} ⊂ D_{3,Z Z}^{γ}(E, B) est une égalité si l’une des conditions suivantes est satisfaite :

(1) [B, E] ⊂ E_{3} (cf. [59, Theorem 5.9]);

(2) il existe un sous-groupe normal K ⊂ E tel que E = KB et K ∩ B est central dans E (cf. [34]) ;

(3) B est normal et E/B est cyclique (cf. [59, Theorem V.5.4]);

(4) un des trois groupes suivants est sans torsion : E/B_{2}E_{3} (cf. [34]), [E, B]E_{3}/B_{2}E_{3} ou E/BE_{2};

(5) le groupe abélien BE_{2}/E_{2} est divisible.

Pourtant, l’inclusion B_{2}N_{3} ⊂ D_{3,Z Z}^{γ}(E, B) n’est pas toujours une égalité. En fait, on construit des contre-exemples qui sont des p-groupes, pour tout nombre premier p, contrairement aux sous-groupes de dimension classiques (i.e., où B = {1}) qui coïncident avec les termes de la suite centrale descendante si E est un p-groupe pour p ≠ 2, d’après un résultat annoncé par Gupta.

Exemple 7.2.5 Soit p un nombre premier et 0 < r ≤ s. On définit un groupe E par la présentation

E = ⟨x, y | 1 = x^{p^{s+1}} = y^{p^{s+1}} = [x, [x, y]] = [y, [x, y]] ⟩ .

Let B = sgp{x^{p^{r}}, y^{p^{s}}, [x, y]}. Alors z = [x, y]^{p^{s}} = [x, y^{p^{s}}] ∈ D_{3,Z Z}^{γ}(E, B) d’après 7.2.3, mais z est d’ordre p modulo B_{2}E_{3} = {1}.

Dans le cas où B est central dans E, nous décrivons le sous-groupe D_{n,Z Z}^{γ}(E, B)∩ B en terme de la cofiltration polynomiale (3.8) de H_{2}(G), G = E/BE_{n}. Cette approche est duale à celle de Passi, cf. [59, section V.5], et est plus constructive, comme on verra dans la suite. Afin de l’expliquer, supposons sans perte de généralité que E_{n} = {1}. Alors on montre que

D_{n,Z Z}^{γ}(E, B) ∩ B = β Ker( q_{n−2} : H_{2}(G, ZZ)→ →P_{n}H_{2}(G, ZZ) ) ,

où le morphisme β: H_{2}(G, ZZ) → B est adjoint à la classe de cohomologie de l’extension B ⟶^{>} E → → G, par rapport au produit de Kronecker

H^{2}(G, B) × H_{2}(G, ZZ) → B .

Par suite, Ker(q_{n−2}) est le “n-ième sous-groupe de dimension relatif D_{n,Z Z}^{γ}(E, B) universel ”, par rapport aux extensions centrales B ⟶^{>} E → → G d’un groupe G fixé. La recherche des groupes E où D_{n,Z Z}^{γ}(E) ∩ E_{n−1} = D_{n,Z Z}^{γ}(E, E_{n−1}) ∩ E_{n−1} ne coïncide pas avec E_{n}, revient alors à la recherche des groupes de classe ≤ n − 2 pour lesquels Ker(q_{n−2}) ≠ 0. A l’aide de cette méthode, on effectue une étude systématique des groupes E où D_{4,Z Z}^{γ}(E) ≠ E_{4} = {1}, basée sur notre calcul de H_{2}(G, ZZ) d’un groupe de classe 2, cf. le chapitre 3, et de P_{2,Z Z}^{γ}(G) ⊗_{Z Z(G)} P_{2,Z Z}^{γ}(G), au cours de notre calcul de Q_{3}^{N} (G), cf. (2.8) et [H2]. Ainsi on trouve une très grande classe de tels exemples, contenant les exemple de Rips et de Tahara, et on en exhibe des propriétés qualitatives, comme suit.

Pour abréger, on dira qu’un groupe fini E est un 4-contre-exemple si les trois propriétés suivantes sont satisfaites :

• {1} = E_{4};

• il existe un élément e, 1 ≠ e(= e_{E}) ∈ D_{4,Z Z}^{γ}(E) ;

• E^{ab} est de rang 4.

Alors E est forcément un 2-groupe, et e est un élément d’ordre 2 dans E_{3} [56], cf. [69]. En outre, on appellera un 4-contre-exemple spécial s’il satisfait la condition de centralité suivante :

(c) Il existe une décomposition E^{ab} = ZZ/2^{β_{1}} ·x_{1}⊕…⊕ZZ/2^{β_{4}} ·x_{4}, β_{1} ≤ … ≤ β_{4}, telle que [E_{2}, x_{4}] = {1}.

Par exemple, les exemples de Rips et Tahara sont des 4-contre-exemples spéciaux.

On dira qu’un 4-contre-exemple E est universel si le morphisme c_{2} : E^{ab} ∧E^{ab} → → E_{2}/E_{3} induit par l’application commutateur est un isomorphisme. On appellera E induit s’il est un quotient d’un 4-contre-exemple universel H tel que l’image de e_{H} dans E soit non trivial.

Théorème 7.2.6 Soit A = ZZ/2^{β_{1}} ⊕ … ⊕ ZZ/2^{β_{4}} , β_{1} ≤ … ≤ β_{4}, et soit n ∈ IN . Alors il existe un 4-contre-exemple spécial E tel que E^{ab} ≅ A et e = 2^{n}ē, ZZ/2^{n+1}ē étant un facteur direct de E_{3}, si et seulement si les deux conditions suivantes sont satisfaites :

β_{1}, β_{12}, β_{23} ≥ 2 , avec β_{ij} = β_{j} − β_{i}, et
β_{3} > n > max{β_{2}, β_{13}} .

S’il en est ainsi, E peut être choisi universel d’ordre 2^{m}, m = 4β_{1} + 3β_{2} + 2β_{3} + β_{4} + n + 1.

Les exemples de Tahara satisfont β_{12} = β_{23} = 2 et donc forcément n = β_{2} + 1. On montre qu’ils sont des 4-contre-exemples induits et minimaux, i.e., tout quotient propre n’est plus un contre-exemple.

Le théorème entraîne l’estimation suivante concernant l’ordre d’un contreexemple minimal.

Corollaire 7.2.7 Un 4-contre-exemple spécial minimal est d’ordre > 2^{30}.

Généralement, on soupçonne que le contre-exemple de Rips, qui est d’ordre 2^{38}, est le contre-exemple le plus petit qui existe.

7.3 Une approche homologique aux quotients de Fox

L’étude des sous-groupes de Fox et des quotients de Fox remonte aux travaux de Fox sur le calcul différentiel sur les groupes libres, cf. [29]. Dans la forme classique, on se donne un groupe G et un sous-groupe H ≤ G ; de là, on obtient une filtration descendante {I^{n}(G)I(H)}_{n} de ZZ(G)I(H) qui donne naissance à la filtration induite {F_{n}(G, H)}_{n} de G et aux quotients de filtration {Q_{n}(G, H)}_{n}. A part le cas où H = G, ce sont surtout les cas où G est libre (pour les sous-groupes) et le cas où H est un facteur semi-direct de G (pour les quotients) qui ont été beaucoup étudiés dans la littérature, cf. la liste des références bibliographiques. Ici on introduit une technique homologique pour un traitement simultané des groupes F_{n}(G, H) et Q_{n}(G, H), dans un cadre beaucoup plus général qui comprend les sous-groupes de dimension relatifs D_{n,R}^{γ}(E, B) :

Soit G un groupe, H, K des sous-groupes et N une N-série de G, K étant normal, et R un anneau de coefficients commutatif unitaire. On définit alors le sous-groupe de Fox relatif

F_{n,R}^{N}(G, H; K) =^{def} G ∩ (1_{R} + I_{R}(K)R(G)I_{R}(H) + I_{R,N}^{n} (G)I_{R}(H))  (7.2)

et le quotient de Fox

Q_{n,R}^{N}(G, H; K) =^{def} I_{R,N}^{n−1}(G)I_{R}(H)/I_{R,N}^{n} (G)I_{R}(H) .  (7.3)

On écrit F_{n,R}^{N}(G, H) =^{def} F_{n,R}^{N}(G, H; {1}). Vu la relation de récurrence F_{n+1,R}^{N}(G, H) = Ker(F_{n,R}^{N}(G, H) → Q_{n+1,R}^{N}(G, H)) , les quotients de Fox servent à calculer les sous-groupes, on va donc s’occuper des quotients d’abord, sous une forme encore plus générale. Le principe de notre technique consiste d’une transformation des produits dans I_{R}(G) du type I_{R,N}^{n} (G)I_{R}(H) en des produits tensoriels ou de torsion, grâce à l’observation suivante qui est élémentaire mais la clé à tout ce qui suit.

Soient G un groupe, H < G un sous-groupe, U ⊂ M ⊂ I_{R}(G) des R(H)- sous-modules à droite tels que U ⊂ I_{R}(H), et J ⊂ I_{R}(H) un idéal à gauche de R(G).

Lemme 7.3.1 ([H12]) Le diagramme suivant est cocartésien dans la catégorie Ab des groupes abéliens.

\begin{matrix}\frac{I_{R}(H)}{U} ⊗_{R(H)} J & ⟶^{i⊗id} & \frac{I_{R}(G)}{M} ⊗_{R(H)} J \\ ↓^{↓^{h}} & & ↓^{↓^{g}} \\ \frac{I_{R}(H)J}{UJ} & ⟶^{j} & \frac{I_{R}(G)J}{MJ} \end{matrix}  (7.4)

où i, j sont induits par l’injection I_{R}(H) ⊂ I_{R}(G), et où h et g sont induits par la multiplication dans I_{R}(H) et respectivement I_{R}(G).

Dans une première application, on détermine tous les quotients de Fox dans le cas où H est libre, comme suit.

Proposition 7.3.2 Soit N une N-série de G et H un sous-groupe de G tel que H/H_{n} ≅ F/F_{n} pour un certain groupe libre F. Alors on a un isomorphisme (non-canonique)

I_{R}(G)I_{R}(H)/I_{R,N}^{n} (G)I_{R}(H) ≅ (I_{R}(G)/I_{R,N}^{n} (G)) ⊗_{Z Z} H^{ab}

d’où on déduit un isomorphisme canonique

I_{R,N}^{n−1}(G)I_{R}(H)/I_{R,N}^{n} (G)I_{R}(H) ≅ (I_{R,N}^{n−1}(G)/I_{R,N}^{n} (G)) ⊗_{Z Z} H^{ab} .

Une autre application immédiate du lemme 7.3.1 consiste en le calcul du deuxième quotient de Fox généralisé I_{R}(G)J/(I_{R}(K)J + I_{R}^{2}(G)J), pour R = ZZ/mZZ et un sous-groupe K de G. En prenant U = I_{R}(H ∩ KG_{2}) + I_{R}^{2}(H), M = I_{R}(K) + I_{R}^{2}(G) dans 7.3.1, on obtient le diagramme commutatif suivant, où ⊗ = ⊗_{Z Z} et ϕ désigne l’isomorphisme XKG_{2}/KG_{2} ≅ I_{Z Z}(X)/(I_{Z Z}(X ∩ KG_{2}) + I_{Z Z}^{2}(X)), X = H ou X = G, donné par xKG_{2} ↦ x − 1 + I_{Z Z}(X ∩ KG_{2}) + I_{Z Z}^{2}(X).

(\frac{HKG_{2}}{KG_{2}} ) ⊗ (\frac{J}{I_{R}(H)J} ) ⟶^{ι⊗id} (\frac{G}{KG_{2}} ) ⊗ (\frac{J}{I_{R}(H)J} ) ⟶^{π⊗id} (\frac{G}{HKG_{2}} ) ⊗ (\frac{J}{I_{R}(H)J} )
\begin{matrix}↓ & h(ϕ⊗id) \\ ↓ \end{matrix}  \begin{matrix}↓ & g(ϕ⊗id) \\ ↓ \end{matrix}  ∥

\frac{I_{R}(H)J}{I_{R}(H ∩ KG_{2})J + I_{R}^{2}(H)J} ⟶^{j}  \frac{I_{R}(G)J}{I_{R}(K)J + I_{R}^{2}(G)J}  ⟶^{q̃} (\frac{G}{HKG_{2}} ) ⊗ (\frac{J}{I_{R}(H)J} )

Ici ι et π sont l’injection et respectivement la surjection canonique, et q̃ est bien définie comme factorisation de π ⊗ id d’après 7.3.1.

Alors I_{R}(G)J/(I_{R}(K)J + I_{R}^{2}(G)J) est déterminé de façon fonctorielle, par le Théorème 7.3.3 ([H12]) Le lignes du diagramme précédent sont exactes ; et la suite en bas est induite par la suite en haut via l’application h(ϕ ⊗ id).

Par conséquent, la suite en bas peut être prolongée à gauche de manière exacte, par le morphisme

Tor_{1}^{Z Z}(G/HKG_{2}, J/I_{R}(H)J) ⟶^{h(ϕ⊗id)τ} I_{R}(H)J/(I_{R}(H ∩ KG_{2})J + I_{R}^{2}(H)J) ,

où τ est le morphisme de connexion qui prolonge à gauche la suite exacte en haut du diagramme. Plus explicitement, Ker(j) est engendré par les classes d’équivalence {(h − 1)x} où h ∈ H, x ∈ J tels qu’il y ait k ∈ ZZ satisfaisant h ∈ KG_{2}G^{k} et kx ∈ I_{R}(H)J.

Corollaire 7.3.4 Si la suite

1 → HKG_{2}/KG_{2} → G/KG_{2} → G/HKG_{2} → 1

de groupes abéliens est scindée, alors

\frac{I_{R}(G)J}{I_{R}(K)J + I_{R}^{2}(G)J} ≅ \frac{I_{R}(H)J}{I_{R}(H ∩ KG_{2})J + I_{R}^{2}(H)J} ⊕ (\frac{G}{HKG_{2}} ) ⊗ (\frac{J}{I(H)J} ) .

Ce dernier résultat s’applique en particulier si K est normal et HK/K est un facteur semi-direct de G/K (i.e., si soit G/K = (HK/K) × T ou G/K = T × (HK/K) pour un sous-groupe T). Ainsi on redécouvre les résultats correspondants de Khambadkone et Karan-Vermani dans [41], [42], [35], [36] pour R = ZZ et J = I_{Z Z}(H).

En prenant R = ZZ, K = N_{2} pour une N-série N de G, et J = I_{Z Z}(H), on déduit de 7.3.3 et (2.7) le

Théorème 7.3.5 ([H12]) Le deuxième quotient de Fox Q_{2,Z Z}^{N}(G, H) est déterminé par le carré cocartésien dans Ab suivant :

\begin{matrix}(H/H_{2})^{∧ 2} & ⟶^{l_{G,H}} & (G/N_{2}) ⊗ (H/H_{2}) \\ ↓^{↓^{c}} & & ↓^{↓^{μ}} \\ H_{2}/H_{3} & ⟶^{d} & I_{Z Z}(G)I_{Z Z}(H)/I_{Z Z,N}^{2} (G)I_{Z Z}(H) \end{matrix}  (7.5)

où pour a, b, h ∈ H, g ∈ G, et x ∈ H_{2}

l_{G,H}((aH_{2})∧(bH_{2})) = (aN_{2})⊗(bH_{2})−(bN_{2})⊗(aH_{2}), c((aH_{2})∧(bH_{2})) = aba^{−1}b^{−1}H_{3},

μ((gN_{2})⊗(hH_{2})) = (g−1)(h−1)+I_{Z Z,N}^{2} (G)I_{Z Z}(H), d(xH_{3}) = x−1+I_{Z Z,N}^{2} (G)I_{Z Z}(H).

Ce résultat étend la description (2.7) du quotient d’augmentation Q_{2}^{N} (G) = Q_{2,Z Z}^{N}(G, G), au quotient de Fox Q_{2}^{N} (G, H) pour H quelconque qui n’était connu que dans le cas où H est un facteur semi-direct de G, cf. les références suivant le corollaire 7.3.4.

On a aussi calculé le troisième quotient de Fox Q_{3,Z Z}^{γ}(G, H), de manière fonctorielle, en combinant 7.3.1 avec les méthodes de [H2], cf. [H9]. Ce résultat implique une généralisation de l’approximation des quotients Q_{n,R}(G) par l’algb̀re enveloppante de l’algèbre de Lie L^{N} (G), aux cas plus général des quotients de Fox.

On va maintenant déterminer les quotients de Fox classiques Q_{n,Z Z}^{γ}(G, H), dans le cas où H est un facteur semi-direct de G, et sous quelques conditions de torsion nulle. Ces résultats sont anoncés dans [H9] et démontrés dans [H15]

Soit alors G le produit semi-direct d’un sous-groupe normal N et d’un sousgroupe T. Rappelons d’abord qu’une N-série N de N est définie par N_{(i+1)} = [N_{(i)}, G] pour i ≥ 1. Posons N_{0} = N et T_{0} = T.

Théorème 7.3.6 Soit n > 1. Supposons qu’il existe un k, 0 ≤ k ≤ n − 2, tel que T_{s}/T_{s+1} n’ait pas de torsion pour 0 ≤ s ≤ k et que N_{(t)}/N_{(t+1)} n’ait pas de torsion pour 0 ≤ t ≤ n − k − 2. Alors il y a des isomorphismes naturels

Q_{n,Z Z}^{γ}(G, T) ≅ \frac{I^{n}(T)}{I^{n+1}(T)} ⊕ ⨁_{i=1}^{n−1} \frac{I_{N}^{i} (G)}{I_{N}^{i+1}(G)} ⊗ \frac{I^{n−i}(T)}{I^{n−i+1}(T)} ,

\frac{I^{n}(G)}{I^{n+1}(G)} ≅ \frac{I^{n}(T)}{I^{n+1}(T)} ⊕ \frac{I_{N}^{n} (G)}{I_{N}^{n+1}(G)} ⊕ ⨁_{i=1}^{n−1} \frac{I_{N}^{i} (G)}{I_{N}^{i+1}(G)} ⊗ \frac{I^{n−i}(T)}{I^{n−i+1}(T)} .

Pour n ≤ 4 ce résultat a été obtenu dans [43], [36], [37], [38], [39].

Afin d’obtenir une description directement en terme de quotients de filtrations de N et de T, rappelons les notions de la section 1.1.2.

Corollaire 7.3.7 Supposons que n = 2 ou que T_{s}/T_{s+1} et N_{(s)}/N_{(s+1)} n’ont pas de torsion pour 1 ≤ s ≤ n. Alors on a des isomorphismes canoniques

Q_{n,Z Z}^{γ}(G, T) ≅ ⨁_{i=0}^{n−1} U_{i}L^{N} (N) ⊗ U_{n−i}L^{γ}(T) ,

I^{n}(G)/I^{n+1}(G) ≅ ⨁_{i=0}^{n} U_{i}L^{N} (N) ⊗ U_{n−i}L^{γ}(T) .

Pour un groupe abélien X et m ≥ 1, SP^{m}(X) = X^{⊗m}/Σ_{m} désigne le produit symétrique ; par convention SP^{0}(X) = ZZ.

En utilisant le théorème de Poincaré-Birkhoff-Witt on déduit de 7.3.7 le Corollaire 7.3.8 Si les groupes abéliens T_{s}/T_{s+1} et N_{(s)}/N_{(s+1)} sont libres pour 1 ≤ s ≤ n, alors

Q_{n,Z Z}^{γ}(G, T) ≅ ⨁_{I_{1}} ⨂_{p=1}^{n−1} SP^{r_{p}}(N_{(p)}/N_{(p+1)}) ⊗ ⨂_{q=1}^{n} SP^{s_{q}}(T_{q}/T_{q+1}) ,

I^{n}(G)/I^{n+1}(G) ≅ ⨁_{I_{2}} ⨂_{p=1}^{n} SP^{r_{p}}(N_{(p)}/N_{(p+1)}) ⊗ ⨂_{q=1}^{n} SP^{s_{q}}(T_{q}/T_{q+1}) ,

où I_{1} = {(r_{1}, …, r_{n−1}, s_{1}, …, s_{n}) ∥ 0 ≤ r_{1}, …, r_{n−1} ≤ n − 1, 0 ≤ s_{1}, …, s_{n} ≤ n, ∑_{q=1}^{n} s_{q}q ≥ 1 et ∑_{p=1}^{n−1} r_{p}p + ∑_{q=1}^{n} s_{q}q = n }, et I_{2} = {(r_{1}, …, r_{n}, s_{1}, …, s_{n}) ∥ 0 ≤ r_{1}, …, r_{n}, s_{1}, …, s_{n} ≤ n et ∑_{p=1}^{n} r_{p}p + ∑_{q=1}^{n} s_{q}q = n }.

Ce résultat généralise un résultat de Sandling et Tahara sur les quotients I^{n}(G)/I^{n+1}(G) dans [66] (considérer le cas N = {1} dans 7.3.8).

Quant aux quotients Q_{n,Z Z}^{γ}(G, N), on a les résultats suivants.

Théorème 7.3.9 Supposons que Tor_{1}^{Z Z}(I^{i}(T)/I^{i+1}(T) , I(N)/I_{N}^{n−i−1}(G)I(N)) = 0 pour 1 ≤ i ≤ n − 2. Posons Λ_{0} = ZZ(N). Alors on a un isomorphisme naturel

Q_{n,Z Z}^{γ}(G, N) ≅ \frac{I_{N}^{n−1}(G)I(N)}{I_{N}^{n} (G)I(N)} ⊕ ⨁_{i=1}^{n−1} \frac{I^{i}(T)}{I^{i+1}(T)} ⊗ \frac{I_{N}^{n−i−1}(G)I(N)}{I_{N}^{n−i}(G)I(N)} .

Pour n ≤ 4 ce résultat a été obtenu dans [36], [37], [38], [39].

Corollaire 7.3.10 Si n = 2 ou si T_{s}/T_{s+1} n’a pas de torsion pour 1 ≤ s ≤ n, alors

Q_{n,Z Z}^{γ}(G, N) ≅ ⨁_{i=0}^{n−1} U_{i}L^{γ}(T) ⊗ \frac{I_{N}^{n−i−1}(G)I(N)}{I_{N}^{n−i}(G)I(N)} .

Pour le calcul des termes I_{N}^{m−1}(G)I(N)/I_{N}^{m}(G)I(N) dans ces derniers résultats, on utilise [H12, theorem 2.3] si N est libre. Ainsi on obtient le

Corollaire 7.3.11 Supposons que N est un groupe libre et que T_{s}/T_{s+1} et N_{(s)}/N_{(s+1)} n’ont pas de torsion pour 1 ≤ s ≤ n. Alors on a un isomorphisme canonique

Q_{n,Z Z}^{γ}(G, N) ≅ ⨁_{i=0}^{n−1} U_{i}L^{γ}(T) ⊗ U_{n−i−1}L^{N} (N) ⊗ N^{ab} .

7.4 Les deux premiers sous-groupes de Fox relatifs

Dans cette section, on exploite les résultats obtenus sur les quotients de l’idéal d’augmentation étudiés à la section précédente, afin d’étudier les sous-groupes induits correspondants. En particulier, on calcule les deux premiers sous-groupes de Fox relatifs F_{n,R}^{N}(G, H; K), n = 1, 2 (cf. (7.2)), en pleine généralité. Ce résultat généralise le calcul de F_{2,Z Z}^{γ}(G, H) pour tout groupe G de type fini obtenu par Curzio et K. Gupta, cf. [18]. Ensuite, on donne une construction homologique d’un sous-module M′ de I_{R}(H) tel que G ∩ (1_{R} + MI_{R}(H)) = H ∩ (1_{R} + M′); on a M′ = (M ∩ I_{R}(H))I_{R}(H) si H est libre, grâce au fait qu’ici la dimension cohomologique de H est égale à 1. A titre d’application, on détermine le sousgroupe G ∩ (1_{Z Z} + I_{Z Z}(R)I_{Z Z}(G)I_{Z Z}(S)), où R, S sont des sous-groupes normaux d’un groupe G quelconque, et S est libre ; ceci généralise un résultat de K. Gupta [28] dans le cas où G est libre.

A l’aide de 7.3.5, il est facile de calculer le deuxième sous-groupe de Fox relatif

F_{2,Z Z}^{N}(G, H; K) = F Ñ ; 2,Z Z(G, H; {1}), Ñ = (G ⊃ KN_{2} = KN_{2} = …), puisque

G ∩ (1_{Z Z} + I_{Z Z}(G)I_{Z Z}(H)) = H_{2} et

(H_{2} ∩ (1_{Z Z} + I_{Z Z,N}^{2} (G)I_{Z Z}(H))) /H_{3} = Ker(d) = c Ker(l_{G,H}) .

Avant de décrire le résultat obtenu, on remarque que l’on peut généraliser cette stratégie afin de calculer le groupe induit G ∩ (1_{R} + MJ), pour un R(H)-sous-module à droite M de R(G) quelconque, comme suit : on sait que ce groupe est contenu dans H ∩ (1_{R} + I_{R}(H)J), d’où

G ∩ (1_{R} + MJ) = Ker (jD: H ∩ (1_{R} + I_{R}(H)J) → I_{R}(H)J/MJ)
= H ∩ (1_{R} + hKer(i ⊗ id) + UJ)

pour D(h) = {h − 1}, d’après 7.3.1. La réduction ainsi obtenue consiste en le fait que le terme hKer(i ⊗ id) +UJ est contenu dans I_{R}(H). Dans un premier temps, on tentera de l’expliciter, en analysant Ker(i ⊗ id) ; dans un deuxième temps, on cherchera à calculer le terme H − 1_{R} ∩ (hKer(i ⊗ id) + UJ). Cette méthode nous permet dans [H11] de calculer les deux premiers sous-groupes de Fox relatifs F_{n,R}^{N}(G, K; H), n = 1, 2, pour un anneau de coefficients R quelconque, comme suit.

Proposition 7.4.1 Soit n_{R} la caractéristique de R. Alors F_{1,R}^{N}(G, K; H) est donné par les identités suivantes, où on utilise la notation de 7.1.1.

(1) Si n_{R} = 0 alors

G ∩ (1_{R} + I_{R}(G)I_{R}(H)) = H_{2} ∏_{p∈σ(R)} p^{e}t_{p}(H mod H_{2}) .

(2) Si n_{R} > 0 alors

G ∩ (1_{R} + I_{R}(G)I_{R}(H)) = H_{2}H^{n_{R}} .

Afin de calculer F_{2,R}^{N}(G, K; H), on note d’abord que l’on peut supposer que N = γ car F_{2,R}^{N}(G, K; H) = F_{2,R}^{γ}(G, KN_{2}; H). Ensuite, on utilise la décomposition à coefficients universels obtenue dans 7.1.3, pour ramener le problème au cas où R = ZZ/mZZ, m ≥ 0. Enfin, le calcul est completé par le résultat suivant.

Théorème 7.4.2 Soit G un groupe et H, K des sous-groupes de G. Soit m ≥ 0 et R = ZZ/mZZ. Alors

(i) G ∩ (1_{R} + I_{R}(K)I_{R}(H) + I_{R}^{2}(G)I_{R}(H)) = S_{m} ,

S_{m} =^{def} sgp{ ∏_{h,k∈H}[h, k]^{a_{hk}}g^{m} ∥ g = ∏_{l∈H} l^{b_{l}} , a_{hk}, b_{l} ∈ ZZ, et ∀k ∈ H:

∃d_{k} ≥ 0 : k^{d_{k}} ∈ H_{2}H^{m} et ∏_{h∈H} h^{a_{hk}−a_{kh}+\binom{m}{2}b_{h}b_{k}} ∈ KG_{2}G^{d_{k}}\} .

(ii) Si H/H_{2} est de type fini, on a l’amélioration suivante de (i). On choisit une décomposition H/H_{2}H^{m} ≅ ⨁_{k=1}^{r} ZZ/d_{k}ZZ · (h_{k}H_{2}H^{m}), h_{k} ∈ H. Alors

G ∩ (1_{R} + I_{R}(K)I_{R}(H) + I_{R}^{2}(G)I_{R}(H)) = S_{m}^{fg}H_{3}H^{m^{2}} ,

S_{m}^{fg} =^{def} sgp{ ∏_{1≤i<j≤r}[h_{i}, h_{j}]^{a_{ij}}(∏_{l=1}^{r} h_{l}^{b_{l}})^{m} ∥ a_{ij}, b_{l} ∈ ZZ, ∀ 1 ≤ k ≤ r:

h_{k}^{\binom{m}{2}b_{k}^{2}} ∏_{i<k} h_{i}^{a_{ik}+\binom{m}{2}b_{i}b_{k}} ∏_{j>k} h_{j}^{−a_{kj}+\binom{m}{2}b_{j}b_{k}} ∈ KG_{2}G^{d_{k}}\} .

Remarque 7.4.3 S_{m} et S_{m}^{fg}H_{3}H^{m^{2}} contiennent le sous-groupe canonique

H_{3}V_{H}^{(m)} sgp{ [h, k^{q}] ∥ h, k ∈ H, q ∈ ZZ, h^{q}, k^{q} ∈ KG_{2}G^{m}} ,

où V_{H}^{(m)} = H^{m} si m est impair, et V_{H}^{(m)} = H^{2m}W^{m}, W = {h ∈ H ∥ h^{m/2} ∈ KG_{2}G^{m}} si m est pair. En particulier, S_{m} ⊃ H_{3}(H_{2})^{m}, donc l’ordre des facteurs dans les produits ∏_{h,k∈H}[h, k]^{a_{hk}} et ∏_{l∈H} l^{b_{l}} peut être choisi arbitrairement.

On remarque encore que dans le cas où R = ZZ et K = {1}, la description de F_{2}(G, H) fournit par le théorème 7.4.2 diffère de celle donnée dans [18].

Considérons maintenant le cas général d’un sous-groupe du type G ∩ (1_{R} + MI_{R}(H)), où M est un R(H)-sous-module à droite de R(G) quelconque. Une analyse homologique du terme Ker(i ⊗ id) nous conduit au résultat suivant.

Théorème 7.4.4 ([H12]) Soit M un R(H)-sous-module à droite de I_{R}(G). Alors il existe une suite exacte longue naturelle

\frac{I_{R}^{2}(H)}{(I_{R}(H) ∩ M)I_{R}(H)} ⟶^{j} \frac{I_{R}(G)I_{R}(H)}{MI_{R}(H)} ⟶^{q} (\frac{I_{R}(G)}{I_{R}(H) + M} ) ⊗_{Z Z(H)} I_{Z Z}(H) ⟶ 0
↑^{β_{1}}
H_{2}(H, \frac{I_{R}(G)}{I_{R}(H) + M}) ⟵^{β_{2}} H_{1}(H, M) ⟵^{i_{∗}}  H_{1}(H, I_{R}(H) ∩ M)  ⟵ …

où j est induite par l’inclusion H ↪ G et q envoie la classe d’équivalence {(g − 1)(h−1)}, g ∈ G, h ∈ H, sur {g −1}⊗(h−1). En “…” la suite se prolonge par la suite exacte longue associée à l’extension I_{R}(H)∩M ⟶^{>}^{i} M → → M/I_{R}(H)∩M.

Corollaire 7.4.5 Si H est un sous-groupe libre d’un groupe G quelconque, alors

G ∩ (1_{R} + MI_{R}(H)) = H ∩ (1_{R} + (I_{R}(H) ∩ M))I_{R}(H)) .

Ce cas est intéressant parce que, par exemple, les groupes de matrices contiennent beaucoup de sous-groupes libres. Pour le calcul du terme I_{R}(H) ∩ M, dans le cas d’un sous-groupe de Fox G ∩ (1_{R} + I_{R,N}^{n} (G)I_{R}(H)), on utilise les méthodes de [H3, section 1]. De là et de 7.4.5 on déduit le résultat suivant.

Soit N = (N_{i})_{i≥1} une N-série de G. Considérons la N-série H = {H_{(i)}}_{i} de H qui est définie par H_{(i)} = H ∩ N_{i}.

Théorème 7.4.6 Supposons que R est de caractéristique 0, que les quotients N_{i}/N_{i+1} n’ont pas de torsion pour 1 ≤ i ≤ n, et que H est un sous-groupe libre de G. Alors

G ∩ (1_{R} + I_{R,N}^{n} (G)I_{R}(H)) = H ∩ (1_{R} + I_{R,H}^{n}(H)I_{R}(H)) .

Ainsi on est amené au problème général d’etudier la filtration d’un groupe H induite par la filtration (I_{R,H}^{n}(H)I_{R}(H))_{n≥1}, pour une N-série H de H. Son premier terme est H_{2}, le deuxième est donné par 7.2.3 car H ∩(1_{R}+I_{R,H}^{2}(H)I_{R}(H)) = D_{3,R}^{γ}(H, H_{(2)}). Pour n > 2, comme point de départ, on pourra comparer 7.4.6 au calcul des sous-groupes de Fox d’un groupe libre, cf. [29, Chapter III]) ; voir [H9] pour plus de détails.

Le corollaire 7.4.5 fournit aussi une nouvelle approche à la généralisation suivante des sous-groupes de Fox. Soient N_{1}, …, N_{m} des sous-groupes distingués d’un groupe G ; on veut alors déterminer le sous-groupe

G ∩ (1_{Z Z} + ZZ(G)I_{Z Z}(N_{1}) ⋯ I_{Z Z}(N_{m})) .

(Pour un aperçu de ce thème voir les chapitres V et VI de [29]). De fait, si N_{m} est libre, on utilise 7.4.5 pour obtenir la reduction

G ∩ (1 + ZZ(G)I_{Z Z}(N_{1}) ⋯ I_{Z Z}(N_{m})) =
N_{m} ∩ (1 + (I_{Z Z}(N_{m}) ∩ ZZ(G)I_{Z Z}(N_{1}) ⋯ I_{Z Z}(N_{m−1}))I_{Z Z}(N_{m})) .

Dans le cas m = 3 nous en déduisons le résultat suivant.

Théorème 7.4.7 Soient R, S des sous-groupes distingués d’un groupe G, où S est libre. Alors

G ∩ (1_{Z Z} + I_{Z Z}(R)I_{Z Z}(G)I_{Z Z}(S)) = [R ∩ S, R′ ∩ S′][R ∩ S′, R ∩ S′][R′ ∩ S, R′ ∩ S]U ,

où U = sgp{[a^{k}, b][b′, a][b, a′] || a, b ∈ R ∩ S , k > 0 , a′, b′ ∈ R′ ∩ S et a^{k} ≡ a′, b^{k} ≡ b′ mod R ∩ S′}.

Dans le cas où G est lui-même libre, une telle formule a été obtenue dans [28] où le terme U n’apparaît pas ; il est donc contenu dans le produit des trois premiers termes dans ce cas-ci. Il serait alors intéressant de trouver un exemple où cette dernière propriété n’est pas satisfaite.

Bibliographie

[1] Bachmann, F. und Gruenenfelder, L., Über Lie-Ringe von Gruppen und ihre universellen Enveloppen, Comment. Math. Helv. 47 (1972), 332-340.

[2] Bachmann, F. und Gruenenfelder, L., Homological methods and the third dimension subgroup, Comment. Math. Helv. 47 (1972), 526-531.

[3] Baues, H.J., Algebraic Homotopy, Cambridge Studies in Advanced Mathematics 15, Cambridge University Press (1988).

[4] Baues, H.J., Combinatorial homotopy and 4-dimensional complexes, De Gruyter Expositions in Math. (1991).

[5] Baues, H.J. und Dreckmann, W., The cohomology of homotopy categories and the general linear group, K-Theory (1989) , 307-338.

[6] Bayes, A.J., Kautsky, J., et Wamsley, J.W., Computation in nilpotent groups (application), Proc. 2nd Internat. Conf. Theory of Groups, Lecture Notes in Math. Vol. 372 (1973), Springer-Verlag, Berlin, Heidelberg, New York, p. 82-89.

[7] Benoist, Y., Une nilvariété non affine, C. R. Acad. Sci. Paris Sér. I Math. 315 (1992), 983-986.

[8] Berkovich, Y.G., On the order of the commutator subgroups and the Schur multiplier of a finite p-group, J. Algebra 144 (1991), 269-272.

[9] Beyl, F.R., et Tappe, J., Group extensions, representations and the Schur multiplicator, Lecture Notes in Math. Vol. 958 (1982), Springer-Verlag, Berlin, Heidelberg, New York.

[10] Blackburn, N., et Evens, L., Schur multipliers of p-groups, J. Reine Angew. Math., 309 (1979), 100-113.

[11] Breen, Lawrence, On the functorial homology of abelian groups, Prépublications Mathématiques de l’Université Paris-Nord 97-20, 1997.

[12] Brown, R., Computing homotopy types using crossed n-cubes of groups, Proc. of the John Frank Adams Memorial Symposium, Manchester, July 1990, vol. I, Cambridge University Press, 1992.

[13] Brown, R., Johnson, D. L., et Robertson, E. F., Some computations of nonabelian tensor products of groups, J. Algebra 111 (1987), 177-202.

[14] Brown, R., et Loday, J.-L., Excision d’homotopie en basse dimension, C.R. Acad. Sci. Paris Sér. I Math. 298, No. 15 (1984), 353-356.

[15] Brown, R., et Loday, J.-L., Van Kampen theorems for diagrams of spaces, Topology 26 (1987), 311-335.

[16] Cenkl, B., et Porter, R., Polynomial cochains on nilmanifolds, prépublication.

[17] Cenkl, B., et Porter, R., Algorithm for the computation of the cohomology of T -groupes , dans : Algebraic topology (San Feliú de Guixols, 1990), Lecture Notes in Math. Vol. 1509 (1992), Springer-Verlag, Berlin, Heidelberg, New York, p. 79-94.

[18] Curzio, M., et Gupta, C.K., Second Fox subgroups of arbitrary groups, Canad. Math. Bull. Vol. XX (Z) (1952), 1-5.

[19] Dekimpe, K., Almost-Bieberbach groups: Cohomology, construction and classification, Dissertation Katholieke Universiteit Leuven (1993).

[20] Ellis, G. J., Nonabelian exterior products of groups and exact sequences in the homology of groups, Glasgow Math. J. 29 (1987), 13-19.

[21] Fried, D., Goldman, W., et Hirsh, M., Affine manifolds with nilpotent holonomy, Comment. Math. Helv. 56 (1981), 487–523.

[22] Gaschütz, W., Neubüser, J., et Yen, T., Über den Multiplikator von p-Gruppen, Math. Zeitschrift 100 (1967), 93-96.

[23] Gaudier, H. et Massy, R., Une linéarisation de la notion de 2-cocycle, Pub. IRMA Lille, Vol. 37, No. 11 (1995).

[24] Green, J.A., On the number of automorphisms of a finite group, Proc. Roy.Soc. A237 (1956), 574-581.

[25] Gruenberg, K.W., Cohomological topics in group theory, Lecture Notes in Math. Vol. 143 (1970), Springer-Verlag, Berlin, Heidelberg, New York.

[26] Grunewald, F.J. und Segal, D., Reflections on the classification of torsionfree nilpotent groups, in: Group Theory, Academic Press (1984) , 121-158.

[27] Gundlach, M., Über die Kohomologie nilpotenter Lie-Algebren und nilpotenter Gitter, Thèse doctorale, Heinrich-Heine-Universität Düsseldorf (1990).

[28] Gupta, C. K., Subgroups of free groups induced by certain products of augmentation ideals, Comm. in Algebra 6 (1978), 1231-1238.

[29] Gupta, N., Free group rings, Contemporary Mathematics, Vol. 66, American Mathematical Society, 1987.

[H1] Hartl, M., Abelsche Modelle nilpotenter Gruppen, Thèse Doctorale, Rheinische Friedrich-Wilhelms-Universität Bonn (1991).

[H2] Hartl, M., Some successive quotients of group ring filtrations induced by N-series, Comm. in Algebra 23 (10) (1995), 3831-3853.

[H3] Hartl, M., Polynomiality properties of group extensions with a torsion-free abelian kernel, J. of Algebra 179 (1996), 380-415.

[H4] Hartl, M., The nonabelian tensor square and Schur multiplicator of nilpotent groups of class 2, J. of Algebra 179 (1996), 416-440.

[H5] Hartl, M., Affine structures on 4–step nilpotent Lie algebras (en collaboration avec K. Dekimpe), J. Pure Appl. Algebra 120 (1997), 19-37.

[H6] Hartl, M., Quadratic categories and square rings (en collaboration avec H.J. Baues et T. Pirashvili), J. Pure Appl. Algebra 122 (1997), 1-40.

[H7] Hartl, M., On Moore spaces and the cohomology of the category of abelian groups, (en collaboration avec H.-J. Baues), Fundamenta Mathematicae, 150, (1996), 265-289.

[H8] Hartl, M., A universal coefficient decomposition for subgroups induced by submodules of group algebras, Canadian Math. Bull. Vol. 40 (1), (1997), 47-53.

[H9] Hartl, M., Une approche homologique aux quotients et sous-groupes de Fox, C. R. Acad. Sci. Paris, à paraître.

[H10] Hartl, M., On automorphism groups of torsion-free nilpotent groups, prépublication.

[H11] Hartl, M., The third relative Fox dimension subgroup, prépublication.

[H12] Hartl, M., On Fox quotients and subgroups of arbitrary groups, prépublication.

[H13] Hartl, M., On the fourth integer dimension subgroup II, prépublication.

[H14] Hartl, M., The cohomology group H^{2} of the category of finitely generated abelian groups, prépublication.

[H15] Hartl, M., On Fox and dimension quotients of semidirect products, en préparation.

[H16] Hartl, M., On relative dimension subgroups, en préparation.

[H17] Hartl, M., An obstruction theory for affine structures on nilpotent groups, résumé des résultats obtenus jusqu’à lors.

[30] Huppert, B., Endliche Gruppen I, Springer Verlag Berlin 1967.

[31] Igodt, P., Torsion-free 2-nilpotent groups and polynomial 2-cocycles, Indag. Math. 46 (1984), 415-420.

[32] Johnson, D.L., A property of finite p-groups with trivial multiplicator, Amer.J. Math. 98 (1976), 105-108.

[33] Jones, M.R., Some inequalities for the multiplicator of a finite group , Proc. Amer. Math.Soc. 39 (1973), 450-456.

[34] Karan, R., et Vermani, L. R., A note on polynomial maps, J. Pure Appl. Algebra 51 (1988), 169-173.

[35] Karan, R., et Vermani, L. R., Augmentation quotients of integral group rings, Jr. Indian Math. Soc. 54 (1989), 107-120.

[36] Karan, R., et Vermani, L. R., Augmentation quotients of integral group rings–II, J. Pure Appl. Algebra 65 (1990), 253-262.

[37] Karan, R., et Vermani, L. R., Corrigendum, J. Pure Appl. Algebra 77 (1992), 229-230.

[38] Karan, R., et Vermani, L. R., Augmentation quotients of integral group rings–III, Jr. Indian Math. Soc. 58 (1992), 19-32.

[39] Karan, R., et Vermani, L. R., Corrigendum, Jr. Indian Math. Soc. 59 (1993), 261-262.

[40] Karpilovsky, G., The Schur multiplier, London Math. Soc. Monographs, New Series 2 (1987), Oxford Science Publications.

[41] Khambadkone, M., On the structure of augmentation ideals in group rings, J. Pure Appl. Algebra 35 (1985), 35-45.

[42] Khambadkone, M., Augmentation quotients of semidirect products, Arch. Math. 45 (1985), 407-420.

[43] Khambadkone, M., Subgroup ideals in group rings III, Communications in Algebra 14 (3) (1986), 411-421.

[44] Kim, H., Complete left–invariant affine structures on nilpotent Lie groups, J. Differential Geom. 24 (1986), 373–394.

[45] Kuz’min, Yu. V., Group extensions and the functor Ext in the variety N_{c}, Matematicheski Zametki, Vol. 34, No. 6 (1983), 811-820 (Transl. in Math. Notes, (1983), 900-905).

[46] Lambe, L. A., et Stasheff, J., APplication of perturbation theory to iterated fibrations, Manuscr. Math. 58 (1987), 363-376.

[47] Lazard, M., Sur les groupes nilpotents et les anneaux de Lie, Ann. Ecole Norm. Sup. 71 (1954), 101-190.

[48] Leedham-Green, C., Homology in varieties of groups I, Trans. Am. Math. Soc. 162 (1971), 1-14.

[49] Losey, G., On the structure of Q_{2}(G) for finitely generated groups, Canad. J. Math. 25 (1973), 353-359.

[50] Lubotzky, A. et Mann, A., Powerful p-groups. I. Finite Groups, J. Algebra 105 (1987), 484-505.

[51] Lue, A. S.-T., The Ganea map for nilpotent groups, J. London Math. Soc. 14 (1976), 309-312.

[52] Massy, R., Construction de p-extensions Galoisiennes d’un corps de caractéristique différente de p, J. Algebra 109, no. 2 (1987), 508-535.

[53] Mac Lane, S., Homology, Springer Grundlehren 114 (1963), Springer-Verlag Berlin-Göttingen-Heidelberg.

[54] Miller, C., The second homology of a group, Proc. Amer. Math. Soc. 3 (1952), 588-595.

[55] Passi, I.B.S., Polynomial maps on groups, J. Algebra 9 (1968), 121-151.

[56] Passi, I.B.S., Dimension subgroups, J. Algebra 9 (1968), 152-182.

[57] Passi, I.B.S., Polynomial functors, Proc. Cambridge Philos. Soc. 66 (1969), 505-512.

[58] Passi, I.B.S., Polynomial maps on groups-II, Math. Z. 135 (1974), 137-141.

[59] Passi, I.B.S., Group Rings and Their Augmentation Ideals, Lecture Notes in Math. Vol. 715 (1979), Springer-Verlag, Berlin, Heidelberg, New York.

[60] Parmenter, M.M., Passi, I.B.S., et Sehgal, S.K., Polynomial ideals in group rings, Canad. J. Math. 25 (1973), 1174-1182.

[61] Passi, I.B.S., Sucheta, et Tahara, K., Dimension subgroups and Schur multiplicator-III, Japan. J. Math. 13 No. 2 (1987), 371-381.

[62] Quillen, D., On the associated graded of a group ring, J. Algebra 10 (1968), 411-418.

[63] Quillen, D., Rational homotopy theory, Ann. of Math. 90 (1969), 205-295.

[64] Reiner, I., et Roggenkamp, K.W., Integral representations, Lecture Notes in Math. Vol. 744 (1979), Springer-Verlag Berlin Heidelberg-New-York.

[65] Sandling, R., Dimension subgroups over arbitrary coefficient rings, J. Algebra 21 (1972), 250-265.

[66] Sandling, R., et Tahara, K.-I., Augmentation quotients of group rings and symmetric powers, Math. Proc. Camb. Phil. Soc. 85 (1979), 247-252.

[67] Sharma, S., A bound for the degree of H^{2}(G, ZZ_{p}), Canad. J. Math. 26 (1974), 1010-1015.

[68] Sjœgren, J.A., Dimension and lower central subgroups, J. Pure Appl. Algebra 14 (1979), 175-194.

[69] Tahara, K., The fourth dimension subgroups and polynomial maps, J. Algebra 45 (1977) , 102-131.

[70] Tahara, K., On the structure of Q_{3}(G) and the fourth dimension subgroups, Japan J. Math. 3 (1977) , 381-394.

[71] Tahara, K., The fourth dimension subgroups and polynomial maps-II, Nagoya Math. J. 69 (1978) , 1-7.

[72] Tahara, K.I., Augmentation quotients and dimension subgroups of semidirect products, Math. Proc. Camb. Phil. Soc. 91 (1982), 39-49.

[73] Vermani, L.R., On polynomial groups, Proc. Cambridge Philos. Soc. 68 (1970), 285-289.

[74] Vermani, L.R., An exact sequence and a theorem of Gaschütz, Neubüser and Yen on the multiplicator, J. London Math. Soc. 1 (1969), 95-100.

[75] Vermani, L.R., Polynomial 2-cocycles, in Proc. Groups St. Andrews 1989, London Math. Soc. Lecture Notes No. 160 (1991), 485-494.

[76] Warfield, Jr., R.B., Nilpotent Groups, Lecture Notes in Math. Vol. 513 (1976), Springer-Verlag, Berlin, Heidelberg, New York.

[77] Zhou, X., On the order of Schur multipliers of finite p-groups, Comm. in Algebra 22 no. 1 (1994), 1-8.