REPRÉSENTATIONS ORTHOGONALES ET SYMPLECTIQUES SUR UN CORPS DE CARACTÉRISTIQUE DIFFÉRENTE DE 2

BRUNO KAHN

Table des matières

Introduction 1

Partie I. Généralités sur les représentations orthogonales et symplectiques 4

1. Représentations orthogonales 4 2. Représentations symplectiques 7 3. Restriction, induction, extension et restriction des scalaires 9 4. Représenations linéaires irréductibles isomorphes à leur

duale 10

5. Représentations orthogonales et symplectiques irréductibles 16

Partie II. Théorèmes d’induction 19 6. Quatre types de corps F 19 7. Réduction aux p-groupes de rang normal 1 22 8. Représentations irréductibles des p-groupes de rang normal

1 24

9. Représentations linéaires primitives des p-groupes de rang normal 1 35

10. Représentations orthogonales et symplectiques primitives 41 Appendice A. Représentations métaboliques et représentations

hyperboliques 44

Références 55

Introduction

Un théorème classique attribué à Blichfeldt énonce que toute représentation complexe irréductible d’un p-groupe est induite d’une représentation de dimension 1 d’un sous-groupe convenable (cf. [12, ch.

Date: 26 juin 2000.

8, th. 16]) : ce résultat est précieux pour l’étude de problèmes de nature cohomologique. Si l’on définit une représentation primitive comme une représentation irréductible qui n’est induite d’aucun sous-groupe propre de G, le théorème de Blichfeldt énonce que toute représentation complexe primitive d’un p-groupe est de degré 1. Ce résultat a connu diverses généralisations :

• Un théorème de Serre [13, prop. 3] : toute représentation réelle primitive d’un 2-groupe est de degré 1 ou 2. Ce résultat peut se reformuler ainsi : toute représentation orthogonale complexe primitive d’un 2-groupe est de degré 1 ou 2.

• Un théorème de Roquette [11, ?] : sur un corps de base quelconque, toute représentation irréductible d’un p-groupe est induite d’une représentation d’un sous-groupe de “rang normal 1” ayant même corps d’endomorphismes.

• Des théorèmes de Tornehave [16], Mitchell [10] et Dwyer-Fried-lander-Mitchell [6] étudiant les représentations primitives sur divers corps de base : ℚ [16, 10], un corps (de caractéristique différente de p) contenant les racines 2p-ièmes de l’unité [6]. Dans le premier cas, toute représentation linéaire primitive est donnée par un caractère d’ordre p [10, th. (1.2)] ; dans le deuxième, toute représentation linéaire primitive est encore donnée par un caractère [6, prop. 3.2].

Un résultat lié aux précédents est celui de O. Schilling [14] : le corps des endomorphismes K d’une représentation irréductible d’un p-groupe est une extension p-cyclotomique du corps de base F, sauf peut-être si p = 2 et −1 ∉ F^{∗2}. Dans ce dernier cas, K est soit 2-cyclotomique, soit le sous-corps “totalement réel” L^{+} d’une extension 2-cyclotomique, soit un corps de quaternions de centre L^{+}.

Dans cet article, nous nous proposons de traiter les cas restants, tout particulièrement pour p = 2 lorsque −1 ∉ F^{∗2}. Nous obtenons une amélioration du résultat de Schilling : le corps de quaternions mentionné ci-dessus est toujours de symbole (−1, −1). En particulier, pour que le corps des endomorphismes soit toujours commutatif, il suffit que −1 soit somme de deux carrés dans F (corollaire 8.8). Nous obtenons également une classification complète, quoique fort technique, des représentations linéaires irréductibles des 2-groupes non abéliens de rang normal 1 sur un corps quelconque de caractéristique ≠ 2 (propositions 8.1, 8.2, 8.3) ainsi que des représentations linéaires primitives (propositions 9.1 et 9.2). Ces représentations sont de degré borné par un entier n(F) qui est égal à 2, à moins que −1 ne soit pas somme de deux carrés dans F (corollaire 9.5). Dans ce cas, n(F) n’est pas borné quand F varie (exemple 9.6 2), mais on a n(F) ≤ 4 lorsque F est un corps de nombres. Le cas de degré 4 peut se produire par exemple avec F = ℚ(\sqrt{−7}) (exemple 9.6 1).

Nous étudions également les représentations orthogonales et symplectiques et leurs propriétés d’induction. Cette problématique a été abordée par Dress [5], qui a introduit l’anneau de Witt équivariant des représentations orthogonales d’un groupe fini G sur un corps F et a généralisé à ce contexte des théorèmes d’induction du type de ceux d’Artin et Brauer. Notre point de vue est différent. Au lieu de travailler à équivalence de Witt près, nous considérons les représentations orthogonales (et symplectiques) proprement dites. Nous étudions brièvement leur structure et démontrons des théorèmes d’induction pour les représentations orthogonales et symplectiques irréductibles des 2-groupes, dans l’esprit de Blichfeldt, comme indiqué ci-dessus pour les représentations linéaires^{1}. Notre description est proche, mais légèrement différente de celle de Fröhlich-McEvett [7].

Le théorème de Roquette reste vrai : toute telle représentation est induite à partir d’un sous-groupe de rang normal 1. Par contre, le degré des représentations orthogonales ou symplectiques primitives est en général non borné pour des raisons triviales (scalaires non définis sur le corps de base), cf. exemples 10.1. Il n’existe donc pas de théorème d’induction strictement parallèle aux propositions 9.1 et 9.2. Nous donnons toutefois des versions affaiblies d’un tel théorème d’induction, qui peuvent suffire pour certaines applications (théorème 10.2 et 10.3).

Les énoncés obtenus pour la classification des représentations irréductibles et primitives sont d’une assez grande complication (certains mathématiciens en tireraient un contre-exemple à l’argument téléologique…). Lorsque le corps F n’est pas “exceptionnel”, on se trouve dans une situation plus compréhensible : les représentations primitives sont obtenue à partir de cas “versels” (théorèmes 9.8 et 10.4).

Finalement, dans l’appendice, nous démontrons que les représentations orthogonales (resp. symplectiques) métaboliques de lagrangien W fixé sont classifiées par H^{1}(G, Λ^{2}(W)) (resp. par H^{1}(G, S^{2}(W))).

Dans tout le texte, F est un corps commutatif de caractéristique différente de 2.

1On peut se convaincre que la plupart des résultats d’induction de Dress restent valables dans les groupes de représentations orthogonales et symplectiques.

Partie I. Généralités sur les représentations orthogonales et symplectiques

1. Représentations orthogonales

1.1. Définition. Une représentation orthogonale d’un groupe G sur F est un triplet (V, q, ρ), où V est un F -espace vectoriel de dimension finie, q est une forme quadratique non dégénérée sur V et ρ est un homomorphisme de G dans le groupe orthogonal O(q). On abrège souvent (V, q, ρ) en ρ.

Deux représentations orthogonales ρ, ρ′ ont une somme directe orthogonale ρ ⊥ ρ′ (définition évidente). D’autre part, soit θ la représentation linéaire sous-jacente à ρ, et soit χ une sous-représentation de θ, d’espace vectoriel sous-jacent W. On dit que χ est non dégénérée si q_{|W} est non dégénérée, totalement isotrope si q_{|W} = 0. Dans le premier cas, χ définit une sous-représentation orthogonale de ρ, et ρ ≃ χ ⊥ χ^{⊥}, où χ^{⊥} est la représentation orthogonale d’espace sous-jacent W^{⊥}. Dans le deuxième cas, on a W ⊂ W^{⊥}; le quotient W^{⊥}/W définit une nouvelle représentation orthogonale de G, notée abusivement χ^{⊥}/χ. De plus, la représentation linéaire quotient V/W^{⊥} est en dualité parfaite avec W ; elle est donc isomorphe à la représentation duale χ^{∗}. 1.2. Définition. Soient ρ, τ deux représentations orthogonales d’un même groupe G.

a) On dit que τ est facteur direct orthogonal de ρ s’il existe ψ telle que ρ ≃ τ ⊥ ψ.

b) On dit que τ intervient dans ρ s’il existe une sous-représentation linéaire χ ⊂ ρ, totalement isotrope, telle que τ ≃ χ^{⊥}/χ.

c) On dit que ρ est métabolique s’il existe une sous-représentation linéaire χ ⊂ ρ telle que χ = χ^{⊥}; χ s’appelle alors un lagrangien de ρ.

d) On dit que ρ est hyperbolique si ρ est de la forme χ ⊕ χ^{∗} où χ est une représentation linéaire de G et, si W est l’espace vectoriel sousjacent à χ, la forme quadratique sur V = W ⊕ W^{∗} est donnée par q(w, w^{∗}) = w^{∗}(w). Cette représentation est notée ℍ(χ).

e) On dit que ρ est indécomposable (resp. irréductible ) si les seules représentations facteurs directs orthogonaux de ρ (resp. intervenant dans ρ) sont 0 et ρ.

Si (V, q, ρ), (V′, q′, ρ′) sont deux représentations orthogonales, leur produit tensoriel a pour espace sous-jacent V ⊗ V′, pour forme quadratique sous-jacente q ⊗ q′ et pour représentation linéaire sous-jacente ρ ⊗ ρ′ : il est clair que cette dernière respecte q ⊗ q′, ce qui définit la structure orthogonale. On abrège en général la notation en ρ ⊗ ρ′.

1.3. Définition. Le groupe des représentations orthogonales de G sur F est le groupe RO_{F} (G) défini par générateurs et relations de la manière suivante :

• Générateurs : les classes d’isomorphisme [ρ] des représentations orthogonales ρ de G sur F.

• Relations :

– Si ρ, ρ′ sont deux représentations orthogonales, [ρ ⊥ ρ′] = [ρ] + [ρ′].

– Soient ρ une représentation orthogonale et χ une sous-re-présentation linéaire totalement isotrope. Alors

[ρ] = [χ^{⊥}/χ] + [ℍ(χ)].

Le groupe RO_{F} (G) devient un anneau commutatif unitaire lorsqu’on le munit du produit défini par

[ρ] · [ρ′] = [ρ ⊗ ρ′].

Pour G = {1}, RO_{F} (G) n’est autre que l’anneau de Witt-Grothen-dieck Ŵ (F) de F. En particulier, RO_{F} (G) est une Ŵ (F)-algèbre augmentée.

On a des foncteurs entre les catégories des représentations linéaires et orthogonales de G :

• Le foncteur oubli, qui à une représentation orthogonale associe la représentation linéaire sous-jacente. Nous le noterons 𝕃.

• Le foncteur hyperbolique ℍ. Le foncteur 𝕃 respecte le produit tensoriel et induit un homomor-

phisme d’anneaux 𝕃 : RO_{F} (G) → R_{F} (G), où R_{F} (G) est l’anneau des F -représentations linéaires de G. Le foncteur ℍ ne respecte pas le produit, mais on a un isomorphisme

ℍ(χ ⊗ 𝕃(ρ)) ≃ ℍ(χ) ⊗ ρ

pour ρ orthogonale et χ linéaire ; l’application induite ℍ : R_{F} (G) → RO_{F} (G) est donc RO_{F} (G)-linéaire. En particulier, on a dans RO_{F} (G) l’identité

ℍ ∘ 𝕃(x) = ℍ(1) · x =< 1, −1 > ·x

où < 1, −1 > est la forme quadratique hyperbolique x^{2} − y^{2}. En particulier, si −1 est un carré dans F, Ker 𝕃 est tué par 2. De même, si −1 est une somme de 4 carrés dans F, Ker 𝕃 est tué par 4.

Toute représentation hyperbolique est métabolique et toute représentation irréductible est indécomposable . Réciproquement :

1.4. Proposition. Si l’ordre de G est premier à la caractéristique de F, a) Toute représentation orthogonale métabolique est hyperbolique.

b) Toute représentation orthogonale irréductible est indécomposable. De plus, si ρ est une représentation orthogonale irréductible , alors soit 𝕃(ρ) est irréductible, soit ρ est de la forme ℍ(χ), avec χ irréductible.

Démonstration. Rappelons que, sous l’hypothèse de la proposition, toute représentation linéaire de G est semi-simple.

a) Soit ρ métabolique, et soit χ un lagrangien de ρ. On peut écrire 𝕃(ρ) = χ⊕χ′, où χ′ est une sous-représentation de 𝕃(ρ). Alors χ′ ≃ χ^{∗}. La représentation ρ est hyperbolique si et seulement si on peut choisir χ′ totalement isotrope.

Soit χ_{1} une sous-représentation irréductible de χ, et soit χ′_{1} un supplémentaire de son orthogonal χ^{⊥}. Alors χ′_{1} ≃ χ^{∗}. Si χ′_{1} est totalement isotrope, posons χ′′_{1} = χ_{1}. Dans le cas contraire, les accouplements

χ_{1} × χ′_{1} → F
χ′_{1} × χ′_{1} → F

induisent des isomorphismes

χ_{1} ⟶^{∼} χ′_{1}^{∗}
χ′_{1} ⟶^{∼} χ′_{1}^{∗}

d’où un unique G-isomorphisme φ : χ′ → χ tel que

x · y = φ(x) · y pour tous x, y ∈ W

où W est le sous-espace sous-jacent à χ′. Soit alors

W′ = \{x − \frac{1}{2}φ(x) | x ∈ W \}.

L’espace W′ est une sous-représentation χ′′_{1} de 𝕃(ρ), et on voit tout de suite qu’elle est totalement isotrope. D’autre part, χ′′_{1} est en dualité avec χ_{1}.

On a ρ ≃ (χ_{1} ⊕ χ′′_{1}) ⊥ ρ′ et χ_{1} ⊕ χ′′_{1} ≃ ℍ(χ_{1}). On conclut que ρ est hyperbolique par récurrence sur sa dimension.

b) Soient ρ indécomposable et χ une sous-représentation irréductible de 𝕃(ρ). Alors χ est soit non dégénérée, soit totalement isotrope. Dans le premier cas, on a ρ = χ ⊥ χ^{⊥}, donc χ^{⊥} = 0 et 𝕃(ρ) est irréductible ; a fortiori, ρ est irréductible . Si χ est totalement isotrope, soit χ^{⊥} son orthogonal. Notons χ′ un supplémentaire de χ^{⊥} invariant par G. On vérifie immédiatement que χ ⊥ χ′ est non dégénéré. L’orthogonal (χ ⊥ χ′)^{⊥} est alors isomorphe à χ^{⊥}/χ, ce qui force χ = χ^{⊥}. Donc ρ ≃ ℍ(χ) d’après a), et ρ est irréductible. Ceci démontre la première et la dernière assertion de la proposition 1.4.

1.5. Exemple. Supposons F de caractéristique p ≠ 2 et G cyclique d’ordre p. Supposons V cyclique, c’est-à-dire engendré par un élément v comme F [G]-module. Soit u l’image d’un générateur de G, supposée non triviale : pour tout i ≥ 0, notons v_{i} = (u − 1)^{i}v, et soit k = inf{i | v_{i} = 0} ≤ p. On calcule :

v_{i} · v_{j} = (u − 1)^{i}v · (u − 1)^{j}v = v · (u^{−1} − 1)^{i}(u − 1)^{j}v

= v · (−u^{−1})^{i}(u − 1)^{i+j}v

= 0 si i + j ≥ k et, pour i + j = k − 1 :

v_{i} · v_{j} = (−1)^{i}v · u^{−1}(u − 1)^{k−1}v = (−1)^{i}v · (u − 1)^{k−1}v

= (−1)^{j}v · (u − 1)^{k−1}v

d’où ((−1)^{i}−(−1)^{j})v·(u−1)^{k−1}v = (−1)^{i}(1−(−1)^{i+j})v·(u−1)^{k−1}v = 0, et (puisque p ≠ 2) v_{i} · v_{j} = 0 si k est pair. Ainsi V ne peut être non dégénéré que si k est impair. L’exemple de dimension minimale est pour k = 3 : on a alors en posant v_{0} · v_{2} = a :

v_{1}^{2} = −a
v_{0}^{2} = u(v_{0})^{2} = (v_{0} + v_{1})^{2}, d’où
2v_{0} · v_{1} + v_{1}^{2} = 0, soit
v_{0} · v_{1} = −a/2.

On vérifie qu’il n’y a pas d’autres containtes ; si on choisit a ≠ 0, la forme quadratique sous-jacente à la représentation est bien non dégénérée. La représentation linéaire sous-jacente à ρ est indécomposable , donc ρ est a fortiori indécomposable . Par ailleurs, le sous-espace W engendré par v_{2} est stable par G et totalement isotrope. Ceci donne un exemple de représentation orthogonale d’un groupe d’ordre impair, réductible mais indécomposable .

2. Représentations symplectiques

2.1. Définition. Une représentation symplectique d’un groupe G sur F est un triplet (V, ψ, ρ), où V est un F -espace vectoriel de dimension finie, ψ est une forme symplectique non dégénérée sur V et ρ est un homomorphisme de G dans le groupe symplectique Sp(ψ). On abrège souvent (V, ψ, ρ) en ρ.

Les considérations et définitions relatives aux représentations orthogonales ont un parallèle évident avec les représentations symplectiques, avec les différences suivantes :

a) On dit qu’une représentation symplectique ρ esthyperbolique si ρ est de la forme χ ⊕ χ^{∗} où χ est une représentation linéaire de G et, si W est l’espace vectoriel sous-jacent à χ, la forme symplectique sur V = W ⊕ W^{∗} est donnée par ψ(w_{1}, w_{1}^{∗}; w_{2}, w_{2}^{∗}) = w_{1}^{∗}(w_{2}) − w_{2}^{∗}(w_{1}). Cette représentation est encore notée ℍ(χ) ou ℍ_{sp}(χ).

b) Le produit tensoriel d’une représentation orthogonale et d’une représentation symplectique donne une représentation symplectique ; le produit tensoriel de deux représentations symplectiques donne une représentation orthogonale.

c) On définit le groupe RSp_{F} (G) des représentations symplectiques de G sur F exactement comme RO_{F} (G). Le produit tensoriel des représentations fait de la somme directe RO_{F} (G)⊕RSp_{F} (G) une RO_{F} (G)- algèbre ℤ/2-graduée (commutative au sens naïf). Dans le cas G = 1, c’est la Ŵ (F)-algèbre graduée Ŵ (F) ⊕ ℤα avec α^{2} = 2ℍ. En général, l’algèbre RO_{F} (G) ⊕ RSp_{F} (G) est augmentée sur cette dernière.

d) Le foncteur d’oubli 𝕃 sur les représentations orthogonales et symplectiques induit un homomorphisme d’anneaux (non gradués)

𝕃 : RO_{F} (G) ⊕ RSp_{F} (G) → R_{F} (G).

e) Le foncteur ℍ_{sp} induit un homomorphisme

ℍ_{sp} : R_{F} (G) → RSp_{F} (G)

et on a les formules

ℍ_{sp}(χ ⊗ 𝕃(ρ)) ≃ ℍ_{sp}(χ) ⊗ ρ (χ linéaire, ρ orthogonale)
ℍ_{sp}(χ ⊗ 𝕃(ρ)) ≃ ℍ(χ) ⊗ ρ (χ linéaire, ρ symplectique)
ℍ(χ ⊗ 𝕃(ρ)) ≃ ℍ_{sp}(χ) ⊗ ρ (χ linéaire, ρ symplectique).

On a la proposition suivante, qui se démontre exactement comme la proposition 1.4 :

2.2. Proposition. Si l’ordre de G est premier à la caractéristique de F,

a) Toute représentation symplectique métabolique est hyperbolique.

b) Toute représentation symplectique irréductible est indécomposable. De plus, si ρ est une représentation symplectique irréductible , alors soit 𝕃(ρ) est irréductible, soit ρ est de la forme ℍ_{sp}(χ), avec χ irréductible. □ 3. Restriction, induction, extension et restriction des

scalaires

Décrivons quatre opérations sur les représentations orthogonales et symplectiques : deux de changement de groupe et deux de changement de corps.

3.1. Changement de groupe. Soit φ : H → G un homomorphisme de groupes et soit ρ une représentation orthogonale (resp. symplectique) de G. Alors φ^{∗}ρ := ρ∘φ est une représentation orthogonale (resp. symplectique) de H : sa forme bilinéaire sous-jacente est la même que celle de ρ. Si φ est une inclusion, on note Res_{H}^{G} ρ ou ρ_{|H} à la place de φ^{∗}ρ et on l’appelle restriction de ρ à H; si φ est un quotient, on note parfois Inf_{H}^{G} ρ pour φ^{∗}ρ et on l’appelle inflation.

Soit maintenant ρ une représentation orthogonale (resp. symplectique) de H. On lui associe une représentation φ_{∗}ρ de G définie ainsi. La représentation linéaire sous-jacente de φ_{∗}ρ est F [G] ⊗_{F [H]} ρ. Si l’on décrit la structure orthogonale (resp. symplectique) comme un isomorphisme ±-symétrique b : ρ ⟶^{∼} ρ^{∗}, la structure correspondante pour φ_{∗}ρ est celle qui s’en déduit par fonctorialité.

Le cas particulier le plus important est celui où φ est une inclusion. On note alors φ_{∗}ρ = Ind_{H}^{G} ρ et on appelle φ_{∗} l’induction. La forme bilinéaire sous-jacente est alors ⊥_{(G:H)} b, où b est la forme bilinéaire sous-

jacente à ρ.

3.2. Changement de corps. Soit E/F une extension. Si ρ est une F -représentation orthogonale (resp. symplectique) de G, on note ρ_{E} = E ⊗_{F} ρ la représentation obtenue par extension des scalaires. Supposons E/F finie séparable, et soit maintenant ρ une E-représentation orthogonale (resp. symplectique) de G. On note ρ_{(F)} la restriction des scalaires de ρ à F : sa représentation linéaire sous-jacente est la restriction des scalaires de ρ de E à F (oubli de la structure E-linéaire). Si b est la forme bilinéaire sous-jacente à ρ, celle sous-jacente à ρ_{(F)} est Tr_{E/F} ∘b.

Toutes les opérations décrites ci-dessus sont fonctorielles et définissent des homomorphismes des groupes de représentations correspondants. Ces homomorphismes sont des homomorphismes d’anneaux dans le cas de φ^{∗} et de l’extension des scalaires, et sont linéaires par rapport à ces homomorphismes dans le cas de φ_{∗} et de la restriction des scalaires.

4. Représenations linéaires irréductibles isomorphes à leur duale

4.1. Proposition. Soit χ une représentation linéaire irréductible de G, et soit K son corps d’endomorphismes : c’est un corps gauche de centre contenant F et de dimension finie sur F.

a) L’ensemble Hom_{G}(χ, χ^{∗}) est un K-espace vectoriel à droite de dimension ≤ 1.

b) Si dim_{K} Hom_{G}(χ, χ^{∗}) = 1, alors il existe un G-isomorphisme θ : χ → χ^{∗} soit symétrique, soit antisymétrique. Dans le premier cas, (χ, θ) définit une représentation orthogonale : on dit que χ est de type orthogonal. Dans le deuxième, (χ, θ) définit une représentation symplectique : on dit que χ est de type symplectique.

c) Considérons les conditions suivantes :

(i) dim_{K} Hom_{G}(χ, χ^{∗}) = 1.

(ii) L’involution de F [G] définie par g ↦ g^{−1} laisse invariant le

facteur simple correspondant à χ. (iii) La classe de K dans le groupe de Brauer de son centre est

d’ordre 1 ou 2.

Alors (i) ⟺ (ii) ⇒ (iii).

Démonstration. a) La structure de K-espace vectoriel à droite est donnée par la composition

Hom_{G}(χ, χ) ⊗ Hom_{G}(χ, χ^{∗}) → Hom_{G}(χ, χ^{∗}).

L’assertion sur la dimension résulte du lemme de Schur : si χ ≄ χ^{∗}, la dimension est 0. Sinon, tout élément non nul de Hom_{G}(χ, χ^{∗}) est un isomorphisme ; deux d’entre eux diffèrent donc par un élément de K^{∗}.

b) On a

Hom_{G}(χ, χ^{∗}) ≃ (χ^{∗⊗2})^{G} ≃ S^{2}(χ^{∗})^{G} ⊕ Λ^{2}(χ^{∗})^{G}

où pour le deuxième isomorphisme on a utilisé que car F ≠ 2. On a S^{2}(χ^{∗})^{G} ≠ 0 ou Λ^{2}(χ^{∗})^{G} ≠ 0. Dans le premier cas, χ est de type orthogonal ; dans le deuxième, elle est de type symplectique.

c) (i) ⟺ (ii) est immédiat, puisque χ et χ^{∗} sont isomorphes si et seulement si leurs facteurs simples associés sont égaux. Soit S le facteur simple asocié à χ : rappelons que S ≃ M_{n}(K) pour un n convenable, où K est le corps opposé de K (cf. [12, 12.2], par exemple). L’implication (ii) ⇒ (iii) en résulte. (Le cas F = ℂ montre qu’en général, l’implication (iii) ⇒ (ii) est fausse.) □

4.1. Piège. En général, S^{2}(χ^{∗}) et Λ^{2}(χ^{∗}) ne sont pas des K-sous-espaces vectoriels de χ^{∗⊗2}. Par exemple, si rg χ = [K : F] = 2, alors dim_{F} Λ^{2}(χ^{∗}) = 1 et Λ^{2}(χ^{∗}) ne peut pas être un K-espace vectoriel. Il peut arriver que S^{2}(χ^{∗})^{G} et Λ^{2}(χ^{∗})^{G} soient tous deux non nuls : alors ρ est à la fois de type orthogonal et de type symplectique. Par exemple, si F = ℝ, G est le groupe des racines 4-ièmes de l’unité de ℂ et ρ est la représentation naturelle de G sur ℂ, vue comme représentation réelle de rang 2, alors ρ admet comme forme bilinéaire symétrique (resp. alternée) invariante la forme

(x, y) ↦ Tr_{ℂ/ℝ}(x̄y) ( resp. (x, y) ↦ Tr_{ℂ/ℝ}(ix̄y)).

D’autre part, rappelons que sur ℝ toute représentation est de type orthogonal (de forme quadratique sous-jacente définie positive). On clarifie cette situation ci-dessous.

Soit S le facteur simple de F [G] correspondant à χ : d’après la proposition 4.1 c), l’involution canonique de F [G] laisse S invariant, donc induit sur S une involution canonique que nous noterons σ_{χ}.

Rappelons qu’une involution σ d’une algèbre simple A est de première espèce si sa restriction au centre Z est triviale, de deuxième espèce ou unitaire sinon [8, ch. I, §2, p. 13 et p. 21]. Si σ est de première espéce, soient \overline{Z} une clôture séparable de Z, \overline{A} = \overline{Z} ⊗_{Z} A et σ̄ = \overline{Z} ⊗_{Z} σ. Étant donné un isomorphisme \overline{A} ≃ M_{n}(\overline{Z}), on a σ̄(a) = u^{t}au^{−1} pour un u ∈ GL_{n}(\overline{Z}) vérifient ^{t}u = εu, avec ε = ±1. On dit que σ est orthogonale si ε = 1, symplectique si ε = −1 : ceci ne dépend pas du choix de l’isomorphisme ci-dessus [8, ch. I, def. 2.5 p. 16 et prop. 2.19 p. 24]. Ceci justifie la définition suivante :

4.2. Définition. Soit χ une représentation linéaire autoduale de G. Si σ_{χ} est unitaire, on dit que χ est unitaire. Si σ_{χ} est orthogonale, on dit que χ est positive ; si σ_{χ} est symplectique, on dit que χ est négative.

4.3. Lemme. Soit K un corps contenant F dans son centre et de dimension finie sur F. Soit ψ : K → F une forme F -linéaire non nulle. Soit enfin V un K-espace vectoriel à droite de dimension finie. Alors l’application

ψ_{∗} : Hom_{K}(V, K) → Hom_{F} (V, F)
φ ↦ ψ ∘ φ

est un isomorphisme de F -espaces vectoriels.

Rappelons la preuve de ce lemme bien connu. On a dim_{K} Hom_{K}(V, K) = dim_{K} V, donc dim_{F} Hom_{K}(V, K) = [K : F] dim_{K} V = dim_{F} V = dim_{F} Hom_{F} (V, F). Il suffit donc de montrer que ψ_{∗} est injective. Soit si possible φ ≠ 0 telle que ψ ∘ φ = 0. Choisissons v ∈ V tel que φ(v) = λ ≠ 0. Alors, pour tout x ∈ K, on a

ψ(x) = ψ(λλ^{−1}x) = ψ(φ(v)λ^{−1}x) = ψ ∘ φ(vλ^{−1}x) = 0

d’où ψ = 0, ce qui contredit le choix de ψ. □

4.4. Lemme. Dans la situation du lemme 4.3, supposons K/F séparable. Notons A l’algèbre des F -endomorphismes de V. Soit b : V ×V → F une forme F -bilinéaire non dégénérée ; notons^{∗} l’anti-automorphisme de A défini par la formule

b(vλ, v′) = b(v, v′λ^{∗})

pour (v, v′, λ) ∈ V × V × A. Supposons enfin que K^{∗} ⊂ K, donc que K^{∗} = K. Alors il existe une forme (K,^{∗})-sesquilinéaire b̃ telle que

b(v, v′) = Tr_{K/F} b̃(v, v′)

pour tout (v, v′) ∈ V × V. Si b est ε-symétrique, où ε = ±1, alors ^{∗} est une involution et b̃ est ε-hermitienne.

Démonstration. Comme K/F est séparable, la forme linéaire Tr := Tr_{K/F} est non nulle. Rappelons l’identité

Tr(λμ) = Tr(μλ).

Soit v ∈ V. Par le lemme 4.3, il existe une unique forme K-linéaire b̃_{v} sur V telle que, pour tout v′ ∈ V, on ait

b(v, v′) = Tr b̃_{v}(v′).

Posons b̃(v, v′) := b̃_{v}(v′) : on a évidemment b̃(v, v′λ) = b̃(v, v′)λ pour tout λ ∈ K. Pour (λ, μ) ∈ K × K, on a

Tr(b̃(vλ, v′)μ) = Tr b̃(vλ, v′μ) = b(vλ, v′μ)

= b(v, v′μλ^{∗}) = Tr b̃(v, v′μλ^{∗}) = Tr(b̃(v, v′)μλ^{∗})
= Tr(λ^{∗}b̃(v, v′)μ).

Il en résulte que b̃(vλ, v′) = λ^{∗}b̃(v, v′). Ainsi b̃ est sesquilinéaire.

Supposons maintenant b ε-symétrique. Alors un calcul semblable montre que ^{∗} est une involution de K. Comme sa restriction à F est l’identité, on a identiquement

Tr λ^{∗} = Tr λ

et, pour tout λ ∈ K, on a

0 = Tr b̃(v′, vλ) − Tr(εb̃(vλ, v′)) = Tr(b̃(v′, v)λ) − ε Tr(λ^{∗}b̃(v, v′))

= Tr(b̃(v′, v)λ) − ε Tr(b̃(v, v′)^{∗}λ) = Tr((b̃(v′, v) − εb̃(v, v′)^{∗})λ)

d’où

b̃(v′, v) = εb̃(v, v′)^{∗}.

Ainsi, b̃ est ε-hermitienne. □

4.5. Proposition. Soient G, χ, K comme dans la proposition 4.1. Supposons χ autoduale. Soit V l’espace vectoriel sous-jacent à χ, considéré comme K-espace vectoriel à droite. Soit b une forme bilinéaire Ginvariante sur V (proposition 4.1). Alors il existe un unique F -anti-automorphisme τ_{b} de K et une unique forme (K, τ_{b})-sesquilinéaire b̃ G-invariante sur V telles que

b(v, v′) = Tr_{K/F} b̃(v, v′)

pour tout (v, v′) ∈ V ×V. De plus, τ_{b} ne dépend que de χ à conjugaison près. Si b est ε-symétrique, avec ε = ±1, τ_{b} est une involution et b̃ est ε-hermitienne.

Démonstration. Remarquons d’emblée que, comme χ est définie sur un corps de nombres ou un corps fini, donc parfait, l’extension K/F est séparable. L’anti-automorphisme ^{∗} = τ_{b} du lemme 4.4 laisse invariante l’image de F [G] dans A = End_{F} (V), donc aussi son commutant K. Le lemme 4.4 associe donc à b une forme (K, τ_{b})-sesquilinéaire b̃ telle que b = Tr_{K/F} ∘b̃. Le fait que b̃ est G-invariante se démontre par des arguments de même tonneau que dans le lemme 4.4.

Pour tout a ∈ K, la forme

b_{a}(v, v′) = Tr(ab̃(v, v′))

est une autre forme F -bilinéaire G-invariante. Comme dim_{K} Hom(χ, χ^{∗}) = 1 (proposition 4.1), on obtient ainsi toutes les formes F -bilinéaires G-invariantes. Pour λ ∈ K, on a :

b_{a}(vλ, v′) = Tr(ab̃(vλ, v′)) = Tr(aτ_{b}(λ)b̃(v, v′))

= Tr(aτ_{b}(λ)a^{−1}ab̃(v, v′)) = Tr(ab̃(v, v′)aτ_{b}(λ)a^{−1})

= Tr(ab̃(v, v′aτ_{b}(λ)a^{−1})) = b_{a}(v, v′aτ_{b}(λ)a^{−1})

donc l’anti-automorphisme associé à τ_{b_{a}} = int(a)τ_{b} int(a)^{−1}.

Si b est ε-symétrique, le lemme 4.4 montre que b̃ est ε-hermitienne. On sait alors que, pour tout a ∈ K,

Tr τ_{b}(a) = Tr a

(cf. [8, Ch. I, (2.2) p. 14 et (2.16) p. 22]). □

Gardons les notations de la proposition 4.5 et de sa démonstration. Si b′ est une autre forme invariante, ε′-symétrique, on a b′ = b_{a} pour un a ∈ K convenable, et un calcul semblable à ceux ci-dessus montre que

τ_{b}(a) = εε′a.

Il résulte de ce qui précède que, si τ_{b} est de première (resp. deuxième) espèce, il en est de même de τ_{b′} pour toute autre forme ±-symétrique G-invariante b′ (cf. [8, ch. I, prop. (2.7) p. 17 et prop. (2.18) p. 23]). En fait, τ_{b} est de même espèce que σ_{χ}. En appliquant la proposition 4.5 et [8, ch. I, th. 4.2 p. 43], on obtient l’énoncé plus précis suivant (prendre E = S, où S est le facteur simple de χ, M = V et A = K dans loc. cit.) :

4.6. Théorème. Soit Z le centre de K.

a) Si χ est unitaire, soit Z^{+} le corps des invariants de la restriction de σ_{χ} à Z. Alors, pour tout ε ∈ {±1}, l’application b ↦ τ_{b} définit une bijection de l’ensemble des formes bilinéaires ε-symétriques Ginvariantes sur V modulo un scalaire de Z^{+∗} sur l’ensemble des involutions τ de K telles que τ_{|Z} = (σ_{χ})_{|Z}.

b) Si χ est positive, l’application b ↦ τ_{b} définit une bijection de l’ensemble des formes bilinéaires ε-symétriques G-invariantes sur V modulo un scalaire de Z^{∗} sur l’ensemble des involutions ε-symétriques de K.

c) Si χ est négative, l’application b ↦ τ_{b} définit une bijection de l’ensemble des formes bilinéaires ε-symétriques G-invariantes sur V modulo un scalaire de Z^{∗} sur l’ensemble des involutions −ε-symétriques de K.

4.7. Corollaire. Soit χ une représentation linéaire irréductible de G, autoduale.

a) Si χ est unitaire, elle est à la fois de type orthogonal et de type symplectique.

b) Supposons χ non unitaire et soit K son corps d’endomorphismes. Alors χ est à la fois de type orthogonal et de type symplectique, sauf si K est commutatif.

c) Si K est commutatif, χ est la restriction des scalaires de K à F d’une représentation ρ de type orthogonal ou de type symplectique : ρ est de type orthogonal si et seulement si χ est positive, et de type symplectique si et seulement si χ est négative.

d) Dans c), la forme G-invariante sous-jacente à ρ est unique à multiplication par un scalaire de K^{∗} près. Deux formes G-invariantes sont G-isomorphes si et seulement si elles diffèrent par un scalaire de K^{∗2}.

Démonstration. a) l’énoncé résulte de la proposition 4.1 b) et du théorème 4.6 a). b) vu le théorème 4.6 b) et c), il suffit de montrer que, si K n’est pas commutatif, il admet à la fois des involutions orthogonales et symplectiques. Cela résulte de [8, ch. I, cor. (2.8) p. 18]. c) Si K est commutatif, c’est le centre de S, facteur simple de χ; la restriction de σ_{χ} à K est triviale. L’énoncé résulte donc du théorème 4.6 b) et c). d) L’unicité résulte du théorème 4.6 b) et c). Pour la dernière affirmation, on peut suppose K = F. L’énoncé est alors évident, puisque tout Gendomorphisme de χ est un scalaire. □

On a enfin une caractérisation “géométrique” de l’unitarité de χ :

4.8. Proposition. Soit χ une représentation irréductible de G autoduale. Notons \overline{F} une clôture séparable de F et χ̄ = \overline{F} ⊗_{F} χ. Choisissons une forme bilinéaire ±-symétrique G-invariante b et notons b̄ = \overline{F} ⊗_{F} b. Alors

a) Si χ est non unitaire, toute composante irréductible de χ̄ est autoduale et (χ̄, b̄) est somme directe orthogonale de ses composantes isotypiques.

b) Si χ est unitaire, aucune composante irréductible de χ̄ n’est autoduale ; (χ̄, b̄) est hyperbolique.

Démonstration. a) Soient V l’espace sous-jacent à χ et Z le centre de K. Notons \overline{V} = \overline{F} ⊗_{F} V, \overline{K} = \overline{F} ⊗_{F} K et \overline{Z} = \overline{F} ⊗_{F} Z. On peut écrire

\overline{Z} = \overline{F} e_{1} ⊕ ⋯ ⊕ \overline{F} e_{n}

où les e_{i} sont des idempotents orthogonaux. Les sous-\overline{F} -espaces de \overline{V}

V_{i} = e_{i}\overline{V}

sont G-stables. De plus, l’anneau des endomorphismes de V_{i} n’est autre que \overline{K} ⊗\overline{Z} \overline{F}, où l’homomorphisme \overline{Z} → \overline{F} est la projection sur le ième facteur. Cet anneau est donc simple et les V_{i} sont les composantes isotypiques de χ̄.

Supposons d’abord χ non unitaire. Alors les V_{i} sont deux à deux orthogonaux, donc chaque V_{i} est non dégénéré pour b̄. En particulier, V_{i} est autoduale, ainsi que chacun de ses facteurs irréductibles.

Supposons maintenant χ unitaire. Alors n est pair, soir n = 2m. L’involution τ_{b} s’étend à \overline{Z} et permute la base (e_{i}) ; on peut donc supposer que τ_{b}(e_{i}) = e_{i+m} pour tout i ≤ m. Les représentations V_{i} et V_{i+m} sont alors totalement isotropes et conjuguées. On a donc V_{i} ⊕V_{i+m} = ℍ(V_{i}), et

\overline{V} = ℍ(⨁_{i=1}^{m} V_{i}).

On a V_{i}^{∗} ≃ V_{i+m} et V_{i} ≄ V_{i+m}, donc V_{i} ≄ V_{i}^{∗}; en particulier, aucune composante irréductible de χ̄ n’est autoduale. □

5. Représentations orthogonales et symplectiques irréductibles

5.1. Proposition. Soit ρ une représentation orthogonale (resp. symplectique) irréductible de G. Alors :

i) Ou bien 𝕃(ρ) est irréductible ; ii) Ou bien ρ est métabolique, de lagrangien irréductible. Dans le cas ii), un lagrangien de ρ n’est pas de type orthogonal (resp. symplectique), au moins si l’ordre de G est premier à car F.

Démonstration. La première partie de la proposition généralise la dernière assertion des propositions 1.4 et 2.2. Supposons 𝕃(ρ) non irréductible , et soit χ une sous-représentation linéaire irréductible de 𝕃(ρ). Soit V (resp. W) l’espace vectoriel sous-jacent à ρ (resp. à χ). Alors W ∩ W^{⊥} définit une sous-représentation de χ. Elle ne peut pas être nulle puisque ρ est irréductible . Donc W ⊂ W^{⊥}. Si W ≠ W^{⊥}, W^{⊥}/W est une représentation orthogonale (resp. symplectique) non triviale intervenant dans ρ, contradiction. Donc W = W^{⊥}, W est lagrangien et V est métabolique.

Supposons enfin (|G|, car F) = 1 et W de type orthogonal (resp. symplectique), et soit b : χ ⟶^{∼} χ^{∗} un isomorphisme symétrique (resp. antisymétrique). D’après les propositions 1.4 et 2.2, on a ρ ≃ ℍ(χ) (resp. ρ ≃ ℍ_{sp}(χ)). Dans ℍ(W) = W ⊕ W^{∗}, soit T la sous-représenta-tion de G définie par

T = {(w, b(w)) | w ∈ W }.

Notons encore b la forme bilinéaire (anti-)symétrique (non dégénérée) sur W définie par b. Pour w, w′ ∈ W, on a

(w, b(w)) · (w′, b(w′)) = b(w′)(w) ± b(w)(w′) = 2b(w, w′).

Il en résulte que T est non dégénéré, donc facteur direct orthogonal (resp. symplectique) de ρ, ce qui contredit son irréductibilité. □

Le théorème suivant donne l’analogue orthogonal et symplectique de la décomposition des représentations linéaires en composantes isotypiques.

5.2. Théorème. Soit ρ une représentation orthogonale (resp. symplectique). Notons V l’espace vectoriel sous-jacent à ρ, et soit V = ⨁_{i∈I} W_{i} sa décomposition canonique en les composantes isotypiques de 𝕃(ρ). Alors

(1) Il existe une action canonique de ℤ/2 sur l’ensemble I : notonsla i ↦ i^{∗}.

(2) Écrivons I = I_{0} ∐ I_{1}, où I_{1} = {i ∈ I | i = i^{∗}}. Alors, pour i ∈ I_{1}, W_{i} est non dégénéré ; pour i ∈ I_{0}, W_{i} ⊕ W_{i^{∗}} est non dégénéré.

Démonstration. 1. Comme ρ ≃ ρ^{∗}, la dualité permute les composantes irréductibles de 𝕃(ρ) : cela fournit l’action de ℤ/2 cherchée.

2. Soit θ un facteur irréductible de 𝕃(ρ). Si θ′ est une autre sous-re-présentation irréductible de 𝕃(ρ), θ est orthogonale à θ′ dès que θ′ ≄ θ^{∗}. Si θ ⊂ W_{i} avec i ∈ I_{1}, cela montre que θ est orthogonal à W_{j} pour tout j ≠ i. Par conséquent, W_{i} est orthogonal à W_{j} pour tout j ≠ i. Comme V est non dégénéré, W_{i} est non dégénéré, ce qui implique que W_{i} est facteur direct orthogonal de V. Si maintenant θ ⊂ W_{i} avec i ∈ I_{0}, alors θ est orthogonal à W_{j} pour tout j ≠ i^{∗}. Par conséquent, W_{i} est orthogonal à W_{j} pour tout j ≠ i^{∗}; en particulier, W_{i} est totalement isotrope. Comme V est non dégénéré, il existe une sous-représentation irréductible θ′ ⊂ W_{i^{∗}} telle que θ ne soit pas orthogonale à θ′. Alors θ⊕θ′ est non dégénéré. Écrivant W_{i} comme somme directe de représentations irréductibles, on voit que W_{i} ⊕ W_{i^{∗}} est non dégénéré. □

5.3. Définition. Avec les notations du théorème 5.2, soient J = I/∗ l’ensemble quotient de I par l’action de ℤ/2 et p : I → J la projection canonique ; pour j ∈ J, notons T_{j} = ⨁_{i∈p^{−1}(j)} W_{i} et ρ_{j} la restriction de ρ à T_{j}. Alors ρ = ⊥_{j∈J} ρ_{j}; les ρ_{j} sont les composantes isotypiques de ρ.

Considérons en particulier le cas de la représentation régulière r_{G}, munie de la forme quadratique ∑_{g∈G} x_{g}^{2} sur laquelle G opère par translation à gauche. L’ensemble I de la définition 5.3 est en bijection avec l’ensemble des composantes simples de l’algèbre F [G]. Notons J = J_{0} ∐ J_{1} et J_{1} = ∐ J_{1}^{u} ∐ J_{1}^{+} ∐ J_{1}^{−}, où

• J_{0} = I_{0}/∗

• J_{1} = I_{1}/∗

• J_{1}^{u} = {j ∈ I_{1} | toute représentation irréductible de type j est unitaire} • J_{1}^{+} = {j ∈ I_{1} | toute représentation irréductible de type j est positive}

• J_{1}^{−} = {j ∈ I_{1} | toute représentation irréductible de type j est négative}. Pour j ∈ J, soit D_{j} le corps des endomorphismes d’une représenta-

tion irréductible V_{i} de type i, pour un i ∈ p^{−1}(j) ; si j ∈ J_{1}, choisissons une fois pour toutes une involution σ_{j} de D_{j} (de même espèce que celle du facteur simple correspondant à j). Par ailleurs, pour j ∈ J_{1}^{u}, fixonsnous une forme bilinéaire symétrique (resp. alternée) G-invariante b_{j}^{+} (resp. b_{j}^{−}) sur V_{j}, correspondant à σ_{j}; pour j ∈ J_{1}^{ε} (ε = ±1), fixons-nous une forme bilinéaire ε-symétrique G-invariante b_{j} sur V_{j}, correspondant à σ_{j}. Soit Z_{j} le centre de D_{j} : d’après le théorème 4.6, b_{j}^{±} (resp. b_{j}) est déterminée à un scalaire près λ_{j} Z_{j}^{+∗}, où Z_{j}^{+} est le corps des invariants de la restriction de σ_{j} à Z_{j} (resp. à un scalaire près λ_{j} de Z_{j}^{∗}).

Rappelons les groupes K_{0}(A), _{1}L_{0}(A) et _{−1}L_{0}(A) classifiant respectivement les modules projectifs de type fini et les formes bilinéaires ±-symétriques à support un A-module projectif de type fini sur un anneau à involution A. Le théorème suivant n’a curieusement pas été dégagé dans [7].

5.4. Théorème. a) Le choix des σ_{j}, des b_{j}^{±} et des b_{j} détermine un isomorphisme

RO_{F} (G) ≃ ⨁_{j∈J_{0}} K_{0}(D_{j}) ⊕ ⨁_{j∈J_{1}^{u}} _{1}L_{0}(D_{j}, σ_{j})

⊕ ⨁_{j∈J_{1}^{+}} _{1}L_{0}(D_{j}, σ_{j}) ⊕ ⨁_{j∈J_{1}^{−}} _{−1}L_{0}(D_{j}, σ_{j}).

b) Le choix des σ_{j}, des b_{j}^{±} et des b_{j} détermine un isomorphisme

RSp_{F} (G) ≃ ⨁_{j∈J_{0}} K_{0}(D_{j}) ⊕ ⨁_{j∈J_{1}^{u}} _{−1}L_{0}(D_{j}, σ_{j})

⊕ ⨁_{j∈J_{1}^{+}} _{−1}L_{0}(D_{j}, σ_{j}) ⊕ ⨁_{j∈J_{1}^{−}} _{1}L_{0}(D_{j}, σ_{j}).

Démonstration. Traitons le cas de RO_{F} (G) (celui de RSp_{F} (G) est identique). On commence par définir un homomorphisme du membre de droite vers celui de gauche :

• Si j ∈ J_{0}, soient i ∈ p^{−1}(j) et V_{i} une représentation linéaire irréductible de G de type i. Si V est un D_{i}-espace vectoriel à gauche de dimension finie, on lui associe la G-représentation orthogonale 𝕃(V_{i} ⊗_{D_{i}} V). Ceci définit un homomorphisme K_{0}(D_{i}) → RO_{F} (G). L’autre choix de i fournit le même homomorphisme, modulo l’identification canonique K_{0}(D_{i}) ≃ K_{0}(D_{i}^{0}).

• Si j ∈ J_{1}^{u}, à tout D_{j}-espace hermitien à gauche (V, b) on associe (V_{j}, b_{j}^{+}) ⊗_{D_{j}} (V, b) : c’est une G-représentation orthogonale.

• Si j ∈ J_{1}^{+}, à tout D_{j}-espace hermitien à gauche (V, b) on associe (V_{j}, b_{j}) ⊗_{D_{j}} (V, b).

• Si j ∈ J_{1}^{−}, à tout D_{j}-espace antihermitien à gauche (V, b) on

associe (V_{j}, b_{j}) ⊗_{D_{j}} (V, b). Le théorème 5.2 montre que l’homomorphisme ainsi défini est bijectif.

□

À titre d’exemple, calculons RO_{F} (G) et RSp_{F} (G) lorsque F est un corps fini. Dans ce cas, les D_{j} sont des extensions finies de F. Pour j ∈ J_{1}^{u}, Gal(D_{j}/F) est cyclique d’ordre pair et σ_{j} est son élément d’ordre 2. Pour j ∈ J_{1}^{+} ou j ∈ J_{1}^{−}, σ_{j} = 1.

Supposons j ∈ J_{1}^{u}. Toute forme hermitienne sur D_{j} peut s’écrire sour la forme ∑ a_{n}x_{n}σ_{j}(x_{n}), où a_{n} ∈ (D_{j}^{σ_{j}})^{∗}. L’élément a_{n} est déterminé à un élément de la forme bσ_{j}(b) près. Comme D_{j} est fini, la norme D_{j}^{∗} → (D_{j}^{σ_{j}})^{∗} est surjective, donc tous les a_{n} peuvent être remplacés par 1, et_{1}L_{0}(D_{j}, σ_{j}) ≃ ℤ. Par ailleurs, il est classique que_{−1}L_{0}(D_{j}, σ_{j}) ≃ ℤ et que, pour j ∈ J_{1}^{+} ⋃ J_{1}^{−}, _{−1}L_{0}(D_{j}) ≃ ℤ. Enfin, pour j ∈ J_{1}^{+} ⋃ J_{1}^{−}, on a _{1}L_{0}(D_{j}) = Ŵ (D_{j}) ≃ ℤ ⊕ ℤ/2. On trouve donc :

5.5. Corollaire. Supposons F fini. Alors il existe des isomorphismes (non canoniques)

RO_{F} (G) ≃ ℤ^{J} ⊕ ℤ/2^{J_{1}^{+}}
RSp_{F} (G) ≃ ℤ^{J} ⊕ ℤ/2^{J_{1}^{−}}.

En particulier, tout élément de torsion dans RO_{F} (G) ou dans RSp_{F} (G) est d’ordre 1 ou 2. □

Partie II. Théorèmes d’induction

6. Quatre types de corps F

Rappelons que F est dit exceptionnel si Γ := Gal(F (μ_{2^{∞}})/F) contient un élément d’ordre 2.

6.1. Définition. On définit quatre types pour F :

• Type I : \sqrt{−1} ∈ F.

• Type II : \sqrt{−1} ∉ F et F n’est pas exceptionnel.

• Type III : F est exceptionnel et −1 est somme de deux carrés dans F.

• Type IV : −1 n’est pas somme de deux carrés dans F.

6.2. Proposition. Les quatre types de la définition 6.1 s’excluent mutuellement. Le corps F est exceptionnel si et seulement s’il est de type III ou IV. Si F n’est pas de type I, soit E = F (\sqrt{−1}). Alors :

• Si F est de type II, μ_{2^{∞}}(E) est fini, disons d’ordre 2^{n}, avec n ≥ 3. Pour tout r ≥ 0, l’extension F (μ_{2^{n+r}})/F est cyclique d’ordre 2^{r+1} ; l’unique élément d’ordre 2 de Gal(F (μ_{2^{n+r}})/F) opère sur μ_{2^{n+r}} par ζ ↦ ζ^{1+2^{n+r−1}} si r > 0 et par ζ ↦ ζ^{−1+2^{n−1}} si r = 0. Si ζ est une racine primitive 2^{n+r}-ième de l’unité, on a N_{F (μ_{2^{n+r}})/F} (ζ) = −1 ; −1 est somme de deux carrés dans F.

• Si F est de type III ou IV et que μ_{2^{∞}}(E) est fini, disons d’ordre 2^{n} avec n ≥ 2, alors pour tout r ≥ 0, le groupe Γ_{r} = Gal(F (μ_{2^{n+r}})/F) est isomorphe à ℤ/2 × ℤ/2^{r}. Si r = 0, l’unique élément d’ordre 2 de Γ_{r} opère sur μ_{2^{n}} par ζ ↦ ζ^{−1}. Si r ≥ 1, il existe dans Γ_{r} des éléments d’ordre 2 opérant sur μ_{2^{n+r}} par ζ ↦ ζ^{1+2^{n+r−1}} et par ζ ↦ ζ^{−1}. Si ζ est une racine primitive 2^{n+r}-ième de l’unité, on a N_{F (μ_{2^{n+r}})/F} (ζ) = 1.

Si F est ordonnable, il est de type IV. Si F est de caractéristique > 0, il est de type I ou II.

Démonstration. Rappelons le caractère cyclotomique κ : Γ ↪ ℤ_{2}^{∗}. Il est clair que F est exceptionnel si et seulement si −1 ∈ Im κ. La proposition 6.2 résulte alors d’un peu de théorie de Galois :

Il est clair que F est de type I si et seulement si Im κ ⊂ 1 + 4ℤ_{2} ; en particulier, un corps de type I n’est pas exceptionnel. Ceci montre que les types I, II, III et IV s’excluent mutuellement.

Supposons F de type II. Alors κ(Γ) est pro-cyclique, de générateur γ congru à −1 modulo 4. On peut donc choisir γ de la forme −1 + 2^{n−1}, avec n ≥ 3, et n est uniquement déterminé par F. Le corps E est défini par l’unique sous-groupe d’indice 2 Δ de Γ. Celui-ci est engendré par γ^{2} et κ(γ)^{2} = 1 − 2^{n} + 2^{2n−2}. Un autre générateur de Δ est alors l’élément δ tel que κ(δ) = 1 + 2^{n}, et μ_{2^{∞}}(E) est fini d’ordre 2^{n}. Pour r ≥ 0, le corps F (μ_{2^{n+r}}) est défini par κ^{−1}(1 + 2^{n+r}ℤ_{2}) ; il est donc clair que l’unique élément d’ordre 2 de Γ_{r} opère comme indiqué. Si ζ est une racine primitive 2^{n+r}-ième de l’unité, on a

N_{F (μ_{2^{n+r}})/F} (ζ) = ∏_{g∈Γ_{r}} ^{g}ζ = ∏_{g∈Γ_{r}} ζ^{κ(g)} = ζ^{∑_{g∈Γr} κ(g) (mod 2^{n+r})}.

On a

∑_{g∈Γ_{r}} κ(g) (mod 2^{n+r}) = ∑_{i=0}^{2^{r+1}−1}(−1 + 2^{n−1})^{i} (mod 2^{n+r}).

On peut récrire cette somme de la manière suivante :

∑_{i=0}^{2^{r}−1}(−1 + 2^{n−1})^{2i} + ∑_{i=0}^{2^{r}−1}(−1 + 2^{n−1})^{2i+1}

= (1 + (−1 + 2^{n−1})) ∑_{i=0}^{2^{r}−1}(−1 + 2^{n−1})^{2i}

= 2^{n−1} ∑_{i=0}^{2^{r}−1}(−1 + 2^{n−1})^{2i}.

Finalement,

∑_{i=0}^{2^{r}−1}(−1 + 2^{n−1})^{2i} ≡ ∑_{i=0}^{2^{r}−1}(1 + 2^{n}i) ≡ 2^{r} + \binom{2^{r}}{2}2^{n} ≡ 2^{r} (mod 2^{r+1})

et

∑_{g∈Γ_{r}} κ(g) ≡ 2^{r+n−1} (mod 2^{n+r})

d’où

N_{F (μ_{2^{n+r}})/F} (ζ) = ζ^{2^{r+n−1}} = −1.

On a donc −1 = N_{E/F} (x) pour x convenable, ce qui équivaut à dire que −1 est somme de deux carrés.

Supposons F de type III ou IV et μ_{2^{∞}}(E) fini d’ordre 2^{n}. Alors κ(Γ) = {±1}×(1+2^{m}ℤ_{2}) pour un m ≥ 2 convenable ; E est déterminé par le sous-groupe d’indice 2 1 + 2^{m}ℤ_{2}, d’où m = n. Les autres affirmations sont évidentes, sauf le calcul de N_{F (μ_{2^{n+r}})/F} (ζ). Mais

N_{F (μ_{2^{n+r}})/F} (ζ) = N_{E/F} (N_{F (μ_{2^{n+r}})/E}(ζ))

et N_{F (μ_{2^{n+r}})/E}(ζ) est une racine 2-primaire de l’unité de E : on est donc ramené au cas r = 0. Dans ce cas,

N_{E/F} ζ = ζ · ζ^{−1} = 1.

Enfin, si F est ordonnable, −1 n’est pas somme de deux carrés de F, donc F est de type IV. Si F est de caractéristique p > 0, l’extension F (μ_{2^{∞}})/F est définie sur la fermeture algébrique F_{0} de 𝔽_{p} dans F ; le groupe de Galois absolu de F_{0} est isomorphe à un sous-groupe de ℤ̂, donc Γ est procyclique et F est non exceptionnel, donc de type I ou II. □

Soit p ≠ car F, et soit L = F (μ_{p^{n}}). Le groupe de Galois Gal(L/F) opère fidèlement sur μ_{p^{n}}, d’où un homomorphisme injectif κ_{n} : Gal(L/F)

↪ (ℤ/p^{n})^{∗} : le caractère cyclotomique modulo p^{n}. Cette notion est ambiguë lorsque L = F (μ_{p^{n}}) pour plusieurs valeurs différentes de n. Le lemme suivant indique précisément quand ceci ne se produit pas :

6.3. Lemme. Si [L : F] est divisible par p (p impair) ou par 4 (p = 2), il existe un unique entier n tel que L = F (μ_{p^{n}}). □

6.4. Convention. Si t ∈ ℤ est premier à p, on note [t]_{n} sa préimage dans Gal(L/F) par κ_{n} si elle existe ; s’il n’y a pas d’ambiguïté, on la note simplement [t]. Pour un tel t, on abrègera la phrase “Il existe σ ∈ Gal(E/F) d’image t dans (ℤ/p^{n})^{∗}” en “[t]_{n} ∈ Gal(E/F)”.

6.5. Proposition. Supposons p = 2 et L ≠ F ; soit i ∈ L un élément vérifiant i^{2} = −1. Il existe σ ∈ Gal(L/F), de carré 1, tel que ^{σ}i = i^{−1} = −i exactement dans les cas suivants :

a) [L : F] = 2 et F est de type II. Si |μ_{2^{∞}}(L)| = 2^{m},

σ = \begin{cases}[−1]_{n} & pour n < m \\ [−1 + 2^{m−1}]_{n} & pour n = m. \end{cases}

b) [L : F] = 2 et F est de type III. Alors σ = [−1]_{n} pour toute valeur de n.

c) [L : F] > 2 et F est de type III ou IV. Alors il existe deux valeurs de σ vérifiant cette condition : [−1]_{n} et [−1 + 2^{n−1}]_{n}. Lorsque car F > 0, seule la condition a) peut se produire.

Démonstration. Cela résulte facilement de la proposition 6.2. □

6.6. Proposition. Supposons que p = 2. Alors [−1]_{n} ∈ Gal(L/F) exactement dans les cas suivants :

a) F est de type III ou IV.

b) F est de type II, [L : F] = 2 et L contient une racine primitive 2^{n+1}-ième de l’unité.

Démonstration. cela résulte tout aussi facilement de la proposition 6.2. □

6.7. Définition. Si la condition b) de la proposition 6.6 est vérifiée, on est dans le cas déficient.

7. Réduction aux p-groupes de rang normal 1

Soit G un p-groupe. Rappelons que le rang normal de G est le maximum des rangs des sous-groupes abéliens élémentaires distingués de G. Les p-groupes de rang normal 1 sont bien connus : si p > 2, ils sont cycliques ; si p = 2, ils sont cycliques, diédraux, semi-diédraux ou quaternioniens généralisés.

7.1. Proposition. Soient A un groupe abélien et χ une représentation linéaire irréductible fidèle de A. Alors A est cyclique.

Démonstration. Le corps des endomorphismes de χ contient χ(A), qui en engendre un sous-corps commutatif ; tout sous-groupe fini du groupe multiplicatif d’un corps commutatif est cyclique. □

7.2. Corollaire. Soient A un groupe abélien et ρ une représentation linéaire fidèle de A. Supposons que ρ soit de la forme nχ ⊕ mχ^{∗}, où χ est irréductible. Alors A est cyclique.

Démonstration. Le noyau de ρ est égal au noyau de χ, qui est donc nul. On applique la proposition 7.1. □

7.3. Proposition. Soient G un p-groupe et ρ une représentation linéaire (resp. orthogonale, symplectique) irréductible, fidèle, de G. Alors il existe un sous-groupe H de G, de rang normal 1, tel que ρ soit induite d’une représentation χ de H avec End_{F} (χ) = End_{F} (ρ). Si ρ est orthogonale ou symplectique et que 𝕃(ρ) est irréductible, alors 𝕃(χ) est irréductible.

Démonstration. On raisonne comme dans [11]. Supposons d’abord ρ linéaire, supposons que la restriction de ρ à tout sous-groupe abélien normal de G soit isotypique. Alors un tel sous-groupe est cyclique (corollaire 7.2), donc G est de rang normal 1. Si ce n’est pas le cas, on choisit un A tel que ρ_{|A} ne soit pas isotypique. Alors G permute transitivement les composantes isotypiques de ρ_{|A}, donc ρ est induite d’une représentation χ_{1} d’un sous-groupe propre H contenant A. De plus, soit K le corps des endomorphismes de ρ. Alors K opère sur chaque composante isotypique de ρ_{|A}, donc sur χ_{1}. Réciproquement, il est clair que le corps des endomorphismes de χ_{1} opère sur ρ = Ind_{H}^{G} χ_{1}. On en déduit que End(χ_{1}) = End(ρ). On conclut par récurrence sur l’ordre de G.

Lorsque ρ est orthogonale ou symplectique, on fait le même raisonnement, cette fois-ci avec les composantes isotypiques de ρ_{|A} au sens de la définition 5.3. S’il n’y en a qu’une, le corollaire 7.2 montre que A est cyclique. Dans le cas contraire, ρ est induite d’une représentation orthogonale (resp. symplectique) χ_{1} convenable à partir d’un sousgroupe propre H de G. Enfin, si χ_{1} est de la forme ℍ(θ) ou ℍ_{sp}(θ), on a ρ = Ind_{H}^{G} ℍ(θ) = ℍ(Ind_{H}^{G}(θ)), et de même pour ℍ_{sp}; la dernière assertion résulte donc de la proposition 5.1. □

8. Représentations irréductibles des p-groupes de rang normal 1

Dans toute cette section, G est un p-groupe de rang normal 1.

8.1. Le cas cyclique. Supposons G cyclique d’ordre p^{n}, et soit L = F (μ_{p^{n}}). Soit θ : G ⟶^{∼} μ_{p^{n}}(L) un isomorphisme, c’est-à-dire une L-re-présentation de G de dimension 1. On note ρ_{θ} = θ_{(F)} la restriction des scalaires de θ à F : c’est une représentation irréductible fidèle de rang [L : F], de corps des F -endomorphismes L.

8.1. Proposition. a) Les représentations ρ_{θ} et ρ_{θ′} sont isomorphes si et seulement s’il existe σ ∈ Gal(L/F) tel que ^{σ}θ = θ′. En particulier, ρ_{θ} est autoduale si et seulement si [−1]_{n} ∈ Gal(L/F) (convention 6.4) ; l’involution associée sur L = End(ρ_{θ}) est alors [−1]_{n} et ρ_{θ} est unitaire.

b) Toute représentation irréductible fidèle de G est de la forme ρ_{θ} pour un θ convenable.

Démonstration. a) Soit φ : L → L un isomorphisme de ρ_{θ} sur ρ_{θ′}. Pour tout a ∈ L et g ∈ G, on a

φ(θ(g)a) = θ′(g)φ(a).

Il existe un entier m tel que θ′ = θ^{m}. On a alors

φ(ζ) = ζ^{m}φ(1)

pour tout ζ ∈ θ(G) = μ_{p^{n}}.

Choisissons ζ primitive, et soit P son polynôme minimal sur F. Alors P (ζ^{m})φ(1) = 0, donc ζ^{m} est conjuguée à ζ sous l’action d’un élément σ ∈ Gal(L/F) ; alors θ′ = ^{σ}θ. Réciproquement, si cette condition est vérifiée, on peut choisir φ(a) = ^{σ}a.

La duale de ρ_{θ} est Hom_{F} (E, F) munie de l’action donnée par gφ(x) = φ(g^{−1}x) = θ^{−1}(g)φ(x) : l’isomorphisme E ↦ Hom_{F} (E, F) donné par l’accouplement trace l’identifie à ρ_{θ^{−1}}. Cela démontre la deuxième assertion de a), et la troisième résulte du calcul précédent.

b) Soit ρ irréductible . L’anneau des endomorphismes de ρ est un corps gauche D. Comme G est commutatif, ρ(G) ⊂ D^{∗}, donc ρ(G) engendre un sous-corps commutatif L de D isomorphe à F (μ_{p^{n}}). On peut donc considérer V comme un L-espace vectoriel. Soit v ∈ V \ {0}. Comme ρ est irréductible , Gv engendre V sur F, donc dim_{L} V = 1. Ainsi, v définit un isomorphisme de ρ sur ρ_{θ} pour un θ convenable. □

8.2. Le cas non cyclique générique. Si G n’est pas cyclique, on peut l’écrire comme extension

1 → H → G → ℤ/2 → 1

avec H cyclique d’ordre 2^{n}. Soient h un générateur de H et g ∈ G \ H. Trois cas sont possibles :

(1) Cas diédral : g^{2} = 1, ghg^{−1} = h^{−1} (n ≥ 2). On pose ε_{G} = −1, η_{G} = 1.

(2) Cas semi-diédral : g^{2} = 1, ghg^{−1} = h^{−1+2^{n−1}} (n ≥ 3). On pose ε_{G} = −1 + 2^{n−1}, η_{G} = 1.

(3) Cas quaternionien [généralisé] : g^{2} = h^{2^{n−1}}, ghg^{−1} = h^{−1} (n ≥ 2). On pose ε_{G} = −1, η_{G} = −1.

On pose toujours L = F (μ_{2^{n}}) et Γ = Gal(L/F).

8.2. Proposition. a) Soit θ : H → L^{∗} un caractère fidèle de H. Alors Ind_{H}^{G} ρ_{θ} est irréductible exactement dans les cas suivants :

• [ε_{G}]_{n} ∉ Γ. Le corps des endomorphismes de Ind_{H}^{G} ρ_{θ} est alors L.

• G est quaternionien, [−1]_{n} ∈ Γ et L^{+} := L^{[−1]_{n}} est de type IV. Le corps des endomorphismes de Ind_{H}^{G} ρ_{θ} est alors le corps de

quaternions \binom{−1 −1}{L^{+}}.

b) Dans les cas de a), deux représentations Ind_{H}^{G} ρ_{θ} et Ind_{H}^{G} ρ_{θ′} sont isomorphes si et seulement s’il existe σ ∈ Γ tel que ^{σ}θ = θ′ ou ^{σ}θ = θ′^{ε_{G}}.

c) Si Ind_{H}^{G} ρ_{θ} est irréductible, elle est autoduale, sauf si F est de type I et que G est semi-diédral. Si G est diédral, Ind_{H}^{G} ρ_{θ} est positive et de type orthogonal. Si G est quaternionien généralisé et que [−1]_{n} ∉ Γ, Ind_{H}^{G} ρ_{θ} est négative de type symplectique ; si [−1]_{n} ∈ Γ, elle est unitaire. Enfin, si G est semi-diédral, Ind_{H}^{G} ρ_{θ} est unitaire.

d) Dans les cas de a), toute représentation irréductible fidèle de G est de la forme Ind_{H}^{G} ρ_{θ} pour un θ convenable.

Démonstration. a) et b) Notons que par réciprocité de Frobenius, on a

(1) Hom_{G}(Ind_{H}^{G} ρ_{θ}, Ind_{H}^{G} ρ_{θ′}) = Hom_{H}(ρ_{θ}, Res_{H}^{G} Ind_{H}^{G} ρ_{θ′})

= Hom_{H}(ρ_{θ}, ρ_{θ′} + ρ_{θ′}^{ε_{G}})

pour deux caractères θ, θ′ de H à valeurs dans L^{∗}.

Supposons d’abord θ′ = θ. Si ρ_{θ^{ε_{G}}} ≄ ρ_{θ}, l’anneau des endomorphismes de Ind_{H}^{G} ρ_{θ} se réduit à L et Ind_{H}^{G} ρ_{θ} est irréductible ; d’après la proposition 8.1 a), cette condition se produit si et seulement si [ε_{G}]_{n} ∉ Γ.

Supposons le contraire. Alors End_{G}(Ind_{H}^{G} ρ_{θ}) est un L-espace vectoriel de dimension 2. Posons σ = [ε_{G}]_{n}. Soient L^{+} = L^{σ} et A la L^{+}-algèbre de dimension 4 définie comme étant L ⊕ Lj, avec j^{2} = η_{G}, jλj^{−1} = ^{σ}λ pour λ ∈ L : c’est un produit croisé au sens de [1, déf. VI-1]. Comme L = L^{+}(i) où i^{2} = −1, on voit que A s’identifie canoni-

quement à l’algèbre de quaternions \binom{−1 η_{G}}{L^{+}}. De plus, on a un

homomorphisme injectif

G → A^{∗}
g ↦ j
h ↦ θ(h)

et on voit immédiatement que cet homomorphisme étend l’action de G en une action de A sur Ind_{H}^{G} ρ_{θ}; comme dim_{L^{+}} Ind_{H}^{G} ρ_{θ} = dim_{L^{+}} A, on voit que Ind_{H}^{G} ρ_{θ} est irréductible si et seulement si A est un corps. Ceci implique η_{G} = −1, donc que G est quaternionien et que L^{+} est de type IV.

D’après (1), le groupe Hom_{G}(Ind_{H}^{G} ρ_{θ}, Ind_{H}^{G} ρ_{θ′}) est non nul si et seulement si l’un au moins des deux termes Hom_{H}(ρ_{θ}, ρ_{θ′}), Hom_{H}(ρ_{θ}, ρ_{θ′}^{ε}) est non nul ; en réappliquant la proposition 8.1 a), ceci signifie que θ est conjugué à θ′ où à θ′^{ε} via Γ.

c) D’après b), Ind_{H}^{G} ρ_{θ} est autoduale si et seulement s’il existe σ ∈ Γ tel que ^{σ}θ = θ^{−1} ou ^{σ}θ = θ^{−ε_{G}}, soit σ ∈ {[−1]_{n}, [−ε_{G}]_{n}}. Autrement dit, Ind_{H}^{G} ρ_{θ} est autoduale si et seulement si l’un au moins des deux éléments [−1]_{n}, [−ε_{G}]_{n} appartient à Γ. Distinguons trois cas :

• G est diédral. Alors ε_{G} = −1 et [−ε_{G}]_{n} ∈ Γ : Ind_{H}^{G} ρ_{θ} est autoduale. Comme [−1]_{n} ∉ Γ, F est de type I ou II d’après la proposition 6.2.

• G est semi-diédral. Alors ε_{G} = −1+2^{n−1}. Comme [−1+2^{n−1}]_{n} ∉ Γ, la proposition 6.2 montre que F est soit de type I, soit de type II avec [L : F] > 2, soit de type III ou IV avec [L : F] = 2. Dans le deuxième cas, on a [−ε_{G}]_{n} ∈ Γ, et dans le troisième cas on a [−1]_{n} ∈ Γ. Dans tous les cas sauf le premier, Ind_{H}^{G} ρ_{θ} est autoduale.

• G est quaternionien. Alors ε_{G} = −1 et [−ε_{G}]_{n} ∈ Γ : Ind_{H}^{G} ρ_{θ} est autoduale. Si [−1]_{n} ∉ Γ, F est de type I ou II ; dans le cas contraire, L^{+} est de type IV (voir ci-dessus).

Dans tous les cas, Ind_{H}^{G} ρ_{θ} est autoduale.

Pour prouver le reste, on décrit explicitement une forme G-invariante sur Ind_{H}^{G} ρ_{θ} = L ⊕ L : notons que, dans les cas diédral et semi-diédral, g ∈ G permute ces deux facteurs.

• Dans le cas diédral, pour tout λ ∈ L^{∗}, une forme G-invariante sur L ⊕ L est donnée par

b_{λ} : ((a, b), (c, d)) ↦ Tr_{L/F} (λ(ad + bc))

elle est symétrique et l’involution associée sur L est visiblement triviale. D’après le corollaire 4.7 d), ceci épuise les formes bilinéaires symétriques G-invariantes ; (ρ, b_{λ}) et (ρ, b_{λ′}) sont isomorphes si et seulement si λ′/λ ∈ K^{∗2}. Notons que, pour tout λ, b_{λ} est hyperbolique comme trace d’une forme hyperbolique.

• Dans le cas semi-diédral, si [−1]_{n} ∈ Γ, pour tout λ ∈ (L^{[−1]_{n}})^{∗}, une forme G-invariante est

b_{λ} : ((a, b), (c, d)) ↦ Tr_{L/F} (λ(a^{[−1]_{n}}c + b^{[−1]_{n}}d));

l’involution induite sur L est visiblement [−1]_{n}. Si [1 + 2^{n−1}]_{n} ∈ Γ, pour tout λ ∈ (L^{[1+2^{n−1}]_{n}})^{∗}, une forme G-invariante est

((a, b), (c, d)) ↦ Tr_{L/F} (λ(a^{[1+2^{n−1}]_{n}}d + b^{[1+2^{n−1}]_{n}}c))

et l’involution induite sur L est visiblement [1 + 2^{n−1}]_{n}.

• Dans le cas quaternionien, si [−1]_{n} ∉ Γ, pour tout λ ∈ K^{∗}, une forme G-invariante est

b_{λ} : ((a, b), (c, d)) ↦ Tr_{L/F} (λ(ad − bc));

elle est symplectique et l’involution induite sur L est encore triviale. Ceci épuise les formes symplectiques G-invariantes et (ρ, b_{λ}) est déterminée à isomorphisme près par la classe de λ dans K^{∗}/K^{∗2} (corollaire 4.7 d)). Si [−1]_{n} ∈ Γ, considérons l’involution x ↦ x̄ sur A (voir notations ci-dessus) dont la restriction à L est σ et telle que ī = −i. Identifiant Ind_{H}^{G} ρ_{θ} à A, pour tout λ ∈ L^{+∗}, une forme G-invariante est

b_{λ} : (x, y) ↦ Tr_{L^{+}/F} Trd_{A/L^{+}}(λx̄y)

et l’involution induite sur L est visiblement σ = [−1]_{G}.

d) Soit ρ une représentation irréductible fidèle de G. Considérons la restriction ρ_{|H} de ρ à H. Si ρ_{|H} n’est pas isotypique, ρ est induite d’une représentation de H qui est nécessairement irréductible , donc ρ est de la forme Ind_{H}^{G} ρ_{θ}.

Supposons maintenant ρ_{|H} isotypique. Soit χ un facteur irréductible de ρ_{|H} : comme ρ est irréductible , on a encore ρ_{|H} = χ + gχ. Ainsi, l’espace vectoriel V sous-jacent à ρ est de dimension 1 ou 2 sur L, l’action de ρ_{|H} sur V étant donnée par un caractère θ : H → L^{∗} convenable.

i) Supposons V de dimension 1 sur L, engendré par v. Pour tout a ∈ L, on a

gav = φ(a)v

pour un unique φ(a) ∈ L. Il est clair que φ est F -linéaire. D’autre part,

η_{G}av = g^{2}av = gφ(a)v = φ^{2}(a)v

d’où φ^{2}(a) = ηa. De plus,

g^{−1}h^{ε_{G}}gv = hv = θ(h)v
= g^{−1}h^{ε_{G}}λv = g^{−1}θ(h)^{ε_{G}}λv

d’où φ(ζ) = ζ^{ε_{G}}φ(1) pour tout ζ ∈ μ_{2^{n}}. En raisonnant comme dans la démonstration de la proposition 8.1 a), on voit que [ε_{G}]_{n} ∈ Γ. Donc G est quaternionien, η_{G} = −1 et L^{+} est de type IV. On a alors

φ(a) = a^{[−1]_{n}}φ(1)

pour tout a ∈ L, d’où

−a = φ^{2}(a) = a · φ(1)^{[−1]_{n}} · φ(1).

Ceci implique φ(1)^{[−1]_{n}} · φ(1) = −1. Mais alors −1 est norme dans l’extension L/L^{+}, donc A n’est pas un corps, ce qui contredit l’hypothèse.

ii) On a donc dim_{L} V = 2. On peut choisir une L-base (w_{0}, w_{1}) de V telle que gw_{0} = w_{1} : alors gw_{1} = η_{G}w_{0}. On a

g^{−1}h^{ε_{G}}gw_{0} = hw_{0} = θ(h)w_{0}
= g^{−1}h^{ε_{G}}w_{1} = g^{−1}θ(h)^{ε}w_{1}

soit

(2)  gζw_{0} = ζ^{ε_{G}}w_{1}

et de même

gζw_{1} = η_{G}ζ^{ε_{G}}w_{0}

pour tout ζ ∈ μ_{2^{n}}.

Supposons que η_{G} = 1. Pour tout ζ ∈ μ_{2^{n}}, on a alors

gζ(w_{0} + w_{1}) = ζ^{ε_{G}}(w_{0} + w_{1}).

Ainsi, le sous-L-espace vectoriel de V engendré par w_{0}+w_{1} est stable sous l’action de G, ce qui contredit l’irréductibilité de V. Donc η_{G} = −1 et ε_{G} = −1.

En raisonnant encore comme dans la démonstration de la proposition 8.1 a) (utiliser (2), par exemple), on voit que [−1]_{n} ∈ Γ. Si L^{+} est son corps des invariants, l’action de G est L^{+}-linéaire et une base de V sur L^{+} est donnée par (w_{0}, w_{1}, iw_{0}, iw_{1}). L’algèbre A = \binom{−1 −1}{L^{+}}

opère sur V par jw_{0} = w_{1}, jw_{1} = −w_{0}. On constate que l’injection G → A^{∗} donnée par g ↦ j, h ↦ θ(h) est compatible à cette l’action, et que l’algèbre des F -endomorphismes de ρ se réduit à A^{o} = A. Puisque ρ est irréductible , A est un corps. Ainsi ρ s’identifie à la représentation naturelle de ρ sur A; mais en écrivant A = E ⊕ jE, on voit que cette représentation n’est autre que Ind_{H}^{G} ρ_{θ}. □

8.3. Le cas non cyclique exceptionnel. Conservons les notations de la sous-section précédente. Lorsque les conditions de la proposition 8.2 a) ne sont pas vérifiées, la représentation Ind_{H}^{G} ρ_{θ} est réductible, somme de deux représentations de dimension 1 sur L. Nous nous proposons de décrire ces représentations et de montrer qu’elles épuisent les représentations irréductibles fidèles dans ce cas exceptionnel.

Jusqu’à la fin de cette sous-section, on suppose que [ε_{G}]_{n} ∈ Γ ; on note σ = [ε_{G}]_{n}. On suppose de plus que si G est quaternionien, alors L^{+} := L^{σ} n’est pas de type IV. Donnons-nous comme dans le cas cyclique un isomorphisme θ : H ⟶^{∼} μ_{2^{n}}(L). On va lui associer une représentation (ou une classe d’isomorphisme de représentations ) ρ̃_{θ} comme ci-dessus :

Supposons d’abord G diédral, donc ε_{G} = −1 : alors L/F est soit du type b) ou c) de la proposition 6.5, soit du type a) et |μ_{2^{∞}}(L)| > 2^{n}. On définit ρ̃_{θ} comme la représentation de G sur L donnée par les formules

hx = θ(h)x
gx = ^{σ}x.

Supposons maintenant G semi-diédral, donc ε_{G} = −1 + 2^{n−1} : alors L/F est soit du type c) de la proposition 6.5, soit du type a) et |μ_{2^{∞}}(L)| = 2^{n}. On définit ρ̃_{θ} comme la représentation de G sur L donnée par les formules

hx = θ(h)x
gx = ^{σ}x.

Supposons enfin G quaternionien, donc ε_{G} = −1. Alors L/F est du même type que dans le cas diédral. Écrivons −1 = a^{2} + b^{2} dans L^{+}, et soit α = a + bi ∈ L. On fait opérer G sur L par les formules

hx = θ(h)x
gx = α^{σ}x.

(Remarquer que α · ^{σ}α = −1, donc que les formules ci-dessus définissent bien une représentation de G.) Si α′ est un autre élément de L de norme −1 dans L^{+}, on a α′ = α ·^{σ}γ/γ pour un γ ∈ L convenable (théorème 90 de Hilbert) ; l’automorphisme x ↦ γx conjugue donc les représentations associées à α et α′. La classe d’isomorphisme de la représentation associée à α est donc indépendante du choix de α : on la note encore ρ̃_{θ}.

8.3. Proposition. a) Les représentations ρ̃_{θ} décrites ci-dessus sont toutes irréductibles, de corps d’endomorphismes L^{+} := L^{[ε_{G}]_{n}}.

b) Deux représentations ρ̃_{θ} et ρ̃_{θ′} sont isomorphes si et seulement s’il existe σ ∈ Gal(L/F) tel que ^{σ}θ = θ′.

c) En particulier, ρ̃_{θ} est autoduale si et seulement si [−1]_{n} ∈ Gal(L/F). L’involution induite sur L^{+} est alors triviale dans les cas diédral et quaternionien, et égale à [−1]_{n} dans le cas semi-diédral. Dans le cas diédral, ρ̃_{θ} est de type orthogonal, et dans le cas quaternionien, ρ̃_{θ} est de type symplectique.

d) Toute représentation irréductible de G est du type ρ̃_{θ}.

Démonstration. a) Cela résulte d’un calcul facile.

b) La condition est nécessaire par restriction à H, en appliquant a). Comme ci-dessus, on a θ′ = θ^{m} pour un m convenable.

Supposons d’abord G diédral ou semi-diédral. Alors φ(a) = a^{[m]_{n}} définit un isomorphisme de ρ̃_{θ} sur ρ̃_{θ^{m}} : ceci montre que la condition est suffisante.

Supposons maintenant G quaternionien. Comme αα^{[−1]_{n}} = −1, l’élément x = α^{[m]_{n}}/α vérifie xx^{[−1]_{n}} = 1 ; par le théorème 90 de Hilbert, il existe β tel que α^{[m]_{n}}/α = β^{[−1]_{n}}/β. L’application φ(a) = a^{[m]_{n}}β définit alors un isomorphisme de ρ̃_{θ} sur ρ̃_{θ^{m}} : la condition est encore suffisante.

c) On décrit explicitement une forme bilinéaire G-invariante sur E : dans le cas diédral, on prend

b_{λ} : (a, b) ↦ Tr_{L/F} (λa^{[−1]_{n}}b)

pour λ ∈ L^{+∗} : cette forme est symétrique et l’involution induite sur L^{+} est visiblement triviale. Ceci épuise les formes bilinéaires symétriques G-invariantes et la classe d’isomorphisme de (ρ̃_{θ}, b_{λ}) est déterminée par la classe de λ dans L^{+∗}/L^{+∗2}.

Dans le cas quaternionien, on prend

b_{λ} : (a, b) ↦ Tr_{L/F} (λa^{[−1]_{n}}b)

où λ vérifie λ^{[−1]_{n}} = −λ : cette forme est alternée et l’involution induite sur L^{+} est encore triviale. La classe d’isomorphisme de (ρ̃_{θ}, b_{λ}) est déterminée par la classe de λ dans (L^{−} − {0})/L^{+∗2}.

Enfin, dans le cas semi-diédral, on prend

(a, b) ↦ Tr_{L/F} (a^{[−1]_{n}}b);

l’involution induite sur L^{+} est visiblement [−1]_{n}.

d) Soit ρ une représentation irréductible fidèle de G. D’après la proposition 8.2 a), la restriction de ρ à H est isotypique. Reprenons le raisonnement fait dans la démonstration de la proposition 8.2 d) : il montre d’abord que l’espace vectoriel V sous-jacent à ρ est de dimension 1 ou 2 sur L. Si cette dimension est 1, avec les notations de loc. cit., pour un v ∈ V \ {0} et a ∈ L, on a

gav = a^{[ε_{G}]_{n}}λv

où λ vérifie

λ^{[ε_{G}]_{n}} · λ = η_{G}.

Si η = 1, le théorème 90 de Hilbert implique qu’il existe ν ∈ L tel que λ = ν/ν^{[ε_{G}]_{n}}. Si v′ = νv, on a alors

gav′ = gaνv = a^{[ε_{G}]_{n}}ν^{[ε_{G}]_{n}}λv = a^{[ε_{G}]_{n}}νv = a^{[ε_{G}]_{n}}v′

et ρ est isomorphe à ρ̃_{θ}.

Si η = −1 (donc G quaternionien), ρ est encore dans la classe d’isomorphisme de ρ̃_{θ}.

Il reste à voir que V ne peut pas être de dimension 2. Le raisonnement cité ci-dessus montre que, si c’est le cas, G est nécessairement quaternionien et que L^{+} est de type IV, contrairement à l’hypothèse.□

8.4. Relations entre représentations induites.

8.4. Lemme. Soit G un groupe diédral d’ordre 2^{n+1}, avec n ≥ 3. Notons H le sous-groupe cyclique d’indice 2 de G, g un élément de G−H, H_{1} le sous-groupe d’indice 2 de H et G_{1} = ⟨g, H_{1}⟩ : c’est l’un des deux sous-groupes diédraux d’indice 2 de G. Supposons L/F non déficiente (relativement à n). Soit θ : H → L^{∗} un caractère fidèle de H, de sorte que Ind_{H}^{G} ρ_{θ} est irréductible d’après la proposition 8.2. Soit θ_{1} la restriction de θ à H_{1}, de sorte que la représentation ρ̃_{θ_{1}} de G_{1} est définie. Alors Ind_{H}^{G} ρ_{θ} ≃ Ind_{G_{1}}^{G} ρ̃_{θ_{1}}.

Démonstration. L’espace sous-jacent aux deux représentations s’identifie à L ⊕ L. Notons x ↦ x̄ le générateur de Γ, h un générateur de H et et ζ = θ(h). Alors l’action de G via Ind_{G_{1}}^{G} ρ̃_{θ_{1}} est décrite par les formules

g(a, b) = (ā, \overline{ζ^{2}b})
h(a, b) = (ζ^{2}b, a)

tandis que l’action via Ind_{H}^{G} ρ_{θ} est décrite par les formules

g^{∗}(a, b) = (b, a)
h^{∗}(a, b) = (ζa, ζ^{−1}b).

Soit φ : L ⊕ L → L ⊕ L l’automorphisme F -linéaire donné par la formule

φ(a, b) = (a + b̄, ζ^{−1}(a − b̄)).

On vérifie facilement que gφ(a, b) = φ(g^{∗}(a, b)) et hφ(a, b) = φ(h^{∗}(a, b)) pour tout (a, b) ∈ L ⊕ L (utiliser le fait que ζ̄ = −ζ^{−1}). □

8.5. Lemme. Soit G un groupe quaternionien d’ordre 2^{n+1}, avec n ≥ 3. Notons H le sous-groupe cyclique d’indice 2 de G, g un élément de G − H, H_{1} le sous-groupe d’indice 2 de H et G_{1} = ⟨g, H_{1}⟩ : c’est l’un des deux sous-groupes quaternioniens d’indice 2 de G. Supposons L/F non déficiente (relativement à n). Soit θ : H → L^{∗} un caractère fidèle de H, de sorte que Ind_{H}^{G} ρ_{θ} est irréductible d’après la proposition 8.2. Soit θ_{1} la restriction de θ à H_{1}, de sorte que la représentation ρ̃_{θ_{1}} de G_{1} est définie. Alors Ind_{H}^{G} ρ_{θ} ≃ Ind_{G_{1}}^{G} ρ̃_{θ_{1}}.

Démonstration. Cette fois-ci, l’action de G via Ind_{G_{1}}^{G} ρ̃_{θ_{1}} et Ind_{H}^{G} ρ_{θ} est décrite respectivement par les formules

g(a, b) = (αā, α\overline{ζ^{2}b}) g^{∗}(a, b) = (b, −a)
h(a, b) = (ζ^{2}b, a)  h^{∗}(a, b) = (ζa, ζ^{−1}b).

On constate alors que

φ(a, b) = (a − αb̄, ζ^{−1}(a + αb̄))

fait l’affaire. □

8.6. Lemme. Soit G un groupe semi-diédral d’ordre 2^{n+1}, avec n ≥ 3. Notons H le sous-groupe cyclique d’indice 2 de G, g un élément de G−H, H_{1} le sous-groupe d’indice 2 de H et G_{1} = ⟨g, H_{1}⟩ : c’est l’unique sous-groupe diédral d’indice 2 de G. Supposons L/F non déficiente (relativement à n). Soit θ : H → L^{∗} un caractère fidèle de H, de sorte que Ind_{H}^{G} ρ_{θ} est irréductible d’après la proposition 8.2. Soit θ_{1} la restriction de θ à H_{1}, de sorte que la représentation ρ̃_{θ_{1}} de G_{1} est définie. Alors Ind_{H}^{G} ρ_{θ} ≄ Ind_{G_{1}}^{G} ρ̃_{θ_{1}}.

Démonstration. Cette fois-ci, l’action de G via ρ = Ind_{G_{1}}^{G} ρ̃_{θ_{1}} et ρ′ = Ind_{H}^{G} ρ_{θ} est décrite respectivement par les formules

g(a, b) = (ā, −\overline{ζ^{2}b}) g^{∗}(a, b) = (b, a)
h(a, b) = (ζ^{2}b, a) h^{∗}(a, b) = (ζa, −ζ^{−1}b).

Un calcul montre que tout φ ∈ End_{F} (L ⊕ L) tel que φ ∘ ρ′ = ρ ∘ φ est de la forme

φ(a, b) = (λa + \overline{λb}, ζ^{−1}(λa + \overline{λb}))

pour λ ∈ L convenable, donc est singulier. □

8.7. Lemme. Soit G un groupe semi-diédral d’ordre 2^{n+1}, avec n ≥ 3. Notons H le sous-groupe cyclique d’indice 2 de G, h un générateur de H, g un élément de G − H, γ = gh, H_{1} le sous-groupe d’indice 2 de H et G_{1} = ⟨γ, H_{1}⟩ : c’est l’unique sous-groupe quaternionien d’indice 2 de G. Supposons L/F non déficiente (relativement à n). Soit θ : H → L^{∗} un caractère fidèle de H, de sorte que Ind_{H}^{G} ρ_{θ} est irréductible d’après la proposition 8.2. Soit θ_{1} la restriction de θ à H_{1}, de sorte que la représentation ρ̃_{θ_{1}} de G_{1} est définie. Alors Ind_{H}^{G} ρ_{θ} ≄ Ind_{G_{1}}^{G} ρ̃_{θ_{1}}.

Démonstration. Cette fois-ci, l’action de G via ρ = Ind_{G_{1}}^{G} ρ̃_{θ_{1}} et ρ′ = Ind_{H}^{G} ρ_{θ} est décrite respectivement par les formules

g(a, b) = (ā, −\overline{ζ^{2}b}) g^{∗}(a, b) = (b, a)
h(a, b) = (−b̄, −\overline{ζ^{2}a}) h^{∗}(a, b) = (ζa, −ζ^{−1}b).

Un calcul montre que tout φ ∈ End_{F} (L ⊕ L) tel que φ ∘ ρ′ = ρ ∘ φ est de la forme

φ(a, b) = (λa + \overline{λb}, ζ^{−1}(\overline{λa} + λb))

pour λ ∈ L convenable, donc est singulier. □

Terminons cette section par un tableau récapitulant les résultats obtenus. Rappelons que G est d’ordre p^{n} s’il est cyclique, d’ordre 2^{n+1} sinon, et que L = F (μ_{p^{n}}). On pose toujours Γ = Gal(L/F) et L^{+} = L^{[ε_{G}]_{n}}. Voir la définition 6.7 pour le sens du mot “déficient”. Une flèche verticale indique une relation entre induites (cf. lemmes 8.4 et 8.5).

G  ρ irr.  End(ρ)  autoduale Type ρ Type F, L/F [L : F]
cyclique  ρ_{θ}  L  [−1]_{n} ∈ Γ unitaire II déficient  2

III, IV

diédral Ind_{H}^{G} ρ_{θ} L toujours orth. I
[ε_{G}]_{n} ∉ Γ  II non déft
diédral ρ̃_{θ} ↑ L^{+} toujours orth. II déficient 2
[ε_{G}]_{n} ∈ Γ  III, IV
semi-diédral Ind_{H}^{G} ρ_{θ} L type F ≠ I unitaire cas compl.
[ε_{G}]_{n} ∉ Γ  du suivant
semi-diédral  ρ̃_{θ}  L^{+}  [−1]_{n} ∈ Γ unitaire II non déft  2
[ε_{G}]_{n} ∈ Γ  III, IV  > 2
quaternionien  Ind_{H}^{G} ρ_{θ}  L  toujours  sympl.  I
[ε_{G}]_{n} ∉ Γ  II non déft
quaternionien ρ̃_{θ} ↑ L^{+} toujours sympl. II déficient 2
[ε_{G}]_{n} ∈ Γ  III, IV

L^{+} pas de type IV

quaternionien Ind_{H}^{G} ρ_{θ} \binom{−1 −1}{L^{+}} toujours unitaire IV

[ε_{G}]_{n} ∈ Γ L^{+} de type IV

Pour la commodité du lecteur, voici un tableau simplifié lorsque F est non exceptionnel (par exemple, de caractéristique > 0) : on y suppose p = 2 dans le cas cyclique.

G  ρ irr. End(ρ) autoduale Type ρ L/F
cyclique ρ_{θ} L [−1]_{n} ∈ Γ unitaire déficient

si autod.

diédral Ind_{H}^{G} ρ_{θ} L toujours orth. non déft

[ε_{G}]_{n} ∉ Γ

diédral ρ̃_{θ} ↑ F toujours orth. deg. 2
[ε_{G}]_{n} ∈ Γ  déficient
semi-diédral Ind_{H}^{G} ρ_{θ} L type F ≠ I unitaire deg. > 2

[ε_{G}]_{n} ∉ Γ

semi-diédral ρ̃_{θ} F jamais deg. 2
[ε_{G}]_{n} ∈ Γ  non déft
quaternionien Ind_{H}^{G} ρ_{θ} L toujours sympl. non déft

[ε_{G}]_{n} ∉ Γ

quaternionien ρ̃_{θ} ↑ F toujours sympl. deg. 2
[ε_{G}]_{n} ∈ Γ  déficient

Le corollaire suivant raffine un théorème de O. Schilling [14] :

8.8. Corollaire. Soient G un p-groupe et ρ une représentation irréductible de G. Si p ≠ 2, End(ρ) = F (μ_{p^{n}}) pour un n convenable ; en particulier, il est commutatif. Si p = 2, End(ρ) est de la forme L = F (μ_{2^{n}}) pour n convenable, L^{σ}, où σ ∈ Gal(L/F) vérifie κ_{n}(σ) ≡ −1 (mod 4)

(κ_{n} étant le caractère cyclotomique modulo 2^{n}), ou \binom{−1 −1}{L^{σ}}

dans le cas κ(σ) = −1. En particulier, End(ρ) est commutatif, sauf peut-être si −1 n’est pas somme de deux carrés dans F. □

9. Représentations linéaires primitives des p-groupes de rang normal 1

9.1. Le cas cyclique.

9.1. Proposition. Soient G un groupe cyclique d’ordre p^{n} et ρ une représentation primitive fidèle de G. Soient E = F (μ_{2p}) et p^{m} = |μ_{p^{∞}}(E)| ≤ ∞. Alors n ≤ m et ρ est de la forme ρ_{θ}, où θ est un homomorphisme de G dans E^{∗}. De plus, si p = 2 et que E ≠ F, on a n ≥ 3.

Démonstration. D’après la proposition 8.1, ρ est de la forme ρ_{θ}, où θ plonge G dans L = F (μ_{p^{n}}). Mais si n > m, soient H le sous-groupe de G d’ordre p^{m} et ν la restriction de θ à H. L’homomorphisme

(3)  Ind_{H}^{G} ρ_{ν} → ρ_{θ}

adjoint de ρ_{ν} → Res_{H}^{G} ρ_{θ} est évidemment surjectif. D’autre part, puisque (G : H) = [L : E], le diagramme

F [G] ⟶ L
↑  ↑
F [H] ⟶ E

est cocartésien. En particulier, l’application naturelle

Ind_{H}^{G} ρ_{ν} = F [G] ⊗_{F [H]} ρ_{ν} → L ⊗_{E} ρ_{ν}

est bijective, donc dim_{F} Ind_{H}^{G} ρ_{ν} = dim_{F} ρ_{θ} et (3) est un isomorphisme : contradiction.

Il reste à démontrer la dernière assertion : mais si n = 2, l’homomorphisme Ind_{H}^{G} ρ_{ν} → ρ_{θ} est encore bijectif, où H est le sous-groupe de G d’ordre 2. □

9.2. Le cas non cyclique.

9.2. Proposition. Soit G un 2-groupe non cyclique d’ordre 2^{n+1}, de rang normal 1. Alors G admet une représentation linéaire primitive fidèle ρ si et seulement si [ε_{G}]_{n} ∈ Gal(L/F), G n’est pas diédral d’ordre 8 et si de plus, lorsque G est quaternionien, L^{+} n’est pas de type IV. De plus, ρ est de la forme ρ̃_{θ} pour un θ : H → L^{∗} convenable, où ρ̃_{θ} est défini au début du paragraphe 8.3. Le degré de ρ est [L : F].

a) Si G est diédral, alors L = F (\sqrt{−1}) ; F est de type III ou IV ou on est dans le cas déficient. De plus, n ≥ 3.

b) Si G est semi-diédral, alors F est de type II, L = F (\sqrt{−1}) et on n’est pas dans le cas déficient.

c) Si G est quaternionien et n ≥ 3, notons r le plus grand entier s ∈ [3, n], s’il existe, tel que F (μ_{2^{s−1}})^{+} soit de type IV, et notons r = 2 si un tel entier n’existe pas. Alors,

i) Si r = 2, L = F (\sqrt{−1}). ii) Si r > 2, n = r.

Démonstration. Les premières affirmations récapitulent simplement la proposition 8.2.

Dans les cas a) et b), on procède comme dans le cas cyclique : soient E = F (\sqrt{−1}), 2^{m} = |μ_{2^{∞}}(E)| ≤ ∞. On veut montrer que m ≥ n. Si m < n, soient H_{1} le sous-groupe de H d’ordre 2^{m}, ν la restriction de θ à H_{1} et G_{1} = ⟨g, H_{1}⟩, où g ∈ G \ H est choisi tel que g^{2} = 1. On remarque que, si G est semi-diédral, alors G_{1} est diédral. D’autre part, on a (formule de Mackey)

Res_{H}^{G} Ind_{G_{1}}^{G} ρ̃_{ν} = Ind_{H_{1}}^{H} Res_{H_{1}}^{G_{1}} ρ̃_{ν}.

Pour voir que Ind_{G_{1}}^{G} ρ̃_{ν} → ρ̃_{θ} est bijectif, il suffit donc de voir que Ind_{H_{1}}^{H}(ρ̃_{ν})_{|H_{1}} → (ρ̃_{θ})_{|H} est bijectif, ce qui résulte du raisonnement de la démonstration de la proposition 9.1.

Dans le cas c), le raisonnement ci-dessus marche si r = 2. Si r > 2, il montre que n = r, en considérant le sous-groupe de H d’ordre 2^{r}. Mais les sous-groupes de G sont soit cycliques, soit quaternioniens. Si ρ̃_{θ} était induite d’une représentation χ d’un sous-groupe quaternionien G_{1} d’indice 2, on aurait deg χ = deg ρ̃_{θ}/2 = [F (μ_{2^{r−1}}) : F]. Le noyau de χ, s’il n’était pas trivial, contiendrait le centre de G, et il en serait de même du noyau de ρ̃_{θ}, ce qui est absurde ; donc χ serait fidèle. Mais c’est impossible, puisque les représentations irréductibles fidèles de G_{1} sont de degré 2[F (μ_{2^{r−2}}) : F] par la proposition 8.2. Finalement, ρ̃_{θ} n’est pas induite d’un sous-groupe cyclique d’indice 2, puisqu’une telle induite est réductible, encore d’après la proposition 8.2.

Il reste à voir quand ρ̃_{θ} est primitive dans le cas L = F (\sqrt{−1}). Si |G| ≥ 16 ou si G est quaternionien d’ordre 8, G contient un sous-groupe cyclique C d’ordre 4, contenu dans tout sous-groupe maximal K de G. Comme (ρ̃_{θ})_{|C} est irréductible, (ρ̃_{θ})_{|K} est irréductible et ρ̃_{θ} ne peut pas être induite d’une représentation de K. Ainsi, ρ̃_{θ} est primitive. Si |G| = 8 et que G est diédral, engendré par un élément g d’ordre 2 et un élément h d’ordre 4, soit K le sous-groupe maximal de type (2, 2) engendré par g et h^{2}. Un calcul simple montre alors que ρ̃_{θ} = Ind_{K}^{G} θ_{1}, où θ_{1}(g) = θ_{1}(h^{2}) = −1. Ainsi, ρ̃_{θ} n’est pas primitive. □

9.3. Lemme. Pour tout corps de nombres F, les conditions suivantes sont équivalentes :

(i) F est de type IV.

(ii) Il existe une place v de F telle que le complété F_{v} soit de type

IV. (iii) F admet une place réelle ou une place dyadique v telle que le

degré [F_{v} : ℚ_{2}] soit impair.

Démonstration. (i) ⟺ (ii) résulte du théorème de Hasse-Minkow-ski. Pour voir que (ii) ⟺ (iii), notons que F_{v} n’est de type IV pour aucune place complexe ou p-adique, avec p impair. Il reste les places réelles et dyadiques. Si v est une place réelle, F_{v} = ℝ est de type IV. Si v est une place dyadique, F_{v} est de type IV si et seulement si le symbole de Hilbert (−1, −1) est nul dans Br(F_{v}). C’est le cas si F_{v} = ℚ_{2}. En général, l’application de restriction Br(ℚ_{2}) → Br(F_{v}) est la multiplication par le degré [F_{v} : ℚ_{2}] modulo l’identification canonique de ces deux groupes à ℚ/ℤ : F_{v} est donc de type IV si et seulement si [F_{v} : ℚ_{2}] est impair. □

9.4. Proposition. Si F est un corps de nombres, on a r = 2 ou 3 dans la proposition 9.2 c), donc n ≤ 3.

Démonstration. Si F est un corps de nombres de type IV, deux cas sont possibles d’après le lemme 9.3 :

i) F est formellement réel. Alors il en est de même de F (μ_{2^{s−1}})^{+} pour tout s ≥ 0 : tous ces corps sont de type IV d’après le lemme 9.3.

ii) F n’est pas formellement réel. Alors il existe une place dyadique v de F telle que [F_{v} : ℚ_{2}] soit impair. Mais alors l’extension ℚ_{2}(μ_{2^{∞}})/ℚ_{2} est linéairement disjointe de F_{v}/ℚ_{2} ; par conséquent, [F_{v}(μ_{2^{s−1}})^{+} : F_{v}] = [ℚ_{2}(μ_{2^{s−1}})^{+} : ℚ_{2}] = 2^{s−3}. A fortiori, [F (μ_{2^{s−1}})^{+} : F] = 2^{s−3} et F (μ_{2^{s−1}})_{w}^{+} est de degré pair sur ℚ_{2} pour toute place dyadique w dès que s > 3, donc F (μ_{2^{s−1}})^{+} n’est pas de type IV dès que s > 3 d’après le lemme 9.3. Ainsi, r = 3, L est égal à F (μ_{8}) et n = 4. □

9.5. Corollaire. Toute représentation linéaire irréductible primitive ρ d’un p-groupe sur un corps F de caractéristique ≠ p est de la forme ρ_{θ} ou ρ̃_{θ}, où θ est un homomorphisme de G dans F^{∗} ou F (\sqrt{−1})^{∗} et ρ̃_{θ} est défini au début du §8.3. Si p est impair, le degré de ρ divise p − 1. Si p = 2 et F n’est pas de type IV, le degré de ρ est 1 ou 2. Si p = 2 et F est de type IV, le degré de ρ est borné par un entier n(F) qui ne dépend que de F : on a n(F) ≤ 2 si F est un corps de nombres non totalement imaginaire et n(F) = 4 si F est un corps de nombres totalement imaginaire.

Démonstration. Cela résulte des propositions 9.1, 9.2 et 9.4. □

9.6. Exemples.

(1) Soient F = ℚ(\sqrt{−7}) et G le groupe quaternionien d’ordre 16. Alors G admet sur F une représentation irréductible primitive fidèle de degré 4.

(2) Soient n ≥ 3, E = ℚ(μ_{2^{n}})^{+} et X la restriction des scalaires à la Weil de E à ℚ de la conique d’équation x^{2} + y^{2} + 1 = 0. Pour tout corps k de caractéristique zéro, de clôture algébrique k̄ et de groupe de Galois absolu G_{k}, on a la suite exacte classique

0 → Pic X_{k} → (Pic Xk̄)^{G_{k}} ⟶^{d} Br(k) → Br(k(X))

où Br(k) et Br(k(X)) désignent les groupes de Brauer de k et de k(X). La variété Xk̄ est isomorphe à un produit de copies de ℙ^{1} indexé par l’ensemble Hom_{k}(E ⊗_{ℚ}k, k̄), et l’action de Galois permute ces facteurs à travers son action sur cet ensemble. On a E ⊗_{ℚ}k ≃ L^{r}, où L/k est une extension galoisienne (composée des corps k et E au-dessus de ℚ) et r est un entier convenable. Il en résulte que (Pic Xk̄)^{G_{k}} ≃ ℤ^{r}. Soit e_{r} l’image par d du rième vecteur de base pour cet isomorphisme : on peut montrer que

e_{r} = Cor_{L/k}(−1, −1)_{L} = \begin{cases}0 & si L ≠ k \\ (−1, −1)_{k} & si L = k. \end{cases}

Ainsi, Ker(Br(k) → Br(k(X)) = 0, à moins que L = k, c’est-à-dire que k ⊃ E; dans ce cas, Ker(Br(k) → Br(k(X)) est engendré par (−1, −1)_{k}.

Posons K = ℚ(X) : il est linéairement disjoint de E. L’extension KE/K est, comme l’extension E/ℚ, cyclique de degré 2^{n−2}. Comme (−1, −1)_{E} ≠ 0, il résulte de ce qui précède que, pour toute sous-extension L/K, on a

(−1, −1)_{L} \begin{cases}≠ 0 & si L ≠ KE \\ = 0 & si L = KE. \end{cases}

Grâce à la proposition 9.2, ceci montre qu’avec les notations du corollaire 9.5, on a n(K) = 2^{n−1}. Ainsi n(F) n’est pas borné lorsqu’on fait varier F parmi les corps de caractéristique 0. (Estil vrai que n(F) ne dépend que du degré de transcendance de F sur ℚ?)

(3) Prenons F = ℚ, ou plus généralement un corps formellement réel tel que |μ_{2^{∞}}(F (\sqrt{−1}))| = 4. Soit ρ une représentation primitive fidèle d’un 2-groupe G. Alors G ne peut pas être diédral : sinon, il serait d’ordre 8, ce qui est impossible d’après la proposition 9.2 a). Comme F est de type IV, G n’est pas semidiédral d’après la proposition 9.2 b). Enfin, G ne peut pas être quaternionien puisque tous les corps F (μ_{2^{n}})^{+} sont de type IV (proposition 9.2). Il en résulte que G est cyclique d’ordre 2, par la proposition 9.1. On retrouve un théorème de Tornehave [16].

(4) Si F est de type I, G est cyclique d’après la proposition 9.2 : on retrouve un théorème de Dwyer-Friedlander-Mitchell [6].

9.7. Remarque. Pour p = 2 et lorsque F n’est pas exceptionnel, le corollaire 9.5 implique que le groupe Δ_{1} = Gal(F (\sqrt{−1})/F) ⋉ μ_{2^{∞}}(F (\sqrt{−1})) joue un rôle “versel” dans la classification des représentations linéaires primitives. Plus précisément, on a :

9.8. Théorème. Soit F un corps non exceptionnel. Notons E = F (\sqrt{−1}), Γ = Gal(E/F), μ_{2^{m}} = μ_{2^{∞}}(E) et Δ_{1} = Γ⋉μ_{2^{m}}. Considérons la F -représentation linéaire naturelle (de degré 1 ou 2) ρ_{1} de Δ_{1} sur E. Alors, pour toute F -représentation linéaire irréductible primitive χ d’un 2-groupe G, il existe un homomorphisme f : G → Δ_{1} tel que χ soit isomorphe à un facteur direct de ρ_{1} ∘ f, l’autre facteur étant une représentation triviale. Si F est de type I, ou si F est de type II et que |χ(G)| ≥ 4, χ est isomorphe à ρ_{1} ∘ f.

Démonstration. Si F est de type I, Δ_{1} = μ_{2^{m}} et l’énoncé est évident d’après les résultats de la section 8, ou ceux antérieurs de [6]. Supposons maintenant F de type II. On peut supposer χ fidèle. Posons μ := μ_{2^{m}}. On distingue six cas :

(1) G est d’ordre 1. L’énoncé est alors évident.

(2) G est d’ordre 2. Alors χ = ε, le caractère non trivial de G. On peut par exemple envoyer le générateur de G sur (σ, 1) ∈ Δ_{1}, où σ est l’automorphisme non trivial de F (\sqrt{−1})/F : pour l’homomorphisme f correspondant, on a alors ρ_{1} ∘ f = ε ⊕ 1.

(3) G est cyclique d’ordre ≥ 4. Alors χ est de la forme ρ_{θ} pour un θ : G → μ. En composant avec l’inclusion μ ⊂ Δ_{1}, on obtient un homomorphisme f tel que ρ_{θ} = ρ_{1} ∘ f.

(4) G est diédral. Alors χ est de la forme ρ̃_{θ} pour un θ : H → μ, où H est le sous-groupe cyclique d’indice 2 de G; de plus, on est dans le cas déficient. Choisissant g ∈ G − H, on définit un homomorphisme f : G → Δ_{1} prolongeant θ en envoyant g sur (σ, 1). Il est immédiat que ρ̃_{θ} = ρ_{1} ∘ f.

(5) G est semi-diédral. Alors χ est de la forme ρ̃_{θ} pour un θ : H → μ, où H est le sous-groupe cyclique d’indice 2 de G; de plus, on n’est pas dans le cas déficient. Choisissant g ∈ G − H d’ordre 2, on définit un homomorphisme f : G → Δ_{1} prolongeant θ en envoyant g sur (σ, 1). Il est immédiat que ρ̃_{θ} = ρ_{1} ∘ f.

(6) G est quaternionien. Alors χ est de la forme ρ̃_{θ} pour un θ : H → μ, où H est un sous-groupe cyclique d’indice 2 de G; de plus, on n’est pas dans le cas déficient. Soit ζ un générateur de μ : on remarque que σ′ = (σ, ζ) est d’ordre 4 (puisque σ(ζ) = −ζ^{−1}), donc que le sous-groupe Δ^{sp} = ⟨σ′, μ^{2}⟩ de Δ_{1} est quaternionien. Choisissant g ∈ G − H, on définit un homomorphisme f : G → Δ^{sp} prolongeant θ en envoyant g sur σ′. Il est immédiat que ρ_{1}∘f est dans la classe d’isomorphisme ρ̃_{θ} (remarquer que N_{E/F} (ζ) = −1). □

La variante suivante sera utile, au moins conceptuellement, dans la section suivante. Soit Ẽ = F [t]/(t^{2} + 1) : si F est de type II, Ẽ = E; si F est de type I, Ẽ ≃ F × F, les deux idempotents orthogonaux de

somme 1 correspondants étant ε = \frac{i + t}{2i} et ε′ = \frac{i − t}{2i}, où i est une

racine primitive quatrième de l’unité fixée. On fait de Ẽ une F -algèbre galoisienne de groupe ℤ/2 en considérant l’automorphisme σ d’ordre 2 défini par σ(t) = −t : on a σ(ε = ε′). Le sous-groupe de torsion 2-primaire de Ẽ^{∗} est μ_{2^{∞}}(Ẽ^{∗}) ≃ μ_{2^{m}} × μ_{2^{m}}; le groupe Γ = {1, σ} opère sur μ_{2^{∞}}(Ẽ^{∗}) par permutation des facteurs via cet isomorphisme.

On pose alors :

Δ = \begin{cases}Δ_{1} & si F est de type II \\ Γ ⋉ μ_{2^{∞}}(Ẽ^{∗}) ≃ Γ ∫ μ_{2^{m}} & si F est de type I. \end{cases}

L’avantage de cette définition est que Δ, contrairement à Δ_{1} est fonctoriel en F. lorsque F est de type I, on a une représentation naturelle ρ de Δ sur Ẽ; lorsque F est de type II, on définit ρ := ρ_{1}. Lorsque F est de type I, on définit un homomorphisme (injectif) Δ_{1} → Δ en envoyant ζ sur ζε + ε′ : alors ρ_{1} est facteur direct de ρ, l’autre facteur étant une représentation triviale. Le théorème 9.8 reste évidemment valable en remplaçant Δ_{1} par Δ, à condition de retirer la phrase “Si F est de type I”.

10. Représentations orthogonales et symplectiques primitives

Dans le cas des représentations orthogonales et symplectiques, il existe des représentations primitives de degré arbitrairement grand, déjà pour un groupe cyclique.

10.1. Exemples.

(1) Soient G un groupe cyclique d’ordre 2^{n}, ρ une représentation orthogonale irréductible fidèle de G et L = F (μ_{2^{n}}). On suppose 𝕃(ρ) irréductible : d’après la proposition 8.1, on a [−1]_{n} ∈ Gal(L/F) et ρ est de la forme ρ_{θ} pour un θ : G → L^{∗} convenable. Soit b : L × L → F la forme bilinéaire symétrique Ginvariante définissant la structure orthogonale de ρ. Comme L/F est séparable, il existe un unique automorphisme F -linéaire λ de L tel que

b(x, y) = Tr_{L/F} (λ(x)y)

pour tous x, y ∈ L. Par hypothèse, on a b(ζx, ζy) = b(x, y) pour tout ζ ∈ Im θ, ce qui donne λ(ζx) = ζ^{−1}λ(x). Comme L est engendré par les ζ, cela implique que λ est de la forme λ(x) = ax^{[−1]_{n}}. Comme b est symétrique, on a a ∈ L^{+} := L^{[−1]_{n}}.

Si (L, b′) est isomorphe à (L, b) (comme représentation orthogonale de G), le même type de raisonnement montre que b′ est de la forme

b′(x, y) = b(ux, uy)

pour un u ∈ L^{∗} convenable, d’où

b′(x, y) = Tr_{L/F} (au · u^{[−1]_{n}} · x^{[−1]_{n}}y).

Ceci montre que la classe d’isomorphisme de ρ est déterminée par la classe de a dans (L^{+})^{∗}/N_{L/L^{+}}(L^{∗}). Si a ∉ Im(F (μ_{2^{r}})^{+})^{∗} pour un F (μ_{2^{r}}) ≠ L, ρ ne peut pas être induite d’une représentation d’un sous-groupe propre de G. Ceci se produit par exemple pour F = ℚ.

(2) De même, une structure symplectique sur ρ est donnée par une forme bilinéaire alternée de la forme

(x, y) ↦ Tr_{L/F} (ax^{[−1]_{n}}y)

avec a^{[−1]_{n}} = −a, et la classe de a est uniquement déterminée dans L^{−} \ {0}/N_{L/L^{+}}(L^{∗}), où L^{−} est l’ensemble des éléments antisymétriques de L pour l’involution [−1]_{n}.

En prenant un groupe diédral, dans le cas où ρ est de la forme Ind_{H}^{G} ρ_{θ}, on peut fabriquer des exemples analogues sur un corps fini (cf. corollaire 4.7 d) et corollaire 5.5). Nous nous bornerons donc à énoncer :

10.2. Théorème. Soient G un groupe d’ordre 2^{n} et ρ une représentation fidèle de G, de type orthogonal et irréductible . Supposons que ρ ne soit pas induite d’une représentation de type orthogonal d’un sousgroupe propre de G. Alors G est cyclique ou diédral. De plus :

a) Si G est cyclique, L := F (μ_{2^{n}}) est de degré ≤ 2 sur F. Si n = 1, L = F et ρ est donnée par l’unique caractère d’ordre 2 de G; en particulier, deg ρ = 1. Si n > 1, alors [L : F] = 2 et ρ est donnée par un caractère injectif à valeurs dans L^{∗}. En particulier, deg ρ = 2. Si F est de type II, il est déficient.

b) Si G est diédral, ρ est de degré 2, de la forme Ind_{H}^{G} ρ_{θ} où θ est un caractère fidèle du sous-groupe cyclique d’indice 2 H à valeurs dans F^{∗} (F est alors de type I), ou de la forme ρ̃_{θ} pour un θ : H → L^{∗} convenable (F est alors de type II déficient, III ou IV).

Démonstration. Le fait que G est de rang normal 1 résulte immédiatement de la proposition 7.3. Soit ρ une représentation fidèle primitive de G, de type orthogonal. D’après le tableau page 34, ρ est (avec ses notations) de la forme ρ̃_{θ} ou Ind_{H}^{G} ρ_{θ}. Toutes les affirmations ci-dessous sont justifiées par un coup d’œil à ce tableau.

Si G est cyclique, la proposition 9.1 montre que ρ est induite d’une représentation ρ′ de degré ≤ 2. Si n = 1, il n’y a rien à démontrer. Si n ≥ 2, soit l’extension L/F est déficiente, donc de degré 2, soit F est exceptionnel (cf. tableau page 34). Dans le dernier cas, ρ′ est unitaire au même titre que ρ, donc ρ = ρ′. D’où a).

Si G est diédral et ρ = ρ̃_{θ}, la proposition 9.2 montre que ρ est induite d’une représentation ρ′ = ρ̃_{θ′} de degré 2. Cette représentation est encore de type orthogonal, donc ρ = ρ′. Si ρ = Ind_{H}^{G} ρ_{θ} est de degré 2, ρ est primitive puisqu’alors ρ_{θ} prend ses valeurs dans F^{∗}, donc n’est pas de type orthogonal. Sinon, la proposition 9.1 (appliquée à ρ_{θ}) montre que ρ est induite d’une représentation ρ′ = Ind_{H′}^{G′} ρ_{θ′} de degré 4, avec L = F (\sqrt{−1}). Mais alors le lemme 8.4 montre que ρ′ = Ind_{G_{1}}^{G′} ρ̃_{θ′′}, où G_{1} est un sous-groupe diédral d’indice 2 de G′. Comme ρ̃_{θ′′} est de type orthogonal, il y a une contradiction. D’où b).

Si G est semi-diédral et ρ = ρ̃_{θ}, alors la démonstration de la proposition 9.2 b) montre que L = F (\sqrt{−1}) ou que ρ est induite d’une représentation du type ρ̃_{ν} d’un sous-groupe diédral de G. Mais alors ρ̃_{ν} est de type orthogonal, donc ce dernier cas est impossible. On a donc L = F (\sqrt{−1}) et F est de type II non déficient ; mais alors ρ n’est pas unitaire, contradiction. Donc ρ est de la forme Ind_{H}^{G} ρ_{θ}. Alors ρ ne peut pas être induite d’une représentation de la forme Ind_{H′}^{G′} ρ_{θ′} d’un sous-groupe diédral G′, puisqu’une telle représentation est de type orthogonal. Il en résulte que L = F (\sqrt{−1}). Le corps F ne peut pas être de type I. S’il est de type II, l’extension L/F est déficiente ; mais alors ρ_{θ} est unitaire, contradiction. Enfin, s’il est de type III ou IV, ρ_{θ} est unitaire, contradiction. Donc G ne peut pas être semi-diédral.

Enfin, si G est quaternionien, L^{+} est de type IV, [−1]_{n} ∈ Γ et ρ est de la forme Ind_{H}^{G} ρ_{θ}. Mais alors, ρ_{θ} est unitaire, contradiction. Donc G ne peut pas être quaternionien. □

Le lecteur intéressé démontrera de même l’énoncé suivant pour les représentations symplectiques (dans le cas semi-diédral, remplacer dans la démonstration ci-dessus “sous-groupe diédral” par “sous-groupe quaternionien”) :

10.3. Théorème. Soient G un groupe d’ordre 2^{n} et ρ une représentation fidèle de G, de type symplectique et irréductible . Supposons que ρ ne soit pas induite d’une représentation de type symplectique d’un sous-groupe propre de G. Alors G est cyclique ou quaternionien. De plus :

a) Si G est cyclique, L := F (μ_{2^{n}}) est de degré ≤ 2 sur F. Si n = 1, L = F et ρ est donnée par l’unique caractère d’ordre 2 de G; en particulier, deg ρ = 1. Si n > 1, alors [L : F] = 2 et ρ est donnée par un caractère injectif à valeurs dans L^{∗}. En particulier, deg ρ = 2. Si F est de type II, il est déficient.

b) Si G est quaternionien, ρ est de degré 2, de la forme Ind_{H}^{G} ρ_{θ} où θ est un caractère fidèle du sous-groupe cyclique d’indice 2 H à valeurs dans F^{∗} (F est alors de type I), ou de la forme ρ̃_{θ} pour un θ : H → L^{∗} convenable (F est alors de type II déficient ou III).

Pour énoncer le dernier théorème, analogue du théorème 9.8, on introduit deux sous-groupes Δ^{o} et Δ^{sp} du groupe Δ défini à la fin de la section précédente :

• Si F est de type II, Δ^{o} = ℤ/2 ⋉ μ_{2^{m−1}} : c’est un groupe diédral d’ordre 2^{m}. Si F est de type I, Δ^{o} est le sous-groupe de Δ engendré par σ et les ζε + ζ^{−1}ε′, où ζ ∈ μ_{2^{m}} : c’est un groupe diédral d’ordre 2^{m+1}.

• Si F est de type II, Δ^{sp} est le sous-groupe de Δ apparaissant dans le 6ème cas de la démonstration du theorème 9.8 : c’est un groupe quaternionien d’ordre 2^{m}. Si F est de type I, Δ^{sp} est le sous-groupe de Δ engendré par (σ, ε − ε′) et les ζε + ζ^{−1}ε′, où ζ ∈ μ_{2^{m}} : c’est un groupe quaternionien d’ordre 2^{m+1}.

On constate que, dans tous les cas, la restriction de ρ à Δ^{o} (resp. à Δ^{sp}) laisse stable la forme quadratique (x, y) ↦ Tr_{_{Ẽ}/F} (xσ(y)) (resp. la forme symplectique (x, y) ↦ Tr_{_{Ẽ}/F} (txσ(y))). Ceci définit donc une représentation orthogonale (resp. symplectique) ρ^{o} (resp. ρ^{sp}) de Δ^{o} (resp. de Δ^{sp}), de rang 2. De plus, ρ^{o} et ρ^{sp} sont évidemment fonctorielles en F. On a alors :

10.4. Théorème. Soit F un corps non exceptionnel.

a) Pour toute F -représentation linéaire irréductible χ d’un 2-groupe G, primitive en tant que représentation de type orthogonal, il existe un homomorphisme f : G → Δ^{o} tel que χ soit isomorphe à un facteur direct de 𝕃(ρ^{o}) ∘ f ; l’autre facteur étant trivial. Si F est de type II et que |χ(G)| ≥ 4, χ est isomorphe à 𝕃(ρ^{o}) ∘ f.

a) Pour toute F -représentation linéaire irréductible χ d’un 2-groupe G, primitive en tant que représentation de type symplectique, il existe un homomorphisme f : G → Δ^{sp} tel que χ soit isomorphe à un facteur direct de 𝕃(ρ^{sp}) ∘ f, l’autre facteur étant trivial. Si F est de type II et que |χ(G)| ≥ 4, χ est isomorphe à 𝕃(ρ^{sp}) ∘ f.

Démonstration. Cela résulte immédiatement des théorèmes 10.2 et 10.3. □

Appendice A. Représentations métaboliques et représentations hyperboliques

Le but de cet appendice est de montrer que, sur un corps F de caractéristique différente de 2, les représentations orthogonales (resp. symplectiques) métaboliques d’un groupe G, de lagrangien fixé χ, sont classifiées par H^{1}(G, Λ^{2}(χ)) (resp. par H^{1}(G, S^{2}(χ))). Nous pourrions donner une démonstration directe et calculatoire de ce fait ; nous préférons en donner une démonstration plus “catégorique”, qui met en évidence les structures sous-jacentes. Cette démonstration est fortement influencée par [4, §1.4] et [15].

En deux mots, la méthode est la suivante. La catégorie des (petites) représentations orthogonales (resp. symplectiques) de lagrangien χ est une petite catégorie de Picard [strictement commutative] au sens de [4, déf. 1.4.2] ; elle s’identifie à la pseudolimite (lax limit) d’une certaine action de ℤ/2 sur la catégorie de Picard des extensions de χ^{∗} par χ. Toute petite catégorie de Picard est classifiée à équivalence près par la classe dérivée d’un complexe de longueur 1 de groupes abéliens ; il en est de même pour les catégories de Picard munies de l’action d’un groupe Γ, en prenant les complexes de longueur 1 de Γ-modules (A.5). Un calcul facile (lemme A.7) montre que cette correspondance commute à la pseudolimite en un sens convenable (c’est une solution à un “problème de limite homotopique” au sens de [15]), ce qui donne les résultats indiqués ci-dessus.

A.1. Rappelons de [4, déf. 1.4.2] la notion de catégorie de Picard strictement commutative (brièvement : catégorie de Picard) : c’est une catégorie monoïdale symétrique P dont tous les morphismes sont des isomorphismes, dont l’addition + est strictement commutative et telle que, pour tout M ∈ P, le foncteur N ↦ M + N soit une équivalence de catégories.

D’après [4, prop. 1.4.15], toute catégorie de Picard essentiellement petite P est classifiée à isomorphisme additif près par la classe dans D(ℤ) (catégorie dérivée des groupes abéliens) d’un complexe C de longueur 1, tel que H^{1}(C) soit isomorphe au groupe des classes d’isomorphismes d’objets et que H^{0}(C) soit isomorphe au groupe des automorphismes de l’objet neutre. On dira que P est incarnée par C en degré 1 (cf. [2]). Plus précisément [4, cor. 1.4.17], la 2-catégorie des petites catégories de Picard est 2-équivalente à la 2-catégorie dont les objets sont les complexes C de groupes abéliens de cohomologie concentrée en degrés 1 et 2 et tels que C^{0} soit injectif, les 1-morphismes sont les morphismes de complexes et les 2-morphismes sont les homotopies. Décrivons cette correspondance dans les deux sens (en négligeant la condition “injectif”) :

(1) [4, 1.4.11] Si l’on part d’un complexe C de longueur 1, on lui associe une petite catégorie de Picard ch(C) de la manière suivante. L’ensemble des objets de ch(C) est C^{1} ; si x, y ∈ C^{1}, Hom_{P(C)}(x, y) = {t ∈ C^{0} | dt = y−x}. La composition des morphismes est donnée par l’addition de C^{0} ; l’addition de ch(C) est donnée par l’addition du complexe C.

(2) [4, dém. du lemme 1.4.13 (I)] Si l’on part d’une petite catégorie de Picard P, on note K^{1} le groupe abélien libre de base Ob(P). Il existe un foncteur additif F : ch(0 → K^{1}) → P envoyant [x] sur x. Par cohérence, un tel foncteur est unique à isomorphisme naturel unique près. Soit K^{0} = {(x, t) | x ∈ K^{0}, t ∈ Iso(F (0), F (x))}. On définit l’addition sur K^{0} par (x_{1}, t_{1}) + (x_{2}, t_{2}) = (x_{1} + x_{2}, t) où t rend commutatif le diagramme

F (0) + F (0) ⟶^{t_{1}+t_{2}} F (x_{1}) + F (x_{2})
≀↓  ^{≀}↓
F (0 + 0) ⟶^{t} F (x_{1} + x_{2}).

Enfin, on définit d : K^{0} → K^{1} par d(x, t) = x.

A.2. Exemple. Soient R un anneau et A, B deux R-modules à droite. On définit une catégorie de Picard Ext_{R}(B, A) de la manière suivante :

• Objets : les suites exactes courtes

0 → A → M ⟶^{π} B → 0

abrégées en M et appelées “extensions de B par A”.

• Morphismes : si M, M′ sont deux extensions de B par A, un morphisme de M vers M′ est un diagramme commutatif

0 ⟶ A ⟶ M ⟶^{π} B ⟶ 0
||  ^{σ}↓  ||
0 ⟶ A ⟶ M′ ⟶^{π′} B ⟶ 0.

Rappelons la définition de la somme de Baer de deux objets M, M′ de Ext_{R}(B, A) (cf. [3, ch. XIV, §1]) : c’est l’objet M′′ défini par

M′′ = {(m, m′) ∈ M ⊕ M′ | π(m) = π′(m′)}/i(A)

où i : A → M ⊕ M′ est donné par i(a) = (a, −a). Ceci définit un bifoncteur + : Ext_{R}(B, A) × Ext_{R}(B, A) → Ext_{R}(B, A), donnant à Ext_{R}(B, A) la structure de catégorie de Picard promise.

Le groupe des classes d’isomorphismes d’objets n’est autre que Ext_{R}^{1}(B, A) ; le groupe d’automorphismes de l’objet neutre A ⊕ B est

l’ensemble des matrices (\begin{matrix}1 & λ \\ 0 & 1 \end{matrix}), canoniquement isomorphe au groupe

additif Hom_{R}(B, A). Ceci rend plausible :

A.3. Proposition. Pour la correspondance rappelée dans A.1, la catégorie Ext_{R}(B, A) correspond à équivalence près à τ_{≤1} RHom_{R}(B, A) ∈ D^{[0,1]}(ℤ).

Démonstration. Fixons une résolution de longueur 1

(R)  0 → M ⟶^{d} P → B → 0.

Notons C le complexe

Hom_{R}(P, A) → Hom_{R}(M, A).

On construit un foncteur additif T : ch(C) → Ext_{R}(B, A) de la manière suivante :

(1) À f : M → A on associe la somme amalgamée T (f) = P ⊕^{M} A, l’image directe de l’extension (R) par f.

(2) Soient f, g ∈ Hom_{R}(M, A) et u : P → A tel que u ∘ d = g − f. On définit un morphisme T (u) : T (f) → T (g) par la formule T (u)(p, a) = (p, a + u(p)). On vérifie immédiatement que T (u) est bien défini et fournit un morphisme d’extensions.

Il est facile de voir que T définit bien un foncteur additif. Pour conclure, il suffit de prouver :

A.4. Lemme. a) T est pleinement fidèle. Si P est projectif,

b) C représente τ_{≤1} RHom_{R}(B, A) ;

c) T est une équivalence de catégories.

Démonstration. a) La fidélité est évidente. Soient f, g ∈ Hom_{R}(M, A) et φ : T (f) → T (g). Notons p_{f} : P → T (f) et p_{g} : P → T (g) les homomorphismes canoniques. Alors p_{g} − φ ∘ p_{f} définit un homomorphisme u : P → A, dont on vérifie immédiatement que u ∘ d = g − f : ainsi T est plein. b) est évident. Supposons enfin P projectif, et soit E une extension de B par A. Notons

0 → M ⟶^{i} Ẽ ⟶^{p} P → 0

l’image réciproque de E par la projection P → B. Comme P est projectif, il existe une section s de p. Alors (s ∘ p − 1_{Ẽ}) ∘ i définit un homomorphisme f : M → A, et on vérifie facilement que T (f) ≃ M.□

A.5. Soit P une catégorie de Picard, et soit Γ un groupe opérant sur P : cela signifie qu’on s’est donné un pseudofoncteur u de la catégorie BΓ (un objet ∗, End(∗) = Γ) vers la 2-catégorie des catégories de Picard, tel que u(∗) = P. Nous appellerons un tel objet une catégorie de Picard Γ-équivariante.

Soient C un complexe de longueur 1 et T : ch(C) → P, S : P → ch(C) deux équivalences de catégories quasi-inverses l’une de l’autre. Alors SuT définit une opération de Γ sur ch(C).

Supposons que C^{0} soit injectif. D’après [4, cor. 1.4.17], SuT correspond à une opération de Γ sur C à homotopie près : pour tout g ∈ Γ, on a un endomorphisme u_{g} de C, et u_{gh} est homotope à u_{g}u_{h} avec des conditions de cohérence entre les homotopies.

Soit C̃ le complexe défini comme suit :

• C̃^{0} = ⨁_{Γ} C^{0}.

• C̃^{1} = {(x_{g}, θ_{g})_{g∈Γ} | x_{g} ∈ C^{1}, θ_{g} ∈ C^{0}, dθ_{g} = x_{g} − u(g)(x_{1})}.

• Si f = (f_{g})_{g∈Γ} ∈ C̃^{0}, d̃f = (df_{g}, f_{g} − u(g)f_{1})_{g∈Γ}.

On a deux morphismes de complexes A : C → C̃, B : C̃ → C :

• A^{0}(f) = (u(g)f)_{g∈Γ}, A^{1}(x) = (u(g)x, 0)_{g∈Γ} ;

• B^{0}((f_{g})_{g∈Γ}) = f_{1}, B^{1}((x_{g}, θ_{g})_{g∈Γ}) = x_{1}.

On a évidemment BA = 1_{C}. D’autre part, soit s : C̃^{1} → C̃^{0} donné par s((x_{g}, θ_{g})_{g∈Γ}) = (θ_{g})_{g∈Γ} : on voit tout de suite que s définit une homotopie de AB à 1_{C̃}. Ainsi A et B sont des équivalences d’homotopie inverses l’une de l’autre.

Enfin, définissons une (vraie) action de Γ sur C̃ par les formules :

• pour f = (f_{g})_{g∈Γ} ∈ C̃^{0}, ũ(h)(f) = (f_{gh})_{g∈Γ}

• pour x = (x_{g}, θ_{g})_{g∈Γ} ∈ C̃^{1}, ũ(h)(x) = (x_{gh}, θ_{gh} + s_{g,h}(x_{1}) −

u(g)θ_{h})_{g∈Γ}

où s_{g,h} est l’homotopie de u(gh) à u(g)u(h). On vérifie tout de suite que, pour tout h ∈ Γ, Au(h) est homotope à ũ(h)A (via s_{h} : x ↦ (s_{g,h}(x))_{g∈Γ}) et u(h)B est homotope à Bũ(h) (via s̃_{h} : (x_{g}, θ_{g})_{g∈Γ} ↦ θ_{h}). On a donc transformé C en un vrai complexe de ℤ[Γ]-modules, à homotopie près.

Si l’on change les choix de C, T, S, on obtient un nouveau complexe C̃′ qui est Γ-homotope à C̃; ainsi, on associe à P une classe bien définie dans D^{[0,1]}(ℤ[Γ]).

Finalement, si l’on part d’un complexe de Γ-modules de longueur 1 C, la catégorie ch(C) est naturellement munie d’une action de Γ : ceci donne la correspondance inverse de celle décrite ci-dessus.

A.6. Soient Γ un groupe et P une catégorie de Picard Γ-équivariante. Pour tous g, h ∈ Γ, notons u(g) le foncteur associé à g et θ_{g,h} : u(gh) → u(g)u(h) la transformation naturelle associée à (g, h). On définit une nouvelle catégorie de Picard (non équivariante) appelée pseudolimite de P (lax limit en anglais)

laxlim_{Γ} P = Hom_{Γ}(EΓ, P).

Lorsqu’il est nécessaire de préciser l’action, on notera laxlim_{u} P plutôt que laxlim_{Γ} P.

Un objet de laxlim_{Γ} P est une famille (X, (f_{g})_{g∈Γ}) où X ∈ P et f_{g} est un isomorphisme de X sur u(g)X tels que, pour tout (g, h) ∈ Γ×Γ, le diagramme

X ⟶^{f_{g}} u(g)X
f_{gh}↓  ^{u(g)f_{h}}↓
u(gh)X ⟶^{θ_{g,h}^{X}} u(g)u(h)X

soit commutatif. Un morphisme (X, (f_{g})) → (X′, (f′_{g})) est un morphisme φ : X → X′ tel que les diagrammes

X ⟶^{f_{g}} u(g)X
φ↓  ^{u(g)φ}↓
X′ ⟶^{f′_{g}} u(g)X′

soient commutatifs.

A.7. Lemme. Soit P une catégorie de Picard Γ-équivariante. Notons C l’objet de D^{[0,1]}(ℤ[Γ]) canoniquement associé à P par la construction de A.5. Alors la classe de D^{[0,1]}(ℤ) associée à laxlim_{Γ} P n’est autre que τ_{≤1} RHom_{ℤ[Γ]}(ℤ, C).

Démonstration. D’après A.5, on peut supposer que P = ch(C), où C ∈ C^{[0,1]}(ℤ[Γ]). D’après A.6, on a

Ob(laxlim_{Γ} P) = {(x, (f_{g})_{g∈Γ}) | x ∈ C^{1}, f_{g} ∈ C^{0}, df_{g} = gx − x, f_{gh} = f_{g} + gf_{h}}

et, pour (x, (f_{g})), (x′, (f′_{g})) ∈ Ob(laxlim_{Γ} P) :

Hom((x, (f_{g})), (x′, (f′_{g}))) = {φ ∈ C^{0} | dφ = x′ − x, gφ − φ = f′_{g} − f_{g}.}

Soient D^{0} = C^{0}, D^{1} = {(x, (f_{g})_{g∈Γ}) ∈ C^{1} ⊕ ⨁_{Γ} C^{0} | df_{g} = gx − x, f_{gh} = f_{g}+gf_{h}} et soit d : D^{0} → D^{1} donnée par f ↦ (df, (gf −f)_{g∈Γ}). Ceci définit un complexe D de longueur 1, qui incarne visiblement P en degré 1.

D’autre part, pour calculer RHom_{ℤ[Γ]}(ℤ, C), on peut appliquer la barrésolution normalisée au complexe C. On obtient que RHom_{ℤ[Γ]}(ℤ, C) est représenté par le complexe total associé au bicomplexe

C^{1} ⟶^{δ^{1}} Hom_{ℤ}(ℤ[Γ], C^{1}) ⟶^{δ^{2}} …
d↑  ^{Hom_{ℤ}(ℤ[Γ],d)}↑
C^{0} ⟶^{δ^{1}} Hom_{ℤ}(ℤ[Γ], C^{0}) ⟶^{δ^{2}} …

où δ^{1}(x)(g) = gx − x et δ^{2} est donné par la formule de 2cocycle habituelle δ^{2}(y)(g, h) = y(gh) − gy(h) − y(g). En particulier, τ_{≤1} RHom_{ℤ[Γ]}(ℤ, C) est représenté par le complexe C̃ : C^{0} ⟶^{∂} C̃^{1}, avec

C̃^{1} = {(x, y) ∈ C^{1} ⊕ Hom_{ℤ}(ℤ[Γ], C^{0}) | δ^{1}(x) = dy, δ^{2}(y) = 0}

et ∂(t) = (dt, δ^{1}(t)).

Si f = (f_{g})_{g∈Γ} est tel que δ^{2}(y) = 0, alors f_{gh} = f_{g} + gf_{h}. On peut donc encore décrire C̃^{1} ainsi :

C̃^{1} = {(x, (f_{g})_{g∈Γ}) ∈ C^{1} ⊕ ⨁_{Γ} C^{0} | df_{g} = gx − x, f_{gh} = f_{g} + gf_{h}}.

Pour cette description, ∂(t) = (dt, (gt−t)_{g∈Γ}). Les complexes D et C̃ sont donc canoniquement isomorphes, ce qui conclut la démonstration. □

A.8. Indiquons à quoi se réduisent certaines des données de A.5 et A.6 dans le cas où Γ = ℤ/2. Nous considérerons uniquement le cas où l’action u est normalisée, c’est-à-dire que u(1) = 1_{P} et les transformations naturelles u(gh) ⟶^{∼} u(g)u(h) sont l’identité si g = 1 ou h = 1.

1) Une action normalisée u de ℤ/2 sur une catégorie de Picard P est caractérisée par

• Un foncteur additif u : P → P (u = u(η), où η est le générateur de ℤ/2). (Cette notation est abusive.)

• Un isomorphisme naturel s : 1_{P} → u^{2}, vérifiant la condition de cohérence su = us.

2) Avec les notations de 1), la catégorie laxlim_{u} P peut se décrire ainsi :

• Un objet est un couple (X, f) où X ∈ P et f est un isomorphisme de X sur u(X) tel que u(f) ∘ f = s_{X}.

• Un morphisme (X, f) → (X′, f′) est un morphisme φ : X → X tel que u(φ) = f′ ∘ φ ∘ f^{−1}.

A.9. Soit χ une représentation linéaire d’un groupe fini G sur un corps F. On lui associe la catégorie de Picard A = Ext_{ℤ[G]}(χ^{∗}, χ) (cf. A.2). Elle est munie de deux actions normalisées u^{+}, u^{−} de Γ = ℤ/2. Décrivons ces actions dans le style de A.8 1) :

• Soit (E) : 0 → χ → ρ → χ^{∗} → 0 ∈ Ob(A). On en déduit une suite exacte courte duale :

0 → χ^{∗∗} → ρ^{∗} → χ^{∗} → 0.

On a un isomorphisme de bidualité χ ⟶^{∼} χ^{∗∗} : en composant avec cet isomorphisme, on obtient l’objet u^{+}(E) = u^{−}(E) :

0 → χ → ρ^{∗} → χ^{∗} → 0.

• Soit (E′) : 0 → χ → ρ′ → χ^{∗} → 0 un autre objet de A, et soit f : ρ → ρ′ définissant un morphisme (E) → (E′). On définit u^{+}(f) = u^{−}(f) = ^{t}f^{−1}.

• On définit un isomorphisme naturel s^{ε} : 1_{A} → u^{ε} ∘ u^{ε} (ε = ±1) par s^{ε} = εs, où s est l’isomorphisme de bidualité. La condition ε^{2} = 1 assure que la condition de cohérence est vérifiée.

A.10. Associons à χ deux autres catégories de Picard B^{+}, B^{−} :

• Objets de B^{+} (resp. B^{−}) : les couples (ρ, χ) où ρ est une représentation orthogonale (resp. symplectique) métabolique, de lagrangien χ.

• Morphismes de B^{±} : si (ρ, χ), (ρ′, χ) sont deux objets de B^{±}, un morphisme f : (ρ, χ) → (ρ′, χ) est une isométrie équivariante dont la restriction au sous-espace sous-jacent à χ est l’identité.

Pour (ρ, χ), (ρ′, χ) ∈ B^{±}, leur somme (ρ′′, χ) est définie de la manière suivante : soient V, V′, W les espaces sous-jacents à ρ, ρ′ et χ. Posons

V′′ = {(v, v′) ∈ V ⊕ V′ | ∀ w ∈ W, v · w = v′ · w}/i(W)

pour le plongement i de W dans V ⊕ V′ donné par w ↦ (w, −w). Considérons V ⊕ V′ comme la représentation orthogonale (resp. symplectique) somme directe de ρ et ρ′ : il est clair que V′′ = i(W)^{⊥}/i(W), donc que V′′ est naturellement une représentation orthogonale (resp. symplectique) ; elle admet encore W comme lagrangien.

A.11. On a deux foncteurs additifs

T^{ε} : B^{ε} → laxlim_{u^{ε}} A (ε = ±1)

définis de la manière suivante. Soit (ρ, χ) ∈ B^{ε}, d’où une suite exacte

0 → χ → ρ → ρ/χ → 0.

La forme bilinéaire ε-symétrique non dégénérée sur ρ induit deux accouplements parfaits

χ × ρ/χ → F
ρ/χ × χ → F

qui sont égaux au signe près. Il en résulte un isomorphisme ρ/χ ⟶^{∼} χ^{∗} bien défini au signe près, donné par exemple par v ↦ (w ↦ v · w). En composant avec cet isomorphisme, on obtient une nouvelle suite exacte E_{ρ,χ}

0 → χ → ρ → χ^{∗} → 0.

La forme bilinéaire de ρ définit un isomorphisme ε-symétrique

b_{ρ,χ} : E_{ρ,χ} ⟶^{∼} u^{ε}(E_{ρ,χ}).

On définit alors T^{ε}(ρ, χ) = (E_{ρ,χ}, b_{ρ,χ}). La définition de T^{ε} sur les morphismes est évidente.

A.12. Lemme. Le foncteur T^{ε} est un isomorphisme de catégories de Picard.

Démonstration. Construisons l’inverse S^{ε} de T^{ε}. Soit (E, b) ∈ laxlim_{u^{ε}} A : E est une suite exacte

0 → χ → ρ → χ^{∗} → 0

et b fait de ρ une représentation orthogonale (resp. symplectique) de G, métabolique de lagrangien χ. On pose alors S^{ε}(E, b) = (ρ, χ). La définition de S^{ε} sur les morphismes est évidente. □

A.13. D’après la proposition A.3, le lemme A.12 et A.5, la catégorie B^{ε} est incarnée en degré 1 par la classe dérivée

τ_{≤1} RHom_{ℤ[ℤ/2]}(ℤ, τ_{≤1} RHom_{F [G]}(χ^{∗}, χ))

pour une certaine action de ℤ/2 sur τ_{≤1} RHom_{F [G]}(χ^{∗}, χ). Il reste à décrire cette action explicitement. Comme F est un corps de caractéristique ≠ 2, on a

RHom_{F [G]}(χ^{∗}, χ) ≃ RHom_{F [G]}(F, χ ⊗ χ)

≃ RHom_{F [G]}(F, S^{2}(χ)) ⊕ RHom_{F [G]}(F, Λ^{2}(χ))

et donc

τ_{≤1} RHom_{F [G]}(χ^{∗}, χ) ≃

τ_{≤1} RHom_{F [G]}(F, S^{2}(χ)) ⊕ τ_{≤1} RHom_{F [G]}(F, Λ^{2}(χ)).

A.14. Proposition. Pour l’isomorphisme ci-dessus, l’action induite sur τ_{≤1} RHom_{F [G]}(χ^{∗}, χ) par l’action u^{ε} de A.9 sur A via la proposition A.3 et A.5 est la multiplication par −ε sur τ_{≤1} RHom_{F [G]}(F, S^{2}(χ)) et la multiplication par ε sur τ_{≤1} RHom_{F [G]}(F, Λ^{2}(χ)). En particulier,

• B^{+} est incarnée en degré 1 par τ_{≤1} RHom_{F [G]}(F, Λ^{2}(χ)).

• B^{−} est incarnée en degré 1 par τ_{≤1} RHom_{F [G]}(F, S^{2}(χ)).

Démonstration. En s’aidant de la démonstration de la proposition A.3, on construit facilement une équivalence de catégories de Picard

T : ch(C) ⟶^{∼} A

où C est le complexe de longueur 1

Hom_{F [G]}(F [G], χ ⊗ χ) ⟶^{d} Hom_{F [G]}(IG, χ ⊗ χ),

IG désignant l’idéal d’augmentation de F [G] :

• À f : IG → χ⊗χ, d’où f̃: IG⊗χ^{∗} → χ (donné par f̃(a⊗φ) = (φ ⊗ 1)(f(a))), on associe le push-forward

(4) \begin{aligned}0 & ⟶ & IG ⊗ χ^{∗} & ⟶ & F [G] ⊗ χ^{∗} & ⟶ & χ^{∗} & ⟶ & 0 \\ & & _{f̃}↓ & & ↓ & & || \\ 0 & ⟶ & χ & ⟶ & T (f) & ⟶^{π_{f}} & χ^{∗} & ⟶ & 0. \end{aligned}

On note encore T (f) l’objet de A défini par la ligne inférieure de (4).

• Soient f, g ∈ Hom_{F [G]}(IG, χ ⊗ χ) et φ : F [G] → χ ⊗ χ tels que dφ = g − f, d’où φ̃: F [G] ⊗ χ^{∗} → χ. On définit un morphisme T (φ) : T (f) → T (g) par la formule T (φ)(x, a) = (x + φ̃(a), a) pour (x, a) ∈ χ ×^{IG⊗χ^{∗}} F [G] ⊗ χ^{∗}.

Soit σ : χ⊗χ → χ⊗χ l’involution donnée par l’échange des facteurs. Elle induit une involution sur C et ch(C), encore notées σ.

Notons ε : F [G] → F l’augmentation. Elle définit une rétraction (non équivariante) de l’inclusion IG → F [G], donnée par la formule

ρ(x) = x − ε(x)1.

Notons ε̃ = ε⊗1 : F [G]⊗χ^{∗} → χ^{∗} et ρ̃ = ρ⊗1 : F [G]⊗χ^{∗} → IG⊗χ^{∗} la rétraction associée : alors, pour f ∈ Hom(IG, χ ⊗ χ), ρ̃ induit une rétraction (non équivariante) ρ_{f} : T (f) → χ, donnée par la formule

ρ_{f}(x, a) = x − f̃(ρ̃(a)).

Notons que l’homomorphisme π_{f} est donné par (x, a) ↦ ε̃(a).

Définissons un accouplement

α_{f} : T (f) × T (σf) → F

par la formule

X · Y = π_{σf}(Y)(ρ_{f}(X)) − π_{f}(X)(ρ_{σf}(Y)).

Cet accouplement restreint à χ ⊕ 0 à gauche (resp. à droite) induit l’accouplement naturel χ × χ^{∗} → F (resp. − l’accouplement naturel χ^{∗} × χ → F) via π_{f} (resp. π_{σf}).

Vérifions que α_{f} est G-équivariant. En utilisant l’équivariance de π_{f}, π_{σf}, on trouve d’abord pour X ∈ T (f), Y ∈ T (σf) et g ∈ G :

α_{f}(gX, gY) − α_{f}(X, Y) = π_{σf}(Y)(g^{−1}ρ_{f}(gX) − ρ_{f}(X))

− π_{f}(X)(g^{−1}ρ_{f}(gY) − ρ_{f}(Y)).

En utilisant l’équivariance de f̃ et σf̃, on obtient pour X = (x, a) et Y = (y, b) :

g^{−1}ρ_{f}(gX) − ρ_{f}(X) = f̃(ρ̃(a) − g^{−1}ρ̃(ga))
g^{−1}ρ_{σf}(gY) − ρ_{f}(Y) = f̃(ρ̃(b) − g^{−1}ρ̃(gb)).

Pour a = h ⊗ φ et b = k ⊗ ψ (h, k ∈ G, φ, ψ ∈ χ^{∗}), on trouve :

ρ̃(a) − g^{−1}ρ̃(ga) = (g^{−1} − 1) ⊗ φ
ρ̃(b) − g^{−1}ρ̃(gb) = (g^{−1} − 1) ⊗ ψ

d’où

f̃(ρ̃(a) − g^{−1}ρ̃(ga)) = φ ⊗ 1(f(g^{−1} − 1))
σf̃(ρ̃(b) − g^{−1}ρ̃(gb)) = ψ ⊗ 1(σf(g^{−1} − 1)) = 1 ⊗ ψ(f(g^{−1} − 1)).

Comme π_{f}(X) = φ et π_{σf}(Y) = ψ, on en conclut :

α_{f}(gX, gY)−α_{f}(X, Y) = ψ(φ⊗1(f(g^{−1} −1)))−φ(1⊗ψ(f(g^{−1} −1)))

= (φ ⊗ ψ)(f(g^{−1} − 1)) − (φ ⊗ ψ)(f(g^{−1} − 1)) = 0.

Ainsi, α_{f} définit un isomorphisme α̃_{f} : T (σf) ⟶^{∼} u^{±}(T (f)) dans la catégorie A.

Soient f, g ∈ Hom_{F [G]}(IG, χ ⊗ χ) et φ : F [G] → χ ⊗ χ tels que dφ = g − f. On vérifie par le calcul que

T (φ)(x) · T (σφ)(y) = x · y

pour (x, y) ∈ T (f) × T (σf), donc que le diagramme

T (σf) \underrightarrow{_{α̃}_{f}} u^{±}T (f)
T (σφ)↓  ^{u^{±}T (φ)}↓
T (σg) \underrightarrow{_{α̃}_{g}} u^{±}T (g)

est commutatif.

Enfin, comme on a évidemment α_{σf}(Y, X) = −α_{f}(X, Y) pour (X, Y) ∈ T (f) × T (σf), le morphisme

s^{−1} ∘ u^{+}α̃_{f} ∘ α̃_{σf} : T (f) = T (σ^{2}f) ⟶^{α_{σf}} u^{+}T (σf)

⟶^{u^{+}α_{f}} (u^{+})^{2}T (f) ⟶^{s^{−1}} T (f).

est égal à la multiplication par −1. Ceci conclut la démonstration. □

A.15. Corollaire. Le groupe des classes d’isomorphismes de représentations orthogonales (resp. symplectiques) métaboliques de lagrangien fixé χ est isomorphe à H^{1}(G, Λ^{2}(χ)) (resp. à H^{1}(G, S^{2}(χ))). □

Références

[1] A. Blanchard Les corps non commutatifs, PUF, Paris, 1972.

[2] A. Brylinski, P. Deligne Central extensions of reductive groupes by K_{2}, prépublication, 1999.

[3] H. Cartan, S. Eilenberg Homological algebra, Princeton University Press, Princeton, 1956.

[4] P. Deligne La formule de dualité globale, in M. Artin, A. Grothendieck, J.-L. Verdier Théorie des topos et cohomologie étale des schémas, IIIème partie, Lect. Notes in Math. 305, Springer, 1973, 481–587.

[5] A. Dress Induction and structure theorems for orthogonal representations of finite groups, Ann. of Math. 102 (1975), 291–325.

[6] W. Dwyer ; E. Friedlander, S. Mitchell The generalised Burnside ring and the K-theory of a ring with roots of unity, K-theory 6 (1992), 285–300.

[7] A. Fröhlich, A. McEvett The representation of groups by automorphisms of forms, J. Algebra 12 (1969), 114–133.

[8] M-A Knus, A. Merkurjev, M. Rost, J.-P. Tignol The book of involutions, AMS Coll. publ. 44, AMS, Providence, 1998.

[9] S. Lang Algebra, 6ème édition, Addison Wesley, Reading, 1965.

[10] S. Mitchell The Morava K-theory of algebraic K-theory spectra, K-theory 3 (1990), 607–626.

[11] P. Roquette Realisierung von Darstellungen endlicher nilpotente Gruppen, Arch. Math. 9 (1958), 224–250.

[12] J.-P. Serre Représentations linéaires des groupes finis, 2ème édition, Hermann, Paris, 1971.

[13] J.-P. Serre Conducteur d’Artin des caractères réels, Invent. Math. 14 (1971), 173–183.

[14] O. Schilling Über die Darstellungen endlicher Gruppen, J. Reine Angew. Math. 174 (1936), 188.

[15] R. W. Thomason The homotopy limit problem, Contemp. Math. 19, AMS, Providence, 1983, 407–419.

[16] J. Tornehave Relations among permutation representations of p-groups, prépublication, 1984.

Institut de Mathématiques de Jussieu, 6 rue Clisson, 75013 Paris, France

E-mail address: kahn@math.jussieu.fr