COHOMOLOGIE DES VARIÉTÉS DE DELIGNE-LUSZTIG

F. DIGNE, J. MICHEL ET R. ROUQUIER

Abstract. We study the cohomology of Deligne-Lusztig varieties with aim the construction of actions of Hecke algebras on such cohomologies, as predicted by the conjectures of Broué, Malle and Michel ultimately aimed at providing an explicit version of the abelian defect conjecture. We develop the theory for varieties associated to elements of the braid monoid and partial compactifications of them. We are able to compute the cohomology of varieties associated to (possibly twisted) rank 2 groups and powers of the longest element w_{0} (some indeterminacies remain for G_{2}). We use this to construct Hecke algebra actions on the cohomology of varieties associated to w_{0} or its square, for groups of arbitrary rank. In a subsequent work, we construct actions associated to more general regular elements and we study their trace on cohomology.

Table des matières

1. Introduction 2 2. Variétés de Deligne-Lusztig et groupes de tresses 4 2.1. Groupes de tresses 4 2.2. Variétés “classiques” 5 2.3. Variétés de Deligne-Lusztig généralisées 10 3. Cohomologie 18 3.1. Constructions 18 3.2. Dévissages 19 3.3. Représentations unipotentes 25 4. Cohomologies dans les groupes réductifs de rang 2 36 4.1. Généralités 36 4.2. Type A_{2} 36 4.3. Type B_{2} 41 4.4. Type G_{2} 45 5. Endomorphismes des variétés X(w) 52 5.1. Combinatoire 52 5.2. Traces 53 5.3. Cas w = π^{n} 58 5.4. Cas w_{0}π^{n} 59 Références 60

Date: Octobre 2004.

1. Introduction

L’objet de cet article est la construction d’actions d’algèbres de Iwahori-Hecke sur la cohomologie de certaines variétés de Deligne-Lusztig. L’existence de ces actions fait partie des conjectures précisant, pour les groupes réductifs finis, la conjecture de Broué sur les blocs à défaut abélien des groupes finis.

Dans ce travail, nous établissons des propriétés générales des variétés de Deligne-Lusztig et de leur cohomologie et nous montrons l’existence des représentations d’algèbres de Hecke pour deux types de variétés de Deligne-Lusztig, celles associées à l’élément π du monoïde de tresses et à sa racine carrée w_{0}. Nous y parvenons grâce à un calcul de la cohomologie de certaines variétés pour des groupes de rang 2 (celles associées à des puissances quelconques de w_{0}).

Rappelons maintenant les conjectures auxquelles nous nous intéressons.

Soit G un groupe réductif connexe sur une clôture algébrique d’un corps fini, muni d’une isogénie F dont une puissance est un endomorphisme de Frobenius. Nous notons G^{F} le groupe (fini) des points fixes de F. Soit W le groupe de Weyl de G et B^{+} le monoïde de tresses associé à W. Pour w ∈ W, on dispose d’un relevé de longueur minimale w dans B^{+}.

Soit π = w_{0}^{2}, où w_{0} est l’élément de plus grande longueur de W. Soit w ∈ W tel que w une � F -racine d-ième de π �, i.e., (wF)^{d} = πF^{d}. Dans [BrMic], une action à droite de C_{B}(wF) sur H_{c}^{∗}(X(w), \overline{ℚ}_{ℓ}) est construite (déduite d’une action de C_{B^{+}}(wF) sur X(w)) et il est conjecturé que

(i) l’action de \overline{ℚ}_{ℓ}C_{B}(wF) sur H_{c}^{∗}(X(w), \overline{ℚ}_{ℓ}) se factorise en une action d’une algèbre de Hecke � cyclotomique � relative à C_{W} (wF).

(ii) Hom_{\overline{ℚ}_{ℓ}G^{F}} (H_{c}^{i}(X(w), \overline{ℚ}_{ℓ}), H_{c}^{j}(X(w), \overline{ℚ}_{ℓ})) = 0 si i ≠ j.

On passe de la conjecture générale sur les ℓ-blocs à défaut abélien à cette conjecture en faisant trois restrictions :

– on suppose que le centralisateur d’un groupe de défaut est un tore (son type est alors un élément régulier)

– on étend les scalaires de \overline{ℤ}_{ℓ} à \overline{ℚ}_{ℓ}

– on se restreint aux caractères unipotents.

Les conjectures (i) et (ii) devraient être complétées par une prédiction des paramètres de l’algèbre de Hecke et de sa trace sur la cohomologie.

Les parties §2 et §3 développent des propriétés générales des variétés de Deligne-Lusztig généralisées et de leur cohomologie. Elle reprend et complète des résultats de Deligne-Lusztig et Lusztig.

Dans §2, nous présentons la construction, suivant Deligne, de variétés associées à des éléments du monoïde de tresses. Plus généralement, nous introduisons des compactifications partielles de ces variétés, associées à des éléments d’un monoïde � complété �. Nous établissons en particulier une relation avec des variétés pour des sous-groupes de Levi (proposition 2.3.13).

Dans §3.2, nous développons différentes techniques reliant la cohomologie de la variété X(w) à celle de variétés X(w′) pour des éléments w′ plus courts que w. Les techniques utilisées reposent sur l’étude de décompositions des variétés, de certains morphismes propres et de situations de lissité rationnelle.

Nous étudions la structure comme (\overline{ℚ}_{ℓ}G^{F})-module de la cohomologie des variétés X(w) dans la partie §3.3. Nous étudions les valeurs propres de l’endomorphisme de Frobenius et établissons des propriétés de rationalité des caractères. Nous décrivons la partie de la cohomologie où le groupe agit trivialement ou par la représentation de Steinberg. Nous étudions les éléments w de longueur minimale tels qu’une représentation irréductible donnée apparaît dans H_{c}^{∗}(X(w), \overline{ℚ}_{ℓ}).

Dans la partie §4, nous déterminons la structure comme (\overline{ℚ}_{ℓ}G^{F})-module de la cohomologie des variétés X(w_{0}^{n}) pour des groupes de type A_{2}, ^{2}A_{2}, B_{2}, ^{2}B_{2} et ^{2}G_{2} (nous obtenons aussi des résultats partiels pour G_{2}). Nous procédons par récurrence et nous devons calculer pour cela la cohomologie de certaines variétés X(ww_{0}^{2m}). À décalage et twist de Tate près (qui ne dépendent que de la famille de la représentation irréductible concernée), le résultat ne dépend pas de m et nous conjecturons (cf §3.3.21) que de tels phénomènes de périodicité sont généraux. Ces calculs sont rendus possibles par les outils développés au §3.

La dernière partie §5 est consacrée à l’étude de certains endomorphismes des variétés X(w). Elle généralise des résultats de [Lu1] et [BrMic]. Nous expliquons comment l’étude d’endomorphismes associés à des éléments contenus dans un sous-groupe parabolique se ramène au cas de variétés associées au sous-groupe de Levi correspondant. Nous utilisons ceci pour démontrer que certains endomorphismes des variétés X(π) et X(w_{0}) vérifient des relations quadratiques et nous en déduisons l’action d’algèbres de Hecke sur la cohomologie (conformément à la conjecture (i)).

Dans une suite de ce travail [DiMic3], la conjecture (i) est établie pour diverses classes d’éléments réguliers et la trace de l’algèbre de Hecke cyclotomique sur la cohomologie est étudiée.

2. Variétés de Deligne-Lusztig et groupes de tresses

2.1. Groupes de tresses.

2.1.1. Soit (W, S) un système de Coxeter fini, c’est-à-dire, un groupe fini W et une partie génératrice S de W telle que, si m_{ss′} est l’ordre de ss′ pour s, s′ ∈ S, alors W admet comme présentation

<s ∈ S | s^{2} = 1, \underbrace{ss′ …}_{m_{ss′}} = \underbrace{s′s …}_{m_{ss′}}>

Soit W un ensemble muni d’une bijection W ⟶^{∼} W, w ↦ w et soit l la longueur sur W définie par l’ensemble de générateurs S. Nous définissons le monoïde de tresses d’Artin-Tits B^{+} associé à W par la présentation

<w ∈ W | w_{1}w_{2} = w′ lorsque w_{1}w_{2} = w′ et l(w_{1}) + l(w_{2}) = l(w′)>.

L’application w ↦ w induit un morphisme de monoïdes β : B^{+} → W. Notons S le sousensemble de W en bijection avec S. La présentation précédente est équivalente (cf. e.g. [Mic, proposition 1.1]) à la présentation � classique �

<s ∈ S | \underbrace{ss′ …}_{m_{ss′}} = \underbrace{s′s …}_{m_{ss′}}>.

Nous notons aussi l la longueur sur B^{+} définie par S. Alors, W = {w ∈ B^{+}|l(w) = l(β(w))}.

On note B le groupe de même présentation que B^{+} : c’est le groupe de tresses d’Artin-Tits. L’application canonique B^{+} → B est injective (cf. e.g. [Mic, corollaire 3.2]). L’identité de S s’étend uniquement en un anti-automorphisme de B^{+}, appelé retournement.

Nous notons “≤” l’ordre de Bruhat sur W. Pour w ∈ W, nous appelons support de w l’ensemble {s ∈ S | s ≤ w}.

Pour I ⊂ S, nous notons W_{I} le sous-groupe de W engendré par I. On a w ∈ W_{I} où I est le support de w. On note w_{0}^{I} l’élément de plus grande longueur de W_{I} et on pose w_{0} = w_{0}^{S}. Nous dirons que w ∈ W est I-réduit (resp. réduit-I) si pour tout s ∈ I on a sw > w (resp. ws > w). Notons que w ∈ W est I-réduit (resp. réduit-I) si et seulement si pour tout v ∈ W_{I}, on a l(v) + l(w) = l(vw) (resp. l(w) + l(v) = l(wv)).

Soit π = w_{0}^{2}, un élément central de B (lorsque W est irréductible, c’est le générateur positif du centre du groupe des tresses pures, noyau de β : B → W).

2.1.2. Il nous sera commode de travailler avec une version enrichie de B^{+}.

Soit \underline{W} un ensemble muni d’une bijection W ⟶^{∼} \underline{W}, w ↦ \underline{w}. Le monoïde de tresses complété \underline{B}^{+} a pour ensemble de générateurs \{y(w), y(\underline{w}′)\}_{w∈W,\underline{w}′∈\underline{W}} et pour relations

• y(1) = y(\underline{1}) = 1,

• y(w_{1})y(w_{2}) = y(w_{1}w_{2}) pour l(w_{1}w_{2}) = l(w_{1}) + l(w_{2}),

• y(\underline{w})y(\underline{w}′) = y(\underline{ww′}) lorsque w et w′ ont des supports disjoints,

• y(w)y(\underline{w}′) = y(\underline{w}′)y(w) lorsque wv = vw et l(wv) = l(w) + l(v) pour tout v ≤ w′.

On a une injection B^{+} → \underline{B}^{+} induite par w ↦ y(w) qui nous permet d’identifier B^{+} avec le sous-monoïde de \underline{B}^{+} engendré par les y(w). On note \underline{w} = y(\underline{w}) et on pose \underline{W} = \{\underline{w}\}_{w∈W}. On munit \underline{B}^{+} d’une fonction longueur : c’est le morphisme de monoïdes l : \underline{B}^{+} → ℕ donné par l(w) = l(\underline{w}) = l(w).

On dispose d’un morphisme ρ : \underline{B}^{+} → B^{+} donné par y(w) ↦ w et y(\underline{w}) ↦ w. C’est une section de l’injection canonique.

Remarque 2.1.3. Une propriété remarquable de \underline{B}^{+} est l’existence d’un morphisme de monoïdes \underline{B}^{+} → ℤB^{+} donné par y(w) ↦ w et y(\underline{w}) ↦ ∑_{v≤w} v. Si ce morphisme s’avérait ne pas être injectif, il y aurait lieu d’étudier si les relations supplémentaires donnent lieu à des relations entre variétés correspondantes (cf. §2.2.14).

2.1.4. Nous rappelons maintenant la construction et les propriétés des formes normales des éléments de B^{+}.

Nous notons ≼ la divisibilité à gauche dans B^{+}, i.e., x ≼ y s’il existe z ∈ B^{+} tel que xz = y. Le monoïde B^{+} étant simplifiable, la relation ≼ est un ordre partiel. Nous notons B_{I}^{+} (resp. B_{I}) le sous-monoïde de B^{+} (resp. le sous-groupe de B) engendré par I, où I ⊂ S (B_{I}^{+} s’identifie au monoïde des tresses du sous-groupe W_{I} de W engendré par I). De même, nous notons \underline{B}_{I}^{+} le sous-monoïde de \underline{B}^{+} engendré par I ∪ \underline{W}_{I}.

Lemme-Définition 2.1.5. Soit w ∈ B^{+}. Alors

(i) Il existe un unique diviseur à gauche maximal de w dans W. Nous le notons α(w), et nous posons ω(w) = α(w)^{−1}w.

(ii) Il existe un unique diviseur à gauche maximal de w dans B_{I}^{+}. Nous le notons α_{I}(w) et nous posons ω_{I}(w) = α_{I}(w)^{−1}w.

Démonstration. (i) est, par exemple, [Mic, proposition 2.1]. (ii) résulte immédiatement de [Mic, lemme 1.4] car l’ensemble des x ∈ B_{I}^{+} tel que x ≼ w vérifie les hypothèses de loc. cit. □

Nous dirons qu’une décomposition w = w_{1} … w_{k} est la forme normale de w si pour tout i on a w_{i} = α(w_{i}w_{i+1} … w_{k}). Le monoïde B^{+} étant simplifiable, tout w possède une unique forme normale, qui en donne une décomposition canonique en produit d’éléments de W.

Le résultat suivant est classique (cf. par exemple [Mic, Corollaire 4.4]).

Proposition 2.1.6. Soit σ un automorphisme du système de Coxeter (W, S).

(i) (W^{σ}, {t_{I}}_{I∈S/σ}) est un système de Coxeter, où t_{I} = w_{0}^{I} et I décrit l’ensemble des orbites de σ dans S. De plus, les longueurs dans ce système de Coxeter s’ajoutent si et seulement si elles s’ajoutent dans W.

(ii) On a un isomorphisme

B_{W^{σ}}^{+} ⟶^{∼}C_{B^{+}}(σ), t_{I} ↦ w_{0}^{I}.

2.2. Variétés “classiques”.

2.2.1. Nous rappelons ici quelques résultats géométriques qui nous seront utiles par la suite.

Soit k un corps algébriquement clos. On appelle variété sur k un schéma quasi-projectif sur k.

Soit {Z_{i}} une famille finie de sous-variétés localement fermées d’une variété X. Nous notons ⋃ Z_{i} l’union de ces sous-variétés — ce sera une sous-variété localement fermée lorsque nous utiliserons cette notation. Nous notons aussi ∐ Z_{i} cette union lorsque Z_{i} ∩ Z_{j} = ∅ pour i ≠ j.

On utilisera le résultat suivant, pour montrer que certains morphismes de variétés sont des isomorphismes [Bo, proposition II.6.6 et corollaire de 6.1].

Théorème 2.2.2. Soit f : X → Y un morphisme bijectif. On suppose que les composantes irréductibles de X sont ses composantes connexes et que Y est normal. Si f est séparable (par exemple birationnel), alors c’est un isomorphisme.

Proposition 2.2.3. Soit f : X → Y une fibration localement triviale de fibre lisse. Alors, X est normale (resp. lisse) si et seulement si Y est normale (resp. lisse).

Démonstration. En effet, localement pour la topologie de Zariski, on a un produit cartésien. Dans le cas d’un produit cartésien, l’assertion sur la lissité est établie dans [Ch, VI, III théorème 2] et celle sur la normalité dans [Ch, V, I proposition 3]. □

Nous aurons aussi besoin de comparer des propriétés à travers un revêtement étale [Mil, I, remarque 2.24 et proposition 3.17].

Proposition 2.2.4. Soit f : X → Y un revêtement étale fini. Alors, X est lisse (resp. normale) si et seulement si Y est lisse (resp. normale).

Définition 2.2.5. Nous dirons qu’un endomorphisme fini ϕ d’une variété X “vérifie la formule des traces” si ∑_{i}(−1)^{i} Trace(ϕ|H_{c}^{i}(X, \overline{ℚ}_{ℓ})) = |X^{ϕ}|.

Rappelons la formule des traces de Lefschetz � classique � [Mil, Theorem 12.3].

Théorème 2.2.6. Si X est une variété projective lisse et si le graphe de ϕ est transverse à la diagonale, alors, ϕ vérifie la formule des traces.

Le théorème suivant est dû à Fujiwara [Fu] :

Théorème 2.2.7. Soit X une variété sur \overline{𝔽}_{q}, munie d’une 𝔽_{q}-structure correspondant à un endomorphisme de Frobenius F et soit ϕ un endomorphisme fini de X. Alors pour n entier suffisamment grand et tel que F^{n} commute à ϕ, l’endomorphisme ϕF^{n} vérifie la formule des traces. En particulier pour un tel n on a

∑_{i}(−1)^{i} Trace(ϕ|H_{c}^{i}(X, \overline{ℚ}_{ℓ})) = − lim_{t→∞} ∑_{k=1}^{∞} |X^{ϕF^{nk}}|t^{k}.

2.2.8. Dans cet article nous utiliserons les notations suivantes : p est un nombre premier, G est un groupe réductif connexe sur une clôture algébrique du corps fini 𝔽_{p}, muni d’une isogénie F dont une puissance est l’endomorphisme de Frobenius attaché à une structure rationnelle de G sur un corps fini. Nous notons G^{F} le groupe (fini) des points fixes de G sous F. Nous notons δ le plus petit entier tel que F^{δ} soit un endomorphisme de Frobenius munissant G d’une structure rationnelle déployée sur un corps fini 𝔽_{q^{δ}}, où q est un nombre réel positif défini par cette condition (q^{δ} est une puissance entière de p).

Nous notons B la variété des sous-groupes de Borel de G et W le groupe de Weyl de G : ses éléments correspondent aux orbites de G dans son action diagonale sur B × B. Muni de l’ensemble S de générateurs correspondant aux orbites de dimension 1, W est un groupe de Coxeter. Pour w ∈ W, nous notons O(w) l’orbite correspondante. On a un isomorphisme canonique O(w) ×_{B} O(w′) ⟶^{∼} O(ww′) donné par la première et la dernière projection lorsque l(ww′) = l(w) + l(w′).

On dit que B_{1} est en position relative w avec B_{2} (et on note B_{1} ⟶^{w} B_{2}) lorsque (B_{1}, B_{2}) ∈ O(w).

L’action de F sur W stabilise S. L’application correspondante S → S s’étend de manière unique en un automorphisme B → B. On a obtenu ainsi une action de F sur B compatible (via β) avec l’action sur W. On définit de même une action de F sur \underline{B}^{+} par F (y(w)) = y(F (w)) et F (y(\underline{w})) = y(\underline{F (w)}). L’ordre de cette action est δ.

On fixe dans toute la suite un couple F -stable T ⊂ B formé d’un tore maximal de G et d’un sous-groupe de Borel le contenant. La variété B s’identifie à G/B par l’isomorphisme ^{g}B ↦ gB. On identifie le groupe de Weyl à N_{G}(T)/T, en associant l’orbite de (B,^{w}B) à w ∈ N_{G}(T)/T ; avec l’identification ci-dessus, on a

O(w)⟶^{∼}{(g_{1}B, g_{2}B) ∈ G/B × G/B | g_{1}^{−1}g_{2} ∈ BwB}.

La géométrie des orbites O(w) est liée à celle des cellules de Bruhat B(w) = {B′ ∈ B | B ⟶^{w} B′}, qui sont des espaces affines de dimension l(w). L’adhérence de B(w) dans B est la variété de Schubert \overline{B(w)} = ∐_{w′≤w} B(w′).

Lemme 2.2.9. Soit \overline{O(w)} l’adhérence de O(w) dans B × B.

(i) On a \overline{O(w)} = ∐_{w′≤w} O(w′).
(ii) La variété \overline{O(w)} est lisse si et seulement si \overline{B(w)} est lisse.

Démonstration. Considérons le diagramme :

\xymatrix{G × G \ar[r]^{q} \ar[d]_{p} & B × B \\ G \ar[r]_{r} & B}

où les flèches sont données par q(g_{1}, g_{2}) = (^{g_{1}}B,^{g_{2}}B), p(g_{1}, g_{2}) = g_{1}^{−1}g_{2} et r(g) = ^{g}B. Les morphismes p, q, r sont ouverts. On a r^{−1}(B(w)) = BwB. On en déduit que l’adhérence de BwB est égale à r^{−1}(\overline{B(w)}) = ∐_{w′≤w} Bw′B, car cette dernière variété est une union de fibres de r. De même, l’adhérence dans G × G de p^{−1}(BwB) = {(g_{1}, g_{2}) ∈ G × G | g_{1}^{−1}g_{2} ∈ BwB} est {(g_{1}, g_{2}) ∈ G × G | g_{1}^{−1}g_{2} ∈ ∐_{w′≤w} Bw′B}; enfin ces deux dernières variétés étant unions de fibres de q et ayant pour images par q respectivement O(w) et ∐_{w′≤w} O(w′), on en déduit le (i) du lemme.

Le (ii) se déduit (cf. proposition 2.2.3) du fait que dans le diagramme ci-dessus q et r sont des fibrations localement triviales de fibre B × B et B respectivement et que p est une fibration triviale de fibre G. □

Corollaire 2.2.10. Soit I ⊂ S. Alors, les variétés \overline{B(w_{0}^{I})} et \overline{O(w_{0}^{I})} sont lisses.

Démonstration. On a \overline{B(w_{0}^{I})} ≃ BW_{I}B/B où BW_{I}B est un sous-groupe parabolique de G, donc \overline{B(w_{0}^{I})} est une variété lisse. Par conséquent, \overline{O(w_{0}^{I})} est lisse d’après le lemme 2.2.9. □

2.2.11. Pour w ∈ W, nous posons O(\underline{w}) = \overline{O(w)}, B(\underline{w}) = \overline{B(w)}, B\underline{w}B = \overline{BwB} et nous écrirons B_{1} ⟶^{\underline{w}} B_{2} la propriété “(B_{1}, B_{2}) ∈ O(\underline{w})”.

Avec ces notations, nous avons la Définition 2.2.12. Pour t_{1}, …, t_{k} ∈ W ∪ \underline{W}, nous posons

O(t_{1}, …, t_{k}) = O(t_{1}) ×_{B} O(t_{2}) ×_{B} … ×_{B} O(t_{k})

= {(B_{1}, …, B_{k+1}) ∈ B^{k+1} | B_{i} ⟶^{t_{i}} B_{i+1}}

⟶^{∼}{(g_{1}B, …, g_{k+1}B) ∈ (G/B)^{k+1} | g_{i}^{−1}g_{i+1} ∈ Bt_{i}B}.

Nous notons p′ : (B_{1}, …, B_{k+1}) ↦ B_{1} : O(t_{1}, …, t_{k}) → B la première projection et p′′ : (B_{1}, …, B_{k+1}) ↦ B_{k+1} la dernière projection.

Lemme 2.2.13. Soient t_{1}, …, t_{k} ∈ W ∪ \underline{W}. Alors, la variété O(t_{1}, …, t_{k}) est normale. Si la variété O(t_{i}) est lisse pour tout i, alors la variété O(t_{1}, …, t_{k}) est lisse.

Démonstration. Notons q′_{k} (resp. q′′_{k}) l’oubli du premier (resp. du dernier) sous-groupe de Borel ; nous allons démontrer par récurrence sur k que ces applications définissent des fibrations localement triviales O(t_{1}, …, t_{k}) → O(t_{2}, …, t_{k}) (resp. O(t_{1}, …, t_{k}) → O(t_{1}, …, t_{k−1})), de fibres isomorphes à B(t_{1}) (resp. B(t_{k})).

Démontrons tout d’abord le résultat pour k = 1. On a un carré cartésien

\xymatrix{Z \ar[r]^{s} \ar[d]_{p} & O(t_{1}) \ar[d]^{p′=q′′_{1}} \\ G \ar[r]_{r} & B}

où Z = {(g, B′) ∈ G × B|(^{g}B, B′) ∈ O(t_{1})}, r(g) = ^{g}B, s(g, B′) = (^{g}B, B′) et p est la première projection. On a un isomorphisme G × B(t_{1}) ⟶^{∼} Z, (g, B′) ↦ (g,^{g}B′), donc p est une fibration triviale de fibre B(t_{1}). Puisque r est une fibration localement triviale de fibre B, on en déduit que p′ est une fibration localement triviale de fibre B(t_{1}) (localement, on a un produit direct).

Le cas de la seconde projection p′′ = q′_{1} se traite de manière symétrique.

Nous traitons maintenant le cas général par récurrence sur k. On considère le carré cartésien

\xymatrix{O(t_{1}, …, t_{k}) \ar[r]^{q′_{k}} \ar[d]_{q′′_{k}} & O(t_{2}, …, t_{k}) \ar[d]^{q′′_{k−1}} \\ O(t_{1}, …, t_{k−1}) \ar[r]_{q′_{k−1}} & O(t_{2}, …, t_{k−1})}

Par récurrence, q′_{k−1} est une fibration localement triviale de fibre B(t_{1}) et q′′_{k−1} est une fibration localement triviale de fibre B(t_{k}). Par conséquent, q′′_{k} et q′_{k} sont des fibrations localement triviales de fibre B(t_{k}) et B(t_{1}) respectivement (localement on a des produits cartésiens au-dessus d’un ouvert de O(t_{2}, …, t_{k−1})).

On déduit alors par récurrence que O(t_{1}, …, t_{k}) est normale (proposition 2.2.3) car les variétés de Schubert B(t_{i}) sont normales [RaRa, théorème 3].

Si les variétés O(t_{i}) sont lisses, les variétés B(t_{i}) le sont aussi d’après le lemme 2.2.9 et on déduit par récurrence que O(t_{1}, …, t_{k}) est lisse (proposition 2.2.3). □

2.2.14. Nous allons maintenant généraliser l’idée de [BrMic, De2] consistant à associer une variété à un élément de B^{+} au cas d’éléments de \underline{B}^{+}. Nous allons voir que la construction de [De2] se recolle convenablement.

Pour t_{1}, …, t_{k} ∈ W ∪ \underline{W} et t′_{1}, …, t′_{k} ∈ W, nous notons (t′_{1}, …, t′_{k}) ⊂ (t_{1}, …, t_{k}) si pour tout i, on a t′_{i} = t_{i} ∈ W ou t_{i} = \underline{w} ∈ \underline{W} et t′_{i} ∈ W, t′_{i} ≤ w. On a une décomposition en union de sous-variétés localement fermées

(2.2.15)  O(t_{1}, …, t_{k}) = ∐_{(t′_{1},...,t′_{k})⊂(t_{1},...,t_{k})} O(t′_{1}, …, t′_{k}).

Proposition 2.2.16. Soient w, w′ ∈ W.

(i) On a une immersion ouverte canonique O(w) → O(\underline{w}).

(ii) Si w ≤ w′, alors on a une immersion fermée canonique O(\underline{w}) → O(\underline{w}′).

(iii) Si l(ww′) = l(w) + l(w′), alors (p′, p′′) induit un morphisme canonique O(\underline{w}, \underline{w}′) →

O(\underline{ww′}) qui se restreint en un isomorphisme canonique O(w, w′)⟶^{∼}O(ww′). (iv) Si w et w′ sont de supports disjoints, alors le morphisme canonique

(p′, p′′) : O(\underline{w}, \underline{w}′)⟶^{∼}O(\underline{ww′})

est un isomorphisme.

(v) Si l(wv) = l(w)+l(v) pour tout v ≤ w′, alors (p′, p′′) induit un isomorphisme canonique O(w, \underline{w}′)⟶^{∼} ∐_{v≤w′} O(wv). De même, si l(vw′) = l(v) + l(w′) pour tout v ≤ w, alors (p′, p′′) induit un isomorphisme canonique O(\underline{w}, w′)⟶^{∼} ∐_{v≤w} O(vw′).

(vi) Si wv = vw ≥ w pour tout v ≤ w′, alors on a un isomorphisme canonique

O(w, \underline{w}′)⟶^{∼}O(\underline{w}′, w)

caractérisé par la commutativité du diagramme

\xymatrix{O(w, \underline{w}′) \ar[rr]^{∼} \ar[dr]_{(p′,p′′)} & & O(\underline{w}′, w) \ar[dl]^{(p′,p′′)} \\ & O(\underline{w}\underline{w}′)} .

Démonstration. (i), (ii), (iii) sont conséquences immédiates des définitions ou sont des propriétés classiques de l’ordre de Bruhat.

Démontrons (iv). La caractérisation de l’ordre de Bruhat par les suites extraites d’une décomposition réduite, montre que \{v | v ≤ ww′\} = \{v_{1}v_{2} | (v_{1}, v_{2}) ⊂ (\underline{w}, \underline{w}′)\}. Comme de tels v_{1}, v_{2} vérifient les hypothèses de (iii), le morphisme est un isomorphisme entre les termes de la décomposition (2.2.15), il est donc bijectif. Il se restreint en un isomorphisme entre les ouverts denses O(w, w′)⟶^{∼}O(ww′), donc il est birationnel. Puisque les variétés considérées sont normales (lemme 2.2.13), c’est un isomorphisme (théorème 2.2.2).

Pour démontrer (v), nous commençons par un lemme.

Lemme 2.2.17. Soit I un sous-ensemble de S, soit w ∈ W un élément réduit-I, soit w′ ∈ W_{I} et soit v ≤ ww′.

Si v ≥ w, alors v = ww′_{1} où w′_{1} ≤ w′. Sinon, v = w_{1}w′_{1} où w_{1} < w, w′_{1} ≤ w′ et l(w_{1}w′_{1}) = l(w_{1}) + l(w′_{1}).

Démonstration. Puisque v ≤ ww′, il existe v_{1} ≤ w et v′_{1} ≤ w′ tels que v = v_{1}v′_{1}. D’après le lemme d’échange, il existe w_{1} ≤ v_{1} et w′_{1} ≤ v′_{1} tels que v = w_{1}w′_{1} et l(v) = l(w_{1}) + l(w′_{1}).

Si v ≱ w, alors w_{1} ≠ w, donc w_{1} < w, d’où la conclusion de l’énoncé dans ce cas.

Supposons maintenant v ≥ w. Comme précédemment, il existe w_{2} ≤ w_{1} et w′_{2} ≤ w′_{1} tels que w = w_{2}w′_{2} et l(w) = l(w_{2}) + l(w′_{2}). Puisque w′_{2} ∈ W_{I} et w est réduit-I, on a w′_{2} = 1, donc w ≤ w_{1} et finalement w = w_{1}. □

Supposons l(wv) = l(w)+l(v) pour tout v ≤ w′. Alors, w est réduit-I, pour I le support de w′. Il résulte du lemme 2.2.17 que le complémentaire de ∐_{w′_{1}≤w′} O(ww′_{1}) dans O(\underline{ww′}) est l’union des O(w_{1}w′_{1}) où w_{1} < w, w′_{1} ≤ w′ et l(w_{1}w′_{1}) = l(w_{1}) + l(w′_{1}). Comme les longueurs s’ajoutent, si w_{2} ≤ w_{1} et w′_{2} ≤ w′_{1} alors w_{2}w′_{2} ≤ w_{1}w′_{1} donc cette union est une sous-variété fermée. Par conséquent, ∐_{w′_{1}≤w′} O(ww′_{1}) est une sous-variété ouverte de la variété normale O(\underline{w}\underline{w}′), donc c’est une variété normale. On conclut comme précédemment que (p′, p′′) : O(w, \underline{w}′) → ∐_{w′_{1}≤w′} O(ww′_{1}) est un isomorphisme.

La seconde partie de (v) se démontre de la même manière.

L’hypothèse de (vi) montre que w est réduit-I et I-réduit, où I est le support de w′. L’assertion (vi) est alors conséquence immédiate de (v). □

La proposition 2.2.16 fournit, par produits fibrés, des morphismes canoniques pour les variétés associées à des suites. Par exemple, (vi) fournit un isomorphisme canonique

O(t_{1}, …, t_{r}, w, \underline{w}′, t_{r+1}, …, t_{k})⟶^{∼}O(t_{1}, …, t_{r}, \underline{w}′, w, t_{r+1}, …, t_{k})

pour t_{1}, …, t_{k} ∈ W ∪ \underline{W}. Les isomorphismes donnés par les (iii), (iv) et (vi) de la proposition 2.2.16 sont associés à chacun des trois types de relations de \underline{B}^{+} : en composant ces isomorphismes on dispose donc d’isomorphismes entre deux variétés O(t_{1}, …, t_{k}) et O(t′_{1}, …, t′_{k}) si et seulement si t = t_{1} … t_{k} et t′ = t′_{1} … t′_{k′} sont égaux dans \underline{B}^{+}.

Proposition-Définition 2.2.18. Soit t ∈ \underline{B}^{+}. Le système d’isomorphismes entre variétés O(t′_{1}, …, t′_{k}) telles que t′_{1} … t′_{k} = t est transitif et on note O(t) la limite projective du système. Elle est munie d’une application (première et dernière projections, que nous notons (p′, p′′)) vers B × B.

Démonstration. Lorsque t ∈ B^{+}, le résultat est dû à Deligne [De2, application 2].

Dans le cas général, les items (iv) et (vi) de la proposition 2.2.16 montrent que les isomorphismes entre variétés O(t_{1}, …, t_{k}) correspondant à une relation de B^{+} sont déterminés par des isomorphismes correspondants donnés par la proposition 2.2.16 (iii) entre les termes de la décomposition (2.2.15) de ces variétés, c’est-à-dire des isomorphismes dont la transitivité a été démontrée par Deligne. On en déduit donc la transitivité du système d’isomorphismes en général. □

Chaque décomposition t = t_{1} … t_{k} avec t_{i} ∈ W ∪ \underline{W} fournit un isomorphisme canonique

O(t) ⟶^{∼} O(t_{1}, …, t_{k}).

L’action de F sur B induit un morphisme O(t_{1}, …, t_{k}) → O(F (t_{1}), …, F (t_{k})) . Ces morphismes sont compatibles aux isomorphismes canoniques de la proposition 2.2.16. Par conséquent, F induit un morphisme O(t) → O(F (t)), pour tout t ∈ \underline{B}^{+}.

2.3. Variétés de Deligne-Lusztig généralisées.

2.3.1. Nous allons maintenant introduire les variétés de Deligne-Lusztig attachées aux éléments du monoïde de tresses et des compactifications partielles de ces variétés associées aux éléments du monoïde de tresses complété. Ces variétés sont l’objet principal d’étude de cet article.

Définition 2.3.2. Soit t ∈ \underline{B}^{+} et soit Γ ⊆ B × B le graphe de F. Nous appelons “variété de Deligne-Lusztig” attachée à t la variété

X(t) = O(t) ×_{(B×B)} Γ = {x ∈ O(t) | p′′(x) = F (p′(x))}.

De même, pour t_{1}, …, t_{k} ∈ W ∪ \underline{W}, nous posons

X(t_{1}, …, t_{k}) = {(B_{1}, …, B_{k}) | (B_{1}, …, B_{k}, F (B_{1})) ∈ O(t_{1}, …, t_{k})}.

Nous noterons parfois X_{G}(t) (resp. X(t, F), resp. X_{G}(t, F)) pour préciser le groupe (resp. l’isogénie, resp. le groupe et l’isogénie) utilisé dans la définition de la variété.

Les variétés de Deligne-Lusztig sont munies d’une action de G^{F} : l’action diagonale de G sur B^{k+1} se restreint en une action de G^{F} sur X(t_{1}, …, t_{k}).

L’endomorphisme F induit un morphisme X(t) → X(F (t)) pour tout t ∈ \underline{B}^{+}. En particulier, les variétés de Deligne-Lusztig sont munies d’une action de F^{δ}. Si t ∈ (\underline{B}^{+})^{F}, alors X(t) est munie d’une action de F.

Notons que, de même que pour les variétés O(t), chaque décomposition t = t_{1} … t_{k} avec t_{i} ∈ W ∪ \underline{W} fournit un isomorphisme canonique X(t)⟶^{∼}X(t_{1}, …, t_{k}). Par composition, on obtient un isomorphisme canonique

X(t_{1}, …, t_{k})⟶^{∼}X(t′_{1}, …, t′_{k′})

pour t′_{1}, …, t′_{k′} ∈ W ∪ \underline{W} tels que t_{1} ⋯ t_{k} = t′_{1} ⋯ t′_{k′}.

Pour w ∈ W, la variété X(w) est isomorphe à la variété de Deligne-Lusztig “ordinaire” [DeLu, définition 1.4]

X(w) ⟶_{p′}^{∼} {B′ ∈ B | B′ ⟶^{w} F (B′)}⟶^{∼}{gB ∈ G/B | g^{−1}F (g) ∈ BwB}.

Plus généralement, nous pouvons identifier les variétés de Deligne-Lusztig associées à des éléments du monoïde de tresses à des variétés de Deligne-Lusztig ordinaires pour un autre groupe et une autre isogénie en appliquant la proposition suivante dans le cas où les t_{i} sont dans W.

Proposition 2.3.3. Soit F_{1} l’isogénie de G^{k} définie par F_{1}(g_{1}, …, g_{k}) = (g_{2}, …, g_{k}, F (g_{1})). Soit t = t_{1} … t_{k} ∈ \underline{B}^{+}. Alors, on a un isomorphisme entre X(t) et la variété X_{G^{k}}(t′, F_{1}) attachée à l’élément t′ = (t_{1}, …, t_{k}) du monoïde de tresses complété (\underline{B}^{+})^{k} du groupe de Weyl de G^{k}. L’action de F^{δ} correspond par cet isomorphisme à l’action de F_{1}^{kδ} et l’action de G^{F} à celle de (G^{k})^{F_{1}}.

Démonstration. Notons O_{G^{k}}(t′) la variété associée à t′ dans le groupe G^{k}. Soit t′ = t′_{1} … t′_{l} une décomposition en éléments de W^{k} ∪ \underline{W}^{k} avec t′_{i} = (t′_{i,1}, …, t′_{i,k}) et t′_{i,j} ∈ W ∪ \underline{W}. On a un isomorphisme de la variété

{(x_{1}, …, x_{l+1}) ∈ O_{G^{k}}(t′_{1}, …, t′_{l}) | x_{1} = (B_{1}, B_{2}, …, B_{k}), x_{l+1} = (B_{2}, B_{3}, …, B_{k}, B_{k+1})}

vers O_{G}(t′_{1,1}, …, t′_{l,k}) donné par

(x_{1}, …, x_{l+1}) ↦ (p_{1}(x_{1}), …, p_{1}(x_{l+1}) = p_{2}(x_{1}), …, p_{2}(x_{l+1}), …, p_{k}(x_{1}), …, p_{k}(x_{l+1}))

où p_{i} : G^{k} → G est la i-ème projection.

Puisque t = t′_{1,1} ⋯ t′_{l,k}, on a un isomorphisme canonique O(t′_{1,1}, …, t′_{l,k})⟶^{∼}O(t). La variété X(t) étant la sous-variété de O(t) définie par B_{k+1} = F (B_{1}), on obtient l’isomorphisme annoncé.

Par cette identification, l’action de F_{1}^{kδ} correspond bien à celle de F^{δ} et celle de (G^{k})^{F_{1}} à celle de G^{F}. □

2.3.4. La proposition suivante montre que pour b ∈ B^{+}, les variétés X(b) sont lisses et montre aussi que si b = w_{1} … w_{k} est une décomposition en produit d’éléments de W d’un élément de B^{+} telle que O(\underline{w}_{i}) est lisse pour chaque i, alors X(\underline{w}_{1} … \underline{w}_{k}) est une compactification lisse de X(b).

Proposition 2.3.5. Soit t ∈ \underline{B}^{+} ; alors, la variété X(t) est normale. De plus, si pour tout élément \underline{w} de \underline{W} qui intervient dans une décomposition de t, la variété O(\underline{w}) est lisse, alors, la variété X(t) est lisse.

Démonstration. En considérant les éléments (1, …, 1, t_{i}, 1, …, 1) ∈ (\underline{B}^{+})^{k}, la proposition 2.3.3 ramène la preuve au cas où on a t = t_{1} ⋯ t_{k} avec t_{i} ∈ W ⋃ \underline{W} tel que pour tout (t′_{1}, …, t′_{k}) ⊂ (t_{1}, …, t_{k}) avec t′_{1}, …, t′_{k} ∈ W, on a l(t′_{1} ⋯ t′_{k}) = ∑_{i} l(t′_{i}).

On note BtB = ∐_{(t′_{1},...,t′_{k})} Bt′_{1} ⋯ t′_{k}B et B(t) = ∐_{(t′_{1},...,t′_{k})} B(t′_{1}, …, t′_{k}), où (t′_{1}, …, t′_{k}) ⊂ (t_{1}, …, t_{k}) et t′_{1}, …, t′_{k} ∈ W. On suit la preuve de [Lu3, lemme 4.3]. Soit L : G → G, g ↦ g^{−1}F (g) l’application de Lang : c’est l’application quotient par G^{F}, pour son action par multiplication à gauche. C’est donc un revêtement étale de groupe de Galois G^{F}. Soit r : G → B, g ↦ ^{g}B. On a r^{−1}(B(t)) = BtB et r^{−1}(X(t)) = L^{−1}(BtB), où on a identifié X(t) à une sous-variété de B via p′.

On a un diagramme commutatif

\xymatrix{L^{−1}(BtB) \ar[d]_{r} \ar[r]^{L} & BtB \ar[d]_{r} \\ X(t) & B(t)}

Rappelons que r est une fibration localement triviale de fibre B (cf. preuve du lemme 2.2.9). Par conséquent, la normalité ou la lissité de B(t) est équivalente à celle de BtB (proposition 2.2.3). Il en est de même pour X(t) et L^{−1}(BtB). La proposition résulte alors de la proposition 2.2.4.

□

Notons que, puisque O(\underline{s}) est lisse lorsque s ∈ S (cf. corollaire 2.2.10), l’hypothèse de la proposition 2.3.5 sera vérifiée si les seuls éléments de \underline{W} qui interviennent dans t sont de la forme \underline{s} où s ∈ S.

Proposition 2.3.6. Soit t ∈ \underline{B}^{+}.

(i) La variété X(t) est de dimension l(t). (ii) Si t ∈ B^{+}, alors X(t) est quasi-affine. (iii) Si t = t_{1} ⋯ t_{r} avec t_{i} ∈ W et q ≥ h où h est le nombre de Coxeter de G, alors X(t)

est affine.

(iv) Si t est un produit d’éléments de \underline{W}, alors X(t) est projective.

Démonstration. Soit b l’élément du monoïde de tresses produit des éléments obtenus en remplaçant dans t chaque élément \underline{w} par w. Alors, X(b) est un ouvert dense de X(t) ; d’autre part, la dimension de O(b) est l(b) + dim B et on conclut à (i) en utilisant que l’intersection de Γ (qui est de dimension dim B) avec O(b) est transverse.

La proposition 2.3.3 ramène (ii) au cas d’une variété de Deligne-Lusztig ordinaire et le résultat est alors [Ha, théorème 2.3]. De même, (iii) se déduit du cas des variétés ordinaires [DeLu, théorème 9.7], le nombre de Coxeter de G^{r} étant le même que celui de G.

Le point (iv) est immédiat, puisque O(t) est projective dans ce cas. □

2.3.7. La proposition suivante décrit les variétés associées à une suite d’éléments contenus dans un sous-groupe parabolique du groupe de Weyl comme induites à partir de variétés associées à un sous-groupe de Levi. Pour I ⊂ S, on note P_{I} le sous-groupe parabolique BW_{I}B, on note U_{I} son radical unipotent, on note L_{I} le complément de Levi contenant T et on note B_{I} le sous-groupe de Borel B ∩ L_{I} de L_{I}. Rappelons que si B_{1} est un sous-groupe de Borel de L_{I}, alors B_{1}U_{I} est un sous-groupe de Borel de G. On note p_{L_{I}} la projection de P_{I} sur L_{I} ⟶^{∼}P_{I}/U_{I}.

Proposition 2.3.8. Soit I ⊂ S une partie F -stable et soient t_{1}, …, t_{k} ∈ W_{I} ∪ \underline{W}_{I}. Alors, l’application

G^{F} /U_{I}^{F} ×_{L_{I}^{F}} X_{L_{I}}(t_{1}, …, t_{k}) → X_{G}(t_{1}, …, t_{k})
xU_{I}^{F} ×_{L_{I}^{F}} (B_{1}, …, B_{k}) ↦ (^{x}B_{1}U_{I}, …,^{x}B_{k}U_{I})

définit un isomorphisme de variétés compatible avec l’action de G^{F} × F^{m} pour tout m tel que F^{m} fixe (t_{1}, …, t_{k}).

Démonstration. Le morphisme γ de l’énoncé est compatible à l’action de G^{F} × F^{m} pour m comme ci-dessus. Soit l_{i} ∈ L_{I} tel que B_{i} = ^{l_{i}}B_{I}. Le morphisme peut alors se ré-écrire :

xU_{I}^{F} ×_{L_{I}^{F}} (^{l_{1}}B_{I}, …,^{l_{k}}B_{I}) ↦ (^{xl_{1}}B, …,^{xl_{k}}B).

Nous allons montrer que γ est bijectif. Considérons l’application

{(g_{1}, …, g_{k}) ∈ G^{k} | g_{i}^{−1}g_{i+1} ∈ Bt_{i}B, i ≠ k; g_{k}^{−1}F (g_{1}) ∈ Bt_{k}B} →

G^{F} /U_{I}^{F} ×_{L_{I}^{F}}{(l_{1}, …, l_{k}) ∈ L_{I}^{k} | l_{i}^{−1}l_{i+1} ∈ B_{I}t_{i}B_{I}, i ≠ k; l_{k}^{−1}F (l_{1}) ∈ B_{I}t_{k}B_{I}} ,

donnée par (g_{1}, …, g_{k}) ↦ xU_{I}^{F} ×_{L_{I}^{F}} (l_{1}, …, l_{k}), où l_{1}^{−1}F (l_{1}) = p_{L_{I}}(g_{1}^{−1}F (g_{1})), l_{i} = l_{i−1}p_{L_{I}}(g_{i−1}^{−1}g_{i}) pour i = 2, …, k et xU_{I}^{F} = G^{F} ∩ g_{1}l_{1}^{−1}U_{I}.

On a g_{1}^{−1}F (g_{1}) = g_{1}^{−1}g_{2}g_{2}^{−1} … g_{k}^{−1}F (g_{1}) ∈ L_{I}U_{I} et g_{1}l_{1}^{−1} ∈ G^{F} U_{I}, donc l’application est bien définie : l_{1} est défini à multiplication par l ∈ L_{I}^{F} à gauche près. Mais alors, tous les l_{i} sont multipliés par l à gauche et donc x par l^{−1} à droite.

L’action de B par multiplication à droite sur les g_{i} est transportée par cette application sur l’action de B_{I} = B/U_{I} par multiplication à droite sur les l_{i}. On a donc une application induite f : X_{G}(t_{1}, …, t_{k}) → G^{F} /U_{I}^{F} ×_{L_{I}^{F}} X_{L_{I}}(t_{1}, …, t_{k}) qui est un inverse à gauche de γ. Puisque

xl_{1} ∈ g_{1}B et g_{i}l_{i}^{−1}U_{I} = g_{i−1}l_{i−1}^{−1}U_{I} pour i ≥ 2, on a xl_{i} ∈ g_{i}B pour tout i. Par conséquent, f est inverse à droite de γ.

Le morphisme produit (x, l_{1}, …, l_{k}) ↦ (xl_{1}, …, xl_{k}) : G^{F} × G^{k} → G^{k} est séparable. Il le reste après passage au quotient par U_{I}^{F} × B_{I}^{k} puis par L_{I}^{F}. Par restriction à la sous-variété fermée réduite X_{G}(t_{1}, …, t_{k}) et à son image inverse G^{F} /U_{I}^{F} ×_{L_{I}^{F}} X_{L_{I}}(t_{1}, …, t_{k}), le morphisme reste séparable.

Le morphisme γ étant bijectif, séparable et la variété d’arrivée étant normale (proposition 2.3.5), c’est bien un isomorphisme (théorème 2.2.2). □

Nous allons maintenant introduire une technique (proposition 2.3.13) qui nous permettra d’étudier par récurrence les variétés de Deligne-Lusztig (généralisées) et qui généralise le cas particulier de l’énoncé précédent où tous les t_{i} sont dans W_{I}.

Pour cela nous avons besoin de deux lemmes sur le monoïde de tresses.

Lemme 2.3.9. Soient w ∈ B^{+} et s ∈ S tels que ^{w}s ∈ B^{+} et soit w_{1} … w_{k} la forme normale de w. Alors, pour tout i, on a ^{w_{i}...w_{k}}s ∈ S.

Démonstration. Nous allons démontrer le lemme par récurrence sur k. L’élément ^{w}s ∈ B^{+} est de longueur 1, donc ^{w}s = t ∈ S. On a donc w_{1} … w_{k}s = tw_{1} … w_{k}. Par [Mic, lemme 4.6], il existe w′_{1} ⪯ w_{1} tel que α(tw_{1} … w_{k}) = tw′_{1}. L’égalité précédente montre que w_{1} ⪯ α(tw_{1} … w_{k}) = tw′_{1} ⪯ tw_{1}. Il y a donc deux possibilités :

(i) w′_{1} = w_{1} et alors tw_{1} = w_{1}s_{1} pour un certain s_{1} ∈ S. Alors w_{2} … w_{k}s = s_{1}w_{2} … w_{k} et on conclut par récurrence.

(ii) Il existe s_{1} ∈ S tel que w_{1} = w′_{1}s_{1} = tw′_{1}. Ici encore on en déduit que w_{2} … w_{k}s = s_{1}w_{2} … w_{k} et on conclut de même.

□

Lemme 2.3.10. Soient w ∈ B^{+} et I, J ⊂ S tels que ^{w}B_{I} ⊂ B_{J}. Alors, ^{ω_{J} (w)}I ⊂ J et l’image β(ω_{J}(w)) dans W est J-réduite.

Démonstration. De l’hypothèse il résulte que si s ∈ I, alors ^{ω_{J} (w)}s ∈ B_{J}. Posons ^{ω_{J} (w)}s = a^{−1}b où a, b ∈ B_{J}^{+} n’ont pas de diviseur commun (ce qui est toujours possible par [Mic, corollaire 3.2]). On a α_{J}(bω_{J}(w)) = b, car, si on écrit bω_{J}(w) = bxy où bx = α_{J}(bω_{J}(w)), en simplifiant on a x ≺ ω_{J}(w) ce qui implique x = 1 puisque par définition aucun élément de B_{J}^{+} ne divise ω_{J}(w). Donc tout élément t de J qui divise bω_{J}(w) divise b. Mais comme on a aω_{J}(w)s = bω_{J}(w), tout t ∈ J qui divise a divise bω_{J}(w) ; le fait que a et b n’aient pas de diviseur commun implique alors que a = 1. Alors, l(b) = 1, donc b ∈ J et ^{ω_{J} (w)}s ∈ J, ce qui démontre la première assertion.

Nous démontrons la deuxième par récurrence sur le nombre de termes de la forme normale de ω_{J}(w), l’assertion étant claire si cette forme n’a qu’un terme. Notons w_{1} … w_{k} cette forme normale. Par le lemme 2.3.9, J_{1} = ^{w_{2}...w_{k}}I est inclus dans S. La première partie du lemme montre que ^{ω_{J_{1}}(w_{2}...w_{k})}I ⊂ J_{1}, donc ω_{J_{1}}(w_{2} … w_{k}) = w_{2} … w_{k}. On en déduit que β(w_{2} … w_{k}) est J_{1}-réduit par l’hypothèse de récurrence. On est ramené à prouver le résultat dans le cas où la forme normale a deux termes, c’est-à-dire à prouver que si v_{1} ∈ W est un élément J-réduit qui conjugue J_{1} sur J et v_{2} ∈ W un élément J_{1}-réduit qui conjugue I sur J_{1} alors v_{1}v_{2} est J-réduit. Un élément s de J ne divise pas v_{1}, donc divise v_{1}v_{2} si et seulement s’il existe un élément de S qui divise v_{2} et dont le conjugué par v_{1} vaut s. Ceci est impossible car ^{v_{1}^{−1}}s ∈ J_{1} et aucun élément de J_{1} ne divise v_{2}. □

Définition 2.3.11. Soit L (resp. U) un complément de Levi (resp. le radical unipotent) d’un sous-groupe parabolique de G et n ∈ G tel que L est nF -stable. On pose

X̃^{L,U}(n) = {gU ∈ G/U | g^{−1}F (g) ∈ UnF (U)}

(nous noterons X̃_{G}^{L,U}(n, F) cette variété quand nous voudrons préciser G et F). Sur cette variété les groupes G^{F} et L^{nF} agissent respectivement par multiplication à gauche et à droite.

Définition 2.3.12. Soient w ∈ B^{+} et I ⊂ S tels que ^{w}F (B_{I}) = B_{I}. On pose z = ω_{I}(w), on note z_{1} … z_{k} la forme normale de z et on pose I_{j} = ^{z_{j}...z_{k}}F (I) (I_{j} ⊆ S par les lemmes 2.3.9 et 2.3.10). Soient ż_{1}, …, ż_{k} des relevés dans N_{G}(T) de z_{1}, …, z_{k}; on note X̃_{(I)}(ż_{1}, …, ż_{k}) la variété X̃_{G^{k}}^{L_{I_{1}×···×I_{k}} ,U_{I_{1}×···×I_{k}}} ((ż_{1}, …, ż_{k}), F_{1}) où F_{1}(g_{1}, …, g_{k}) = (g_{2}, …, g_{k}, F (g_{1})).

Autrement dit,

X̃_{(I)}(ż_{1}, …, ż_{k}) = {(g_{1}U_{I_{1}}, …, g_{k}U_{I_{k}}) |

g_{i}^{−1}g_{i+1} ∈ U_{I_{i}} ż_{i}U_{I_{i+1}} pour i < k et g_{k}^{−1}F (g_{1}) ∈ U_{I_{k}} ż_{k}F (U_{I_{1}})}.

Le groupe G^{F} ≃ (G^{k})^{F_{1}} (cf. proposition 2.3.3) agit par multiplication à gauche sur cette variété. Soit ż = ż_{1} … ż_{k}. La première projection induit un isomorphisme L_{I_{1}×···×I_{k}}^{(ż_{1},...,ż_{k})F_{1}} ⟶^{∼}L_{I}^{żF}, donc ce dernier groupe agit par multiplication à droite (via cet isomorphisme) sur X̃_{(I)}(ż_{1}, …, ż_{k}).

Proposition 2.3.13. Sous les hypothèses et avec les notations de la définition 2.3.12, soit y = α_{I}(w) et soit y = y_{1} … y_{h} une décomposition de y en éléments de W. Alors, l’application

((g_{1}U_{I_{1}}, …, g_{k}U_{I_{k}}), (B_{1}, …, B_{h})) ↦

(^{g_{1}}(B_{1}U_{I}),^{g_{1}}(B_{2}U_{I}), …,^{g_{1}}(B_{h}U_{I}),^{g_{1}}(żF (B_{1})U_{I_{1}}),^{g_{2}}(^{ż_{2}...ż_{k}}F (B_{1})U_{I_{2}}), …,^{g_{k}}(ż_{k}F (B_{1})U_{I_{k}}))

définit un isomorphisme

X̃_{(I)}(ż_{1}, …, ż_{k}) ×_{L_{I}^{żF}} X_{L_{I}}(y_{1}, …, y_{h}, żF)⟶^{∼}X(y_{1}, …, y_{h}, z_{1}, …, z_{k})

Via les isomorphismes canoniques, on en déduit un isomorphisme

X̃_{(I)}(ż_{1}, …, ż_{k}) ×_{L_{I}^{żF}} X_{L_{I}}(y, żF)⟶^{∼}X(w)

qui ne dépend pas de la décomposition choisie de y et qui est compatible avec les actions de G^{F} et de F^{n} pour tout n tel que I, y et (ż_{1}, …, ż_{k}) soient F^{n}-stables.

Démonstration. Nous pouvons simplifier la formule du morphisme en introduisant l ∈ L_{I} tel que B_{1} = ^{l}B_{I} et en posant l_{i} = ^{ż_{i}...ż_{k}}F (l) ∈ L_{I_{i}}. On a alors ^{ż_{i}...ż_{k}}F (B_{1})U_{I_{i}} = ^{l_{i}}B car B_{I_{i}}U_{I_{i}} = B et ^{ż_{i}...ż_{k}}F (B_{1}) = ^{l_{i}}(^{ż_{i}...ż_{k}}F (B_{I})) = ^{l_{i}}B_{I_{i}}. Le morphisme s’écrit donc

((g_{1}U_{I_{1}}, …, g_{k}U_{I_{k}}), (B_{1}, …, B_{h})) ↦

(^{g_{1}}(B_{1}U_{I}),^{g_{1}}(B_{2}U_{I}), …,^{g_{1}}(B_{h}U_{I}),^{g_{1}l_{1}}B,^{g_{2}l_{2}}B, …,^{g_{k}l_{k}}B) (∗)

Sous cette forme on vérifie facilement qu’il est à valeurs dans X(y_{1}, …, y_{h}, z_{1}, …, z_{k}) ; par exemple, en écrivant que g_{i}^{−1}g_{i+1} ∈ U_{I_{i}} ż_{i}U_{I_{i+1}} on trouve que

(g_{i}l_{i})^{−1}(g_{i+1}l_{i+1}) ∈ U_{I_{i}}l_{i}^{−1}ż_{i}l_{i+1}U_{I_{i+1}} ⊂ Bz_{i}B (car l_{i}^{−1}ż_{i}l_{i+1} = ż_{i}),

donc (^{g_{i}l_{i}}B,^{g_{i+1}l_{i+1}}B) est bien dans O(z_{i}).

Remarquons maintenant qu’on peut se ramener au cas k = 1. En effet par la proposition 2.3.3, on a un isomorphisme X(w)⟶^{∼}X_{G^{k}}((yz_{1}, z_{2}, …, z_{k}), F_{1}) où (yz_{1}, z_{2}, …, z_{k}) ∈ (B^{+})^{k} est un élément dont le ω_{I_{1}×...×I_{k}} est (z_{1}, z_{2}, …, z_{k}) ∈ W^{k}; l’image par cet isomorphisme de (B_{1}, …, B_{h+k}) ∈ X(y_{1}, …, y_{h}, z_{1}, …, z_{k}) est

((B_{1}, B_{h+2}, …, B_{h+k}), (B_{2}, B_{h+2}, …, B_{h+k}), … (B_{h+1}, B_{h+2}, …, B_{h+k})),

et on vérifie que cet isomorphisme est compatible avec la formule (∗).

Nous sommes donc ramenés au cas où w = yz avec z ∈ W, ^{z}I = I ; on a X̃_{(I)}(ż) = {gU_{I} | g^{−1}F (g) ∈ U_{I} żF (U_{I})} et le morphisme qui va de X̃_{(I)}(ż) ×_{L_{I}^{żF}} X_{L_{I}}(y_{1}, …, y_{h}, żF) vers X(y_{1}, …, y_{h}, z) est donné par

(gU_{I}, (B_{1}, …, B_{h})) ↦ (^{g}(B_{1}U_{I}),^{g}(B_{2}U_{I}), …,^{g}(B_{h}U_{I}),^{g}(żF (B_{1})U_{I})).  (∗∗)

On se ramène alors au cas h = 1 en utilisant l’isomorphisme donné par la proposition 2.3.3,

X(w)⟶^{∼}X_{G^{h}}((y_{1}, …, y_{h−1}, y_{h}z), F_{1})

(notons que y_{h}z ∈ W) ; on vérifie que cet isomorphisme est compatible avec (∗∗).

Nous sommes donc ramenés au cas w ∈ W, où comme expliqué après la définition 2.3.2, on

a X(w)⟶^{∼}{hB | h^{−1}F (h) ∈ BwB} et X_{L_{I}}(y, żF)⟶^{∼}{lB_{I} | l^{−1}żF (l) ∈ B_{I}yB_{I}}. Il s’agit alors

de montrer que le morphisme j_{w} : (gU_{I}, lB_{I}) ↦ glB réalise un isomorphisme X̃_{(I)}(ż) ×_{L_{I}^{żF}}

X_{L_{I}}(y, żF) ⟶^{j_{w}} X(w).

Or le diagramme suivant est commutatif :

\xymatrix{G/U_{I} ×_{L_{I}} L_{I}/B_{I} \ar[r]^{j} & G/B \\ X̃_{(I)}(ż) ×_{L_{I}^{żF}} X_{L_{I}}(y, żF) \ar[r]_{j_{w}} \ar[u]^{i} & X(w) \ar[u]_{i_{w}}}

où i_{w} est l’inclusion canonique, i l’application induite par les deux inclusions canoniques X̃_{(I)}(ż) ↪ G/U_{I} et X_{L_{I}}(y, żF) ↪ L_{I}/B_{I} et où j, donné par la même formule que j_{w}, est un isomorphisme (il admet comme inverse gB ↦ (gU_{I}, B_{I})). Montrons que i est injectif : si (hU_{I}, lB_{I}) et (hl′U_{I}, l′lB_{I}) sont tous deux dans X̃_{(I)}(ż) ×_{L_{I}^{żF}} X_{L_{I}}(y, żF) avec l′ ∈ L_{I} alors h^{−1}F (h) et (hl′)^{−1}F (hl′) sont dans U_{I} żF (U_{I}) donc l’intersection (U_{I} żF (U_{I}))∩(U_{I}l′żF (l)^{′−1}żF (U_{I})) n’est pas vide, puisqu’elle contient h^{−1}F (h)ż^{−1}. Or, L_{I} ⟶^{∼}U_{I} \ P_{I} żF (P_{I})/żF (U_{I}), donc l′ ∈ L_{I}^{żF}. Par conséquent, i est une immersion fermée.

Montrons maintenant que j_{w} est surjectif. Soit h ∈ G tel que h^{−1}F (h) ∈ BwB. On a BwB = U_{I}B_{I}yżF (B_{I})F (U_{I}) = U_{I}B_{I}yżF (U_{I}) car żF (B_{I}) = B_{I}. Soit l′ ∈ B_{I}y tel que h^{−1}F (h) ∈ U_{I}l′żF (U_{I}). Puisque żF (L_{I}) = L_{I}, il existe l ∈ L_{I} tel que l^{−1}żF (l) = l′. On a alors h^{−1}F (h) ∈ l^{−1}U_{I} żF (U_{I})F (l). Soit g = hl^{−1}. On a g^{−1}F (g) ∈ U_{I} żF (U_{I}), donc (g, l) ∈ X̃_{(I)}(ż) ×_{L_{I}^{żF}} X_{L_{I}}(y, żF). On a donc montré que j_{w} est surjectif.

COHOMOLOGIE DES VARIÉTÉS DE DELIGNE-LUSZTIG 17

On en déduit que j_{w} s’obtient à partir de j par changement de base, donc c’est un isomorphisme. □

3. Cohomologie

On fixe ℓ un nombre premier différent de p. Pour la commodité de l’exposition, on fixe un isomorphisme \overline{ℚ}_{ℓ}⟶^{∼}ℂ. Pour tout t ∈ \underline{B}^{+}, la variété X(t) est munie d’actions de G^{F} et de F^{δ} qui commutent. Ces actions sont données par des morphismes propres. Elles induisent donc des actions qui commutent sur les groupes de cohomologie ℓ-adique à support propre H_{c}^{i}(X(t), \overline{ℚ}_{ℓ}). Puisque l’endomorphisme F^{δ} induit une équivalence de sites étales, il agit par un endomorphisme inversible sur la cohomologie. Nous avons donc une représentation du groupe G^{F} ×<F^{δ}> sur les groupes de cohomologie. Nous nous intéressons dans cette partie au \overline{ℚ}_{ℓ}(G^{F} × <F^{δ}>)-module gradué H_{c}^{∗}(X(t), \overline{ℚ}_{ℓ}). Nous omettrons dans la suite les coefficients quand ils sont égaux à \overline{ℚ}_{ℓ} et écrirons simplement H_{c}^{i}(X(t)).

3.1. Constructions.

3.1.1. Pour σ : A → B un morphisme d’algèbres, nous notons σ^{∗} le foncteur de restriction à travers σ de la catégorie des B-modules vers celle des A-modules.

Pour C un complexe et i ∈ ℤ, nous notons C[i] le complexe décalé de i crans vers la gauche. Pour k un anneau commutatif et M un k⟨F^{δ}⟩-module, nous notons M(i) le k⟨F^{δ}⟩-module σ^{∗}M, où σ : k⟨F^{δ}⟩ → k⟨F^{δ}⟩ est l’automorphisme qui envoie F^{δ} sur q^{−iδ}F^{δ}.

3.1.2. Nous allons passer en revue un certain nombre de propriétés des (G^{F} ×<F^{δ}>)-modules H_{c}^{i}(X(t)).

La proposition 2.3.8 admet le corollaire suivant (la cohomologie “s’induit” d’un sous-groupe de Levi au groupe).

Corollaire 3.1.3. Soit L un sous-groupe de Levi F -stable d’un sous-groupe parabolique F - stable P de G. Alors, pour toute suite t_{1}, …, t_{k} d’éléments de W_{L} ∪ \underline{W}_{L}, on a isomorphisme de (G^{F} × F^{δ})-modules gradués

R_{L}^{G}(H_{c}^{∗}(X_{L}(t_{1}, …, t_{k})))⟶^{∼}H_{c}^{∗}(X_{G}(t_{1}, …, t_{k})).

Nous avons noté R_{L}^{G} l’induction de Harish-Chandra définie sur les L^{F} -modules par Ind_{P^{F}}^{G^{F}} ∘p_{L^{F}}^{∗} où p_{L^{F}} est la restriction de p_{L} en un morphisme de groupes P^{F} → L^{F}.

3.1.4. Nous généralisons maintenant une partie de [DeLu, théorème 1.6]. Pour t′, t′′ ∈ \underline{B}^{+}, on a un isomorphisme canonique

X(t′t′′)⟶^{∼}{(a, b) ∈ O(t′) × O(t′′) | p′′(b) = F (p′(a)) et p′′(a) = p′(b)}.

Définition 3.1.5. Pour t′, t′′ ∈ \underline{B}^{+}, nous définissons D_{t′} : X(t′t′′) → X(t′′F (t′)) comme la restriction du morphisme O(t′) × O(t′′) → O(t′′) × O(F (t′)), (a, b) ↦ (b, F (a)).

Choisissons des décompositions t′ = t_{1} … t_{k} et t′′ = t_{k+1} … t_{n} avec t_{i} ∈ W ∪\underline{W}. Alors, le morphisme D_{t′} : X(t_{1}, …, t_{n}) → X(t_{k+1}, …, t_{n}, F (t_{1}), …, F (t_{k})) est donné par D_{t′}(B_{1}, …, B_{n}) = (B_{k+1}, …, B_{n}, F (B_{1}), …, F (B_{k})).

Proposition 3.1.6. Soient t′, t′′ ∈ \underline{B}^{+}. Alors, le morphisme D_{t′} induit une équivalence de sites étales X(t′t′′) ⟶^{D_{t′}} X(t′′F (t′)). Il induit donc un isomorphisme de (G^{F} × <F^{δ}>)-modules gradués H_{c}^{∗}(X(t′t′′))⟶^{∼}H_{c}^{∗}(X(t′′F (t′))).

Démonstration. La démonstration de [DeLu, theorem 1.6 (case 1)] s’applique ici. On a un diagramme commutatif

\xymatrix{X(t′t′′) \ar[r]^{D_{t′}} \ar[d]_{F} & X(t′′F (t′)) \ar[d]^{F} \ar[dl]_{D_{t′′}} \\ X(F (t′)F (t′′)) \ar[r]_{D_{F (t′)}} & X(F (t′′)F^{2}(t′))}

Puisque F^{δ} est une équivalence de sites étales, F aussi en est une ; les flèches verticales sont donc des équivalences de sites étales, il en est alors de même des flèches horizontales. □

Deux éléments t et t′ de B sont F -conjugués s’il existe w ∈ B tel que t′ = w^{−1}tF (w). La proposition 3.1.6 montre l’invariance de la cohomologie H_{c}^{∗}(X(t)) pour une forme particulière de F -conjugaison. Nous conjecturons que la cohomologie H_{c}^{∗}(X(t)) ne dépend que de la F -classe de conjugaison de t (nous le prouverons pour G de type A_{2}, cf. corollaire 4.2.6) :

Conjecture 3.1.7. La classe d’isomorphisme du (G^{F} × <F^{δ}>)-module gradué H_{c}^{∗}(X(t)) ne dépend que de la F -classe de conjugaison de t ∈ B^{+}.

Proposition 3.1.8. Soit σ une isogénie sur G commutant à F. Notons encore σ l’automorphisme de S correspondant et celui qui s’en déduit sur \underline{B}^{+}. Alors, pour tout t ∈ \underline{B}^{+}, l’isogénie σ induit un isomorphisme de (G^{F} × <F^{δ}>)-modules gradués H_{c}^{∗}(X(t))⟶^{∼}σ^{∗}H_{c}^{∗}(X(σ(t))).

Démonstration. La proposition se déduit du fait qu’une isogénie induit une équivalence de sites étales. □

3.2. Dévissages.

3.2.1. Pour j : U → X l’inclusion d’une sous-variété localement fermée, on notera Λ_{U} le faisceau sur X donné par j_{!}(\overline{ℚ}_{ℓ}). Si j est une immersion ouverte et i : Z → X est l’immersion fermée complémentaire, on a une suite exacte de faisceaux sur X

0 → Λ_{U} → Λ_{X} → Λ_{Z} → 0,

donc une suite exacte longue

⋯ → H_{c}^{i}(U, \overline{ℚ}_{ℓ}) → H_{c}^{i}(X, \overline{ℚ}_{ℓ}) → H_{c}^{i}(Z, \overline{ℚ}_{ℓ}) → H^{i+1}(U, \overline{ℚ}_{ℓ}) → · · · .

Par faisceau sur une variété X(t) nous entendrons un faisceau G^{F} -équivariant et il en sera de même pour les morphismes.

Proposition 3.2.2. Soient w ∈ W et t, t′ ∈ \underline{B}^{+}. Alors la variété X(t\underline{w}t′) admet une filtration par des sous-variétés fermées X_{0} ⊂ X_{1} ⊂ … ⊂ X_{l(w)} = X(t\underline{w}t′) où X_{i} = ∐_{v≤w,l(v)≤i} X(tvt′). De plus X_{i} − X_{i−1} = ∐_{v≤w,l(v)=i} X(tvt′) est une décomposition en union de composantes connexes. On en déduit une filtration du faisceau constant Λ_{X(t\underline{w}t′)} dont les quotients successifs sont

Λ_{X_{i}−X_{i−1}} = ⨁_{v≤w,l(v)=i} Λ_{X(tvt′)}.

Démonstration. On obtient la filtration de Λ_{X(t\underline{w}t′)} à partir des suites exactes associées aux décompositions “ouvert-fermé” provenant de la stratification en sous-variétés fermées. □

Soient w ∈ W et s ∈ S tels que ws < w. Alors, le morphisme (p′, p′′) : O(\underline{w} \underline{s}) → B × B se factorise par l’immersion fermée O(\underline{w}) → B × B. Par produit fibré et restriction, on en déduit un morphisme canonique X(t\underline{w} \underline{s}t′) → X(t\underline{w}t′) pour t, t′ ∈ \underline{B}^{+}.

Proposition 3.2.3. Soient t, t′ ∈ \underline{B}^{+}, w ∈ W et s ∈ S tels que ws < w.

(i) Soit π : X(t\underline{w}st′) → X(t\underline{w}t′) l’application canonique. Alors,

Rπ_{!}Λ_{X(t\underline{w}st′)} ≃ Λ_{X(t\underline{w}t′)}[−2](−1).

En particulier, pour tout i, on a un isomorphisme de (G^{F} × <F^{δ}>)-modules :

H_{c}^{i}(X(t\underline{w}st′)) ≃ H_{c}^{i−2}(X(t\underline{w}t′))(−1).
(ii) Soit π′ : X(t\underline{w} \underline{s}t′) → X(t\underline{w}t′) l’application canonique. Alors,
Rπ′_{!}Λ_{X(t\underline{w} \underline{s}t′)} ≃ Λ_{X(t\underline{w}t′)}[−2](−1) ⊕ Λ_{X(t\underline{w}t′)}.

En particulier, pour tout i, on a un isomorphisme de (G^{F} × <F^{δ}>)-modules :

H_{c}^{i}(X(t\underline{w} \underline{s}t′)) ≃ H_{c}^{i−2}(X(t\underline{w}t′))(−1) ⊕ H_{c}^{i}(X(t\underline{w}t′)).

Démonstration. L’application π provient par changement de base par Γ → B × B (cf. définition 2.3.2) de l’application canonique analogue π̃ : O(t\underline{w}st′) → O(t\underline{w}t′). La deuxième projection O(s) ⟶^{p′′} B est une fibration en droites affines. On a un carré cartésien

\xymatrix{O(t\underline{w}st′) \ar[r] \ar[d]_{π̃} & O(s) \ar[d]^{p′′} \\ O(t\underline{w}t′) \ar[r] & B}

Par conséquent, le morphisme π̃ est une fibration en droites affines. Par changement de base, on déduit (i).

De même l’application π′ provient par changement de base d’une application analogue π̃′. La restriction de π̃′ au fermé O(t\underline{w}t′) est un isomorphisme et la restriction à O(t\underline{w}st′) est π̃. La suite exacte “ouvert-fermé”

0 → Λ_{O(t\underline{w}st′)} → Λ_{O(t\underline{w} \underline{s}t′)} → Λ_{O(t\underline{w}t′)} → 0

devient donc, par application de Rπ̃′_{!}, un triangle distingué

Λ_{O(t\underline{w}t′)}[−2](−1) → Rπ̃′_{!}Λ_{O(t\underline{w} \underline{s}t′)} → Λ_{O(t\underline{w}t′)} ⇝

Le morphisme associé Λ_{O(t\underline{w}t′)} → Λ_{O(t\underline{w}t′)}[−1](−1) est nul (il correspond à un élément de Ext^{−1}(Λ_{O(t\underline{w}t′)}, Λ_{O(t\underline{w}t′)}(−1))), d’où

Rπ̃′_{!}Λ_{O(t\underline{w} \underline{s}t′)} ≃ Λ_{O(t\underline{w}t′)}[−2](−1) ⊕ Λ_{O(t\underline{w}t′)}

et (ii) s’en déduit par changement de base. □

Lorsque sw < w, on a une proposition analogue pour les applications canoniques X(ts\underline{w}t′) → X(t\underline{w}t′) et X(t\underline{s} \underline{w}t′) → X(t\underline{w}t′).

3.2.4. Soit a : X → Spec 𝔽_{q} une variété sur 𝔽_{q} de dimension n. Suivant Deligne [De1, §3.3.11], la variété X est dite rationnellement lisse si le morphisme (\overline{ℚ}_{ℓ})_{X}(n)[2n] → Ra^{!}\overline{ℚ}_{ℓ} adjoint du morphisme trace est un isomorphisme. En particulier, une variété lisse est rationnellement lisse. Les conjectures de Weil sur les valeurs propres de l’endomorphisme de Frobenius s’appliquent aux variétés rationnellement lisses.

La variété X est rationnellement lisse si pour tout point fermé i_{x} : {x} → X, le morphisme canonique \overline{ℚ}_{ℓ}(n)[2n] → Ri_{x}^{!}\overline{ℚ}_{ℓ} est un isomorphisme, i.e., si H_{<x>}^{i}(X, \overline{ℚ}_{ℓ}) = 0 pour i ≠ n et H_{<x>}^{2n}(X, \overline{ℚ}_{ℓ}) ≃ \overline{ℚ}_{ℓ}(−n) [KaLu, définition A1.a]. Cela revient aussi à dire que le faisceau constant décalé \overline{ℚ}_{ℓ}[n] est pervers [BeiBerDe, §4.0].

Proposition 3.2.5. Soit w ∈ W. Les propriétés suivantes sont équivalentes :

(i) O(\underline{w}) est rationnellement lisse. (ii) X(\underline{w}) est rationnellement lisse. (iii) Pour tout y ≤ w le polynôme de Kazhdan-Lusztig P_{y,w} vaut 1. (iv) Le polynôme de Kazhdan-Lusztig P_{1,w} vaut 1.

(v) La variété de Schubert \overline{B(w)} est rationnellement lisse.

Démonstration. Montrons d’abord que (i) et (v) sont équivalents.

Restreignons le diagramme de la preuve du lemme 2.2.9. On obtient

q^{−1}(O(\underline{w})) ⟶^{q} O(\underline{w})
p↓
r^{−1}(\overline{B(w)}) ⟶^{r} \overline{B(w)}

où les morphismes p, q, r sont des fibrations localement triviales, de fibres respectives G, B × B et B. Par conséquent la lissité rationnelle de O(\underline{w}) est équivalente à celle de \overline{B(w)} (localement, on compare la lissité rationnelle d’une variété et celle du produit de cette variété par une variété lisse).

D’après [KaLu, théorème A2], la variété \overline{B(w)} est rationnellement lisse au point b ∈ B(y) ⊂ \overline{B(w)} si et seulement si P_{y,w} = 1. La sous-variété fermée S des points non rationnellement lisses de \overline{B(w)} est donc l’union des B(y) tels que P_{y,w} ≠ 1. L’équivalence de (v), (iii) et (iv) en résulte, car S étant fermée, on a B(1) ⊂ S si et seulement si S est non vide.

Les fibrations de la preuve de la proposition 2.3.5 montrent que (ii) et (v) sont équivalents (cf. [Lu3, preuve du lemme 4.3]). □

Si x est une indéterminée ou un élément de \overline{ℚ}_{ℓ}^{×}, nous notons H_{x}(W) l’algèbre de Hecke de W avec paramètre x, i.e. le quotient de l’algèbre du groupe de tresses B sur ℤ[x^{1/2}, x^{−1/2}] par l’idéal bilatère engendré par les (s + 1)(s − x) pour s ∈ S. On note T_{w} (ou simplement T_{w}) l’image de w ∈ W dans H_{x}(W). On pose T\underline{w} = ∑_{w′≤w} T_{w′} pour w ∈ W.

Lemme 3.2.6. Le morphisme canonique ℤ[x^{1/2}, x^{−1/2}]B^{+} → H_{x}(W) s’étend en un morphisme d’algèbres ℤ[x^{1/2}, x^{−1/2}]\underline{B}^{+} → H_{x}(W) donné par \underline{w} ↦ T\underline{w} pour w ∈ W.

Démonstration. La vérification que les relations qui définissent \underline{B}^{+} sont vérifiées dans H_{x}(W) se fait par un calcul immédiat dans l’algèbre de Hecke. □

Nous notons T_{t} l’image de t ∈ \underline{B}^{+} par ce morphisme.

Nous étudions maintenant la lissité rationnelle de O(\underline{w}\underline{s}) sous l’hypothèse que O(\underline{w}) est rationnellement lisse.

Lemme 3.2.7. Soit w ∈ W tel que O(\underline{w}) est rationnellement lisse et soit s ∈ S. Alors, une des assertions suivantes est vraie :

(i) ws < w. Alors, T\underline{w}T\underline{s} = (x + 1)T\underline{w} et O(\underline{ws}) est rationnellement lisse.

(ii) s ≰ w. Alors, T\underline{w}T\underline{s} = T\underline{ws} et O(\underline{ws}) est rationnellement lisse.

(iii) s < w, ws > w et il existe y ∈ W tel que ys < y < w et l(y) = l(w) − 1. Alors, y est l’unique élément maximal de \{v ∈ W |vs < v < w\}, les variétés O(\underline{ws}) et O(\underline{y}) sont rationnellement lisses et T\underline{w}T\underline{s} = T\underline{ws} + xT\underline{y}.

(iv) s < w, ws > w et il n’existe aucun y ∈ W tel que ys < y < w et l(y) = l(w) − 1. Alors, O(\underline{ws}) n’est pas rationnellement lisse.

Démonstration. Remarquons tout d’abord que O(\underline{w}) est rationnellement lisse si et seulement si T\underline{w} = D_{w} (où C′_{w} est la base de Kazhdan-Lusztig [Lu4, §5.1] et D_{w} = x^{l(w)/2}C′_{w}). En effet, on a D_{w} = ∑_{y≤w} P_{y,w}T_{y}, et O(\underline{w}) est rationnellement lisse si et seulement si P_{y,w} = 1 pour tout y ≤ w. Selon la proposition 3.2.5, la variété O(\underline{w}) est rationnellement lisse si et seulement si le coefficient de D_{w} sur T_{1} vaut 1 (si ce coefficient ne vaut pas 1, c’est un polynôme à coefficients positifs, de terme constant 1 et de degré strictement plus grand que 1). La formule de multiplication pour les D_{w} s’écrit (cf. [Lu4, §5.1.15]) :

D_{w}D_{s} = \begin{cases}(x + 1)D_{w}, & si ws < w \\ D_{ws} + ∑_{{y<w,ys<y \atop l(y)≢l(w) (mod 2)}} μ(y, w)x^{\frac{l(ws)−l(y)}{2}} · D_{y} & sinon. \end{cases}

Le cas ws < w donne l’assertion (i) du lemme.

L’entier μ(y, w) est le coefficient de x^{(l(w)−l(y)−1)/2} dans P_{y,w}. Puisque O(\underline{w}) est rationnellement lisse, on a μ(y, w) = 0 sauf si l(y) = l(w) − 1 où on a alors μ(y, w) = 1.

Supposons ws > w et O(\underline{w}) rationnellement lisse. Alors la formule ci-dessus donne :

T\underline{w}T\underline{s} = D_{ws} + ∑_{{y<w,ys<y \atop l(y)=l(w)−1}} xD_{y}.  (1)

D’autre part, un calcul direct donne :

T\underline{w}T\underline{s} = T\underline{ws} + x( ∑_{v<w,vs<v}(T_{v} + T_{vs})).  (2)

Si s ≰ w on a donc T\underline{w}T\underline{s} = T\underline{ws} = D_{ws} d’où le (ii) du lemme.

Supposons maintenant s < w. L’égalité (2) montre que le coefficient de T\underline{w}T\underline{s} sur T_{1} vaut x + 1. Il en résulte que dans (1), il y a au plus un y. S’il n’existe aucun y, alors D_{ws} = T\underline{ws} +x(∑_{v<w,vs<v}(T_{v} +T_{vs})) a un coefficient x+1 sur T_{1} donc O(\underline{w}\underline{s}) n’est pas rationnellement lisse d’où l’assertion (iv).

S’il existe un y, alors les coefficients de T_{1} dans D_{y} et dans D_{ws} doivent être égaux à 1, sinon le coefficient de T_{1} dans le membre de droite de (1) excéderait x + 1. Par conséquent, O(\underline{w}\underline{s}) et O(\underline{y}) sont rationnellement lisses, donc T\underline{y} = D_{y} et T\underline{ws} = D\underline{ws}. La comparaison des égalités (1) et (2) montre alors que T\underline{y} = ∑_{v<w,vs<v}(T_{v} + T_{vs}) et on déduit l’assertion (iii). □

3.2.8. Nous étudions maintenant le lien entre variétés X après oubli d’un sous-groupe de Borel.

Proposition 3.2.9. Soient t, t′ ∈ \underline{B}^{+}, w ∈ W et s ∈ S tels que s < w et ws > w. Alors, on a un triangle distingué de complexes de faisceaux sur X(t\underline{w}\underline{s}t′) :

Λ_{X(t\underline{w}\underline{s}t′)} → Rπ_{!}Λ_{X(t\underline{w} \underline{s}t′)} → Λ_{Y}[−2](−1) ⇝

où π : X(t\underline{w} \underline{s}t′) → X(t\underline{ws}t′) est la projection canonique et Y est la sous-variété fermée ∐_{v∈W,vs<v<w} X(t\underline{v}t′) de X(t\underline{ws}t′).

En outre, le faisceau Λ_{Y} est dans la sous-catégorie triangulée pleine de D^{b}(X(t\underline{w}\underline{s}t′)) engendrée par les Λ_{X(t\underline{v}t′)}, v ∈ W, vs < v < w.

On suppose maintenant que O(\underline{w}) et O(\underline{w}\underline{s}) sont rationnellement lisses. Alors, il existe un unique élément y ∈ W tel que ys < y < w et l(y) = l(w) − 1. On a Y = X(t\underline{y}t′) et le triangle distingué est scindé, i.e.,

Rπ_{!}Λ_{X(t\underline{w} \underline{s}t′)} ≃ Λ_{X(t\underline{w}\underline{s}t′)} ⊕ Λ_{X(t\underline{y}t′)}[−2](−1).

Démonstration. L’ensemble des éléments v ∈ W tels que v < w et vs < w est clos inférieurement pour l’ordre de Bruhat. Soit Ṽ = ∐_{y∈W,y≤w,ys≮w} O(y, \underline{s}) l’ouvert de O(\underline{w}, \underline{s}) complémentaire de

Z̃ = ∐_{x∈W,x<w,xs<w} O(x, \underline{s}) = ⋃_{v∈W,vs<v<w} O(\underline{v}, \underline{s}).

Soit maintenant V = ∐_{y∈W,y≤w,ys≮w} (O(ys) ∐ O(y)) l’ouvert de O(\underline{w}\underline{s}) complémentaire de

Z = ∐_{x∈W,x<w,xs<w} O(x) = ⋃_{v∈W,vs<v<w} O(\underline{v}).

Alors, on prouve par la proposition 2.2.16(v) appliquée avec w′ = s que le morphisme p = (p′, p′′) : O(\underline{w}, \underline{s}) → O(\underline{w}\underline{s}) se restreint en un isomorphisme r : Ṽ⟶^{∼}V et en un morphisme q : Z̃ → Z. On a alors un diagramme commutatif, où les deux carrés sont cartésiens et les flèches verticales propres :

\xymatrix{Ṽ \ar@{^{(}->}[r]^{j′} \ar[d]_{r} & O(\underline{w}, \underline{s}) \ar[d]^{p} & Z̃ \ar@{^{(}->}[l]_{i′} \ar[d]^{q} \\ V \ar@{^{(}->}[r]^{j} & O(\underline{w}\underline{s}) & Z \ar@{^{(}->}[l]_{i}}

Par changement de base, on a j^{∗}Rp_{∗}Λ_{O(\underline{w},\underline{s})} ≃ Rr_{∗}j^{′∗}Λ_{O(\underline{w},\underline{s})} ≃ Λ_{V}. Par conséquent, j^{∗} étant exact, on a 0 = τ_{≥1}j^{∗}Rp_{∗}Λ_{O(\underline{w},\underline{s})} = j^{∗}τ_{≥1}Rp_{∗}Λ_{O(\underline{w},\underline{s})}, i.e., τ_{≥1}Rp_{∗}Λ_{O(\underline{w},\underline{s})} est supporté par Z. Puisque i^{∗} est exact, on a

τ_{≥1}Rp_{∗}Λ_{O(\underline{w},\underline{s})} ≃ i_{∗}i^{∗}τ_{≥1}Rp_{∗}Λ_{O(\underline{w},\underline{s})} ≃ i_{∗}τ_{≥1}i^{∗}Rp_{∗}Λ_{O(\underline{w},\underline{s})}
≃ i_{∗}τ_{≥1}Rq_{∗}i^{′∗}Λ_{O(\underline{w},\underline{s})} ≃ i_{∗}τ_{≥1}Rq_{∗}ΛZ̃.

On vérifie, comme dans la preuve de la proposition 3.2.3 (ii), que

Rq_{∗}ΛZ̃ ≃ Λ_{Z} ⊕ Λ_{Z}[−2](−1).

Par conséquent, on a τ_{≥1}Rq_{∗}ΛZ̃ ≃ Λ_{Z}[−2](−1). Puisque les fibres de p sont connexes, on a p_{∗}Λ_{O(\underline{w},\underline{s})} ≃ Λ_{O(\underline{w}\underline{s})} et le triangle distingué

p_{∗}Λ_{O(\underline{w},\underline{s})} → Rp_{∗}Λ_{O(\underline{w},\underline{s})} → τ_{≥1}Rp_{∗}Λ_{O(\underline{w},\underline{s})} ⇝

fournit le triangle distingué

Λ_{O(\underline{w}\underline{s})} → Rp_{∗}Λ_{O(\underline{w},\underline{s})} → Λ_{Z}[−2](−1) ⇝

Comme Y = (O(t) ×_{B} Z ×_{B} O(t′)) ×_{B×B} Γ, nous déduisons par changement de base le triangle distingué voulu pour les variétés de Deligne-Lusztig.

Montrons maintenant l’affirmation sur Λ_{Y}. Soient v, v′ ∈ W distincts avec vs < v < w et v′s < v′ < w. L’ensemble {x ∈ W |x < v, x < v′} est réunion des intervalles I_{z} = {x ∈ W, x ≤ z\}, où zs < z, z < v et z < v′. Par conséquent, X(t\underline{v}t′) ∩ X(t\underline{v}′t′) = ∐_{z} X(t\underline{z}t′) où z décrit les éléments de W tels que z < v, z < v′ et zs < z. On en déduit le résultat sur Λ_{Y} par application itérée de la suite exacte de Mayer-Vietoris.

Nous allons maintenant utiliser le lemme 3.2.7 pour établir la dernière partie de la proposition. Puisque O(\underline{w}) et O(\underline{ws}) sont rationnellement lisses, l’égalité du lemme 3.2.7 (iii) peut se réécrire (T\underline{w} − T\underline{y})T\underline{s} = T\underline{ws} − T\underline{y}, car T\underline{y}T\underline{s} = (x + 1)T\underline{y} d’après le lemme 3.2.7 (i). Dans la preuve du lemme 3.2.7 (iii), nous avons montré que T\underline{y} = ∑_{v<w,vs<v}(T_{v} + T_{vs}), ce équivaut à l’égalité : \{v | vs < v < w\} = \{v | vs < v ≤ y\}. On a donc Z = O(\underline{y}) et on a un triangle distingué

Λ_{O(\underline{w}\underline{s})}[d] → Rp_{!}Λ_{O(\underline{w},\underline{s})}[d] → Λ_{O(\underline{y})}[d − 2](−1) ⇝ .

La variété O(\underline{w}\underline{s}) est rationnellement lisse, donc Λ_{O(\underline{w}\underline{s})}[d] est un faisceau pervers pur de poids d sur O(\underline{w}\underline{s}), où d = l(w) + 1. Puisque la variété O(\underline{y}) est rationnellement lisse (lemme 3.2.7 (iii)), le complexe Λ_{O(\underline{y})}[d − 2](−1) est un faisceau pervers pur de poids d. On a donc une suite exacte de faisceaux pervers

0 → Λ_{O(\underline{w}\underline{s})}[d] → Rp_{!}Λ_{O(\underline{w},\underline{s})}[d] → Λ_{O(\underline{y})}[d − 2](−1) → 0.

Puisque Λ_{O(\underline{w}\underline{s})}[d] et Λ_{O(\underline{y})}[d − 2](−1) sont purs de même poids, le faisceau Rp_{!}Λ_{O(\underline{w},\underline{s})}[d] est pur, donc la suite exacte se scinde d’après le théorème de décomposition [BeiBerDe, théorème 5.3.8], i.e.,

Rp_{!}Λ_{O(\underline{w},\underline{s})}[d] ≃ Λ_{O(\underline{w}\underline{s})}[d] ⊕ Λ_{O(\underline{y})}[d − 2](−1).

Par changement de base, on déduit une décomposition analogue au niveau des variétés de Deligne-Lusztig. □

Nous généralisons maintenant [DeLu, theorem 1.6 (case 2)]. Noter que ce résultat, contrairement aux précédents, ne provient pas directement par changement de base d’un résultat sur les variétés O. Nous remercions George Lusztig de nous avoir communiqué le principe de la démonstration de la remarque de [DeLu, §1.6.3] que les morphismes � ∂ � sont nuls.

Proposition 3.2.10. Soient s ∈ S et b ∈ B^{+}. Soit ρ : X(ssb) → X(\underline{s}b) déduit par changement de base de (p′, p′′) : O(s, s) → O(\underline{s}). Alors, on a un triangle distingué de complexes de faisceaux sur X(\underline{s}b) :

Λ_{X(sb)}[−2](−1) ⊕ Λ_{X(sb)}[−1] → Rρ_{!}Λ_{X(ssb)} → Λ_{X(b)}[−2](−1) ⇝

En particulier, on a une suite exacte longue de (G^{F} × <F^{δ}>)-modules :

⋯ → H_{c}^{i−3}(X(b))(−1) → H_{c}^{i−2}(X(sb))(−1) ⊕ H_{c}^{i−1}(X(sb)) → H_{c}^{i}(X(ssb))
→ H_{c}^{i−2}(X(b))(−1) → ⋯

Démonstration. Choisissons une décomposition b = w_{1} … w_{k} avec w_{i} ∈ W. Soit X_{1} la sousvariété fermée {(B_{1}, B_{2}, B_{3}, …, B_{k+2}) ∈ X(s, s, w_{1}, …, w_{k}) | B_{1} = B_{3}} et soit X_{2} l’ouvert complémentaire de X(s, s, w_{1}, …, w_{k}). L’application

(B_{1}, B_{2}, B_{3}, B_{4}, …, B_{k+2}) ↦ (B_{1}, B_{4}, …, B_{k+2})

fait de X_{1} un fibré en droites affines au-dessus de X(w_{1}, …, w_{k}), donc H_{c}^{i}(X_{1}) ≃ H_{c}^{i−2}(X(b))(−1). La variété X_{2} est un ouvert de la variété

Y = {(B_{1}, B_{2}, B_{3}, …, B_{k+2}) | (B_{1}, B_{3}, …, B_{k+2}) ∈ X(s, w_{1}, …, w_{k}), B_{1} ⟶^{s} B_{2}}.

La restriction π : Y → X(s, w_{1}, …, w_{k}) de ρ est une fibration en droites affines et π restreint à Y − X_{2} est un isomorphisme. On déduit alors de la suite exacte 0 → Λ_{X_{2}} → Λ_{Y} → Λ_{Y−X_{2}} → 0 un triangle distingué

Rπ_{!}Λ_{X_{2}} → Λ_{X(sb)}[−2](−1) ⟶^{∂} Λ_{X(sb)} ⇝

où ∂ ∈ Hom(Λ_{X(sb)}[−2](−1), Λ_{X(sb)}) = Ext^{2}(Λ_{X(sb)}, Λ_{X(sb)}(1)) = H^{2}(X(sb))(1). Toutes les flèches étant G^{F} -équivariantes, on a ∂ ∈ H^{2}(X(sb))^{G^{F}}. Puisque sb ∈ B^{+}, on déduit de la proposition 3.3.14 à venir (mais dont la preuve n’utilise que des résultats déjà prouvés) que H_{c}^{2l(sb)−2}(X(sb))^{G^{F}} = 0. La variété X(sb) est lisse, donc on obtient par dualité H^{2}(X(sb))^{G^{F}} = 0, donc ∂ = 0. Par conséquent, le triangle distingué donne un isomorphisme Rπ_{!}Λ_{X_{2}} ≃ Λ_{X(sb)}[−2](−1) ⊕ Λ_{X(sb)}[−1] d’où H_{c}^{i}(X_{2}) ≃ H_{c}^{i−2}(X(sb))(−1) ⊕ H_{c}^{i−1}(X(sb)). On conclut en utilisant la suite exacte associée à la décomposition ouvert-fermé X(ssb) = X_{2} ∐ X_{1}. □

3.3. Représentations unipotentes.

3.3.1. Nous allons généraliser [Lu1, théorème 3.8].

On dira que w, w′ ∈ W sont F -conjugués s’il existe v ∈ W tel que w′ = vwF (v)^{−1}.

Proposition 3.3.2. Pour b, b′ ∈ B^{+}, on a

(H_{c}^{i}(X(b)) ⊗ H_{c}^{i′}(X(b′)))^{G^{F}} = 0 pour i + i′ < l(b) + l(b′) ;

les valeurs propres de F^{δ} sur (H_{c}^{i}(X(b)) ⊗ H_{c}^{i′}(X(b′)))^{G^{F}} pour i + i′ = l(b) + l(b′) sont des puissances de q^{δ} inférieures à q^{δ(l(b)+l(b′))/2} et cette valeur ne peut être atteinte que si β(b) est F -conjugué à β(b′).

Démonstration. Le théorème de Künneth nous ramène à montrer que

H_{c}^{i}(G^{F} \(X(b) × X(b′))) = 0 pour i < l(b) + l(b′)

et que les valeurs propres de F^{δ} sur H_{c}^{l(b)+l(b′)}(G^{F} \(X(b) × X(b′))) sont des puissances de q^{δ} inférieures à q^{δ(l(b)+l(b′))/2}, cette valeur ne pouvant être atteinte que si β(b) est F -conjugué à β(b′).

Soient (x_{1}, …, x_{k}) et (x′_{1}, …, x′_{k}) deux suites d’éléments de W telles que b = x_{1} … x_{k} et b′ = x′_{1} … x′_{k} respectivement. Identifions X(b) et X(b′), comme dans la proposition 2.3.3, aux variétés de Deligne-Lusztig ordinaires du groupe G^{k}, pour l’isogénie F_{1}, associées aux éléments (x_{1}, …, x_{k}) et (x′_{1}, …, x′_{k}) respectivement. La variété G^{F} \(X(b) × X(b′)) est alors identifiée à la variété (G^{k})^{F_{1}}\(X(x_{1}, …, x_{k}) × X(x′_{1}, …, x′_{k})). D’autre part si les éléments (x_{1}, …, x_{k}) et (x′_{1}, …, x′_{k}) sont F_{1}-conjugués par (v_{1}, …, v_{k}), alors les éléments β(b) = x_{1} … x_{k} et β(b′) = x′_{1} … x′_{k} sont F -conjugués par v_{1}. On est donc ramené à démontrer la proposition pour des variétés de Deligne-Lusztig ordinaires. Nous supposons donc dans la suite que b et b′ sont dans W.

Nous pouvons alors appliquer les résultats de Lusztig [Lu1, proposition 3.4 et lemme 3.5] : la variété G^{F} \(X(b) × X(b′)) admet une stratification par l’union, quand w_{1} parcourt W, des variétés

Y(b, b′, w_{1}) = G^{F} \{(B_{1}, B′_{1}) ∈ X(b) × X(b′) | B_{1} ⟶^{w_{1}} B′_{1}}.

On note Z(v, w_{1}) la fibre de (B,^{w_{1}}B) par (p′, p′′) : O(v) → B × B, pour v ∈ B^{+} et w_{1} ∈ W. Si v = s_{1} … s_{k} est une décomposition avec s_{i} ∈ S, alors on a un isomorphisme

Z(v, w_{1}) ≃ {(B_{0}, …, B_{k}) ∈ B^{k+1} | B_{i−1} ⟶^{s_{i}} B_{i}, (B_{0}, B_{k}) = (B,^{w_{1}}B)}.

Prenons v = bF (w_{1})b̃′ où b̃′ est le retourné du mot b′. Alors, on a un isomorphisme de F^{δ}-modules (cf. [Lu1, lemme 3.5] où la variété Z(v, w_{1}) est notée Z_{b,b′,w_{1}})

H_{c}^{i}(Y(b, b′, w_{1})) ≃ H_{c}^{i}(Z(bF (w_{1})b̃′, w_{1})).

La démonstration donnée par Lusztig s’étend du cas où F est un endomorphisme de Frobenius au cas où F est une isogénie dont une puissance est un endomorphisme de Frobenius, la seule propriété de F utilisée étant le théorème de Lang.

Énonçons maintenant le lemme clef :

Lemme 3.3.3. On a H_{c}^{i}(Z(v, w_{1})) = 0 pour i < l(v) − l(w_{1}). Les valeurs propres de F^{δ} sur H_{c}^{l(v)−l(w_{1})}(Z(v, w_{1})) sont des puissances de q^{δ} inférieures à q^{δ(l(v)−l(w_{1}))/2} et cette valeur ne peut être atteinte que si β(v) = w_{1}.

Démonstration. Nous allons démontrer le résultat par récurrence sur l(v). Si la variété Z(v, w_{1}) est non vide, alors une décomposition réduite de w_{1} peut être extraite de v. Cette variété est donc vide si l(v) < l(w_{1}) ou si l(v) = l(w_{1}) et β(v) ≠ w_{1}. Si l(v) = l(w_{1}) et β(v) = w_{1} la variété est réduite à un point : ceci démontre le lemme pour l(v) = l(w_{1}). C’est le point de départ de la récurrence.

Supposons l(v) > l(w_{1}). Si v ∈ W, alors la variété est vide et l’énoncé est vrai. Nous pouvons donc supposer que v ∉ W, i.e. que v = attb où t ∈ S et a, b ∈ B^{+}. Soient a = s_{1} … s_{i} et b = s_{i+3} … s_{k} des décompositions avec s_{i} ∈ S. On a alors la décomposition v = s_{1} … s_{i}tts_{i+3} … s_{k}. Soit F le fermé de Z(v, w_{1}) formé des (B_{0}, …, B_{i}, B_{i+1}, B_{i+2}, …, B_{k}) tels que B_{i} = B_{i+2} et soit O l’ouvert complémentaire. Alors, F est un fibré en droites sur Z(ab, w_{1}), donc H_{c}^{i}(F) ≃ H_{c}^{i−2}(Z(ab, w_{1}))(−1). Quant à O, il est isomorphe au complément de la section nulle d’un fibré en droites sur Z(atb, w_{1}). On a une suite exacte longue de cohomologie associée à la fibration

⋯ → H_{c}^{i−2}(Z(atb, w_{1}))(−1) → H_{c}^{i}(Z(atb, w_{1})) → H_{c}^{i+1}(O) → H_{c}^{i−1}(Z(atb, w_{1}))(−1) → ⋯

L’hypothèse de récurrence montre alors que les groupes de cohomologie H_{c}^{i}(F) et H_{c}^{i}(O) sont nuls pour i < l(v) − l(w_{1}) et H_{c}^{l(v)−l(w_{1})}(F) ≃ H_{c}^{l(ab)−l(w_{1})}(Z_{ab,w_{1}})(−1) et H_{c}^{l(v)−l(w_{1})}(O) ≃ H_{c}^{l(atb)−l(w_{1})}(Z_{atb,w_{1}}).

La suite exacte longue associée à la décomposition “ouvert-fermé”

⋯ → H_{c}^{i}(O) → H_{c}^{i}(Z(v, w_{1})) → H_{c}^{i}(F) → H_{c}^{i+1}(O) → ⋯

montre que H_{c}^{i}(Z(v, w_{1})) = 0 pour i < l(v) − l(w_{1}), et que les valeurs propres de F^{δ} sur H_{c}^{l(v)−l(w_{1})}(Z(v, w_{1})) sont des puissances de q^{δ} inférieures à q^{δ(l(v)−l(w_{1}))/2}. De plus, cette valeur ne peut être atteinte que si F^{δ} a une valeur propre q^{δ(l(ab)−l(w_{1}))/2} sur H_{c}^{l(ab)−l(w_{1})}(Z(ab, w_{1})). Par l’hypothèse de récurrence, il faut donc que w_{1} = β(ab) = β(attb) = β(v), d’où le lemme. □

De ce lemme nous déduisons maintenant facilement la proposition : aucune des strates Y(b, b′, w_{1}) n’ayant de cohomologie en degré strictement inférieur à l(bF (w_{1})b̃′) − l(w_{1}) = l(b)+l(b′), les suites exactes longues “ouvert-fermé” données par la stratification montrent qu’il en est de même pour G^{F} \(X(b) × X(b′)) ; elles montrent en outre que H_{c}^{l(b)+l(b′)}(G^{F} \(X(b) × X(b′))) est isomorphe à un sous-module de ⨁_{w_{1}} H_{c}^{l(b)+l(b′)}(Z(bF (w_{1})b̃′, w_{1})). Les valeurs propres de F^{δ} sur H_{c}^{l(b)+l(b′)}(G^{F} \(X(b) × X(b′))) sont donc des puissances de q^{δ} inférieures à q^{δ(l(b)+l(b′))/2} et cette valeur ne peut être atteinte que s’il existe w_{1} tel que β(bF (w_{1})b̃′) = w_{1}, i.e. si β(b) est F -conjugué à β(b′). □

Le corollaire suivant est une généralisation des résultats de [Lu1, corollaire 3.9] et de [DiMic1, III, théorème 2.3].

Corollaire 3.3.4. Les valeurs propres de F^{δ} sur un sous-G^{F} -module irréductible ρ de H_{c}^{i}(X(t)) (pour t ∈ \underline{B}^{+}) sont dans q^{δℕ}λ_{ρ}ω_{ρ}, où λ_{ρ} est une racine de l’unité et ω_{ρ} ∈ \{1, q^{δ/2}\}, tous deux indépendants de i et de t.

Démonstration. Montrons d’abord la propriété pour t ∈ B^{+}. Dans ce cas, nous pouvons suivre telle quelle la preuve de [Lu1, corollaire 3.9] en remplaçant [Lu1, théorème 3.8] par notre proposition 3.3.2 qui en est la généralisation pour les éléments du monoïde de tresses. On obtient alors que les valeurs propres de F^{δ} sur les sous-G^{F} -modules irréductibles de même type dans les H_{c}^{i}(X_{b}) diffèrent par des puissances de q^{δ}. On voit que ces valeurs propres sont des racines de l’unité à une puissance de q^{δ/2} près en prenant un b ∈ W dans la cohomologie duquel ρ intervient : dans ce cas on a une variété de Deligne-Lusztig ordinaire pour laquelle on connaît le résultat.

En général, on raisonne par récurrence sur le nombre d’éléments de \underline{W} dans une décomposition de t. Si t = t\underline{w}t′ avec \underline{w} ∈ \underline{W} et t, t′ ∈ \underline{B}^{+}, alors dans la stratification de la proposition 3.2.2, les variétés X_{i} − X_{i−1} vérifient la conclusion du théorème (par récurrence). En considérant les suites exactes longues de cohomologie associées à cette stratification, on voit qu’il en est de même pour X(t). □

3.3.5. Pour H un groupe, on note Irr(H) l’ensemble des classes d’isomorphisme de \overline{ℚ}_{ℓ}Hmodules simples de dimension finie. Nous notons R(H) le groupe de Grothendieck de la catégorie des \overline{ℚ}_{ℓ}H-modules de dimension finie et R^{+}(H) le sous-monoïde donné par les classes des modules. On note [V] l’image dans R(H) d’un \overline{ℚ}_{ℓ}H-module V. Par abus de notation, on note simplement ρ l’image d’un élément ρ ∈ Irr(H). On pose [V]_{ρ} = ⟨V, ρ⟩ et V_{ρ} = ⟨V, ρ⟩ρ. On a donc [V_{ρ}] = [V]_{ρ} · ρ.

Soit L le sous-groupe du groupe de Grothendieck des \overline{ℚ}_{ℓ}(G^{F} × <F^{δ}>)-modules gradués de dimension finie, engendré par les classes des représentations où les valeurs propres de F^{δ} sont de la forme ζq^{δj} avec ζ une racine de l’unité et j ∈ ℕ/2. On définit un morphisme L → ℤ[t^{1/2}, h] ⊗ R(G^{F}) comme suit. Soit ρ une représentation irréductible de G^{F} et λ une représentation de <F^{δ}> donnée par λ(F^{δ}) = ζq^{δj}. Alors, on envoie la classe de la représentation ρ ⊗ λ, placée en degré i, sur h^{i}t^{j}ρ.

D’après le corollaire 3.3.4, la classe [H_{c}^{∗}(X(t))] de H_{c}^{∗}(X(t)) est dans L et le sous-groupe de L engendré par les classes de telles représentations s’envoie injectivement dans ℤ[t^{1/2}, h]⊗R(G^{F}). Dans la suite du texte nous identifierons [H_{c}^{∗}(X(t))] à un élément de ℤ[t^{1/2}, h] ⊗ R(G^{F}). Dans de nombreux cas, nous pourrons décrire cet élément en termes de caractères de l’algèbre de Hecke.

On sait que H_{x}(W)⊗ℚ(x^{1/2}) est absolument semi-simple [GePf2, théorème 9.3.5] et qu’après spécialisation des scalaires à ℚ à travers l’homomorphisme f : \sqrt{x} ↦ 1, on a H_{x}(W) ⊗_{f} ℚ⟶^{∼}ℚ[W]. On a donc une bijection (“spécialisation”) de l’ensemble des caractères irréductibles de H_{x}(W) vers l’ensemble des caractères irréductibles de W. Si χ est un caractère de W, on note χ_{x} le caractère de H_{x}(W) qui se spécialise en χ; on a χ(w) = f(χ_{x}(T_{w})) pour tout w ∈ W.

Pour ψ ∈ R(W ⋊<F >) ⊗ ℚ, on note R_{ψ} le “caractère fantôme”, élément de R(G^{F}) ⊗ \overline{ℚ}_{ℓ} donné par

R_{ψ} = |W |^{−1} ∑_{i≥0,w∈W} ψ(wF)(−1)^{i}[Res_{G^{F}} H_{c}^{i}(X(w))]

(ici la notation Res_{G^{F}} signifie que nous oublions l’action de <F^{δ}>). On note E(G^{F} , 1) l’ensemble des caractères unipotents irréductibles de G^{F}.

Pour tout caractère F -stable χ de W, nous choisissons une extension χ̃ de χ à W ⋊<F > triviale sur F^{δ} et rationnelle. Si W est irréductible, il y a une unique telle extension rationnelle, sauf si δ = 2, auquel cas une telle extension est unique au signe près [Lu4, proposition 3.2]. Soit m un entier multiple de δ. Nous notons H_{q^{m}}(W) l’algèbre de Hecke spécialisée en \sqrt{x} ↦ q^{m/2} ∈ ℝ. Nous notons χ̃_{q^{m}} le caractère de H_{q^{m}}(W)⋊<F > qui se spécialise en χ̃ (c’est une extension du caractère χ_{q^{m}} de H_{q^{m}}(W)).

3.3.6. Nous allons maintenant étendre et généraliser des résultats de [DiMic1].

Proposition 3.3.7. Pour tous t ∈ \underline{B}^{+}, g ∈ G^{F} et pour tout entier positif m multiple de δ, le nombre de points fixes sous gF^{m} de X(t) est

|X(t)^{gF^{m}}| = ∑_{ρ∈E(G^{F} ,1)} λ_{ρ}^{m/δ}ρ(g) ∑_{χ∈Irr(W)^{F}} ⟨ ρ, Rχ̃ ⟩ · χ̃_{q^{m}}(T_{t}F).

Démonstration. Fixons une décomposition t = t_{1} … t_{k} avec t_{i} ∈ W ∪ \underline{W}. Comme en (2.2.15), on a X(t_{1}, …, t_{k}) = ∐_{(t′_{1},...,t′_{k})⊂(t_{1},...,t_{k})} X(t′_{1}, …, t′_{k}) et T_{t} = ∑_{(t′_{1},...,t′_{k})⊂(t_{1},...,t_{k}),t′_{i}∈W} T_{t′_{1}...t′_{k}}. Les deux membres de la proposition étant additifs, il suffit donc de démontrer la proposition pour t ∈ B^{+}. La propriété résulte alors de [DiMic1, III proposition 1.2, théorème 1.3 et théorème 2.3] appliqués à la variété X_{G^{k}}(t_{1}, …, t_{k}, F_{1}) isomorphe à X(t) (cf. proposition 2.3.3). □

Corollaire 3.3.8. Soit t ∈ \underline{B}^{+}. On a (i) [H_{c}^{∗}(X(t))]_{h=−1} = ∑_{χ∈Irr(W)^{F}} Rχ̃ ·χ̃_{t}(T_{t}F) = ∑_{ρ∈E(G^{F} ,1)} ρ ∑_{χ∈Irr(W)^{F}} ⟨ ρ, Rχ̃ ⟩ ·χ̃_{t}(T_{t}F).

(ii) Si de plus t est un produit d’éléments \underline{w} de \underline{W} tels que X(\underline{w}) est rationnellement lisse, alors,

[H_{c}^{∗}(X(t))] = ∑_{χ∈Irr(W)^{F}} Rχ̃ · χ̃_{h^{2}t}(T_{t}F) = ∑_{ρ∈E(G^{F} ,1)} ρ ∑_{χ∈Irr(W)^{F}} ⟨ ρ, Rχ̃ ⟩ · χ̃_{h^{2}t}(T_{t}F)

Démonstration. D’après 3.3.4 et la convention 3.3.5, si m est tel que λ_{ρ}^{m/δ} = 1 pour tout ρ, on a ∑_{i}(−1)^{i} Trace(gF^{m}|H_{c}^{i}(X(t))) = Trace(g|[H_{c}^{∗}(X(t))]_{h=−1,t=q^{m}}). Par la formule des traces de Lefschetz, le premier membre est égal au premier membre de 3.3.7. On obtient donc pour, tout m suffisament divisible,

[H_{c}^{∗}(X(t))]_{h=−1,t=q^{m}} = ∑_{ρ∈E(G^{F} ,1)} ρ ∑_{χ∈Irr(W)^{F}} ⟨ ρ, Rχ̃ ⟩ · χ̃_{q^{m}}(T_{t}F),

ce qui montre (i), les deux membres étant des polynômes égaux pour une infinité de valeurs de t.

Démontrons (ii). La proposition 2.3.3 permet de nous ramener au cas où la suite t est réduite à un seul terme \underline{w}. Puisque X(\underline{w}) est rationnellement lisse, les conjectures de Weil sur les valeurs propres de l’endomorphisme de Frobenius montrent que

Trace(gF^{m}|H_{c}^{i}(X(t))) = ∑_{ρ} λ_{ρ}^{m/δ}q^{im/2}ρ(g)⟨ ρ, H_{c}^{i}(X(t)) ⟩.

Jointe à la proposition 3.3.7, la formule des traces de Lefschetz fournit alors l’égalité

∑_{i}(−1)^{i}q^{im/2}⟨ ρ, H_{c}^{i}(X(t)) ⟩ = ∑_{χ} ⟨ ρ, Rχ̃ ⟩χ̃_{q^{m}}(T_{t}F)

pour tout m. On en déduit (ii). La proposition s’en déduit. □

3.3.9. Nous étudions maintenant les propriétés de rationalité des caractères des groupes de cohomologie.

Proposition 3.3.10. Pour tout t ∈ \underline{B}^{+} et pour tout i, le groupe H_{c}^{i}(X(t)) est unipotent comme G^{F} -module, a un caractère rationnel comme (G^{F} × <F^{δ}>)-module et les valeurs propres de F^{δ} dans H_{c}^{i}(X(t)) sont de module inférieur ou égal à q^{δi/2}.

Démonstration. Supposons pour commencer que t est un produit d’éléments \underline{s} avec s ∈ S. Le corollaire 3.3.8 (ii) montre que H_{c}^{∗}(X(t)) est unipotent et pour tout entier strictement positif m, on a :

|X(t)|^{g(F^{δ})^{m}} = ∑_{i}(−1)^{i} Trace(g(F^{δ})^{m} | H_{c}^{i}(X(t))

= ∑_{i}(−1)^{i} ∑_{ρ∈E(G^{F} ,1)}(λ_{ρ}q^{δi/2})^{m} Trace(g | H_{c}^{i}(X(t))_{ρ}).

Soit [λ] le caractère de <F^{δ}> défini par F^{δ} ↦ λ. On pose H_{c}^{i}(X(t))_{λ} = ⊕_{{ρ|λ_{ρ}=λ}}H_{c}^{i}(X(t))_{ρ}. Alors, pour tout g, l’élément

∑_{i,λ}(−1)^{i}[λq^{δi/2}] Trace(g | H_{c}^{i}(X(t))_{λ}

de R(<F^{δ}>) ne prend que des valeurs entières sur les puissances strictement positives de F^{δ}, donc est stable par tout σ ∈ Gal(\overline{ℚ}/ℚ). Comme σ([λq^{δi/2}]) = [σ(λ)q^{δi/2}] et que les caractères [λq^{δi/2}] sont tous distincts quand i décrit ℤ et λ décrit les racines de l’unité, on en déduit que σ(Trace(g | H_{c}^{i}(X(t))_{λ}) = Trace(g | H_{c}^{i}(X(t))_{σ(λ)}). Par conséquent, le caractère du G^{F} ×<F^{δ}>- module H_{c}^{i}(X(t)) est σ-stable, donc rationnel.

On suppose maintenant que t est de la forme t = t_{1} … t_{n} avec t_{1}, …, t_{n} ∈ S ∪ \underline{S}. On va établir la proposition, dans ce cas, par récurrence sur le nombre de i tels que t_{i} ∈ S. Soit i tel que t_{i} ∈ S. Alors, la variété X(t_{1} … t_{i−1}\underline{t}_{i}t_{i+1} … t_{n}) a un ouvert isomorphe à X(t), de fermé complémentaire isomorphe à X(t_{1} … t_{i−1}t_{i+1} … t_{n}). Par récurrence, la proposition est établie pour X(t_{1} … t_{i−1}\underline{t}_{i}t_{i+1} … t_{n}) et pour X(t_{1} … t_{i−1}t_{i+1} … t_{n}). La suite exacte longue associée à la décomposition ouvert-fermé montre le résultat pour X(t).

Considérons maintenant un élément quelconque t = t_{1} … t_{n} de \underline{B}^{+} (avec t_{i} ∈ W ∪ \underline{W}). Nous allons montrer le résultat par récurrence sur le nombre de t_{i} dans \underline{W}. Le résultat est déjà établi pour t ∈ B^{+}.

Soit j tel que t_{j} = \underline{w} ∈ \underline{W} et considérons la stratification de la proposition 3.2.2, où t = t_{1} … t_{j−1} et t′ = t_{j+1} … t_{n}. Par récurrence, tous les X_{i} − X_{i−1} vérifient la proposition. La proposition pour X(t) se déduit alors de la suite spectrale associée à la stratification. □

Nous utiliserons parfois le raffinement suivant d’une partie de l’énoncé de la proposition 3.3.10, qui étudie l’action de F. Lorsque F n’est pas un endomorphisme de Frobenius, la formule des traces ne s’applique pas directement et nous contournons le problème en utilisant un théorème de Fujiwara conjecturé par Deligne.

Proposition 3.3.11. Soit t ∈ \underline{B}^{+} produit d’éléments de (B^{+})^{F} et d’éléments \underline{w} ∈ \underline{W}^{F} tels que X(\underline{w}) est rationnellement lisse. Alors, pour tout i, le caractère du (G^{F} ⋊<F >)-module H_{c}^{i}(X(t)) est rationnel.

Démonstration. Commençons par démontrer que sous les hypothèses de l’énoncé, X(t) possède un “modèle” X(t_{1}, …, t_{k}) qui est F -stable. Pour cela, il suffit de trouver une décomposition t = t_{1} … t_{k} avec t_{i} ∈ W^{F} ⋃ \underline{W}^{F}. Vu l’hypothèse de l’énoncé, il suffit même de trouver une telle décomposition pour tout élément w ∈ (B^{+})^{F}, ce qui est fourni par la proposition 2.1.6.

Soit donc t = t_{1} ⋯ t_{k} une décomposition avec t_{i} ∈ W^{F} ⋃ \underline{W}^{F} telle que si t_{i} ∈ W^{F}, alors t_{i} est de la forme w_{0}^{I} où I est une partie F -stable de S et telle que X(t_{i}) est rationnellement lisse pour tout i. Rappelons que X(\underline{w}_{0}^{I}) est lisse (cf. corollaire 2.2.10).

Nous allons démontrer le résultat par récurrence simultanée sur l(t) et sur le cardinal de {i|t_{i} ∈ W }.

Commençons par démontrer le résultat lorsque tous les t_{i} sont dans \underline{W}. Soit i ∈ \{0, …, δ−1\} et (ϕ, F_{1}) = (gF^{i}, F^{δ}). Pour m ≡ i (mod δ), on a gF^{m} = ϕ(F^{δ})^{(m−i)/δ}, donc, pour m assez grand, on a (cf. théorème 2.2.7) :

|X(t_{1}, …, t_{k})|^{gF^{m}} = ∑_{i}(−1)^{i} Trace(gF^{m} | H_{c}^{i}(X(t_{1}, …, t_{k})).

Puisque X(t_{1}, …, t_{k}) est rationnellement lisse, le corollaire 3.3.4, joint aux conjectures de Weil, montre que les valeurs propres de F sur H_{c}^{i}(X(t_{1}, …, t_{k})_{ρ} sont de la forme μ_{ρ}q^{i/2} où μ_{ρ} est une racine δ-ième de λ_{ρ}. Donc, si on note H_{c}^{i}(X(t_{1}, …, t_{k}))_{ρ}^{μ_{ρ}} l’espace propre généralisé de F dans H_{c}^{i}(X(t_{1}, …, t_{k}))_{ρ} pour la valeur propre μ_{ρ}q^{i/2}, on a

|X(t_{1}, …, t_{k})^{gF^{m}}| = ∑_{i}(−1)^{i} ∑_{ρ} ∑_{{μ_{ρ}|μ_{ρ}^{δ}=λ_{ρ}}}(μ_{ρ}q^{i/2})^{m} Trace(g | H_{c}^{i}(X(t_{1}, …, t_{k})_{ρ}^{μ_{ρ}}),

et on conclut comme dans la preuve de la proposition 3.3.10.

Passons maintenant à l’étape générale de la récurrence. Soit h tel que t_{h} ∈ W ; la variété X(t_{1}, …, t_{h−1}, \underline{t}_{h}, t_{h+1}, …, t_{k}) vérifie la conclusion de la proposition par récurrence sur le nombre de i tels que t_{i} ∈ W. Cette variété a une stratification donnée par la proposition 3.2.2, pour \underline{w} = \underline{t}_{h}. Alors, avec les notations de la proposition 3.2.2, on a X_{l(t_{h})} = X(t_{1}, …, t_{k}). Dans la décomposition X_{i} − X_{i−1} = ∐_{v≤w,l(v)=i} X(tvt′), seuls les termes où v ∈ W^{F} donnent une contribution non nulle à Trace(gF | H_{c}^{j}(X_{i} − X_{i−1})). Par récurrence sur la longueur, toutes les variétés X_{i} de la stratification avec i < l(t_{h}) vérifient la conclusion de la proposition. Les suites exactes ouvert-fermé associées à la stratification montrent alors que X(t_{1}, …, t_{k}) vérifie aussi la conclusion de l’énoncé. □

Remarque 3.3.12. Nous conjecturons que tout élément de C\underline{B}^{+}(F) est produit d’éléments de C_{B^{+}}(F) et d’éléments de \underline{W}^{F}.

3.3.13. Soit Id le caractère identité de G^{F}. Soit Id_{h^{2}t} le caractère de H_{h^{2}t}(W) qui se spécialise en le caractère trivial de W (il prend la valeur (h^{2}t)^{l(w)} sur T_{w}).

Proposition 3.3.14. Soit t ∈ \underline{B}^{+}. La classe de la partie G^{F} -invariante de H_{c}^{∗}(X(t)) est [H_{c}^{∗}(X(t))]_{Id} = Id_{h^{2}t}(T_{t}).

Démonstration. Nous procédons par récurrence sur le nombre d’éléments de \underline{W} dans une décomposition de t.

Démontrons d’abord le résultat quand t ∈ B^{+}. En considérant une décomposition t = w_{1} … w_{k} où w_{i} ∈ W et en utilisant la proposition 2.3.3, on se ramène au cas où t ∈ W. Soit ṫ un élément de N_{G}(T) qui relève t. Soit U le radical unipotent de B.

Soit Y(ṫ) = {g ∈ G | g^{−1}F (g) ∈ ṫU}. C’est une variété munie d’une action de G^{F} par multiplication à gauche et et de T^{tF} par multiplication à droite. On dispose aussi d’une action de U ∩ ṫU par multiplication à droite. On a un isomorphisme de variétés compatible à l’action de G^{F} [DeLu, §1.11]

g ↦ ^{g}B, (Y(ṫ)/(U ∩ ṫU))/T^{tF} ⟶^{∼}X(t)

Le morphisme quotient π : Y(ṫ) → Y(ṫ)/(U ∩ ṫU)) est une fibration à fibres des espaces affines de dimension l(w_{0})−l(t). Par conséquent, π_{∗}\overline{ℚ}_{ℓ} ≃ \overline{ℚ}_{ℓ}[2(l(t)−l(w_{0}))](l(t)−l(w_{0})), donc on a un isomorphisme de G^{F} -modules H_{c}^{∗}(X(t)) ≃ H_{c}^{∗−2(l(w_{0})−l(t))}(Y(ṫ)/T^{tF})(l(t) − l(w_{0})). La variété Y(ṫ)/G^{F} est isomorphe à U et l’action correspondante de T^{tF} est l’action par conjugaison. Cette action s’étend en l’action par conjugaison du groupe connexe T. Or, un groupe connexe agit trivialement sur la cohomologie [DeLu, proposition 6.4], donc

H_{c}^{∗}(U) ≃ H_{c}^{∗}(U)^{T^{tF}} ≃ H_{c}^{∗}(Y(ṫ)/T^{tF})^{G^{F}} ≃ H_{c}^{∗+2(l(w_{0})−l(t))}(X(t))^{G^{F}} (l(w_{0}) − l(t)).

Puisque U est un espace affine de dimension l(w_{0}), on en déduit que [H_{c}^{∗}(X(t))]_{Id} = (h^{2}t)^{l(t)}.

Passons maintenant à l’étape générale de la récurrence. Considérons une décomposition t = t\underline{w}t′ avec t, t′ ∈ \underline{B}^{+} et w ∈ W. On considère la stratification correspondante (cf. proposition 3.2.2). L’hypothèse de récurrence s’applique aux composantes des variétés X_{i} − X_{i−1}. En particulier, la partie G^{F} -invariante de leur cohomologie est en degré pair. Il en résulte que les morphismes de connection des suites exactes longues ouvert-fermé de cohomologie associées à la stratification sont nulles lorsque l’on se restreint à la partie où G^{F} agit trivialement. Par conséquent, H_{c}^{∗}(X(t))^{G^{F}} = ⊕_{i}H_{c}^{∗}(X_{i} − X_{i−1})^{G^{F}}, d’où la proposition. □

Soit ε le caractère signe de W et ε̃ l’extension telle que F agit trivialement. Nous notons St le caractère de Steinberg Rε̃ de G^{F}.

Proposition 3.3.15. Soit t ∈ \underline{B}^{+}. On a [H_{c}^{∗}(X(t))]_{St} = ε_{h^{2}t}(T_{t}). En d’autres termes : (i) La représentation de Steinberg n’intervient pas dans H_{c}^{∗}(X(t)) si t ∉ B^{+}.

(ii) Pour t ∈ B^{+}, la représentation de Steinberg n’intervient que dans H_{c}^{l(t)}(X(t)) ; dans celui-ci, elle a multiplicité 1 et est associée à la valeur propre 1 de F^{δ}.

Démonstration. Lorsque t est un produit d’éléments de \underline{S}, le résultat est fourni par le corollaire 3.3.8 (ii), car ε_{th^{2}}(T\underline{s}) = 0 (si \underline{s} ∈ \underline{S}) et ε_{th^{2}}(T_{1}) = 1.

Soit maintenant t = t_{1} … t_{n} avec t_{1}, …, t_{n} ∈ S ∪ \underline{S}. Soit i tel que t_{i} ∈ S. Par récurrence sur le cardinal de {i|t_{i} ∈ S}, la représentation de Steinberg n’intervient pas dans la cohomologie de la variété X(t_{1} … t_{i−1}\underline{t}_{i}t_{i+1} … t_{n}). La suite exacte associée à la décomposition ouvert-fermé O(\underline{t}_{i}) = O(t_{i}) ∐ O(1) montre que H_{c}^{k}(X(t))_{St} = H_{c}^{k−1}(X(t_{1} … t_{i−1}t_{i+1} … t_{n}))_{St} et la proposition en découle par récurrence.

Soit t = t_{1} … t_{n} avec t_{1}, …, t_{n} ∈ W ∪\underline{W}. Nous allons procéder par récurrence sur ∑_{i}(l(t_{i})− 1), où i décrit les entiers tels que t_{i} ∉ W. La proposition est déjà établie lorsque cet entier est nul. Sinon, il existe i tel que t_{i} = \underline{v} ∈ \underline{W} − \underline{S}. Soient w ∈ W et s ∈ S tels que v = ws et w < v. Par récurrence, la représentation de Steinberg n’intervient pas dans la cohomologie des variétés X(t_{1} … t_{i−1}\underline{w} \underline{s}t_{i+1} … t_{n}) et X(t_{1} … t_{i−1}\underline{w}′t_{i+1} … t_{n}) pour w′ < w. La proposition 3.2.9 permet alors de déduire la proposition pour X(t). □

Pour w ∈ W, on pose R_{w} = ∑_{i}(−1)^{i}[H_{c}^{i}(X(w))] ∈ R(G^{F}).

Proposition 3.3.16. Pour s ∈ S^{F}, on a [H_{c}^{∗}(X(s^{n}))] = \frac{t^{n}h^{2n}}{2} (R_{1} + R_{s}) + \frac{h^{n}}{2} (R_{1} − R_{s}).

Démonstration. Lorsque le rang de G est 1, la proposition résulte des propositions 3.3.14 et 3.3.15. Le cas général s’en déduit par induction de Harish-Chandra à partir du sous-groupe de Levi défini par s (cf. corollaire 3.1.3). □

Proposition 3.3.17. Soient s ∈ S et b ∈ B^{+} tels que bF (s) = sb. Alors, il existe H_{s}, H_{i} ∈ ℤ[t^{1/2}, h] ⊗ R(G^{F}) tels que pour tout m ∈ ℕ, on a [H_{c}^{∗}(X(s^{m}b))] = h^{m}H_{s} + (h^{2}t)^{m}H_{i}.

Démonstration. Nous appliquons la proposition 2.3.13 avec I = {s} et w = s^{m}b. Soit z = ω_{I}(b) et n ∈ ℕ tel que α_{I}(b) = s^{n}. On a alors ω_{I}(s^{m}b) = z et α_{I}(s^{m}b) = s^{m+n}. Soit z = z_{1} ⋯ z_{k} la forme normale de z et ż_{i} un relevé de z_{i}. On pose F′ = ż_{1} ⋯ ż_{k}F. Soit L un sous-groupe de Levi de G de type A_{1}. On note Y = X̃_{(I)}(ż_{1}, …, ż_{k}), variété munie d’une action à droite de L^{F′} et d’une action à gauche de G^{F}.

On a X(s^{m}b) ≃ Y ×_{L^{F′}} X_{L,F′}(s^{m+n}). Le groupe L^{F′} possède deux caractères unipotents, Id_{L} et St_{L} et la proposition 3.3.16 montre que [H_{c}^{∗}(X_{L,F′}(s^{m+n}))] = h^{m+n} St_{L} +(h^{2}t)^{m+n} Id_{L}. On déduit de la formule de Künneth que [H_{c}^{∗}(X(s^{m}b))] = h^{m+n}[H_{c}^{∗}(Y)_{St_{L}}] + (h^{2}t)^{m+n}[H_{c}^{∗}(Y)_{Id_{L}}]. On obtient alors la proposition avec H_{s} = h^{n}[H_{c}^{∗}(Y)_{St_{L}}] et H_{i} = (h^{2}t)^{n}[H_{c}^{∗}(Y)_{Id_{L}}]. □

Proposition 3.3.18. Soit χ̃ ∈ R(W ⋊<F >) ⊗ ℚ tel que Rχ̃ ∈ R^{+}(G^{F}) et soit I une partie F -stable de S. On suppose que pour tout ψ ∈ Irr(W ⋊<F >), si ⟨ χ̃, ψ ⟩_{W.F} ≠ 0, alors ⟨ Res_{W_{I}}^{W ⋊<F >} ψ, Id ⟩_{W_{I}} = 0.

Alors, pour tous t, t′ ∈ \underline{B}^{+} et pour tout caractère unipotent ρ tel que ⟨ ρ, Rχ̃ ⟩_{G^{F}} ≠ 0, on H_{c}^{∗}(X(t\underline{w}_{0}^{I}t′))_{ρ} = 0.

Démonstration. Nous procédons comme dans la preuve de la proposition 3.3.15 pour nous ramener au cas où t, t′ sont dans le sous-monoïde engendré par \underline{S}.

Puisque T_{\underline{w}}_{0}^{I} est un multiple de l’idempotent central de H_{h^{2}t}(W_{I}) associé au caractère trivial Id_{h^{2}t}, il agit par 0 dans toute représentation V de H_{h^{2}t}(W) dont la restriction à W_{I} ne contient pas le caractère trivial. Par conséquent, pour tout ψ ∈ Irr(W ⋊<F >) tel que ⟨ Res_{W_{I}}^{W ⋊<F >} ψ, Id ⟩_{W_{I}} = 0, on a ψ_{h^{2}t}(T_{t\underline{w}_{0}^{I}t′}) = ψ_{h^{2}t}(T_{t}T_{\underline{w}}_{0}^{I}T_{t′}) = 0. Par hypothèse, χ̃ est combinaison linéaire de caractères ψ ayant cette propriété, donc χ̃_{h^{2}t}(T_{t\underline{w}_{0}^{I}t′}) = 0.

L’orthogonalité des caractères Rϕ̃ [Lu1, §3.19.2] permet de déduire du corollaire 3.3.8 (ii) que ⟨ [H_{c}^{∗}(X(t\underline{w}_{0}^{I}t′))], Rχ̃ ⟩_{G^{F}} = χ̃_{h^{2}t}(T_{t\underline{w}_{0}^{I}t′}) = 0. Puisque Rχ̃ ∈ R^{+}(G^{F}), on obtient finalement H_{c}^{∗}(X(t\underline{w}_{0}^{I}t′))_{ρ} = 0. □

Corollaire 3.3.19. Pour tous t, t′ ∈ \underline{B}^{+} et pour tout caractère unipotent ρ ≠ Id, on a H_{c}^{∗}(X(t\underline{w}_{0}t′))_{ρ} = 0.

Démonstration. Lusztig [Lu4, §5.10 et theorem 6.17] a montré qu’il existe une famille d’éléments a_{wF} ∈ R(W ⋊<F >) ⊗ ℚ, pour w ∈ W, vérifiant les propriétés suivantes (nous suivons les notations de Lusztig au signe près) :

– Pour w ≠ 1, on a ⟨ a_{wF} , Id ⟩_{W} = 0.

– On a R_{a_{wF}} ∈ R^{+}(G^{F}).

– Le sous-groupe de R(G^{F}) engendré par les R_{a_{wF}}, pour w ≠ 1, coïncide avec le sous-groupe

engendré par les Rϕ̃, pour ϕ ≠ Id. Le résultat se déduit alors immédiatement de la proposition 3.3.18, appliquée à χ̃ = a_{wF} pour w ∈ W − {1}. □

3.3.20. Nous généralisons maintenant des résultats de [Lu1].

Proposition 3.3.21. Soit ρ un caractère unipotent de G^{F} et soit b_{0} ∈ B^{+} un élément de longueur minimale tel que H_{c}^{∗}(X(b_{0}))_{ρ} ≠ 0. Alors

(i) b_{0} ∈ W. On a H_{c}^{i}(X(b_{0})) = 0 pour i ≠ l(b_{0}) et F^{δ} agit sur H_{c}^{l(w)}(X(w))_{ρ} avec une valeur propre de module q^{δl(w)/2}.

(ii) β(b_{0}) est de longueur minimale dans sa classe de F -conjugaison et cette classe de F -conjugaison ne dépend que de ρ.

(iii) Soit b ∈ B^{+} tel que H_{c}^{l(b)}(X(b))_{ρ} ≠ 0. Alors, les valeurs propres de F^{δ} sur H_{c}^{l(b)}(X(b))_{ρ} sont de module inférieur ou égal à q^{δl(b)/2} et cette valeur ne peut être atteinte que si β(b) est F -conjugué à β(b_{0}).

Démonstration. L’assertion que b_{0} est dans W est [Lu1, example 3.10.c]. On pose w = b_{0} et soit w = s_{1} … s_{n} une décomposition réduite de w. Soit t′ = \underline{s}_{1} … \underline{s}_{n} et soit ρ^{∗} le caractère dual de ρ. La proposition 3.3.10 montre que pour t ∈ \underline{B}^{+}, on a H_{c}^{∗}(X(t))_{ρ} ≠ 0 si et seulement si H_{c}^{∗}(X(t))_{ρ^{∗}} ≠ 0. En outre, les valeurs propres de F^{δ} sur ces deux espaces sont échangées par la conjugaison complexe. On déduit de la proposition 3.3.2 que si H_{c}^{i}(X(w))_{ρ} ≠ 0, alors, i ≥ l(w).

Le complémentaire de l’ouvert X(w) de X(t′) est stratifié par des variétés X(b′) avec b′ ∈ B^{+}, l(b′) < l(b). Par minimalité de w, les groupes de cohomologie de ces variétés ne font intervenir ni ρ ni ρ^{∗}. Les suites exactes longues de cohomologie montrent alors que les composantes de type ρ et ρ^{∗} de H_{c}^{i}(X(w)) et de H_{c}^{i}(X(t′)) sont isomorphes. La variété X(t′) est une variété projective lisse (cf. proposition 2.3.5). La dualité de Poincaré montre alors que si H_{c}^{i}(X(w))_{ρ} ≠ 0, alors ρ et ρ^{∗} interviennent aussi dans H^{2l(w)−i}(X(t′)), donc dans H_{c}^{2l(w)−i}(X(w)). On a donc aussi 2l(w) − i ≥ l(w), d’où i = l(w). D’autre part, les conjectures de Weil montrent que les valeurs propres de F^{δ} sur H_{c}^{l(w)}(X(t′)) sont de module q^{δl(w)/2}. Il en est donc de même pour de H_{c}^{l(w)}(X(w))_{ρ} et l’assertion (i) est établie.

Prouvons (ii). Supposons que w n’est pas de longueur minimale dans sa F -classe de conjugaison. D’après [GePf1, théorème 1.1] et [GeKiPf, théorème 2.6], il existe s ∈ S tel que w = sw′F (s) avec l(w) = l(w′) + 2, i.e., w = sw′s dans B^{+}. Alors, les propositions 3.2.10 et 3.1.6 montrent que H_{c}^{∗}(X(w′))_{ρ} ≠ 0 ou H_{c}^{∗}(X(sw′))_{ρ} ≠ 0, ce qui contredit la minimalité de w.

Soit maintenant w′ ∈ W tel que l(w′) = l(w) et tel que H_{c}^{l(w)}(X(w′))_{ρ} ≠ 0. D’après (i), les valeurs propres de F^{δ} sur H_{c}^{l(w)}(X(w′))_{ρ} sont de module q^{δl(w)/2}, donc F^{δ} agit par q^{δl(w)} sur le sous-module (non nul) H_{c}^{l(w)}(X(w))_{ρ} ⊗H_{c}^{l(w)}(X(w′))_{ρ^{∗}} de (H_{c}^{l(w)}(X(w))⊗H_{c}^{l(w)}(X(w′)))^{G^{F}}. La proposition 3.3.2 affirme alors que w et w′ sont F -conjugués.

Considérons enfin (iii). On a vu dans (i) que H_{c}^{l(w)}(X(w))_{ρ^{∗}} ≠ 0 et que F^{δ} agit sur cet espace avec une valeur propre de module q^{δl(w)/2}. Le résultat résulte alors de la proposition 3.3.2 appliquée à (H_{c}^{l(b)}(X(b)) ⊗ H_{c}^{l(w)}(X(w)))^{G^{F}}. □

Le corollaire suivant résulterait de l’affinité des variétés X(b) pour b ∈ B^{+}, qui n’est connue que pour q assez grand (proposition 2.3.6 (iii)).

Corollaire 3.3.22. Pour tout b ∈ B^{+} et tout i < l(b) on a H_{c}^{i}(X(b)) = 0.

Démonstration. Soit ρ ∈ E(G^{F} , 1) et soit w ∈ W un élément de longueur minimale tel que H_{c}^{l(w)}(X(w))_{ρ^{∗}} ≠ 0 (cf. proposition 3.3.21). Soit i tel que H_{c}^{i}(X(b))_{ρ} ≠ 0. On a donc (H_{c}^{l(w)}(X(w))⊗H_{c}^{i}(X(b)))^{G^{F}} ≠ 0. On déduit de la proposition 3.3.2 que l(w)+i ≥ l(w)+l(b), donc que i ≥ l(b), d’où le corollaire. □

3.3.21. Nous proposons maintenant plusieurs conjectures mettant en évidence des phénomènes de périodicité. Elles sont vérifiées dans les cas des groupes de rang 2 et des éléments pour lesquels nous calculons la cohomologie (théorèmes 4.2.4, 4.2.9, 4.3.4, 4.3.5, 4.4.3 et 4.4.4).

On note N = l(w_{0}). Pour χ ∈ Irr(W)^{F} nous notons A_{χ} (resp. a_{χ}) le degré (resp. la valuation) du degré générique du caractère correspondant χ_{t} ∈ Irr(H_{t}(W)) (cf. [Lu4, 4.1.1]). Par ailleurs, comme les coefficients ⟨ Rχ̃, ρ ⟩ sont indépendants de q (cf. [Lu4, theorem 4.23]), et comme R_{χ̃(1)} est la valeur en q d’un polynôme à coefficients indépendants de q, pour tout ρ ∈ E(G^{F} , 1) il existe un polynôme à coefficients indépendants de q dont ρ(1) est la valeur en q, et nous définissons A_{ρ} et a_{ρ} comme le degré et la valuation de ce polynôme (voir aussi [BrMaMic, theorem 1.32]).

Conjecture 3.3.23. Soit w ∈ \underline{B}^{+}. On a [H_{c}^{∗}(X(πw))]_{ρ} = h^{4N−2A_{ρ}}t^{2N−a_{ρ}−A_{ρ}}[H_{c}^{∗}(X(w))]_{ρ}.

On note P ↦ \overline{P} l’involution de ℤ[t^{±1/2}, h^{±1}] donnée par h ↦ h^{−1} et t^{1/2} ↦ t^{−1/2}.

Conjecture 3.3.24. Soit w ∈ B^{+} tel que w ⪯ π^{n}. Alors on a

[H_{c}^{∗}(X(w^{−1}π^{n}))]_{ρ} = (h^{4N−2A_{ρ}}t^{2N−a_{ρ}−A_{ρ}})^{n}\overline{[H_{c}^{∗}(X(w))]_{ρ}}.

Soit E l’involution d’Ennola de E(G^{F} , 1) (cf.[BrMaMic, theorem 3.3] ; loc. cit. considère une permutation avec signes σ_{𝔾} dont l’effet sur les dimensions est de changer q en −q; nous considérons ici la permutation sous-jacente ; on a E(ρ) = (−1)^{A_{ρ}}σ_{𝔾}(ρ)).

Conjecture 3.3.25. Supposons w_{0} central dans W. Soit w ∈ \underline{B}^{+}. On a [H_{c}^{∗}(X(w_{0}w))]_{ρ} = h^{2N−A_{ρ}}t^{N−(a_{ρ}+A_{ρ})/2}[H_{c}^{∗}(X(w))]_{E(ρ)}.

Un indice pour ces conjectures est la Proposition 3.3.26. Les conjectures 3.3.23, 3.3.24 et 3.3.25 sont vraies pour h = −1.

Démonstration. D’après le corollaire 3.3.8(i), on a

[H_{c}^{∗}(X(w))]_{ρ}_{|h=−1} = ∑_{χ∈Irr(W)^{F}} ⟨ Rχ̃, ρ ⟩χ̃_{t}(T_{w}F).

En sommant sur ρ ∈ E(G^{F} , 1), nous transformons la conjecture 3.3.23 en l’assertion équivalente

∑_{χ∈Irr(W)^{F}} ∑_{ρ∈E(G^{F} ,1)} ρ⟨ Rχ̃, ρ ⟩χ̃_{t}(T_{π}T_{w}F) = ∑_{χ∈Irr(W)^{F}} ∑_{ρ∈E(G^{F} ,1)} ρt^{2N−a_{ρ}−A_{ρ}}⟨ Rχ̃, ρ ⟩χ̃_{t}(T_{w}F).

Comme A_{χ} et a_{χ} sont les mêmes pour tous les χ tels que ⟨ Rχ̃, ρ ⟩ ≠ 0 (cf. [Lu4, theorem 4.23]), on a A_{ρ} = A_{χ} et a_{ρ} = a_{χ} lorsque ⟨ Rχ̃, ρ ⟩ ≠ 0 ; nous pouvons donc réécrire cette égalité

∑_{χ∈Irr(W)^{F}} Rχ̃χ̃_{t}(T_{π}T_{w}F) = ∑_{χ∈Irr(W)^{F}} t^{2N−a_{χ}−A_{χ}}Rχ̃χ̃_{t}(T_{w}F),

ce qui équivaut par indépendance linéaire des Rχ̃ à l’assertion : χ̃_{t}(T_{π}T_{w}F) = t^{2N−a_{χ}−A_{χ}} χ̃_{t}(T_{w}F). Soit ω(χ_{t}) le caractère central de χ_{t}. Puisque π est central, cela revient à voir que ω(χ_{t})(T_{π}) = t^{2N−a_{χ}−A_{χ}}, égalité bien connue (voir par exemple [Lu4, 5.12.2]).

Par un calcul analogue, la conjecture 3.3.24 se transforme en

χ̃_{t}(T_{w}^{−1}T_{π}^{n}F) = t^{n(2N−a_{ρ}−A_{ρ})}\overline{χ̃_{t}(T_{w}F)}.

Vue la formule ci-dessus pour ω(χ_{t})(T_{π}), ceci équivaut à χ̃_{t}(T_{w}^{−1}F) = \overline{χ̃_{t}(T_{w}F)} ; ceci résulte de ce que t ↦ t^{−1}, T_{w} ↦ T_{w}^{−1}, F ↦ F est un anti-automorphisme semi-linéaire de H_{t}(W)⋊⟨F ⟩ qui fixe les caractères irréductibles (car il les fixe pour t = 1, puisque tous les caractères irréductibles de W sont réels et que nous avons choisi l’extension χ̃ rationnelle).

Enfin, par un calcul analogue, la conjecture 3.3.25 se transforme en

σ_{𝔾}(Rχ̃)χ̃_{t}(T_{w}T_{w_{0}}F) = t^{N−(a_{ρ}+A_{ρ})/2}Rχ̃χ̃(T_{w}F).

Puisque par loc. cit. on a ω(χ_{t})(T_{w_{0}}) = t^{N−(a_{ρ}+A_{ρ})/2}ω(χ)(w_{0}), cela revient à l’égalité σ_{𝔾}(Rχ̃) = ω(χ)(w_{0})Rχ̃. Cette égalité est à son tour équivalente à σ_{𝔾}(R_{w}) = R_{ww_{0}}. Cette dernière égalité se ramène au cas des groupes quasi-simples ; pour les groupes exceptionnels c’est une vérification d’un nombre fini de cas que nous avons effectuée par ordinateur. Pour les cas des groupes classiques, nous pouvons extraire la preuve de celle de [BrMaMic, theorem 3.3]. En effet, avec les notations de loc. cit. 𝕋^{−} est un tore de type ww_{0} si 𝕋 est de type w; l’énoncé [BrMaMic, theorem 3.3] suppose le tore d-déployé pour un certain d; mais la preuve de la commutation de l’induction de Lusztig avec σ_{𝔾} donnée pages 52–53 de loc. cit. n’utilise pas cette hypothèse dans le cas des tores. □

4. Cohomologies dans les groupes réductifs de rang 2

4.1. Généralités. Nous allons déterminer la cohomologie d’un certain nombre de variétés de Deligne-Lusztig dans des groupes G de rang 2 (déployés ou non). Dans tous les cas notre résultat principal sera une “quasi-périodicité” des cohomologies calculées par rapport à la multiplication par un élément central de B^{+}.

Les parties Id-isotypiques et St-isotypiques de la cohomologie d’une variété X(y) sont connues par les propositions 3.3.14 et 3.3.15. Nous nous intéressons donc seulement à la partie isotypique de ces cohomologies pour les autres caractères unipotents. Si ρ_{1}, …, ρ_{n} sont ces caractères, nous écrirons alors H(y) pour la partie (ρ_{1}, …, ρ_{n})-isotypique de ∑_{i} h^{i}H_{c}^{i}(X(y)), représentée suivant notre convention de §3.3.5 par un élément de ℤ[t^{1/2}, h][ρ_{1}, …, ρ_{n}].

Nous commençons par donner un certain nombre de conséquences des propositions du §3. Nous notons S = {s, t} les générateurs de W.

Pour raccourcir les démonstrations, si x, y, z ∈ \underline{B}^{+} nous écrirons dans le texte qui suit qu’un résultat est obtenu “par x ⟶^{o} y ⟶^{f} z” pour signifier que la variété X(x) est une sous-variété ouverte de X(y), que X(z) est la sous-variété fermée complémentaire et que le résultat est obtenu en considérant la suite exacte longue … H_{c}^{i}(X(x)) → H_{c}^{i}(X(y)) → H_{c}^{i}(X(z)) → H_{c}^{i+1}(X(x)) → … qui en résulte.

Lemme 4.1.1. Soit y ∈ \underline{B}^{+}. Alors, (i) pour tout x ∈ \underline{B}^{+} on a H(xy) = H(y^{F}x) (ii) H(\underline{s} \underline{t}y) = H(\underline{s}\underline{t}y) (iii) H(s\underline{s}y) = H(\underline{s}sy) = h^{2}tH(\underline{s}y) (iv) H(\underline{s} \underline{s}y) = (h^{2}t + 1)H(\underline{s}y)

(v) H(\underline{w}_{0}y) = 0.

Démonstration. (i) résulte de la proposition 3.1.6. (ii) est une relation du monoïde \underline{B}^{+}. (iii) et (iv) proviennent de la proposition 3.2.3 appliquée à w = s. (iv) provient du corollaire 3.3.19. □

4.2. Type A_{2}.

4.2.1. Nous considérons maintenant le cas d’un groupe (déployé ou non) de type A_{2}. Dans ce cas il existe un unique caractère unipotent ρ différent de St et Id. Nous omettrons la mention de ρ dans la notation pour H(y) qui sera représenté par un élément de ℤ[t^{1/2}, h].

On note R_{x} la représentation de H_{x}(W)⋊<F > donnée par T_{s} ↦ (\begin{matrix}−1 & 0 \\ \sqrt{x} & x \end{matrix}), T_{t} ↦ (\begin{matrix}x & \sqrt{x} \\ 0 & −1 \end{matrix})

et F ↦ (\begin{matrix}1 & 0 \\ 0 & 1 \end{matrix}) si G est déployé, F ↦ (\begin{matrix}0 & 1 \\ 1 & 0 \end{matrix}) sinon.

Lemme 4.2.2. Soit y ∈ \underline{B}^{+}. Alors, (i) H(\underline{s} \underline{t} \underline{s}y) = H(\underline{st} \underline{s}y) = h^{2}tH(\underline{s}y). (ii) H(\underline{t} s \underline{t}y) = hH(\underline{t}y). (iii) H(\underline{s}tsy) = hH(\underline{s}\underline{t}y). (iv) Soit σ l’automorphisme de \underline{B}^{+} donné par l’échange de s (resp. \underline{s}) et t (resp. \underline{t}) (c’est

l’action de F si (G, F) est non déployé, i.e. de type ^{2}A_{2}). Alors H(y) = H(σ(y)).

(v) Si y est dans le sous-monoïde engendré par \underline{W}, alors on a H(y) = Trace(T_{y}F | R_{h^{2}t}).

Démonstration. (i) vient des relations de \underline{B}^{+}, de la proposition 3.2.9 appliquée à w = st et y = s, et de 4.1.1(v). (ii) est obtenu par 4.1.1(v) et par \underline{t}s\underline{t}y ⟶^{o} \underline{sts}y ⟶^{f} \underline{t}y. (iii) est obtenu par 4.1.1(v) et par \underline{s}tsy ⟶^{o} \underline{sts}y ⟶^{f} \underline{s}\underline{t}y. (iv) est une conséquence de la proposition 3.1.8 en prenant comme isogénie l’automorphisme d’opposition de G. Enfin (v) est une conséquence immédiate du corollaire 3.3.8 (ii) et du fait que dans un groupe de type A_{2} toutes les variétés X(\underline{w}) pour w ∈ W sont rationnellement lisses (cf. proposition 3.2.5). □

4.2.3. Nous décrivons maintenant pour un certain nombre de variétés une périodicité par rapport à la multiplication par π; nous conjecturons qu’une telle périodicité a lieu pour toutes les variétés associées à des éléments de \underline{B}^{+}.

Théorème 4.2.4. Soit G un groupe déployé de type A_{2}, soit π = (st)^{3} et soit y ∈ \underline{B}^{+} apparaissant dans la table ci-dessous. Alors, pour tout n, on a H(yπ^{n}) = (h^{8}t^{3})^{n}f(y) où f(y) est la valeur de H(y) donnée par la table.

y  H(y)
1  2
s, t  h^{2}t + h
\underline{s} , \underline{t}  h^{2}t + 1
ss, tt  h^{2} + h^{4}t^{2}
\underline{s}\underline{t}, \underline{t}\underline{s}  h^{2}t
\underline{s}t, \underline{t}s  h
st, ts  h^{3}t
sts, tst, stt, sst 0
s\underline{t}s, t\underline{s}t, \underline{s}tt  h^{4}t^{2} + h^{2}
stst, ssst  h^{5}t^{2}
tsst, sstt  h^{6}t^{3} + h^{4}t
tstst = stsst h^{7}t^{3} + h^{6}t^{2}

Démonstration. Nous procédons par récurrence sur n. Nous traitons en même temps le point de départ de la récurrence (n = 0) et le cas général (où l’on suppose le théorème prouvé pour n − 1) pour ne pas avoir à dupliquer certains raisonnements identiques dans les deux cas. Nous supposons donc H(yπ^{n−1}) connu pour tout y dans la table, et nous allons déterminer H(yπ^{n}), en raisonnant par longueur croissante de y dans la table du théorème 4.2.4. Notons qu’un résultat sur H(x) est équivalent au résultat correspondant pour H(σ(x)) d’après le lemme 4.2.2 (iv).

• Cas de π^{n}, sπ^{n} et s^{2}π^{n}. Si n = 0 la valeur se déduit de la proposition 3.3.16. Sinon, nous appliquons la proposition 3.3.17 pour m = 0, 1, 2, 3, 4 et b = tsstπ^{n−1}. Les valeurs de H(s^{m}b) sont dans la table (connues par récurrence) pour m = 0, 1 et permettent de déterminer avec les notations de la proposition 3.3.17 : H_{i} = h^{4}t(h^{8}t^{3})^{n−1} et H_{s} = h^{6}t^{3}(h^{8}t^{3})^{n−1}, d’où, pour tout m, on a H(s^{m}b) = (h^{8}t^{3})^{n−1}(h^{m+6}t^{3} + h^{4}t(h^{2}t)^{m}) ce qui donne les valeurs recherchées pour m = 2, 3, 4 en tenant compte de s^{2}b = π^{n}.

• Cas de \underline{s}π^{n}. Si n = 0 la valeur se déduit du lemme 4.2.2(v). Sinon on a

H(\underline{s}π^{n}) = H(\underline{s}sstsstπ^{n−1}) = h^{4}t^{2}H(\underline{s}tsstπ^{n−1}) = h^{5}t^{2}H(\underline{s}\underline{t}stπ^{n−1}) =

= h^{6}t^{2}H(\underline{s} \underline{t} \underline{s}π^{n−1}) = h^{8}t^{3}H(\underline{s}π^{n−1})

d’après les lemmes 4.1.1(iii) et 4.2.2(iii) puis encore (iii) et (i).

• Cas de \underline{s}\underline{t}π^{n}. Si n = 0 on utilise le lemme 4.2.2(v) et sinon on a

H(\underline{s} \underline{t}π^{n}) = H(\underline{s} \underline{t}ttsttsπ^{n−1}) = h^{4}t^{2}H(\underline{s} \underline{t}sttsπ^{n−1}) = h^{5}t^{2}H(\underline{s} \underline{t} \underline{s}tsπ^{n−1}) =

= h^{7}t^{3}H(\underline{s}tsπ^{n−1}) = h^{8}t^{3}H(\underline{s} \underline{t}π^{n−1})

d’après les lemmes 4.1.1 (iii), 4.2.2 (iii), (i) et (iii).

Jusqu’à la fin de la preuve, tous les éléments de \underline{B}^{+} que nous allons considérer sont de la forme yπ^{n}. Pour simplifier les notations, nous poserons \underline{H}(y) = (h^{8}t^{3})^{−n}H(yπ^{n}) et aussi \underline{H}_{c}^{i}(X(y)) = H_{c}^{i+8n}(X(yπ^{n}))(3n). Notons que les lemmes 4.1.1 et 4.2.2 restent vrais pour \underline{H} sauf 4.1.1 (i) qui toutefois reste vrai pour x ∈ B^{+}, car on a alors H(xyπ^{n}) = H(yπ^{n}x) = H(yxπ^{n}) cette dernière égalité car π^{n} est central dans B^{+}.

• Cas de \underline{s}t et s\underline{t}. On a \underline{H}(\underline{s}t) = h^{−2}t^{−1}\underline{H}(s\underline{s}t) = h^{−2}t^{−1}\underline{H}(\underline{s}ts) = h^{−1}t^{−1}\underline{H}(\underline{s}\underline{t}) par 4.1.1 (iii),

(i) et le lemme 4.2.2 (iii) ce qui ramène au cas précédent. Par les lemmes 4.2.2 (iv) et 4.1.1 (i), on obtient \underline{H}(s\underline{t}).

• Cas de s\underline{t}s, t\underline{s}t et \underline{s}tt. Par s\underline{t}s ⟶^{o} s\underline{t}\underline{s} ⟶^{f} s\underline{t} (où s\underline{t}\underline{s} est connu par \underline{H}(s\underline{t}\underline{s}) = \underline{H}(\underline{t}\underline{s}s) = h^{2}t\underline{H}(\underline{t}\underline{s}) en utilisant 4.1.1(i) et 4.1.1(iii)) on trouve la valeur de \underline{H}(s\underline{t}s) ; par le lemme 4.2.2(iv) on en déduit t\underline{s}t et par 4.1.1(i) on en déduit \underline{s}tt.

• Cas de st, sts, sst, tst et stt. Par les lemmes 4.2.2 (iv) et 4.1.1 (i) on a \underline{H}(sts) = \underline{H}(sst) = \underline{H}(tst) = \underline{H}(stt). Nous allons étudier simultanément les deux éléments st et sts. Par st ⟶^{o} \underline{s}t ⟶^{f} t où la valeur \underline{H}(t) = \underline{H}(s) est connue, on trouve qu’il existe ε ∈ \{0, 1\} tel que \underline{H}(st) = ε(h + h^{2}) + h^{3}t. Par sts ⟶^{o} s\underline{t}s ⟶^{f} ss on trouve qu’il existe θ, γ ∈ \{0, 1\} tels que \underline{H}(sts) = (h^{2} + h^{3})θ + (h^{4} + h^{5})t^{2}γ. En utilisant maintenant la suite exacte longue qui résulte de la proposition 3.2.10 :

… → \underline{H}_{c}^{i−3}(X(t))(−1) → \underline{H}_{c}^{i−2}(X(st))(−1) ⊕ \underline{H}_{c}^{i−1}(X(st)) → \underline{H}_{c}^{i}(X(sts))
→ \underline{H}_{c}^{i−2}(X(t))(−1) → …,

on trouve ε = θ = 0. Enfin, par sts ⟶^{o} \underline{s}ts ⟶^{f} ts (où \underline{s}ts est connu par \underline{H}(\underline{s}ts) = h\underline{H}(\underline{s}\underline{t}) par le lemme 4.2.2 (iii)) on trouve γ = 0.

• Cas de tsst. On a \underline{H}(tsst) = \underline{H}(sstt) par 4.1.1 (i) et on trouve la valeur de sstt par sstt ⟶^{o} s\underline{s}tt ⟶^{f} stt où le terme du milieu est connu par \underline{H}(s\underline{s}tt) = h^{2}t\underline{H}(\underline{s}tt) (cf. 4.1.1(iii)).

• Cas de stst. On a \underline{H}(stst = ssts) = \underline{H}(s^{3}t) par 4.1.1(i) et s^{3}t ⟶^{o} \underline{s}s^{2}t ⟶^{f} s^{2}t donne le résultat où \underline{H}(\underline{s}s^{2}t) = h^{4}t^{2}\underline{H}(\underline{s}t) par 4.1.1(iii).

• Cas de tstst. On a le résultat par tstst ⟶^{o} \underline{t}stst ⟶^{f} stst où le terme du milieu est connu par \underline{H}(\underline{t}stst = \underline{t}tstt) = \underline{H}(tt\underline{t}ts) = h^{6}t^{3}\underline{H}(\underline{t}s) par 4.1.1(iii). □

Avant de formuler une conjecture qui généralise le résultat ci-dessus, faisons quelques remarques sur la conjugaison dans le groupe de tresses de type A_{2}. Nous appelons “conjugaison par permutation circulaire” la relation d’équivalence sur B^{+} clôture transitive de la relation xy ∼ yx.

Proposition 4.2.5. Soient B (resp. B^{+}) le groupe (resp. le monoïde) des tresses de type A_{2}. Soit w ∈ B^{+}. Alors, il existe un unique n ≥ 0 et un unique y dans la liste ci-dessous tel que w est conjugué dans B à π^{n}y.

(i) s^{a} avec a ≥ 0.

(ii) st.

(iii) s^{a_{1}}t^{a_{2}}s^{a_{3}} … s^{a_{2k−1}}t^{a_{2k}}, avec k ≥ 1, a_{i} ≥ 2, la suite (a_{i}) est plus grande pour l’ordre lexicographique que (a_{i+d (mod 2k)}) pour tout d.

(iv) w_{0}s^{a} avec a ∈ {0, 1}.

(v) w_{0}s^{a_{1}}t^{a_{2}}s^{a_{3}} … t^{a_{2k−2}}s^{a_{2k−1}} avec k ≥ 1, a_{i} ≥ 2 et la suite (a_{i}) est plus grande pour l’ordre lexicographique que (a_{i+d (mod 2k−1)}) pour tout d.

De plus, tout élément de B^{+} est conjugué par permutation circulaire à un des éléments (i)–(v) ou à un de leurs conjugués par w_{0}.

Démonstration. La conjugaison par w_{0} réalise l’automorphisme de B^{+} donné par s ↦ t, t ↦ s. Il en résulte que tout élément de B^{+} de la forme xw_{0}y (avec x, y ∈ B^{+}) est divisible par w_{0} à gauche.

Notons pour commencer qu’un élément de la forme t^{a_{1}}s^{a_{2}} ⋯ s^{a_{2k}} est conjugué par w_{0} à s^{a_{1}}t^{a_{2}} ⋯ t^{a_{2k}}. Par conséquent, tout élément s^{a_{1}}t^{a_{2}} ⋯ t^{a_{2k}} avec a_{i} ≥ 2 est conjugué par permutation circulaire à un élément du type (iii) ou à un conjugué par w_{0} d’un tel élément. De même, tout élément de la forme w_{0}s^{a_{1}}t^{a_{2}}s^{a_{3}} … t^{a_{2k−2}}s^{a_{2k−1}} avec k ≥ 1, a_{i} ≥ 2, est conjugué par permutation circulaire à un élément du type (v) ou à un conjugué par w_{0} d’un tel élément.

Il est clair que tout élément de B^{+} est conjugué par permutation circulaire à un élément w = w_{0}^{n}x, où aucun des permutés circulaire de w n’est divisible par w_{0}^{n+1}. Fixons un tel w. À conjugaison près par w_{0}, l’élément x est de la forme s^{a_{1}}t^{a_{2}}s^{a_{3}} … s^{a_{2k−1}}t^{a_{2k}}s^{a_{2k+1}}, où k ≥ 0, a_{1}, …, a_{2k} ≥ 1 et a_{2k+1} ≥ 0. Puisque x n’est pas divisible par w_{0}, on a trois possibilités : x = s^{a_{1}} ou x = s^{a_{1}}t ou a_{2}, a_{3}, … a_{2k−2}, a_{2k−1} ≥ 2, et a_{2k} ≥ 2 si a_{2k+1} ≠ 0.

Supposons n pair. Si x = s^{a_{1}}, on est dans le cas (i). Si x = s^{a_{1}}t, alors a_{1} = 1, car x est conjugué circulairement à sts^{a_{1}−1} qui n’est pas divisible par w_{0} par hypothèse. On est alors dans le cas (ii). Sinon, quitte à remplacer x par un permuté circulaire, on peut supposer que a_{2k+1} = 0. Puisque x est conjugué circulairement à s^{a_{1}−1}t^{a_{2}} ⋯ s^{a_{2k−1}−1}st^{a_{2k}}s, ce dernier n’est pas divisible à droite par w_{0}, donc a_{2k} ≥ 2 et on est alors dans le cas (iii).

Supposons maintenant n impair. Si x = s^{a_{1}}, on est dans le cas (v) pour a_{1} ≥ 2 et dans le cas (iv) sinon. Si x = s^{a_{1}}t, alors w_{0}x = sts^{a_{1}+1}t est conjugué circulairement à w_{0}s^{a_{1}+1} et on est dans le cas (v). Sinon, quitte à remplacer x par un permuté circulaire, on peut supposer que a_{2k+1} ≠ 0. Puisque w_{0}x est conjugué circulairement à w_{0}s^{a_{1}−1}t^{a_{2}} ⋯ t^{a_{2k}−1}ts^{a_{2k+1}}t, alors a_{2k+1} ≠ 1 et on est dans le cas (v), au changement k ↦ k + 1 près.

Il reste à vérifier que la liste donnée ne contient pas deux éléments conjugués. Comme toute conjugaison est composée de � conjugaisons élémentaires � (cf. [Mic, Corollary 4.5]) de la forme w ↦ v^{−1}wv où v ∈ W, v^{−1}wv ∈ B^{+}, il suffit d’étudier l’effet de la conjugaison par chaque élément de W sur chaque forme donnée. Il suffit en outre de considérer le cas où v ⋠ w, car sinon il s’agit d’une conjugaison par permutation circulaire. Les seuls w à considérer sont donc ceux des types (i), (ii) et (iii). On montre alors facilement que si v ∈ W, v ⋠ w, v ≼ wv, alors v ou w_{0}v^{−1} centralise w. □

Corollaire 4.2.6. Si G est de type A_{2} déployé, alors pour tout i l’application t ↦ H_{c}^{i}(X(t)) définit une fonction de classe : B^{+} → R(G^{F} × <F >).

Démonstration. C’est une conséquence immédiate de la proposition 3.1.6, qui montre que si x et y sont conjugués par permutation circulaire, on a H_{c}^{i}(X(x)) ≃ H_{c}^{i}(X(y)), du lemme 4.2.2 (iv) qui montre que si x et y sont conjugués par w_{0}, alors on a H_{c}^{i}(X(x)) ≃ H_{c}^{i}(X(y)), et de la dernière remarque de la proposition 4.2.5 qui montre que toute conjugaison dans B^{+} peut être réalisée par une conjugaison par permutation circulaire suivie d’une conjugaison par w_{0}. □

La liste de la proposition 4.2.5 forme un système de représentants des classes de conjugaison dans B^{+}. On définit une fonction de classe φ sur B^{+} en lui attribuant la valeur 0 dans les cas (i) et (ii), la valeur a dans le cas (iv) et la valeur k dans les cas (iii) et (v) et en demandant que φ(π^{n}b) = n + φ(b). Nous conjecturons le résultat suivant, qui outre le théorème 4.2.4, est étayé par de nombreux autres calculs :

Conjecture 4.2.7. Supposons G de type A_{2} déployé et soit b ∈ B^{+}. Alors, on a H(b) = (−h)^{l(b)−φ(b)} Trace(T_{b} | R_{−ht}).

4.2.8. Nous allons maintenant considérer un groupe tel que (G, F) soit de type ^{2}A_{2}. Par conséquent, on a δ = 2, ρ est un caractère unipotent cuspidal et les valeurs propres de F^{δ} qui lui sont attachées sont dans −q^{δ/2}q^{ℕ}.

Théorème 4.2.9. Supposons (G, F) de type ^{2}A_{2} et soit y ∈ \underline{B}^{+} apparaissant dans la table cidessous. Alors, pour tout n, on a H(yπ^{n}) = (h^{8}t^{3})^{n}f(y) où f(y) est la valeur de H(y) donnée par la table.

y  H(y)
1  0
s, t, \underline{s}, \underline{t}  ht^{1/2}
\underline{s} \underline{t}, \underline{t} \underline{s}  h^{3}t^{3/2} + ht^{1/2}
st, ts, tt, ss  h^{3}t^{3/2} + h^{2}t^{1/2}
sts  2h^{4}t^{3/2}
\underline{s} \underline{t}s  h^{2}t^{1/2}
\underline{s} \underline{t}ss  h^{3}t^{1/2} + h^{5}t^{5/2}
ssts, stss, tsst h^{5}t^{3/2} + h^{6}t^{5/2}
sssts  h^{8}t^{7/2} + h^{6}t^{3/2}
sstss, stsst  h^{7}t^{5/2}

Démonstration. Comme pour le théorème 4.2.4, nous procédons par récurrence sur n en traitant en même temps le cas n = 0 et le cas général, et en raisonnant par longueur croissante de y. Mais, à la différence du théorème 4.2.4, nous supposons à l’étape n le théorème démontré pour π^{n} (si n = 0 cela résulte du lemme 4.2.2(v)). La récurrence s’achèvera par la preuve pour π^{n+1}.

Tous les éléments de \underline{B}^{+} que nous allons considérer sont de la forme yπ^{n}. Comme dans le cas A_{2} déployé, nous poserons \underline{H}(y) = (h^{8}t^{3})^{−n}H(yπ^{n}) et \underline{H}_{c}^{i}(X(y)) = H_{c}^{i+8n}(X(yπ^{n}))(3n).

• Cas de \underline{s}π^{n} et \underline{s} \underline{t}π^{n}. La preuve dans le cas A_{2} déployé est encore valable ici.

• Cas de s et t. On trouve la valeur de \underline{H}(s) par s ⟶^{o} \underline{s} ⟶^{f} 1, et \underline{H}(t) a même valeur par 4.1.1(i).

• Cas de st, ss, ts et tt. Par st ⟶^{o} \underline{s}t ⟶^{f} t où le terme du milieu est donné par \underline{H}(\underline{s}t) = \underline{H}(s\underline{s}) = h^{2}t\underline{H}(\underline{s}) par 4.1.1(i) et (iii), on trouve la valeur de \underline{H}(st). Par 4.1.1(i) on a \underline{H}(ss) = \underline{H}(ts) = \underline{H}(tt) = \underline{H}(st).

• Cas de \underline{s} \underline{t}s. On a h^{2}t\underline{H}(\underline{s} \underline{t}s) = \underline{H}(s\underline{s} \underline{t}s) = \underline{H}(\underline{s} \underline{t}st) = h\underline{H}(\underline{s} \underline{t}\underline{s}) = h^{3}t\underline{H}(\underline{s}), respectivement par 4.1.1 (iii), 4.1.1 (i), 4.2.2 (iii) et 4.2.2 (i).

• Cas de sts, ssts, sssts, tsst et stss. Par sts ⟶^{o} \underline{s}ts ⟶^{f} ts où le terme du milieu est donné par \underline{H}(\underline{s}ts) = h\underline{H}(\underline{s} \underline{t}) par le lemme 4.2.2(iii) on trouve qu’il existe ε ∈ \{0, 1\} tel que \underline{H}(sts) = 2h^{4}t^{3/2} + ε(h^{2} + h^{3})t^{1/2}.

Nous appliquons maintenant la proposition 3.3.17 avec b = ts, pour m = 0, 1, 2, 3. Avec les notations de la proposition 3.3.17 on a \underline{H}(sts) − h\underline{H}(ts) = (th^{2} − h)H_{i} et avec les valeurs calculées ci-dessus on trouve \underline{H}(sts) − h\underline{H}(ts) = (th^{2} − h)h^{2}t^{1/2} + ε(h^{2} + h^{3})t^{1/2}, qui n’est divisible par th^{2} − h que si ε = 0, ce qui est donc le cas. On a donc H_{i} = h^{2}t^{1/2} et H_{s} = h^{3}t^{3/2}, ce qui donne les valeurs pour ssts (m = 2) et sssts (m = 3). Par 4.1.1(i) on déduit tsst et stss.

• Cas de \underline{s} \underline{t}ss. On trouve la valeur en utilisant \underline{s}tss ⟶^{o} \underline{s} \underline{t}ss ⟶^{f} \underline{s}ss où le terme de gauche est donné par \underline{H}(\underline{s}tss) = h\underline{H}(\underline{s} \underline{t}s) (lemme 4.2.2 (iii)) et celui de droite par \underline{H}(\underline{s}ss) = h^{4}t^{2}\underline{H}(\underline{s}) (4.1.1 (iii)).

• Cas de sstss, stsst et π. Par sstss ⟶^{o} s\underline{s}tss ⟶^{f} stss où le terme du milieu est donné par \underline{H}(s\underline{s}tss) = h^{2}t\underline{H}(\underline{s}tss) = h^{3}t\underline{H}(\underline{s} \underline{t}s) par les lemmes 4.1.1 (iii) et 4.2.2 (iii) on trouve qu’il existe ε′ ∈ \{0, 1\} tel que \underline{H}(sstss) = h^{7}t^{5/2} + ε′(h^{5} + h^{6})t^{3/2} et c’est aussi la valeur de \underline{H}(stsst) par 4.1.1 (i).

Par sstsst ⟶^{o} sstss\underline{t} ⟶^{f} sstss où le terme du milieu est donné par

\underline{H}(sstss\underline{t}) = h^{4}t^{2}\underline{H}(tss\underline{t}) = h^{4}t^{2}\underline{H}(\underline{t}stt) = h^{4}t^{2}\underline{H}(\underline{s}tss) = h^{5}t^{2}\underline{H}(\underline{s} \underline{t}s),

la première égalité par 4.1.1 (i) et (iii), les autres respectivement par les lemmes 4.1.1 (i), 4.2.2 (iv) et 4.2.2 (iii), on trouve qu’il existe ε′′ tel que \underline{H}(π) = \underline{H}(sstsst) = ε′′t^{5/2}(h^{7} + h^{8}) + ε′t^{3/2}(h^{6} + h^{7}).

Par la proposition 3.2.10, on a une suite exacte longue

… → \underline{H}_{c}^{i−3}(X(tsst))(−1) → \underline{H}_{c}^{i−2}(X(stsst))(−1) ⊕ \underline{H}_{c}^{i−1}(X(stsst)) →

\underline{H}_{c}^{i}(X(sstsst)) → \underline{H}_{c}^{i−2}(X(tsst))(−1) → …

et on déduit que ε′ ≤ ε′′.

Enfin, par sstsss ⟶^{o} \underline{s}stsss ⟶^{f} stsss où le terme de gauche est donné par \underline{H}(sstsss) = \underline{H}(π) (cf. 4.1.1(i)), où le terme du milieu est donné par \underline{H}(\underline{s}stsss) = h^{2}t\underline{H}(\underline{s}tsss) = h^{3}t\underline{H}(\underline{s} \underline{t}ss) (cf. lemmes 4.1.1(iii) et 4.2.2(iii)) et où le terme de droite est donné par \underline{H}(stsss) = \underline{H}(tttst) = \underline{H}(sssts) par les lemmes 4.1.1 (i) et 4.2.2(iv) respectivement, on trouve ε′′ = 0. □

4.3. Type B_{2}.

4.3.1. Nous allons maintenant considérer un groupe G de type B_{2}. Si G est déployé nous noterons σ, τ, ρ et θ les 4 caractères unipotents de G^{F} différents de St et Id, où σ (resp. τ) est le caractère de la série principale correspondant aux caractère s ↦ 1, t ↦ −1 (resp. s ↦ −1, t ↦ 1) de W, ρ est le caractère de la série principale correspondant au caractère de dimension 2 de W, et θ est le caractère unipotent cuspidal. Nous écrirons donc H(y) pour la partie (σ, τ, ρ, θ)-isotypique de ∑_{i} h^{i}H_{c}^{i}(X(y)), représentée suivant notre convention 3.3.5 par un élément de ℤ[t^{1/2}, h][σ, τ, ρ, θ].

Si G est de type ^{2}B_{2}, alors F est une isogénie dont le carré est le Frobenius pour une 𝔽_{q^{2}}- structure où q^{2} est une puissance impaire de 2. Il y a deux caractères unipotents différents de St et Id. Ils sont cuspidaux, de dimension \frac{q}{\sqrt{2}}(q^{2} − 1), associés aux valeurs propres λ_{ρ} = ζ_{8}^{3} = (−1+i)/\sqrt{2} et ω_{ρ} = q (resp. λ_{ρ} = ζ_{8}^{5} = (−1−i)/\sqrt{2} et ω_{ρ} = q) de F^{2}, où l’on a posé ζ_{8} = e^{2iπ/8} (cf. corollaire 3.3.4 et [Lu2, §7.3]). Nous les noterons ρ^{+} et ρ^{−}. Ils ne sont pas rationnels, mais définis sur ℚ(i) et échangés par l’élément non trivial de Gal(ℚ(i)/ℚ). Les caractères des cohomologies des variétés de Deligne-Lusztig étant rationnels (cf. proposition 3.3.10), ils ont même multiplicité dans chaque cohomologie et nous représenterons H(y), la partie (ρ^{+}, ρ^{−})- isotypique de ∑_{i} h^{i}H_{c}^{i}(X(y)), par P ∈ ℤ[t^{1/2}, h] représentant P (ρ^{+} + ρ^{−}) ∈ ℤ[t^{1/2}, h][ρ^{+}, ρ^{−}].

Puisque w_{0} = stst est central dans B^{+}, nous allons trouver une périodicité pour la translation par w_{0}, à condition pour B_{2} déployé d’introduire l’involution E sur les caractères unipotents qui échange σ et τ ainsi que ρ et θ (E pour “Ennola”, car cette involution correspond à l’échange de q et de −q).

Nous commençons par énoncer des conséquences des résultats du §3 pour B_{2}.

Lemme 4.3.2. Soit y ∈ \underline{B}^{+}. Alors

(i) H(\underline{s}tsty) = hH(\underline{sts}y).

(ii) H(\underline{t} \underline{sts} y) = h^{2}tH(\underline{t}\underline{s}y).

(iii) H(\underline{s} \underline{t} \underline{s}y) = h^{2}tH(\underline{s}y) + H(\underline{sts}y).

Les assertions obtenues en échangeant s et t dans les assertions précédentes sont aussi vraies.

(iv) Considérons les représentations de H(h^{2}t)(W)⋊<F > données par les valeurs suivantes sur les générateurs :

σ_{h^{2}t}(T_{s}) = h^{2}t  σ_{h^{2}t}(T_{t}) = −1  σ(F) = 1
τ_{h^{2}t}(T_{s}) = −1  τ_{h^{2}t}(T_{t}) = h^{2}t  τ(F) = 1
ρ_{h^{2}t}(T_{s}) = (\begin{matrix}−1 & 0 \\ h\sqrt{2t} & h^{2}t \end{matrix})  ρ_{h^{2}t}(T_{t}) = (\begin{matrix}h^{2}t & h\sqrt{2t} \\ 0 & −1 \end{matrix})  ρ_{h^{2}t}(F) = (\begin{matrix}1 & 0 \\ 0 & 1 \end{matrix})

si G est déployé et ρ_{h^{2}t}(F) = (\begin{matrix}0 & 1 \\ 1 & 0 \end{matrix}) sinon

Alors si y est dans le sous-monoïde engendré par \underline{W}, on a

H(y) = \frac{1}{2}(σ · Trace(T_{y} | σ_{h^{2}t} − τ_{h^{2}t} + ρ_{h^{2}t}) + τ · Trace(T_{y} | −σ_{h^{2}t} + τ_{h^{2}t} + ρ_{h^{2}t})+

ρ · Trace(T_{y} | σ_{h^{2}t} + τ_{h^{2}t} + ρ_{h^{2}t}) + θ · Trace(T_{y} | −σ_{h^{2}t} − τ_{h^{2}t} + ρ_{h^{2}t}))

si G est déployé et H(y) = (1/\sqrt{2}) Trace(T_{y}F | ρ_{h^{2}t}) sinon.

(v) Si G est non déployé et si y est produit d’éléments de C_{B^{+}}(F) et d’éléments de \underline{W}^{F}, alors H(y) est divisible par 2.

Démonstration. (i) est obtenu par 4.1.1(v) et par \underline{s}tsty ⟶^{o} \underline{stst}y ⟶^{f} \underline{s}\underline{t}\underline{s}y. (ii) vient de la proposition 3.2.9 appliqué avec w = sts et y = ts, et de 4.1.1(v). (iii) vient du lemme 3.2.7 (iii) appliqué avec w = st et y = s, et de la proposition 3.2.9. On obtient (iv) comme conséquence immédiate du corollaire 3.3.8 (ii) et du fait que dans un groupe de type B_{2} toutes les variétés X(\underline{w}) pour w ∈ W sont rationnellement lisses (cf. proposition 3.2.5), en utilisant [Lu4, theorem 4.23 et §4.15] si G est déployé et [Lu4, p. 373] si G n’est pas déployé.

Le (v) dit que la multiplicité de ρ^{+} et de ρ^{−} dans tout H_{c}^{j}(X(y)) est paire. Comme dans la preuve de la proposition 3.3.11, nous pouvons supposer que y est un produit d’éléments de \underline{W}^{F}. Nous allons le voir comme conséquence de la proposition 3.3.11 ; cet énoncé implique en particulier que |G^{F} |^{−1} ∑_{g∈G^{F}} Trace(gF | H_{c}^{j}(X(y))ρ^{+}(g^{−1}) appartient au même corps que ρ^{+}, c’est-à-dire à ℚ(i). Or, avec les notations de la preuve de la proposition 3.3.11, cette somme vaut μ_{ρ^{+}}q^{j/2} ([H_{c}^{j}(X(y))^{μ_{ρ^{+}}} : ρ^{+}] − [H_{c}^{j}(X(y))^{−μ_{ρ^{+}}} : ρ^{+}]) où l’on a noté [V : ρ^{+}] la multiplicité de ρ^{+} dans le module V, et où μ_{ρ^{+}} est une racine carrée de λ_{ρ^{+}} = (−1 + i)/\sqrt{2}. Comme μ_{ρ^{+}}q^{j/2} n’appartient à ℚ(i) pour aucun j, cela force [H_{c}^{j}(X(y))^{μ_{ρ^{+}}} : ρ^{+}] = [H_{c}^{j}(X(y))^{−μ_{ρ^{+}}} : ρ^{+}], donc [H_{c}^{j}(X(y)) : ρ^{+}] est pair. □

4.3.3. Nous démontrons maintenant un théorème analogue à 4.2.4.

Théorème 4.3.4. Supposons (G, F) de type B_{2} déployé et soit y ∈ \underline{B}^{+} apparaissant dans la table ci-dessous. Alors pour tout n, on a H(yw_{0}^{n}) = (h^{5}t^{2})^{n}E^{n}(f(y)) où f(y) est la valeur de H(y) donnée par la table ci-dessous (où nous avons étendu E par linéarité à ℤ[t^{1/2}, h][σ, τ, ρ, θ]).

y  H(y)
1  σ + τ + 2ρ
s  h(τ + ρ) + h^{2}t(σ + ρ)
t  h(σ + ρ) + h^{2}t(τ + ρ)
\underline{s}  (h^{2}t + 1)(σ + ρ)
\underline{t}  (h^{2}t + 1)(τ + ρ)
ss  h^{2}(τ + ρ) + h^{4}t^{2}(σ + ρ)
tt  h^{2}(σ + ρ) + h^{4}t^{2}(τ + ρ)
\underline{s}\underline{t}, \underline{t}\underline{s} h^{2}t(σ + τ + ρ + θ)
\underline{s}t, t\underline{s} h(ρ + σ) + h^{2}t(τ + θ)
\underline{t}s, s\underline{t} h(ρ + τ) + h^{2}t(σ + θ)
st, ts h^{2}tθ + h^{3}tρ
\underline{s} \underline{t} \underline{s} (h^{2}t + h^{4}t^{2})(σ + τ + ρ + θ)
\underline{sts} (h^{2}t + h^{4}t^{2})(τ + θ)
\underline{tst}  (h^{2}t + h^{4}t^{2})(σ + θ)
s\underline{t}s h^{2}(ρ + τ) + h^{3}t(σ + θ) + h^{4}t^{2}(σ + ρ + τ + θ)
sts h^{3}t(θ + σ) + h^{4}t^{2}(τ + θ)
tst h^{3}t(θ + τ) + h^{4}t^{2}(σ + θ)

Démonstration. Comme dans le théorème 4.2.4, nous procédons par récurrence croissante sur n en traitant en même temps le cas n = 0 et le cas général, et en raisonnant par longueur croissante de y. Nous commençons par le

• Cas de \underline{s}w_{0}^{n} et \underline{t}w_{0}^{n}. Si n = 0 la valeur se déduit du lemme 4.3.2(iv). Sinon, on a H(\underline{s}w_{0}^{n}) = th^{2}H(\underline{s}tstw_{0}^{n−1}) = th^{3}H(\underline{sts}w_{0}^{n−1}) = h^{5}t^{2}E(H(\underline{s}w_{0}^{n−1})) respectivement par les lemmes 4.1.1(iii), 4.3.2(i) et les valeurs données dans la table. Le cas de \underline{t}w_{0}^{n} est analogue.

• Cas de w_{0}^{n}, sw_{0}^{n}, ssw_{0}^{n}, tw_{0}^{n} et ttw_{0}^{n}. Si n = 0 la valeur se déduit par exemple de la proposition 3.3.16. Sinon, nous appliquons la proposition 3.3.17 avec b = tstw_{0}^{n−1} pour m = 0, 1, 2, 3. Par l’hypothèse de récurrence nous avons

H(b) = (h^{5}t^{2})^{n−1}E^{n−1}(h^{3}t(θ + τ) + h^{4}t^{2}(σ + θ)).

Soit Y le fermé complémentaire de X(sb) = X(w_{0}^{n}) dans X(\underline{w}_{0}w_{0}^{n−1}). Par stsw_{0}^{n−1} ⟶^{o} Y ⟶^{f} \underline{t}\underline{s}\underline{t}w_{0}^{n−1} et tstw_{0}^{n−1} ⟶^{o} Y ⟶^{f} \underline{s}\underline{t}\underline{s}w_{0}^{n−1} on trouve qu’il existe ε ∈ \{0, 1\} tel que H(Y) =

(h^{5}t^{2})^{n−1}E^{n−1}(h^{4}t^{2}(τ + σ + 2θ) + ε(h^{2} + h^{3})tθ). Par w_{0}^{n} ⟶^{o} \underline{w}_{0}w_{0}^{n−1} ⟶^{f} Y et 4.1.1(v) on en

déduit H(w_{0}^{n}) = (h^{5}t^{2})^{n−1}E^{n−1}(h^{5}t^{2}(τ + σ + 2θ) + ε(h^{3} + h^{4})tθ). Avec les notations de la proposition 3.3.17 on doit avoir H(sb) − hH(b) = (ht^{2} − h)H_{i} et on trouve H(sb) − hH(b) = (h^{5}t^{2})^{n−1}E^{n−1}((ht^{2} − h)h^{3}t(θ + τ) + ε(h^{3} + h^{4})tθ), ce qui n’est divisible par ht^{2} − h que si ε = 0. Donc ε = 0 et on trouve les valeurs H_{i} = h^{−2}t^{−1}(h^{5}t^{2})^{n}E^{n}(ρ + σ) et H_{s} = h^{−1}(h^{5}t^{2})^{n}E^{n}(ρ + τ). En appliquant la proposition 3.3.17 avec m = 2, 3 on en déduit les valeurs pour sw_{0}^{n} et ssw_{0}^{n}. On procède de façon symétrique pour tw_{0}^{n} et ttw_{0}^{n}, en échangeant les rôles de s et t.

• Cas de \underline{s}\underline{t}. On a H(\underline{s}\underline{t}w_{0}^{n}) = H(\underline{s}\underline{t}tstsw_{0}^{n−1}) = h^{2}tH(\underline{s}\underline{t}stsw_{0}^{n−1}) = h^{3}tH(\underline{s} \underline{t}\underline{s}\underline{t}w_{0}^{n−1}) = h^{5}t^{2}H(\underline{s}\underline{t}w_{0}^{n−1}) par les lemmes 4.1.1 (iii), 4.3.2(i) et (ii), ce qui est le résultat cherché car la table montre que E(H(\underline{s}\underline{t}w_{0}^{n−1})) = H(\underline{s}\underline{t}w_{0}^{n−1}).

• Cas de \underline{s} \underline{t} \underline{s}. On procède exactement comme le cas précédent.

• Cas de \underline{s}\underline{t}\underline{s} et \underline{t}\underline{s}\underline{t}. On a H(\underline{s}\underline{t}\underline{s}w_{0}^{n}) = H(\underline{s} \underline{t} \underline{s}w_{0}^{n}) − h^{2}tH(\underline{s}w_{0}^{n}) = h^{5}t^{2}E(H(\underline{s} \underline{t} \underline{s}w_{0}^{n−1})) − h^{7}t^{3}E(H(\underline{s}w_{0}^{n−1})) = h^{5}t^{2}E(H(\underline{s}\underline{t}\underline{s}w_{0}^{n−1})) par le lemme 4.3.2(iii), les cas précédents, et à nouveau le lemme 4.3.2(iii). Le cas de \underline{t}\underline{s}\underline{t} est analogue.

Jusqu’à la fin de la preuve, tous les éléments de \underline{B}^{+} que nous allons considérer sont de la forme yw_{0}^{n}. Pour simplifier les notations, nous posons \underline{H}(y) = (h^{5}t^{2})^{−n}E^{n}(H(yw_{0}^{n})) et \underline{H}_{c}^{i}(X(y)) = E^{n}(H_{c}^{i+5n}(X(yw_{0}^{n}))(2n)).

• Cas de \underline{s}t et s\underline{t}. En utilisant \underline{H}(\underline{s}ts) = \underline{H}(s\underline{s}t) = h^{2}t\underline{H}(\underline{s}t) et \underline{s}ts ⟶^{o} \underline{s}\underline{t}\underline{s} ⟶^{f} \underline{s}\underline{t} on trouve qu’il existe ε, ε′ ∈ \{0, 1\} tels que \underline{H}(\underline{s}t) = h(ρ + σ) + h^{2}t(τ + θ) + (1 + h)(ετ + ε′θ). En reportant ces valeurs dans la suite exacte longue déduite de \underline{s}t ⟶^{o} \underline{s}\underline{t} ⟶^{f} \underline{s} on trouve ε = ε′ = 0.

On procède symétriquement pour s\underline{t}.

• Cas de s\underline{t}s. On trouve le résultat par s\underline{t}s ⟶^{o} s\underline{t}\underline{s} ⟶^{f} s\underline{t} où le terme du milieu est donné par \underline{H}(s\underline{t}\underline{s}) = \underline{H}(\underline{t}\underline{s}s) = h^{2}t\underline{H}(\underline{t}\underline{s}).

• Cas de st, ts, sts et sst. Par st ⟶^{o} \underline{s}t ⟶^{f} t on trouve qu’il existe ε, ε′, ε′′ ∈ \{0, 1\} tels que \underline{H}(st) = h^{2}tθ+h^{3}tρ+ε(h+h^{2})ρ+ε′(h+h^{2})σ+ε′′(h^{2} +h^{3})tτ. Symétriquement, par st ⟶^{o} s\underline{t} ⟶^{f} s on trouve qu’il existe η, η′, η′′ ∈ \{0, 1\} tels que \underline{H}(st) = h^{2}tθ + h^{3}tρ + η(h + h^{2})ρ + η′(h + h^{2})τ + η′′(h^{2} + h^{3})tσ. En comparant, on trouve ε = η et ε′ = ε′′ = η′ = η′′ = 0.

À ce stade on a donc (la première égalité par 4.1.1 (i)) \underline{H}(st) = \underline{H}(ts) = h^{2}tθ + h^{3}tρ + ε(h + h^{2})ρ. Par sts ⟶^{o} \underline{s}ts ⟶^{f} ts et \underline{H}(\underline{s}ts) = h^{2}t\underline{H}(\underline{s}t) (4.1.1(iii)), on trouve qu’il existe δ ∈ \{0, 1\} tel que \underline{H}(sts) = ε(h^{2} + h^{3})ρ + δ(h^{3} + h^{4})tρ + h^{3}t(σ + θ) + h^{4}t^{2}(τ + θ). Par sts ⟶^{o} s\underline{t}s ⟶^{f} ss on voit que δ = 0. Enfin, en utilisant la suite exacte longue qui vient de la proposition 3.2.10

… → \underline{H}_{c}^{0}(X(t))(−1) → \underline{H}_{c}^{1}(X(st))(−1) ⊕ \underline{H}_{c}^{2}(X(st)) → \underline{H}_{c}^{3}(X(sst))
→ \underline{H}_{c}^{1}(X(t))(−1) → …

(où \underline{H}(sst) = \underline{H}(sts) par 4.1.1 (i)) on trouve ε = 0. On procède symétriquement pour tst. □

Théorème 4.3.5. Supposons (G, F) de type ^{2}B_{2} et soit y ∈ \underline{B}^{+} apparaissant dans la table cidessous. Alors pour tout n, on a H(yw_{0}^{n}) = (h^{5}t^{2})^{n}f(y) où f(y) est la valeur de H(y) donnée par la table.

y  H(y)
1  0
s, t, \underline{s}, \underline{t}  ht^{1/2}
ts, st, ss, tt h^{2}t^{1/2} + h^{3}t^{3/2}
\underline{s}\underline{t}\underline{s}  h^{3}t^{3/2}
\underline{s}ts  h^{2}t^{1/2}
sts, tst  h^{4}t^{3/2}
\underline{s} \underline{t} \underline{s}  2h^{3}t^{3/2}

Démonstration. La démonstration procède comme dans le théorème 4.2.9.

• Cas de \underline{s}w_{0}^{n}, \underline{s} \underline{t} \underline{s}w_{0}^{n}, \underline{s}\underline{t}\underline{s}w_{0}^{n}. On procède exactement comme pour les mêmes cas dans le théorème 4.3.4.

• Cas de \underline{s}tsw_{0}^{n}. On a hH(\underline{s}\underline{t}\underline{s}w_{0}^{n}) = H(\underline{s}tstw_{0}^{n}) = H(\underline{s}tsw_{0}^{n}t) = H(s\underline{s}tsw_{0}^{n}) = h^{2}tH(\underline{s}tsw_{0}^{n}) où la première égalité est par le lemme 4.3.2 (i), la deuxième car w_{0} est central, la troisième par 4.1.1 (i) et la dernière par 4.1.1(iii).

Dans la suite, les éléments de \underline{B}^{+} considérés sont de la forme yw_{0}^{n}. Pour simplifier les notations, nous posons \underline{H}(y) = (h^{5}t^{2})^{−n}H(yw_{0}^{n}) et \underline{H}_{c}^{i}(X(y)) = H_{c}^{i+5n}(X(yw_{0}^{n}))_{ρ^{+}}(2n) = H_{c}^{i+5n}(X(yw_{0}^{n}))_{ρ^{−}}(2n).

• Cas de s. On conclut par s ⟶^{o} \underline{s} ⟶^{f} 1.

• Cas de st, ss, ts, tt. On trouve ss par ss ⟶^{o} s\underline{s} ⟶^{f} s où le terme du milieu est donné par 4.1.1(iii). Les autres éléments sont F -conjugués par permutation circulaire (cf. 4.1.1 (i)).

• Cas de sts et w_{0}. Par sts ⟶^{o} \underline{s}ts ⟶^{f} ts on trouve qu’il existe ε ∈ \{0, 1\} tel que \underline{H}(sts) = h^{4}t^{3/2} + ε(h^{2} + h^{3})t^{1/2}. Par w_{0} ⟶^{o} \underline{s}tst ⟶^{f} tst, où le terme du milieu est égal à h^{2}t\underline{H}(\underline{s}ts) par 4.1.1 (iii), on trouve qu’il existe η ∈ \{0, 1\} tel que \underline{H}(w_{0}) = ε(h^{3} + h^{4})t^{1/2} + η(h^{4} + h^{5})t^{3/2}. On conclut en utilisant le lemme 4.3.2(v) qui montre qu’on doit avoir ε = η = 0. □

4.4. Type G_{2}.

4.4.1. Nous considérons maintenant un groupe G de type G_{2}.

Si G est déployé, nous notons σ (resp. τ) le caractère linéaire de W donné par s ↦ −1, t ↦ 1 (resp. s ↦ 1, t ↦ −1) et nous notons A (resp. B) la représentation irréductible de degré 2 où w_{0} agit par −1 (resp. 1). Par abus de notation, nous noterons de la même façon les caractères unipotents de la série principale autres que Id et St. Il y a 4 autres caractères unipotents, qui sont cuspidaux et associés aux valeurs propres λ_{ρ} = 1, −1, j, j^{2} respectivement où l’on a posé j = e^{2iπ/3}. Nous les noterons ρ, ρ_{−1}, ρ_{j} et ρ_{j^{2}}. Les cohomologies étant rationnelles (cf. la proposition 3.3.10), les caractères ρ_{j} et ρ_{j^{2}} ont même multiplicité dans toute cohomologie ; nous noterons J cette multiplicité. Nous ne saurons démontrer un théorème que pour les caractères différents de B et ρ_{−1}. Nous écrirons donc H(y) pour la partie σ, τ, A, ρ, ρ_{j}, ρ_{j^{2}}-isotypique de ∑_{i} h^{i}H_{c}^{i}(X(y)), représentée par un élément de ℤ[t, h][σ, τ, A, ρ, J].

Si (G, F) est de type ^{2}G_{2}, alors F est une isogénie dont le carré est l’endomorphisme de Frobenius pour une 𝔽_{q^{2}}-structure où q^{2} est une puissance impaire de 3. Le groupe G^{F} possède 6 caractères unipotents différents de St et Id, tous cuspidaux. Ils ne sont pas rationnels mais définis sur ℚ(ζ_{3}) où ζ_{3} = e^{2iπ/3}. Ils forment 3 orbites sous Gal(ℚ(ζ_{3})/ℚ). La première contient deux caractères de dimension \frac{q}{2\sqrt{3}}(q^{2} +\sqrt{3}q +1)(q^{2} −1), associés aux valeurs propres λ_{ρ} = i et ω_{ρ} = q de F^{2} (resp. λ_{ρ} = −i et ω_{ρ} = q) (cf. corollaire 3.3.4 et [GeMa, 4.7]) ; nous noterons ρ_{i} et ρ_{−i} ces caractères. La deuxième orbite est identique sauf que la dimension des caractères qu’elle contient est \frac{q}{2\sqrt{3}}(q^{2}−\sqrt{3}q+1)(q^{2}−1) ; nous noterons ρ′_{i} et ρ′_{−i} les caractères correspondants. La troisième orbite contient deux caractères de dimension \frac{q}{\sqrt{3}}(q^{4} − 1), associés aux valeurs propres λ_{ρ} = ζ_{12}^{5} et ω_{ρ} = q de F^{2} (resp. λ_{ρ} = ζ_{12}^{7} et ω_{ρ} = q) où ζ_{12} = e^{2iπ/12}. Nous noterons ρ_{ζ_{12}^{5}} et ρ_{ζ_{12}^{7}} ces deux caractères. Nous noterons H(y) la partie (ρ_{i}, ρ_{−i}, ρ′_{i}, ρ′_{−i}, ρ_{ζ_{12}^{5}}, ρ_{ζ_{12}^{7}})-isotypique de ∑_{i} h^{i}H_{c}^{i}(X(y)). Les caractères des cohomologies des variétés de Deligne-Lusztig étant rationnels, les caractères conjugués ont même multiplicité dans chaque cohomologie ; nous représenterons H(y) par P ∈ ℤ[t^{1/2}, h][I, I′, C] représentant un élément de ℤ[t^{1/2}, h][ρ_{i}, ρ_{−i}, ρ′_{i}, ρ′_{−i}, ρ_{ζ_{12}^{5}}, ρ_{ζ_{12}^{7}}] où I représente la multiplicité commune de ρ_{i} et ρ_{−i}, I′ celle de ρ′_{i} et ρ′_{−i} et C celle de ρ_{ζ_{12}^{5}} et ρ_{ζ_{12}^{7}}.

Ici encore w_{0} = ststst est central dans B^{+}, et nous allons trouver une périodicité pour la translation par w_{0}, à “l’involution d’Ennola” E près (qui correspond à l’échange de q et de −q) qui dans le cas déployé échange B et ρ_{−1} d’une part, et A et ρ d’autre part. Dans le cas non déployé, E échange ρ_{i} et ρ′_{i}, et ρ_{−i} et ρ′_{−i}; avec nos notations, E correspond à l’échange de I et I′.

Nous commençons par rappeler des conséquences des résultats des deux premiers chapitres pour un groupe de type G_{2}.

Lemme 4.4.2. Soit y ∈ \underline{B}^{+}. Alors

(i) H(\underline{s}tststy) = hH(\underline{ststs}y).

(ii) H(\underline{s} \underline{ts}y) = H(\underline{sts}y) + h^{2}tH(\underline{s}y).

(iii) H(\underline{t} \underline{sts}y) = H(\underline{tsts}y) + h^{2}tH(\underline{ts}y).

(iv) H(\underline{s} \underline{tsts}y) = H(\underline{ststs}y) + h^{2}tH(\underline{sts}y).

(v) H(\underline{t} \underline{ststs}y) = h^{2}tH(\underline{tsts}y).

Les symétriques des assertions ci-dessus obtenues en échangeant s et t sont aussi vraies.

(vi) Considérons les représentations A_{h^{2}t} et B_{h^{2}t} de H(h^{2}t)⋊<F > définies sur les générateurs par :

A_{h^{2}t}(T_{s}) = (\begin{matrix}−1 & 0 \\ h\sqrt{3t} & h^{2}t \end{matrix}) A_{h^{2}t}(T_{t}) = (\begin{matrix}h^{2}t & h\sqrt{3t} \\ 0 & −1 \end{matrix})

B_{h^{2}t}(T_{s}) = (\begin{matrix}−1 & 0 \\ h\sqrt{t} & h^{2}t \end{matrix}) B_{h^{2}t}(T_{t}) = (\begin{matrix}h^{2}t & h\sqrt{t} \\ 0 & −1 \end{matrix})

et dans les deux cas A_{h^{2}t}(F) = B_{h^{2}t}(F) = (\begin{matrix}1 & 0 \\ 0 & 1 \end{matrix}) si G est déployé et (\begin{matrix}0 & 1 \\ 1 & 0 \end{matrix}) sinon.

Alors si y est dans le sous-monoïde engendré par \underline{W}, on a si G est déployé :

6H(y) = A Trace(T_{y} | A_{h^{2}t} + 3B_{h^{2}t} + 2σ_{h^{2}t} + 2τ_{h^{2}t})

+ σ Trace(T_{y} | 2A_{h^{2}t} + 4σ_{h^{2}t} − 2τ_{h^{2}t}) + τ Trace(T_{y} | 2A_{h^{2}t} − 2σ_{h^{2}t} + 4τ_{h^{2}t}) + ρ Trace(T_{y} | A_{h^{2}t} − B_{h^{2}t} + 2σ_{h^{2}t} + 2τ_{h^{2}t}) + J Trace(T_{y} | 2A_{h^{2}t} − 2σ_{h^{2}t} − 2τ_{h^{2}t})

et sinon

H(y) = \frac{1}{2}(I Trace(T_{y}F | A_{h^{2}t}/\sqrt{3} + B_{h^{2}t}) + I′ Trace(T_{y}F | A_{h^{2}t}/\sqrt{3} − B_{h^{2}t}))

+ C Trace(T_{y}F | A_{h^{2}t}/\sqrt{3}).

(vii) Si G est non déployé et y est produit d’éléments de C_{B^{+}}(F) et d’éléments de \underline{W}^{F}, alors H(y) est divisible par 2.

Démonstration. (i) est obtenu par 4.1.1(v) et par \underline{s}tststy ⟶^{o} \underline{ststst}y ⟶^{f} \underline{ststs}y. (ii), (iii), (iv) et (v) viennent du lemme 3.2.7 (iii) et de la proposition 3.2.9, le (v) en utilisant de plus 4.1.1(v). On obtient (vi) immédiatement par le corollaire 3.3.8 (ii) en utilisant [Lu4, p. 376] (voir aussi [GeMa, 4.7]) grâce au fait que dans un groupe de type G_{2} toutes les variétés X(\underline{w}) pour w ∈ W sont rationnellement lisses (cf. proposition 3.2.5).

Le (vii) dit que la multiplicité d’un caractère unipotent cuspidal dans H_{c}^{j}(X(y)) est paire. Nous allons le voir comme conséquence de la proposition 3.3.11 ; cette proposition montre que pour tout caractère unipotent cuspidal ρ, la somme |G^{F} |^{−1} ∑_{g∈G^{F}} Trace(gF | H_{c}^{j}(X(y))ρ(g^{−1}) appartient au même corps que ρ, c’est-à-dire à ℚ(ζ_{3}). Or, avec les notations de la preuve de la proposition 3.3.11, cette somme vaut μ_{ρ}q^{j/2} ([H_{c}^{j}(X(y))_{ρ}^{μ_{ρ}} : ρ] − [H_{c}^{j}(X(y))_{ρ}^{−μ_{ρ}} : ρ]) où l’on a noté [V : ρ] la multiplicité de ρ dans le module V, et où μ_{ρ} est une racine carrée de λ_{ρ}. Comme μ_{ρ}q^{j/2} n’appartient à ℚ(ζ_{3}) pour aucun j et aucun ρ, cela force [H_{c}^{j}(X(y))_{ρ}^{μ_{ρ}} : ρ] = [H_{c}^{j}(X(y))_{ρ}^{−μ_{ρ}} : ρ], donc [H_{c}^{j}(X(y)) : ρ] est pair. □

On notera que dans la table ci-dessous, l’échange de s et t dans une variété échange σ et τ dans la cohomologie correspondante. En caractéristique 3, ce résultat peut se démontrer en utilisant l’isogénie de G induite par l’automorphisme du diagramme ; dans les autres caractéristiques nous ne savons que le constater.

Théorème 4.4.3. Supposons (G, F) de type G_{2} déployé et soit y ∈ \underline{B}^{+} apparaissant dans la table ci-dessous. Alors pour tout n, on a H(yw_{0}^{n}) = (h^{7}t^{3})^{n}E^{n}(f(y)) où f(y) est la valeur de H(y) donnée par la table (ici nous avons étendu E par linéarité à ℤ[t^{1/2}, h][σ, τ, A, ρ, J]).

y  H(y)
1  σ + τ + 2A
s  h(σ + A) + h^{2}t(τ + A)
t  h(τ + A) + h^{2}t(σ + A)
\underline{s}  (h^{2}t + 1)(τ + A)

\underline{t}  (h^{2}t + 1)(σ + A)
st, ts  h^{3}tA + h^{2}tJ
\underline{s}t, t\underline{s}  h(τ + A) + h^{2}t(σ + J)
\underline{t}s, s\underline{t}  h(σ + A) + h^{2}t(τ + J)
\underline{s}\underline{t}, \underline{t}\underline{s}  h^{2}t(σ + τ + A + J)
ss  h^{2}(σ + A) + h^{4}t^{2}(τ + A)
tt  h^{2}(τ + A) + h^{4}t^{2}(σ + A)
sts  h^{3}t(τ + J) + h^{4}t^{2}(σ + J)
tst  h^{3}t(σ + J) + h^{4}t^{2}(τ + J)
s\underline{t}s  h^{4}t^{2}(σ + τ + A + J) + h^{3}t(τ + J) + h^{2}(σ + A)
\underline{sts}  (h^{2}t + h^{4}t^{2})(σ + J)
\underline{s}ts  h^{3}t(τ + A) + h^{4}t^{2}(σ + J)
stst  h^{4}t^{2}ρ + h^{5}t^{2}J
\underline{tsts}, \underline{stst} h^{4}t^{2}(τ + σ + ρ + J)
\underline{s}tst  h^{3}t(σ + J) + h^{4}t^{2}(τ + ρ)
\underline{t}sts  h^{3}t(τ + J) + h^{4}t^{2}(σ + ρ)
\underline{ststs}  (h^{6}t^{3} + h^{4}t^{2})(τ + ρ)
tstst  h^{6}t^{3}(σ + ρ) + h^{5}t^{2}(τ + ρ)
\underline{t}stst  h^{5}t^{2}(τ + J) + h^{6}t^{3}(σ + ρ)
\underline{s}tsts  h^{5}t^{2}(σ + J) + h^{6}t^{3}(τ + ρ)

Démonstration. Nous procédons comme pour le théorème 4.2.9, démontrant le théorème par récurrence sur n; à l’étape n nous le supposons démontré pour yw_{0}^{n−1}, où y est dans la table, ainsi que pour w_{0}^{n};ainsi nous terminons la démonstration en le démontrant pour w_{0}^{n+1}.

• Cas de \underline{s}w_{0}^{n} et \underline{t}w_{0}^{n}. Si n = 0 la valeur se déduit du lemme 4.4.2(vi). Sinon, on a H(\underline{s}w_{0}^{n}) = H(\underline{s}stststw_{0}^{n−1}) = h^{2}tH(\underline{s}tststw_{0}^{n−1}) = h^{3}tH(\underline{ststs}w_{0}^{n−1}) = h^{7}t^{3}E(H(\underline{s}w_{0}^{n−1})), en utilisant les lemmes 4.1.1(iii), 4.4.2(i) et la récurrence. Le cas de \underline{t}w_{0}^{n} est analogue.

• Cas de \underline{s}\underline{t}w_{0}^{n} et de \underline{t}\underline{s}w_{0}^{n}. Si n = 0 la valeur se déduit du lemme 4.4.2(vi). Sinon, on a

H(\underline{t}\underline{s}w_{0}^{n}) = H(\underline{t}\underline{s}stststw_{0}^{n−1}) = h^{2}tH(\underline{t}\underline{s}tststw_{0}^{n−1}) = h^{3}tH(\underline{t} \underline{ststs}w_{0}^{n−1}) =

= h^{5}t^{2}H(\underline{tsts}w_{0}^{n−1}) = h^{7}t^{3}E(H(\underline{t}\underline{s}w_{0}^{n−1}))

par les lemmes 4.1.1(iii), 4.4.2(i), 4.4.2(v) et la récurrence. Le cas de \underline{s}\underline{t}w_{0}^{n} est analogue.

• Cas de \underline{sts}w_{0}^{n}. Si n = 0 la valeur se déduit du lemme 4.4.2(vi). Sinon, on a H(\underline{sts}w_{0}^{n}) =(par le lemme 4.4.2(ii)) H(\underline{st} \underline{s}w_{0}^{n}) − h^{2}tH(\underline{s}w_{0}^{n}) = (voir la preuve du cas \underline{s}w_{0}^{n}) h^{3}tH(\underline{st} \underline{ststs}w_{0}^{n−1}) − h^{5}t^{2}H(\underline{ststs}w_{0}^{n−1}) =(par le lemme 4.4.2(v)) h^{5}t^{2}H(\underline{s} \underline{tsts}w_{0}^{n−1}) − h^{5}t^{2}H(\underline{ststs}w_{0}^{n−1}) =(par le lemme 4.4.2(iv)) h^{7}t^{3}H(\underline{sts}w_{0}^{n−1}) =(par la table) h^{7}t^{3}E(H(\underline{sts}w_{0}^{n−1})). Le cas de \underline{tst}w_{0}^{n} est analogue • Cas de \underline{tsts}w_{0}^{n}. Si n = 0 la valeur se déduit du lemme 4.4.2(vi). Sinon, on a

H(\underline{tsts}w_{0}^{n}) = (par le lemme 4.4.2(iii)) H(\underline{tst} \underline{s}w_{0}^{n}) − h^{2}tH(\underline{t}\underline{s}w_{0}^{n}) =

(voir les preuves des cas \underline{s}w_{0}^{n} et \underline{t}\underline{s}w_{0}^{n}) h^{3}tH(\underline{tst} \underline{ststs}w_{0}^{n−1}) − h^{7}t^{3}H(\underline{tsts}w_{0}^{n−1}) = (par le lemme 4.4.2(ii)) h^{3}tH(\underline{ts} \underline{t} \underline{ststs}w_{0}^{n−1}) − h^{5}t^{2}H(\underline{t} \underline{ststs}w_{0}^{n−1}) − h^{7}t^{3}H(\underline{tsts}w_{0}^{n−1}) =

(par le lemme 4.4.2(v)) h^{5}t^{2}H(\underline{ts} \underline{tsts}w_{0}^{n−1}) − 2h^{7}t^{3}H(\underline{tsts}w_{0}^{n−1}) =

(par le lemme 4.4.2(iv)) h^{5}t^{2}H(\underline{t} \underline{ststs}w_{0}^{n−1}) + h^{7}t^{3}H(\underline{t} \underline{sts}w_{0}^{n−1}) − 2h^{7}t^{3}H(\underline{tsts}w_{0}^{n−1}) =

(par le lemme 4.4.2(v)) h^{7}t^{3}H(\underline{t} \underline{sts}w_{0}^{n−1}) − h^{7}t^{3}H(\underline{tsts}w_{0}^{n−1}) =

(par le lemme 4.4.2(iii)) h^{9}t^{4}H(\underline{ts}w_{0}^{n−1}) = (par la table) h^{7}t^{3}E(H(\underline{tsts}w_{0}^{n−1})).

Le cas de \underline{stst}w_{0}^{n} est analogue.

• Cas de \underline{ststs}w_{0}^{n} Si n = 0 la valeur se déduit du lemme 4.4.2(vi). Sinon, on a

H(\underline{ststs}w_{0}^{n}) = (par le lemme 4.4.2(iv)) H(\underline{s} \underline{tsts}w_{0}^{n}) − h^{2}tH(\underline{sts}w_{0}^{n}) =

(voir les cas de \underline{tsts}w_{0}^{n} et de \underline{sts}w_{0}^{n}) h^{9}t^{4}H(\underline{s} \underline{ts}w_{0}^{n−1}) − h^{9}t^{4}H(\underline{sts}w_{0}^{n−1}) = (par le lemme 4.4.2(ii)) h^{11}t^{5}H(\underline{s}w_{0}^{n−1}) = (par la table) h^{7}t^{3}E(H(\underline{ststs}w_{0}^{n−1})).

• Cas de sw_{0}^{n}, ssw_{0}^{n}, tw_{0}^{n} et ttw_{0}^{n}. Si n = 0 la valeur se déduit par exemple de la proposition 3.3.16. Sinon, nous appliquons la proposition 3.3.17 avec b = tststw_{0}^{n−1} pour m = 0, 1, 2, 3. Par l’hypothèse de récurrence nous avons H(b) = (h^{7}t^{3})^{n−1}E^{n−1}(h^{5}t^{2}(τ + ρ) + h^{6}t^{3}(σ + ρ)) = (h^{7}t^{3})^{n}E^{n}(h^{−2}t^{−1}(τ + A) + h^{−1}(σ + A)), et H(sb) = H(w_{0}^{n}) = (h^{7}t^{3})^{n}(τ + σ + 2A). Ces deux égalités permettent dans la proposition 3.3.17 de déterminer H_{i} = (h^{7}t^{3})^{n}E^{n}(h^{−2}t^{−1}(τ + A)) et H_{s} = (h^{7}t^{3})^{n}E^{n}(h^{−1}(σ + A)) et on en déduit les valeurs pour m = 2, 3. On procède de façon analogue pour tw_{0}^{n} et ttw_{0}^{n}.

Jusqu’à la fin de la preuve, tous les éléments de \underline{B}^{+} que nous allons considérer sont de la forme yw_{0}^{n}. Pour simplifier les notations, nous posons \underline{H}(y) = (h^{7}t^{3})^{−n}E^{n}(H(yw_{0}^{n})) et \underline{H}_{c}^{i}(X(y)) = E^{n}(H_{c}^{i+7n}(X(yw_{0}^{n}))(3n)).

• Cas de \underline{s}t et \underline{s}ts, \underline{t}s et \underline{t}st. Par \underline{s}t ⟶^{o} \underline{s}\underline{t} ⟶^{f} \underline{s} on trouve qu’il existe ε_{A}, ε_{τ} ∈ \{0, 1\} tels que H(\underline{s}t) = h(τ + A) + h^{2}t(σ + J) + (h^{2} + h^{3})t(ε_{A}A + ε_{τ}τ). Par \underline{s}ts ⟶^{o} \underline{sts} ⟶^{f} \underline{s}\underline{t} on trouve qu’il existe ε_{σ}, ε_{J} ∈ \{0, 1\} tels que H(\underline{s}ts) = h^{4}t^{2}(σ + J) + h^{3}t(τ + A) + (h^{2} + h^{3})t(ε_{σ}σ + ε_{J}J). Mais par 4.1.1 (i) et (iii) on a H(\underline{s}ts) = h^{2}tH(\underline{s}t), donc en comparant les valeurs on trouve que ε_{A} = ε_{τ} = ε_{σ} = ε_{J} = 0 d’où le résultat pour les deux premières variétés. On procède de façon analogue pour \underline{t}s et \underline{t}st.

• Cas de s\underline{t}s. Par s\underline{t}s ⟶^{o} s\underline{t}\underline{s} ⟶^{f} s\underline{t}, où H(s\underline{t}\underline{s}) = h^{2}tH(\underline{t}\underline{s}) par 4.1.1 (i) et (iii), on trouve la valeur.

• Cas de \underline{s}tst et de \underline{s}tsts, \underline{t}sts, \underline{t}stst. Par \underline{s}tsts ⟶^{o} \underline{ststs} ⟶^{f} \underline{stst} on trouve qu’il existe ε_{τ}, ε_{ρ} ∈

\{0, 1\} tels que H(\underline{s}tsts) = h^{6}t^{3}(τ +ρ)+h^{5}t^{2}(σ+J)+(h^{4}+h^{5})t^{2}(ε_{τ}τ +ε_{ρ}ρ). Par \underline{s}tst ⟶^{o} \underline{stst} ⟶^{f} \underline{sts}

on trouve qu’il existe ε_{σ}, ε_{J} ∈ \{0, 1\} tels que H(\underline{s}tst) = h^{3}t(σ+J)+h^{4}t^{2}(τ +ρ)+(h^{4}+h^{5})t^{2}(ε_{σ}σ+ ε_{J}J). Mais on a H(\underline{s}tsts) = H(tsts\underline{s}) = h^{2}tH(tst\underline{s}) = h^{2}tH(\underline{s}tst). En comparant les valeurs on trouve le résultat. Les variétés \underline{t}sts et \underline{t}stst se traitent par des arguments symétriques.

• Cas de st et de sts, tst. Par st ⟶^{o} \underline{s}t ⟶^{f} t on trouve qu’il existe ε_{A}, ε_{τ}, ε_{σ} ∈ \{0, 1\} tels que H(st) = h^{3}tA + h^{2}tJ + (h^{2} + h)(ε_{τ}τ + ε_{A}A) + (h^{2} + h^{3})tε_{σ}σ. Par la symétrie entre σ et τ, (qu’on peut obtenir ici en considérant st ⟶^{o} s\underline{t} ⟶^{f} s), on trouve ε_{σ} = ε_{τ} = 0.

Par sts ⟶^{o} \underline{s}ts ⟶^{f} ts on trouve qu’il existe ε ∈ \{0, 1\} tel que H(sts) = h^{3}t(τ + J) + h^{4}t^{2}(σ + J) + (h^{2} + h^{3})ε_{A}A + (h^{3} + h^{4})tεA. En comparant avec sts ⟶^{o} s\underline{t}s ⟶^{f} ss on trouve que ε = 0. Enfin, en comparant avec la suite exacte longue qui vient de la proposition 3.2.10

… → \underline{H}_{c}^{0}(X(t))(−1) → \underline{H}_{c}^{1}(X(st))(−1) ⊕ \underline{H}_{c}^{2}(X(st)) → \underline{H}_{c}^{3}(X(sst))
→ \underline{H}_{c}^{1}(X(t))(−1) → …

on trouve que ε_{A} = 0. On obtient H(tst) par un argument symétrique.

• Cas de stst. Par stst ⟶^{o} \underline{s}tst ⟶^{f} tst on trouve qu’il existe ε_{τ}, ε_{σ}, ε_{J} ∈ \{0, 1\} tels que H(stst) = h^{4}t^{2}ρ + h^{5}t^{2}J + (h^{3} + h^{4})t(ε_{σ}σ + ε_{J}J) + (h^{4} + h^{5})t^{2}ε_{τ}τ. La symétrie entre σ et τ (qu’on peut obtenir ici en considérant stst ⟶^{o} sts\underline{t} ⟶^{f} sts) montre que ε_{τ} = ε_{σ} = 0.

• Cas de tstst. Par tstst ⟶^{o} \underline{t}stst ⟶^{f} stst on trouve qu’il existe α_{J} ∈ \{0, 1\} tel que H(tstst) = h^{6}t^{3}(σ + ρ) + (h^{5}t^{2})(τ + ρ) + (h^{5} + h^{6})t^{2}α_{J}J + (h^{4} + h^{5})tε_{J}J.

• Cas de w_{0}. Par w_{0} ⟶^{o} \underline{s}tstst ⟶^{f} tstst où H(\underline{s}tstst) = hH(\underline{ststs}) (cf. lemme 4.4.2(i)) on trouve qu’il existe ε_{τ}, ε_{ρ} ∈ {0, 1} tels que H(w_{0}) = h^{7}t^{3}(σ + τ + 2ρ) + (h^{5} + h^{6})tε_{J}J + (h^{6} + h^{7})t^{2}α_{J}J + (h^{5} + h^{6})t^{2}(ε_{τ}τ + ε_{ρ}ρ).

Nous appliquons maintenant la proposition 3.3.17 avec b = tstst, sous la forme (en suivant les notations de la proposition 3.3.17) : H(sb) − hH(b) = (h^{2}t − h)H_{i}, en particulier on voit que H(sb) − hH(b) doit être divisible par h^{2}t − h. Avec les valeurs obtenues, cela implique que ε_{τ} = ε_{ρ} = 0.

Nous finissons en utilisant le corollaire 5.4.3 qui montre que les caractères ρ_{j} et ρ_{j^{2}} ne peuvent intervenir dans la cohomologie de X(π^{n}w_{0}), donc que ε_{J} = α_{J} = 0 (notons que le corollaire 5.4.3 dépend de 4.4.4 mais pas de 4.4.3). □

Théorème 4.4.4. Supposons (G, F) de type G_{2} non déployé et soit y ∈ \underline{B}^{+} apparaissant dans la table ci-dessous. Alors pour tout n, on a H(yw_{0}^{n}) = (h^{7}t^{3})^{n}E^{n}(f(y)) où f(y) est la valeur de H(y) donnée par la table (ici nous avons étendu E par linéarité à ℤ[t^{1/2}, h][I, I′, C]).

y  H(y)
1  0
s, t, \underline{s}, \underline{t}  ht^{1/2}(I + C)
\underline{s}\underline{t}, \underline{t}\underline{s}  (ht^{1/2} + h^{3}t^{3/2})(I + C)
ss, st, ts, tt  (h^{2}t^{1/2} + h^{3}t^{3/2})(I + C)
\underline{sts}, \underline{tst}  h^{3}t^{3/2}(I + I′ + 2B)
\underline{s}ts  h^{2}t^{1/2}(I + C) + h^{3}t^{3/2}(I′ + C)
sts, tst  h^{4}t^{3/2}I + h^{3}t^{3/2}I′ + ε_{n}(h^{3} + h^{4})t^{3/2}C où ε_{n} ∈ {0, 1}
\underline{stst}, \underline{tsts}  (h^{3}t^{3/2} + h^{5}t^{5/2})(I′ + C)
\underline{s}tst, \underline{t}sts  h^{4}t^{3/2}(I + C) + h^{5}t^{5/2}(I′ + C)
stst, tsts  (h^{4}t^{3/2} + h^{5}t^{5/2})(I′ + C)
\underline{ststs}  h^{5}t^{5/2}(I′ + C)
\underline{s}tsts  h^{4}t^{3/2}(I′ + C)
ststs, tstst, \underline{s}tstst h^{6}t^{5/2}(I′ + C)

Nous conjecturons que ε_{n} = 0.

Démonstration. La preuve procède comme pour le théorème 4.4.3. Nous commençons par • Cas de \underline{s}w_{0}^{n}, \underline{t}w_{0}^{n}, \underline{s}\underline{t}w_{0}^{n}, \underline{t}\underline{s}w_{0}^{n}, \underline{sts}w_{0}^{n}, \underline{tsts}w_{0}^{n}, \underline{stst}w_{0}^{n}, \underline{ststs}w_{0}^{n}. La preuve procède exactement comme pour les mêmes éléments dans le cas de G_{2}.

Jusqu’à la fin de la preuve, tous les éléments de \underline{B}^{+} que nous allons considérer sont de la forme yw_{0}^{n}. Pour simplifier les notations, nous posons \underline{H}(y) = (h^{7}t^{3})^{−n}E^{n}(H(yw_{0}^{n})). Comme expliqué dans la preuve du théorème 4.2.4, les items de 4.1.1 sont encore vrais pour \underline{H} sauf le (i) qui est encore vrai si x ∈ B^{+}.

• Cas de s et de t. L’élément s est donné par s ⟶^{o} \underline{s} ⟶^{f} 1. On en déduit t par 4.1.1(i).

• Cas de ss, ts, st et tt. L’élément ss est donné par ss ⟶^{o} s\underline{s} ⟶^{f} s où s\underline{s} est donné par 4.1.1(iii). On déduit les autres éléments par 4.1.1(i).

• Cas de \underline{s}ts, de \underline{s}tst et de \underline{t}sts. Remarquons tout d’abord qu’on a \underline{H}(\underline{s}tst) =(par 4.1.1(i)) \underline{H}(s\underline{s}ts) =(par 4.1.1(iii))h^{2}t\underline{H}(\underline{s}ts).

Par \underline{s}ts ⟶^{o} \underline{sts} ⟶^{f} \underline{ts} on trouve qu’il existe ε_{I}, ε_{C} ∈ \{0, 1\} tels que \underline{H}(\underline{s}ts) = h^{2}t^{1/2}(I +

C) + h^{3}t^{3/2}(I′ + C) + (h^{3} + h^{4})t^{3/2}(ε_{I}I + ε_{C}C). Alors par \underline{s}tst ⟶^{o} \underline{stst} ⟶^{f} \underline{tst} et la remarque

préliminaire on trouve que ε_{I} = ε_{C} = 0.

On obtient \underline{t}sts par un raisonnement symétrique.

• Cas de \underline{s}tstst et de \underline{s}tsts. Par un raisonnement analogue au cas précédent, on a \underline{H}(\underline{s}tstst) = h^{2}t\underline{H}(\underline{s}tsts), et on obtient \underline{H}(\underline{s}tstst) par le lemme 4.4.2(i), d’où les deux valeurs.

• Cas de sts, tsts, ststs et w_{0}, ainsi que tst, stst et tstst. Par sts ⟶^{o} \underline{s}ts ⟶^{f} ts on trouve qu’il existe β, ε_{I}, ε_{C} ∈ \{0, 1\} tels que \underline{H}(sts) = h^{3}t^{3/2}I′ + h^{4}t^{3/2}I + (h^{3} + h^{4})t^{3/2}βC + (h^{2} + h^{3})t^{1/2}(ε_{I}I + ε_{C}C).

Ensuite, par tsts ⟶^{o} \underline{t}sts ⟶^{f} sts on trouve qu’il existe α, β′ ∈ \{0, 1\} avec β′ ≤ β tels que \underline{H}(tsts) = (h^{4}t^{3/2} + h^{5}t^{5/2})(I′ + C) + (h^{3} + h^{4})t^{1/2}(ε_{I}I + ε_{C}C) + (h^{4} + h^{5})t^{3/2}(αI + β′C).

Puis, par ststs ⟶^{o} \underline{s}tsts ⟶^{f} tsts on trouve qu’il existe ε_{I′}, β′′ ∈ \{0, 1\} tels que \underline{H}(ststs) = h^{6}t^{5/2}(I′ + C) + (h^{4} + h^{5})t^{1/2}(ε_{I}I + ε_{C}C) + (h^{4} + h^{5})t^{3/2}(ε_{I′}I′ + β′′C) + (h^{5} + h^{6})t^{3/2}(αI + β′C).

Enfin, par w_{0} ⟶^{o} \underline{s}tstst ⟶^{f} ststs où \underline{s}tstst est donné par le lemme 4.4.2(i), on trouve qu’il existe ε′_{I′}, β′′′ ∈ \{0, 1\} tels que \underline{H}(w_{0}) = (h^{5} + h^{6})t^{1/2}(ε_{I}I + ε_{C}C) + (h^{5} + h^{6})t^{3/2}(ε_{I′}I′ + β′′C) + (h^{6} + h^{7})t^{3/2}(αI + β′C) + (h^{6} + h^{7})t^{5/2}(ε′_{I′}I′ + β′′′C).

En appliquant alors le lemme 4.4.2(vii) on trouve que ε_{I} = ε_{C} = ε_{I′} = β′′ = α = β′ = ε′_{I′} = β′′′ = 0 (des inconnues que nous avons introduites, seule β n’a pas été prouvée nulle ; nous l’avons notée ε_{n} dans la table).

Les éléments tst, tstst donnent la même valeur que respectivement sts et ststs par 4.1.1(i), et stst s’obtient par un raisonnement symétrique de celui utilisé pour tsts. □

5. Endomorphismes des variétés X(w)

Pour t ∈ B^{+}, suivant [BrMic], nous nous intéresserons dans cette partie à certains morphismes commutant à l’action de G^{F} entre variétés X(t) qui nous permettront de construire l’action de C_{B}(WF) mentionnée dans l’introduction.

5.1. Combinatoire. Nous considérons la catégorie B d’objets les éléments de B, avec

Hom_{B}(w, w′) = {y ∈ B|w′ = y^{−1}wF (y)}

et la composition est donnée par le produit. Soit B^{+} la sous-catégorie pleine d’objets les éléments de B^{+}.

Nous introduisons deux sous-catégories de B^{+}, dont l’ensemble des objets coïncide avec B^{+}. La catégorie D^{+} est la plus petite sous-catégorie telle que

{y ∈ B^{+} | y ≼ w, y^{−1}wF (y) = w′} ⊂ Hom_{D^{+}}(w, w′)

et D est la plus petite sous-catégorie contenant D^{+} et dont toutes les flèches sont inversibles.

Remarque 5.1.1.

(i) Hom_{D^{+}}(w, w′) est l’ensemble des y ∈ B^{+} qui admettent une décomposition y = y_{1} … y_{n} avec y_{i} ∈ B^{+}, telle qu’il existe une suite w_{1}, …, w_{n+1} d’éléments de B^{+} avec w_{1} = w, w_{n+1} = w′, y_{i} ≼ w_{i} et w_{i+1} = y_{i}^{−1}w_{i} F (y_{i}).

(ii) De même, Hom_{D}(w, w′) est l’ensemble des y ∈ B qui admettent une décomposition y = y_{1} … y_{n} avec y_{i} ∈ B^{+} ou y_{i}^{−1} ∈ B^{+}, telle qu’il existe une suite w_{1}, …, w_{n+1} d’éléments de B^{+} avec w_{1} = w, w_{n+1} = w′, y_{i} ≼ w_{i} si y_{i} ∈ B^{+} et y_{i}^{−1} ≼ w_{i+1} si y_{i}^{−1} ∈ B^{+}, et w_{i+1} = y_{i}^{−1}w_{i}F (y_{i}).

Soit D̃^{+} la catégorie d’ensemble d’objets B^{+} et dont les flèches sont engendrées par les γ_{y} = γ_{y}^{w,w′} : w → w′ pour y ∈ B^{+} vérifiant y ≼ w et y^{−1}wF (y) = w′, avec les relations γ_{y}^{w,w′′} = γ_{y_{2}}^{w′,w′′}γ_{y_{1}}^{w,w′} lorsque y = y_{1}y_{2} ≼ w.

On a un foncteur canonique D̃^{+} → B qui est l’identité sur les objets et envoie γ_{y}^{w,w′} sur y.

Proposition 5.1.2. Le foncteur canonique D̃^{+} → B induit un isomorphisme D̃^{+}⟶^{∼}D^{+}.

Démonstration. Il s’agit de montrer que D̃^{+} → B est pleinement fidèle.

Soit E(y, w, w′) l’ensemble des suites (y_{1}, …, y_{n}) d’éléments de B^{+} de produit y et telles qu’il existe une suite w_{1}, …, w_{n+1} d’éléments de B^{+} avec w_{1} = w, w_{n+1} = w′, y_{i} ≼ w_{i} et w_{i+1} = y_{i}^{−1}w_{i} F (y_{i}). L’image du foncteur s’identifie à la sous-catégorie de B d’objets B^{+} et d’ensemble de flèches de w à w′ les y ∈ Hom_{B}(w, w′) tels que E(y, w, w′) ≠ ∅.

Nous allons démontrer par récurrence sur l(y) que :

(i) Si v ∈ W, v ≼ w et v ≼ y alors il existe (u_{1}, …, u_{m}) ∈ E(y, w, w′) avec u_{1} = v. (ii) Pour tous (y_{1}, …, y_{n}), (z_{1}, …, z_{k}) ∈ E(y, w, w′) on a γ_{y_{n}} ⋯ γ_{y_{1}} = γ_{z_{k}} ⋯ γ_{z_{1}}.

La proposition résultera de l’assertion (ii).

Considérons v comme en (i). Posons v = sv′ avec s ∈ S. Soit (y_{1}, …, y_{n}) ∈ E(y, w, w′). Supposons tout d’abord s ≼ y_{1}. Posons w_{1} = s^{−1}wF (s) et y_{1} = sy′_{1}. Alors, v′ ≼ w_{1}

et v′ ≼ y′_{1}y_{2} … y_{n}, donc par récurrence il existe (v′, u_{2}, …, u_{m}) ∈ E(y′_{1}y_{2} … y_{n}, w_{1}, w′) et (v, u_{2} …, u_{m}) satisfait l’assertion (i). Par récurrence, on a γ_{u_{m}} ⋯ γ_{u_{2}}γ_{v′} = γ_{y_{n}} ⋯ γ_{y_{2}}γ_{y′_{1}}, donc γ_{u_{m}} ⋯ γ_{u_{2}}γ_{v} = γ_{y_{n}} ⋯ γ_{y_{1}}.

Supposons maintenant s ⋠ y_{1}. Soit t ∈ S tel que y_{1} = ty′_{1} Soit d le p.p.c.m. de s et t, i.e., le plus court élément de B^{+} divisible à gauche par s et t. On a s ≼ w, s ≼ y, t ≼ w et t ≼ y, donc d ≼ w et d ≼ y (lemme 2.1.5). Soit d′ ∈ B^{+} tel que d = td′ et soit w_{1} = t^{−1}wF (t). Alors, d′ ≼ w_{1} et d′ ≼ y′_{1}y_{2} … y_{n}. Par récurrence, on déduit de (i) qu’il existe (d′, y′_{2}, …, y′_{k}) ∈ E(y′_{1}y_{2} … y_{n}, w_{1}, w′), donc (d, y′_{2}, …, y′_{k}) ∈ E(y, w, w′). Puisque s ≼ d, on déduit de l’étude précédente qu’il existe (v, u_{2}, …, u_{m}) ∈ E(y, w, w′), d’où (i). L’étude précédente montre aussi que γ_{y′_{k}} ⋯ γ_{y′_{2}}γ_{d} = γ_{y_{n}} ⋯ γ_{y_{2}}γ_{y_{1}}, donc, en utilisant à nouveau le cas précédent, γ_{u_{m}} ⋯ γ_{u_{2}}γ_{v} = γ_{y_{n}} ⋯ γ_{y_{1}}.

Soient maintenant (z_{1}, …, z_{k}) ∈ E(y, w, w′). Soit u ∈ W tel que z_{1} = uz′_{1}. Nous avons montré qu’il existe (u, u_{2}, …, u_{m}) ∈ E(y, w, w′) avec γ_{u_{m}} ⋯ γ_{u_{2}}γ_{u} = γ_{y_{n}} ⋯ γ_{y_{1}}. Par récurrence, (ii) montre que γ_{u_{m}} ⋯ γ_{u_{2}} = γ_{z_{k}} ⋯ γ_{z_{2}}γ_{z′_{1}}, donc γ_{u_{m}} ⋯ γ_{u_{2}}γ_{u} = γ_{z_{k}} ⋯ γ_{z_{2}}γ_{z_{1}}, d’où le (ii). □

Remarque 5.1.3. On en déduit que le sous-monoïde B_{w}^{+} ⊂ C_{B^{+}}(wF) considéré dans [BrMic, 5.6(ii)] s’identifie à End_{D^{+}}(w).

Soit D̃ la catégorie déduite de D̃^{+} en rendant toutes les flèches inversibles. Puisque B est un groupoïde, le foncteur canonique D̃^{+} → B s’étend de manière unique en un foncteur D̃ → B.

Proposition 5.1.4. Le foncteur canonique D̃ → B induit un isomorphisme D̃⟶^{∼}D.

Démonstration. Il s’agit de montrer que D̃ → B est pleinement fidèle.

Le lemme 5.1.5 ci-dessous ramène le problème au cas de flèches positives (i.e., de D̃^{+}) et la proposition 5.1.2 l’a déjà résolu. □

Lemme 5.1.5. Soit γ une flèche de D̃ et x, y ∈ B^{+} tels que γ = γ_{x}^{−1}γ_{y}. Alors, il existe x′, y′ ∈ B^{+} tels que γ = γ_{x′}γ_{y′}^{−1} et x^{−1}y = x′y^{′−1}.

Démonstration. Nous démontrons le lemme par récurrence sur inf(l(x), l(y)). Le lemme est évident si l(x) = 0 ou l(y) = 0.

Soient s, t ∈ S et x_{1}, y_{1} ∈ B^{+} tels que x = sx_{1} et y = ty_{1}.

Soit m = m_{s,t}. On a γ_{t} = γ_{t}^{w,t^{−1}wF (t)} et γ_{s} = γ_{s}^{w,s^{−1}wF (s)} pour un élément w ∈ B^{+}. Soient d_{i} = \underbrace{sts ⋯}_{i termes} et d′_{i} = \underbrace{tst ⋯}_{i termes} Alors, d_{m} = d′_{m} est le p.p.c.m. de s et t, donc d_{m} ≼ w. On a

γ_{d_{m}}^{w,d_{m}^{−1}wF (d_{m})} = γ_{s}γ_{d′_{m−1}} = γ_{t}γ_{d_{m−1}}, donc γ_{s}^{−1}γ_{t} = γ_{d′_{m−1}}γ_{d_{m−1}}^{−1}.

On obtient donc

γ_{x}^{−1}γ_{y} = γ_{x_{1}}^{−1}γ_{s}^{−1}γ_{t}γ_{y_{1}} = γ_{x_{1}}^{−1}γ_{d′_{m−1}}γ_{d_{m−1}}^{−1}γ_{y_{1}}.

Par récurrence, il existe x′′, y′′ ∈ B^{+} tels que γ_{x_{1}}^{−1}γ_{d′_{m−1}} = γ_{x′′}γ_{y′′}^{−1} et x′′′, y′ ∈ B^{+} tels que γ_{y′′d_{m−1}}^{−1}γ_{y_{1}} = γ_{x′′′}γ_{y′}^{−1}. On en déduit le lemme en posant x′ = x′′′x′′. □

5.2. Traces.

5.2.1. Soit C^{+} la catégorie des variétés quasi-projectives sur \overline{𝔽}_{q} munies des morphismes propres. On a un foncteur D̃^{+} → C^{+} qui envoie w sur X(w) et y sur D_{y} (cf. proposition 3.1.6).

Soit C la localisation de C^{+} en les morphismes qui induisent des équivalences de sites étales. Le foncteur précédent s’étend en un foncteur D̃ → C.

En composant avec le foncteur H_{c}^{∗}, on obtient un foncteur de C vers la catégorie des \overline{ℚ}_{ℓ}G^{F} - modules gradués.

Par abus de notation, nous noterons encore

D_{b} ∈ Hom_{_{\overline{ℚ}_{ℓ}}G_{F}} (H_{c}^{∗}(X(w)), H_{c}^{∗}(X(w′)))

l’image par le foncteur ci-dessus de D_{b} ∈ Hom_{C}(X(w), X(w′)). Nous nous intéresserons à calculer la représentation de End_{D}(w) ainsi obtenue dans End_{G^{F}} (H_{c}^{∗}(X(w))), qui sera dans certains cas une “algèbre de Hecke cyclotomique” associée au groupe End_{D}(w).

Soit Sh l’opérateur de torsion sur les classes de conjugaison de G^{F} défini comme suit. Soit g ∈ G^{F} et h ∈ G tel que g = h^{−1}F (h). Alors, Sh((g)) = (F (h)h^{−1}). On note encore Sh l’automorphisme de l’espace des fonctions centrales sur G^{F} qui s’en déduit.

Pour deux endomorphismes de Frobenius F_{1} et F_{2} de G, soit Sh_{F_{1}/F_{2}} la descente de Shintani de G^{F_{1}} à G^{F_{2}} (cf. [DiMic1, I, 7]). Soit g ∈ G^{F_{1}} et h ∈ G tel que g = h^{−1}F_{1}(h). Alors, Sh_{F_{1}/F_{2}}((g)) = (hF_{2}(h)^{−1}). On note encore Sh_{F_{1}/F_{2}} l’application linéaire des fonctions centrales sur G^{F_{1}} vers celles sur G^{F_{2}} qui s’en déduit.

On note T_{w} l’endomorphisme de \overline{ℚ}_{ℓ}[B^{F}] = Ind_{B^{F}}^{G^{F}} Id donné par B ↦ ∑_{B′} B′, où B′ décrit les éléments de B^{F} tels que B′ ⟶^{w} B.

Proposition 5.2.2. Soit w ∈ (B^{+})^{F}, g ∈ G^{F} et soit d un entier strictement positif. Alors, (i) L’endomorphisme gD_{w}F^{n} de X(w^{d}) vérifie la formule des traces pour tout n ≥ 0. (ii) On a

(g ↦ |X(w^{d})^{gD_{w}F^{n}}|) = \begin{cases}Sh^{d}(g ↦ Trace(gT_{w} | Ind_{B^{F}}^{G^{F}} Id)) & si n = 0 \\ Sh_{F^{n}/F} ∘ Sh_{F^{nd+1}/F^{n}}(g ↦ Trace(gT_{w}F^{n} | Ind_{B^{F^{nd+1}}}^{G^{F^{nd+1}}} Id)) & si n > 0. \end{cases}

Démonstration. L’élément w de (B^{+})^{F} admet une décomposition de la forme w_{0}^{I_{1}} … w_{0}^{I_{k}} où I_{1}, …, I_{k} sont des sous-ensembles F -stables de S (proposition 2.1.6). Soit

Y = X(\underline{w}_{0}^{I_{1}}, …, \underline{w}_{0}^{I_{k}}, …, \underline{w}_{0}^{I_{1}}, …, \underline{w}_{0}^{I_{k}})

(la suite \underline{w}_{0}^{I_{1}}, …, \underline{w}_{0}^{I_{k}} est répétée d fois), une compactification lisse F -stable de X(w^{d}) (propositions 2.3.6, 2.3.5 et corollaire 2.2.10).

Soit D′ = D_{\underline{w}}{I_{1} \atop 0}_{...}_{\underline{w}}_{0}^{I_{k}}. Le morphisme gD′F^{n} est fini et, comme il a une puissance égale à une puissance de F, son graphe est transverse à la diagonale. Par conséquent, l’opérateur gD′F^{n} sur Y vérifie la formule des traces (théorème 2.2.6). Notons qu’il prolonge l’endomorphisme gD_{w}F^{n} de X(w^{d}).

Nous considérons maintenant la stratification de Y donnée par (2.2.15). L’opérateur gD′F^{n} permute les pièces de cette stratification de la même manière que D′. Nous allons montrer par récurrence sur la longueur de w et pour chaque w par récurrence sur la dimension des pièces que gD′F^{n} vérifie la formule des traces sur toute union D′-stable de pièces.

Les deux membres de la formule des traces pour un endomorphisme f d’une variété X sont additifs par rapport à la décomposition de X comme union d’un nombre fini de sous-variétés localement fermées f-stables. Cela est clair pour le second membre et résulte pour le premier membre de la longue suite exacte de cohomologie pour l’union d’un ouvert et d’un fermé. Pour prouver que gD′F^{n} vérifie la formule des traces sur une union de pièces, on est donc ramené à le prouver pour une orbite de pièces sous D′.

Sur une orbite qui a au moins deux pièces gD′F^{n} n’a pas de point fixe. La cohomologie d’une telle orbite est la somme directe des cohomologies des pièces et gD′F^{n} permute cycliquement les facteurs de cette somme directe, donc a une trace nulle et vérifie la formule des traces dans ce cas. Si l’orbite est une seule pièce D′-stable, cette pièce est de la forme X((v_{1} … v_{k})^{d}), où v_{i} ∈ W_{I_{i}}^{F}, et gD′F^{n} induit gD_{v_{1}...v_{k}}F^{n} sur cette pièce. Si v_{1} … v_{k} n’est pas égal à w, l’opérateur gD_{v_{1}...v_{k}}F^{n} vérifie la formule des traces sur cette pièce par récurrence sur l(w). Si v_{1} … v_{k} = w, par récurrence sur la dimension des pièces on sait que gD_{w}F^{n} vérifie la formule des traces sur la réunion de toutes les autres pièces de Y. Comme il la vérifie sur Y, il la vérifie par additivité sur X(w^{d}).

Démontrons maintenant la deuxième assertion de la proposition. Un point fixe de gD_{w}F^{n} sur la variété X(w, …, w) (où w est répété d fois) est une suite (B_{1}, …, B_{d}) telle que (B_{1}, …, B_{d}) = (^{g}F^{n}(B_{2}), …,^{g}F^{n}(B_{d}),^{g}F^{n+1}(B_{1})). Une telle suite correspond à la donnée de B_{1} tel que B_{1} =

g^{d}F^{dn+1}(B_{1}) et ^{g}F^{n}(B_{1}) ⟶^{F^{n}(w)} B_{1}. Soit k tel que g^{d} = k^{−1}F^{nd+1}(k) et posons B′ = ^{k}B_{1} et

g′ = kgF^{n}(k)^{−1}. Alors les conditions deviennent B′ ∈ B^{F^{nd+1}} et ^{g′}F^{n}(B′) ⟶^{F^{n}(w)} B′. On a

Trace(g′T_{w}F^{n} | Ind_{B^{F^{nd+1}}}^{G^{F^{nd+1}}} Id) =| {B′ ∈ B^{F^{nd+1}} | ^{g′}F^{n}(B′) ⟶^{F^{n}(w)} B′}.

Pour conclure, il faut donc montrer que si n = 0 alors (g′) = Sh^{d}((g)) et sinon (g′) = Sh_{F^{n}/F^{nd+1}} ∘ Sh_{F/F^{n}}(g).

Commençons par le cas n = 0. On a une bijection de l’ensemble des classes de conjugaison rationnelles des conjugués géométriques de g vers H^{1}(F, C_{G}(g)), donnée par ^{k}g ↦ k^{−1}F (k). Ici, la classe de g′ est paramétrée par l’image de g^{d} dans H^{1}(F, C_{G}(g)). Or, d’après [DiMic1, IV, proposition 1.1], telle est l’image de la classe de g par Sh^{d}.

Supposons maintenant n ≥ 1. Soit alors h ∈ G tel que g = hF^{n}(h)^{−1}. Comme g ∈ G^{F}, on a g^{d} = gF^{n}(g) … F^{(d−1)n}(g) = hF^{dn}(h)^{−1} et g′ = (kh)F^{n}(kh)^{−1}. Donc, en utilisant que Sh_{F/F^{n}}(g) ⊂ G^{F^{n}}, on a

Sh_{F/F^{n}}(g) = F^{nd}(Sh_{F/F^{n}}(g)) = F^{nd}(h^{−1}F (h)) = (h^{−1}g^{d}F^{nd+1}(h)) = ((kh)^{−1}F^{nd+1}(kh)) ⊂ G^{F^{n}}

et Sh_{F^{n}/F^{nd+1}} de cette classe vaut bien (g′). □

La proposition suivante nous permettra de démontrer que certains opérateurs D_{y} ont une trace nulle sur la cohomologie de X(w) (quand nous saurons qu’ils vérifient la formule des traces).

Proposition 5.2.3. Soient w ∈ B^{+} et y ∈ End_{D^{+}}(w) tel que y ≼ π et que l’image β(y) ∈ W soit non triviale. Alors l’endomorphisme D_{y} de X(w) n’a pas de points fixes.

Démonstration. D’après les propriétés des mots dans B^{+} (cf. par exemple [BrMic, 3.20]), le fait que y divise π est équivalent à l’existence de x, x′ ∈ W tels que y = xx′. Soit y_{1} … y_{n} une décomposition de y comme dans la remarque 5.1.1(i) où nous supposons y_{i} ∈ W. Soit a ∈ X(w) et B = p′(a) (voir proposition 2.2.18). Alors, si on pose B_{1} = p′(D_{y_{1}}(a)), B_{2} = p′(D_{y_{1}y_{2}}(a)), etc…, un point fixe a de D_{y} donne lieu à une suite B ⟶^{y_{1}} B_{1} ⟶^{y_{2}} B_{2} … ⟶^{y_{n}} B, i.e. à un élément b ∈ O(y) tel que p′(b) = p′′(b).

Montrons que ceci est impossible. Par l’isomorphisme canonique O(xx′)⟶^{∼}O(x, x′), cela revient à l’existence d’une suite B ⟶^{x} B′ ⟶^{x′} B. Mais ceci n’est possible que si x′ = x^{−1}, ce que nous avons exclu en supposant que β(y) ≠ 1. □

5.2.4. Nous rappelons des constructions de [BrMic, §5.A et 6.D].

Proposition 5.2.5. Soit d un entier strictement positif.

(i) Soit D_{F^{d}}^{+} la catégorie D^{+} relative au Frobenius F^{d}. On a End_{D_{F^{d}}^{+}}(π) = C_{B^{+}}(F^{d}). On

en déduit une action à droite, que nous noterons b ↦ D_{b}^{πF^{d}}, du monoïde C_{B^{+}}(F^{d}) sur X(π, F^{d}).

(ii) Soit w ∈ B^{+} tel que (wF)^{d} = πF^{d}. L’application

O(w) ⟶^{i} O(w) × O(F (w)) × … × O(F^{d−1}(w)), x ↦ (x, F (x), …, F^{d−1}(x))

se restreint en un plongement de X(w) dans X(π, F^{d}). Pour tout b ∈ C_{B^{+}}(wF), l’opérateur D_{b}^{πF^{d}} défini en (i) stabilise X(w), et nous noterons D_{b} sa restriction à X(w). Ceci fournit une action à droite de C_{B^{+}}(wF) sur X(w) et une action à droite de C_{B}(wF) sur H_{c}^{∗}(X(w)).

Démonstration. Tout élément de W divisant π, on a C_{W}(πF^{d}) ⊂ End_{D_{F^{d}}^{+}}(π) ⊂ C_{B^{+}}(πF^{d}),

d’où (i) car C_{W}(πF^{d}) = C_{W}(F^{d}) engendre comme monoïde C_{B^{+}}(F^{d}) (cf. proposition 2.1.6). L’image par i de X(w) est clairement dans

O(w) ×_{B} O(F (w)) ×_{B} … ×_{B} O(F^{d−1}(w)) = O(wF (w) … F^{d−1}(w) = π)

d’où l’assertion sur i dans (ii). Enfin, le fait que D_{b}^{πF^{d}} stabilise X(w) quand b ∈ C_{B^{+}}(wF) n’est pas écrit dans [BrMic], mais on peut le voir comme suit : X(w) est caractérisé dans X(π, F^{d}) comme l’ensemble des solutions de l’équation D_{w}x = F (x). Cette équation est clairement préservée par l’action d’un tel D_{b}^{πF^{d}}. □

Il est clair que dans le cas où b divise w, l’opérateur défini en (ii) ci-dessus est bien le même que celui de la définition 3.1.5, donc quand b ∈ End_{D^{+}}(w) c’est le même qu’en §5.2.1.

5.2.6. Nous allons maintenant introduire une technique qui nous permettra d’obtenir des résultats pour les opérateurs D_{x} induits par les éléments x ∈ End_{D_{I}}(w) en nous ramenant à un sous-groupe de Levi de type I.

Définition 5.2.7. Soit I une partie de S. Nous notons D_{I}^{+} la plus petite sous-catégorie de D^{+} avec même ensemble d’objets et telle que {y ∈ B_{I}^{+} | y ≼ w, y^{−1}wF (y) = w′} ⊂ Hom_{D_{I}^{+}}(w, w′). De même, nous notons D_{I} la plus petite sous-catégorie de D contenant D_{I}^{+} et dont toutes les flèches sont inversibles.

Proposition 5.2.8. On se place dans le cadre des notations et des hypothèses de la définition 2.3.12 et de la proposition 2.3.13. Soit x ∈ B_{I}^{+} tel que x ≼ w. Alors, on a un diagramme commutatif

\xymatrix{X̃_{(I)}(ż_{1}, …, ż_{k}) ×_{L_{I}^{żF}} X_{L_{I}}(y, żF) \ar[r]^{∼} \ar[d]_{Id ×D_{x}} & X(w) \ar[d]^{D_{x}} \\ X̃_{(I)}(ż_{1}, …, ż_{k}) ×_{L_{I}^{żF}} X_{L_{I}}(x^{−1}y^{z}F (x), żF) \ar[r]^{∼} & X(x^{−1}wF (x))}

Démonstration. Notons tout d’abord que l’opérateur D_{x} est bien défini sur X_{L_{I}}(y, żF) car x ≼ y. Notons aussi que l’on a x^{−1}y^{z}F (x) = α_{I}(x^{−1}wF (x)) et z = ω_{I}(x^{−1}wF (x)) car x^{−1}wF (x) = (x^{−1}y^{z}F (x))z.

Puisque D_{x_{1}x_{2}} = D_{x_{2}} ∘ D_{x_{1}} si x_{1}x_{2} ≼ w, on peut supposer x ∈ W. Quitte à changer de décomposition de y, on peut en plus supposer x = y_{1}. L’opérateur Id ×D_{x} envoie

((g_{1}U_{I_{1}}, …, g_{k}U_{I_{k}}), (B_{1}, …, B_{h})) sur ((g_{1}U_{I_{1}}, …, g_{k}U_{I_{k}}), (B_{2}, …, B_{h}, żF (B_{1}))).

Via les isomorphismes de la proposition 2.3.13, cela correspond à envoyer

(^{g_{1}}(B_{1}U_{I}),^{g_{1}}(B_{2}U_{I}), …,^{g_{1}}(B_{h}U_{I}),^{g_{1}}(żF (B_{1})U_{I_{1}}),^{g_{2}}(^{ż_{2}...ż_{k}}F (B_{1})U_{I_{2}}), …,^{g_{k}}(ż_{k}F (B_{1})U_{I_{k}}))

sur l’élément A suivant de la variété X(y_{2}, …, y_{h},^{z}F (y_{1}), z_{1}, …, z_{k}) :

(^{g_{1}}(B_{2}U_{I}), …,^{g_{1}}(B_{h}U_{I}),^{g_{1}}(żF (B_{1})U_{I}),^{g_{1}}(żF (B_{2})U_{I_{1}}),^{g_{2}}(^{ż_{2}...ż_{k}}F (B_{2})U_{I_{2}}), …,^{g_{k}}(ż_{k}F (B_{2})U_{I_{k}})).

Rappelons que ^{z_{i}...z_{k}}F (y_{i})z_{i} = z_{i}^{z_{i+1}...z_{k}}F (y_{i}) ∈ W. L’isomorphisme canonique

O(^{z_{i}···z_{k}}F (y_{1}), z_{i})⟶^{∼}O(z_{i},^{z_{i+1}···z_{k}}F (y_{1}))

envoie

(^{g_{i}}(^{ż_{i}...ż_{k}}F (B_{1})U_{I_{i}}),^{g_{i}}(^{ż_{i}...ż_{k}}F (B_{2})U_{I_{i}}),^{g_{i+1}}(^{ż_{i+1}...ż_{k}}F (B_{2})U_{I_{i+1}}))

sur

(^{g_{i}}(^{ż_{i}...ż_{k}}F (B_{1})U_{I_{i}}),^{g_{i+1}}(^{ż_{i+1}...ż_{k}}F (B_{1})U_{I_{i+1}}),^{g_{i+1}}(^{ż_{i+1}...ż_{k}}F (B_{2})U_{I_{i+1}})).

L’isomorphisme canonique

O(^{z_{k}}F (y_{1}), z_{k})⟶^{∼}O(z_{k}, F (y_{1}))

envoie

(^{g_{k}}(ż_{k}F (B_{1})U_{I_{k}}),^{g_{k}}(ż_{k}F (B_{2})U_{I_{k}}), F (^{g_{1}}(B_{2}U_{I})))

sur

(^{g_{k}}(ż_{k}F (B_{1})U_{I_{k}}), F (^{g_{1}}(B_{1}U_{I})), F (^{g_{1}}(B_{2}U_{I}))).

Par composition des isomorphismes canoniques, on en déduit que A s’envoie sur l’élément

(^{g_{1}}(B_{2}U_{I}), …,^{g_{1}}(B_{h}U_{I}),^{g_{1}}(żF (B_{1})U_{I_{1}}),^{g_{2}}(^{ż_{2}...ż_{k}}F (B_{1})U_{I_{1}}), …,^{g_{k}}(ż_{k}F (B_{1})U_{I_{k}}), F (^{g_{1}}(B_{1}U_{I})))

de la variété X(y_{2}, …, y_{h}, z_{1}, …, z_{k}, F (y_{1})) : c’est bien l’image par D_{x} de la suite initiale, d’où le résultat. □

La proposition précédente a pour conséquence :

Corollaire 5.2.9. Soit x ∈ End_{D_{I}}(w). Alors, D_{x} ∈ End_{C}(X_{w}) correspond par l’isomorphisme de la proposition 2.3.13 à Id ×D_{x} (où D_{x} est vu dans End_{C}(X_{L_{I}}(y, żF))).

Soit L (resp. U) un complément de Levi (resp. le radical unipotent) d’un sous-groupe parabolique de G et n ∈ G tel que L est nF -stable. Soit R_{L,U,n}^{G} : R(L^{nF}) → R(G^{F}) le morphisme donné par

[V] ↦ ∑_{i}(−1)^{i}[H_{c}^{i}(X̃^{L,U}(n), \overline{ℚ}_{ℓ}) ⊗_{\overline{ℚ}_{ℓ}L^{nF}} V]

D’après [BrMaMic, Theorem 1.33] la restriction aux caractères unipotents de R_{L,U,n}^{G} ne dépend pas de U. Nous noterons alors R_{L,n}^{G} cette restriction.

Théorème 5.2.10. Soient w ∈ B^{+}, I ⊂ S tels que ^{w}F (B_{I}) = B_{I} et soit ż un représentant dans N_{G}(T) de β(ω_{I}(w)). Soit x ∈ End_{D_{I}^{+}}(w). Alors, la fonction centrale sur G^{F} donnée par g ↦ ∑_{i}(−1)^{i} Trace(gD_{x}|H_{c}^{i}(X(w), \overline{ℚ}_{ℓ})) est l’image par R_{L_{I},ż}^{G} de la fonction

l ↦ ∑_{i}(−1)^{i} Trace(lD_{x}|H_{c}^{i}(X_{L_{I}}(α_{I}(w), żF), \overline{ℚ}_{ℓ})).

Démonstration. Le théorème résulte des propositions 2.3.13 et 5.2.8, compte tenu du fait qu’on peut donc, si la forme normale de ω_{I}(w) est z_{1} … z_{k}, calculer R_{L_{I},ż}^{G^{F}} en utilisant la variété X̃_{(I)}(ż_{1}, …, ż_{k}), où les ż_{i} sont des représentants dans N_{G}(T) des z_{i} tels que ż = ż_{1} … ż_{k}. □

5.3. Cas w = π^{n}.

5.3.1. Soit (W, S) un groupe de Coxeter cristallographique muni d’un automorphisme σ. Soit H_{x}(W, σ) le quotient de l’algèbre du groupe C_{B^{+}}(σ) sur l’anneau ℤ[x^{1/2}, x^{−1/2}] par l’idéal engendré par les (w_{0}^{I}+1)(w_{0}^{I}−x^{l(w_{0}^{I})}) pour I ∈ S/σ. On note T_{I} l’image de w_{0}^{I} dans H_{x}(W, σ). Cette algèbre admet pour base \{T_{w}\}_{w∈W^{σ}} et se spécialise en l’algèbre de groupe \overline{ℚ}_{ℓ}W^{σ} par x^{1/2} ↦ 1 (rappelons que C_{B^{+}}(σ) est un monoïde de tresses, cf. proposition 2.1.6). Pour χ ∈ Irr(W^{σ}), nous notons χ_{x} ∈ Irr(H_{x}(W, σ)) le caractère qui se spécialise en χ par x^{1/2} ↦ 1.

On suppose maintenant à nouveau que W est le groupe de Weyl de G. Soit H_{q}(W, F) = H_{x}(W, F) ⊗_{f} \overline{ℚ}_{ℓ}, où f est la spécialisation x^{1/2} ↦ q^{1/2}.

On prend comme convention que les endomorphismes d’un espace vectoriel agissent à droite (donc, si M est un (A, B)-bimodule, alors on a un morphisme d’algèbres B → End_{A}(M)).

Proposition 5.3.2. On a H_{q}(W, F) ≃ End_{_{\overline{ℚ}_{ℓ}}G_{F}} (Ind_{B^{F}}^{G^{F}} Id).

Démonstration. Cette propriété est bien connue, mais faute de référence commode nous en rappelons une démonstration. On sait que End_{\overline{ℚ}_{ℓ}G^{F}} (Ind_{B^{F}}^{G^{F}} Id) est une algèbre de Hecke du groupe W^{F}, où les valeurs propres du générateur associé à w_{0}^{I} sont −1 et |(B/(B ∩ ^{w_{0}^{I}}B))^{F} | (cf. [Bou, IV, §1, exercice 24]). Pour calculer cette dernière valeur propre on utilise le fait que (B/(B ∩ ^{w_{0}^{I}}B))^{F} ≃ (U ∩ ^{w_{0}^{I}}U^{−})^{F} ; comme le nombre de points rationnels sur 𝔽_{q} d’un espace affine est indépendant de la 𝔽_{q}-structure considérée (voir par exemple [DiMic2, Example 3.7]), le nombre de points rationnels vaut q^{dim(U∩^{w^{I}_{0}}U^{−})} = q^{l(w_{0}^{I})}, ce qui est bien la valeur annoncée. □

5.3.3. Dans le cas où l’action de F sur W est triviale et n = 1, le théorème suivant est [BrMic, théorème 2.7].

Théorème 5.3.4. Pour tout n ≥ 1, l’action de C_{B^{+}}(F) sur X(π^{n}) (cf. proposition 5.2.5) induit un morphisme

H_{q}(W, F) → End_{_{\overline{ℚ}_{ℓ}}G_{F}} (⨁_{i} H_{c}^{i}(X(π^{n}))), T_{I} ↦ D_{w_{0}^{I}}.

Démonstration. Il suffit de voir que les D_{w_{0}^{I}} vérifient les relations quadratiques de H_{q}(W, F). Nous appliquons la proposition 5.2.8 avec I une partie F -stable de S (les hypothèses sont vérifiées pour tout x ∈ B_{I}^{+} tel que x ≼ π^{n}). Si x ∈ C_{B_{I}^{+}}(F) et x ≼ π^{n}, alors D_{x} est un endomorphisme de X(π^{n}) qui correspond d’après la proposition 5.2.8 à l’endomorphisme D_{x} de X_{L_{I}}(π_{I}^{n}), où π_{I} = (w_{0}^{I})^{2} est l’élément analogue à π pour L_{I} (car on a α_{I}(π^{n}) = π_{I}^{n}, et ż = 1). Via la formule de Künneth, il suffit donc de démontrer que l’endomorphisme D_{w_{0}^{I}} de X_{L_{I}}(π_{I}^{n}) vérifie la relation quadratique (D_{w_{0}^{I}} + 1)(D_{w_{0}^{I}} − q^{l(w_{0}^{I})}) = 0 quand I est une orbite de F dans S.

Soit I une orbite de F sur S. Le groupe adjoint (L_{I})_{ad} de L_{I} est une descente des scalaires, c’est-à-dire de la forme H^{k} où H est un groupe réductif quasi-simple, et (L_{I})_{ad}^{F} ≃ H^{F^{k}}. Les représentations unipotentes se factorisant par le groupe adjoint, la cohomologie de X_{L_{I}}(π_{I}^{n}) est isomorphe à celle de X′ = X_{H}(π_{H}^{kn}, F^{k}) (où π_{H} est l’élément analogue à π pour H) sur laquelle D_{w_{0}^{I}} induit l’action de D_{w_{0}^{H}} (proposition 2.3.3).

Le groupe H^{F^{k}} est d’un des types A_{1}(q^{k}), ^{2}A_{2}(q^{k}), ^{2}B_{2}(q^{k}) ou ^{2}G_{2}(q^{k}). D’après les théorèmes 4.2.9, 4.3.5 et 4.4.4, seules les représentations Id et St apparaissent dans la cohomologie de X′. D’après les propositions 3.3.14 et 3.3.15, la variété X′ n’a que deux groupes de cohomologie non nuls : en degrés 2knl(π_{H}) et knl(π_{H}). Sur H_{c}^{2knl(π_{H})}(X′), le groupe H^{F^{k}} agit par Id et la valeur propre de F^{k} est q^{k^{2}nl(π_{H})}. Sur H_{c}^{knl(π_{H})}(X′), il agit par St et la valeur propre de F^{k} est 1. Puisque les (\overline{ℚ}_{ℓ}G^{F})-modules H_{c}^{2knl(π_{H})}(X′) et H_{c}^{knl(π_{H})}(X′) sont irréductibles, l’action de D_{w_{0}^{H}} sur chacun d’eux est donnée par un scalaire.

Comme D_{w_{0}^{H}}^{2kn} = D_{π}{kn \atop H} = F^{k} sur X′, on en déduit que D_{w_{0}^{H}} agit sur H_{c}^{knl(π_{H})}(X′) (un espace

de dimension q^{k}) par α, une racine 2kn-ème de l’unité. En outre, D_{w_{0}^{H}} agit sur H_{c}^{2knl(π_{H})}(X′) (un espace de dimension 1) par q^{kl(w_{0}^{H})}β, où β est une racine 2kn-ème de l’unité.

D’après les propositions 5.2.2 (i) et 5.2.3, on a ∑_{i}(−1)^{i} Trace(D_{w_{0}^{H}}|H_{c}^{i}(X′, \overline{ℚ}_{ℓ})) = 0, donc α = −β. Soit g est un élément unipotent non trivial de H^{F^{k}}. Alors, Trace(g, St) = 0 et Trace(g, Id) = 1. D’après la proposition 5.2.2 (i), on a |(X′)^{gD_{w^{H}_{0}}}| = ∑_{i}(−1)^{i} Trace(gD_{w_{0}^{H}}|H_{c}^{i}(X′, \overline{ℚ}_{ℓ})) =

βq^{kl(w_{0}^{H})}, donc β = 1 puisque |(X′)^{gD_{w^{H}_{0}}}| est un entier positif. On a donc bien la relation quadratique annoncée. □

5.4. Cas w_{0}π^{n}. Soit H_{−q}(W, w_{0}F) la spécialisation de H_{x}(W, w_{0}F) via x^{1/2} ↦ i\sqrt{q}. Nous allons construire une représentation de l’algèbre H_{−q}(W, w_{0}F) dans End_{G^{F}} (⊕_{i}H_{c}^{i}(X(w_{0}))).

Soit I ∈ S/w_{0}F ; comme (w_{0}π^{n}F)^{2} = π^{2n+1}F^{2} et w_{0}^{I} ∈ C_{B^{+}}(w_{0}π^{n}F), la proposition 5.2.5 (ii) fournit un endomorphisme D_{w_{0}^{I}} de X(w_{0}π^{n}) pour tout n ∈ ℕ, donnant naissance à une action de C_{B^{W}} (w_{0}F) sur X(w_{0}π^{n}).

Les deux énoncés suivants généralisent [Lu1, 3.10 (b)] (cas où w_{0}F agit trivialement sur W).

Théorème 5.4.1. Pour tout n ≥ 0, l’action de C_{B^{+}}(w_{0}F) sur X(w_{0}π^{n}) induit un morphisme d’algèbres

H_{−q}(W, w_{0}F) → End_{_{\overline{ℚ}_{ℓ}}G_{F}} (⊕_{i}H_{c}^{i}(X(w_{0}π^{n}))), T_{I} ↦ (−1)^{l(w_{0}^{I})}D_{w_{0}^{I}}.

Démonstration. On procède comme dans la preuve du théorème 5.3.4. Il s’agit de prouver que pour tout I, l’action de (−1)^{l(w_{0}^{I})}D_{w_{0}^{I}} sur la cohomologie de X(w_{0}π^{n}) vérifie la même relation quadratique que T_{I}. Grâce au corollaire 5.2.9, il suffit de montrer que (−1)^{l(w_{0}^{I})}D_{w_{0}^{I}} vérifie la bonne relation quadratique sur la variété X_{L_{I}}(w_{0}^{I}π_{I}^{n}, w_{0}^{I}w_{0}F).

Soit H un groupe réductif quasi-simple tel que le groupe adjoint de L_{I} soit isomorphe à H^{k} et soit F′ l’endomorphisme de Frobenius sur H correspondant par cet isomorphisme à (w_{0}^{I}w_{0}F)^{k}. On se ramène à l’étude de l’opérateur D_{w_{0}^{H}}, induit par D_{w_{0}^{I}}, sur la variété X′ = X_{H}((w_{0}^{H}π_{H}^{n})^{k}, F′). Le groupe H^{F′} est d’un des types A_{1}(q^{k}), ^{2}B_{2}(q^{k}), ^{2}G_{2}(q^{k}), ^{2}A_{2}(q^{k}) (si k est pair) ou A_{2}(q^{k}) (si k est impair). D’après les théorèmes 4.3.5, 4.4.4, 4.2.9 et 4.2.4, seules les représentations Id et St apparaissent dans la cohomologie de la variété X′. D’après les propositions 3.3.14 et 3.3.15, la variété X′ n’a que deux groupes de cohomologie non nuls : en degrés kl(w_{0}^{H}π_{H}^{n}) et 2kl(w_{0}^{H}π_{H}^{n}). Le groupe H^{F′} agit sur H_{c}^{kl(w_{0}^{H}π_{H}^{n})}(X′) par St la valeur propre de F′ est 1. Sur H_{c}^{2kl(w_{0}^{H}π_{H}^{n})}(X′), le groupe H^{F′} agit par Id et F′ a comme valeur propre q^{k^{2}l(w_{0}^{H}π_{H}^{n})}.

L’opérateur D_{w_{0}^{H}} est une racine (2n + 1)k-ème de F′ et commute à H^{F′}. Par conséquent, il

agit sur H_{c}^{kl(w_{0}^{H}π^{n})}(X′) (un espace de dimension q^{kl(w_{0}^{H})}) par α et sur H_{c}^{2kl(w_{0}^{H}π^{n})}(X′) (un espace de dimension 1) par βq^{kl(w_{0}^{H})}, où α et β sont des racines (2n + 1)k-èmes de 1,

D’après les propositions 5.2.2 (i) et 5.2.3, on a ∑_{i}(−1)^{i} Trace(D_{w_{0}^{H}}|H_{c}^{i}(X′, \overline{ℚ}_{ℓ})) = 0, donc α = (−1)^{kl(w_{0}^{H})−1}β. Soit g est un élément unipotent non trivial de H^{F′}. D’après la proposition 5.2.2 (i), on a

|(X′)^{gD_{w^{H}_{0}}}| = ∑_{i}(−1)^{i} Trace(gD_{w_{0}^{H}}|H_{c}^{i}(X′, \overline{ℚ}_{ℓ})) = −β St(g) + βq^{kl(w_{0}^{H})} = βq^{kl(w_{0}^{H})},

donc β = 1 puisque |(X′)^{gD_{w^{H}_{0}}}| est un entier positif. On a donc bien la relation quadratique annoncée. □

Remarque 5.4.2. On pourra préférer considérer le morphisme T_{I} ↦ D_{w_{0}^{I}} où l’algèbre de Hecke de W^{w_{0}F} a pour paramètres {((−1)^{1+l(w_{0}^{I})}, q^{l(w_{0}^{I})})}_{I∈S/w_{0}F}.

L’énoncé précédent a la conséquence suivante.

Corollaire 5.4.3. Pour tout n ∈ ℕ, les valeurs propres de F dans la cohomologie de X(w_{0}π^{n}) sont soit de la forme ±q^{m}, soit de la forme ±iq^{m+ \frac{1}{2}} où m ∈ ℕ. On est toujours dans le premier cas si w_{0} est central dans W et G n’a pas de composante de type E_{7} ou E_{8}.

Démonstration. L’endomorphisme F agit sur ⊕_{i}H_{c}^{i}(X(w_{0}π^{n})) comme l’élément (−1)^{l(w_{0})}T_{w_{0}}^{2n+1} dans la représentation de H_{−q}(W, w_{0}F) sur cette cohomologie. Pour χ ∈ Irr(W^{w_{0}F}), nous notons χ_{−q} le caractère correspondant de H_{−q}(W, w_{0}F) et d_{χ_{−q}} le degré générique de χ_{−q}. Enfin nous noterons A_{χ} (resp. a_{χ}) le degré (resp. la valuation) de d_{χ_{−q}}. La valeur propre de T_{w_{0}}^{2} dans la représentation de caractère χ_{−q} est (−q)^{2N−a_{χ}−A_{χ}} [BrMic, corollaire 4.20] et les valeurs propres de T_{w_{0}} sont des racines carrées de cette valeur. Ceci démontre l’énoncé sauf la dernière phrase. Si w_{0} est central alors pour tout χ irréductible on a χ(w_{0}) ≠ 0 et si G n’a pas de composante de type E_{7} ou E_{8} alors par [BrMic, corollaire 4.19] on en déduit que a_{χ} + A_{χ} est pair (en effet tout caractère est alors “génériquement rationnel” suivant la terminologie de loc. cit.). □

Références

[BeiBerDe] A. A. Beilinson, J. Bernstein et P. Deligne, Faisceaux Pervers, Astérisque 100 (1982).

[Bo] A. Borel, Linear Algebraic Groups, Graduate Texts in Math. 126, Springer-Verlag (1991).

[Bou] N. Bourbaki, Groupes et algèbres de Lie, Chap. 4,5 et 6, Masson (1981).

[BrMaMic] M. Broué, G. Malle et J. Michel, Generic blocks of finite reductive groups, Astérisque 212, 7–92 (1993).

[BrMic] M. Broué et J. Michel, Sur certains éléments réguliers des groupes de Weyl et les variétés de Deligne-Lusztig associées, Progress in Math. 141, 73–139 (1997).

[Ch] C. Chevalley, Fondements de la géométrie projective, Paris (1958).

[De1] P. Deligne, La conjecture de Weil II, Publ. Math. IHÉS 52, 138–252 (1979).

[De2] P. Deligne, Action du groupe des tresses sur une catégorie, Invent. Math. 128, 159–175 (1997).

[DeLu] P. Deligne et G. Lusztig, Characters of finite reductive groups, Annals of Math. 103, 103–161 (1976).

[DiMic1] F. Digne et J. Michel, Fonctions L des variétés de Deligne-Lusztig et descente de Shintani, Mémoires de la SMF 20 (1985).

[DiMic2] F. Digne et J. Michel, Representations of Finite Groups of Lie Type, London Math. Society Student Texts 21, Cambridge University Press (1991).

[DiMic3] F. Digne et J. Michel, Cohomologie des variétés de Deligne-Lusztig, II, en préparation.

[Fu] K. Fujiwara, Rigid geometry, Lefschetz-Verdier trace formula and Deligne’s conjecture, Inventiones Math. 127, 489–533 (1997).

[GeMa] M. Geck et G. Malle, Fourier transforms and Frobenius eigenvalues for finite Coxeter groups, J. Algebra 260, 162–193 (2003).

[GePf1] M. Geck et G. Pfeiffer, On the irreducible characters of Hecke algebras, Adv. in Math. 102, 79–94 (1993).

[GePf2] M. Geck et G. Pfeiffer, “Characters of finite Coxeter groups and Iwahori-Hecke algebras”, Oxford Univ. Press (2000).

[GeKiPf] M. Geck, S. Kim et G. Pfeiffer, Minimal length elements in twisted conjugacy classes of finite Coxeter groups, J. Algebra 229, 570–600 (2000).

[Ha] B. Haastert, Die Quasiaffinität der Deligne-Lusztig Varietäten, J. Algebra 102-1, 186–193 (1986).

[KaLu] D. Kazhdan et G. Lusztig, Representations of Coxeter groups and Hecke algebras, Invent. Math. 53, 165–184 (1979).

[Lu1] G. Lusztig, Representations of Finite Chevalley Groups, C.B.M.S. 39 (1978).

[Lu2] G. Lusztig, Coxeter Orbits and Eigenspaces of Frobenius, Invent. Math. 38, 101–159 (1976).

[Lu3] G. Lusztig, Unipotent characters of the symplectic and odd orthogonal groups over a finite field, Invent. Math. 64, 263–296 (1981).

[Lu4] G. Lusztig, Characters of reductive groups over finite fields, Annals of Math. studies 107, Princeton University press (1984).

[Mic] J. Michel, A note on words in braid monoids, J. Algebra 215, 366–377 (1999).

[Mil] J.S. Milne, Étale Cohomology, Princeton Mathematical Series 33, Princeton University Press (1980).

[RaRa] S. Ramanan et A. Ramanathan, Projective normality of flag varieties and Schubert varieties, Invent. Math. 79, 217–224 (1985).

François Digne : LAMFA (CNRS UMR 6140), Université de Picardie-Jules Verne, 33 Rue Saint-Leu, 80039 Amiens Cedex, FRANCE

E-mail : digne@u-picardie.fr

Jean Michel : LAMFA (CNRS UMR 6140), Université de Picardie-Jules Verne, 33 Rue Saint-Leu, 80039 Amiens Cedex, FRANCE

et UFR de Mathématiques et Institut de Mathématiques de Jussieu (CNRS UMR 7586), Université Paris 7, 2 place Jussieu, 75251 Paris Cedex 05, FRANCE

E-mail : jmichel@math.jussieu.fr

Raphaël Rouquier : UFR de Mathématiques et Institut de Mathématiques de Jussieu (CNRS UMR 7586), Université Paris 7, 2 place Jussieu, 75251 Paris Cedex 05, FRANCE

E-mail : rouquier@math.jussieu.fr