Sur certains groupes d'opérateurs unitaires

Abstract

A force d'habitude, le fair que les sdries thSta ddfinissent des fonctions modulaires a presque cess6 de nous dtonner.Mais l'apparition du groupe symplectique comme un deus ex machina dans les cdl6bres travaux de Siegel sur les formes quadratiques n'a rien perdu encore de son caract6re mystdrieux.Le but de ce mdmoire, et de ceux qui lui feront suite, n'est pas, bien entendu, d'dlucider ddfinitivement la question, mais de jeter un peu de lumi6re sur certains aspects de cette thdorie qui dtaient restds dans l'ombre jusqu's prdsent.Une analyse attentive des travaux de Siegel permet en effet de ddceler le rSle capital qu'y joue une certaine reprdsentation unitaire, non pas du groupe symplectique lui-m~me, mais d'une extension centrale de ce groupe, ainsi que des groupes analogues sur les corps p-adiques.I1 se irouve que cette reprdsentation, pour le cas du groupe symplectique rdel (et m~me de sa g~ndralisation naturelle s l'espace de Hilbert), a dtd d~finie et ~tudide rdcemment par D. Shale [7], apr6s que son existence, ou du moins celle de la reprdsentation projective correspondante, eSt dtd reconnue par I. Segal [5] s propos de mdcanique quantique.Celui-ci est revenu sur la question [6], ~ la suite d'un exposd oh j'en avais soulignd l'importance en thdorie des nombres; j'ai empruntd ~ son travail, dont je lui suis reconnaissant de m'avoir communiqu6 le manuscrit, le principe de la ddmonstration du thdor6me d'existence (thdor6me 1 ci-dessous; pour une autre ddmonstration, cf.G. Mackey [3]), ainsi que l'idde de prendre pour point de ddpart la th6orie gdndrale des groupes abdliens localement compacts.En consdquence, les thdor6mes fondamentaux concernant la reprdsentation unitaire en question seront exposds au Chapitre I pour un groupe abdlien loealement compact qui n'est soumis ~ aucune hypoth6se restrictive; qu'il me soit permis, en passant, de signaler l'intdr6t qu'il y aurait peut-~tre s examiner de plus pr6s, du point de rue de la (x) Pendant la p~riode off co m6moire a 6t6 r6dig6, j'ai 6t6 support6 ~t la fois par la National Science Foundation (contrat GP-823) et par l'Institut des Hautes Etudes Scientifiques do Bures-sur-YveVte; h l'une eL h l'autre je suis heureux d'exprimer ici ma reconnaissance.10-642946 Acta mathematica.111.Imprim6 le 3 juin 1964.Chap#re II n~ X*, Ix, x*], cr Q(X), Qa(X).n ~ 24: l), p, Z, ~(]).n ~ 26: qm.n ~ 27: L.. n ~ 29: kv, or, A~,Xk, XA, Xv, X~, S, X~ Z, Xv. n ~ 30: 7,'v(]), 7"(