Modèles et méthodes stochastiques: Une introduction avec applications

500 Pages·2014·13.14 MB·French

by  Pierre Del Moral

Mathématiques et Applications 75
Pierre Del Moral
Christelle Vergé
Modèles et
méthodes
stochastiques
Une introduction avec applications
Mathématiques
et
Applications
Directeurs de la collection:
J. Garnier et V. Perrier
75
For furthervolumes:
http://www.springer.com/series/2966
MATHÉMATIQUES & APPLICATIONS
Comité de Lecture 2012–2015/Editorial Board 2012–2015
RémiABGRALL ClaudeLEBRIS
Inst.Math.,UniversityofZurich,CH CERMICS,ENPC,MarnelaVallée,FR
[email protected] [email protected]
GrégoireALLAIRE SylvieMÉLÉARD
CMAP,ÉcolePolytechnique,Palaiseau,FR CMAP,ÉcolePolytechnique,Palaiseau,FR
[email protected] [email protected]
MichelBENAÏM FelixOTTO
Inst.Math.,Univ.deNeuchâtel,CH InstituteofAppliedMath.,Bonn,GE
[email protected] [email protected]
MaïtineBERGOUNIOUX ValériePERRIER
MAPMO,Universitéd’Orléans,FR Lab.Jean-Kunztmann,ENSIMAG,Grenoble,FR
[email protected] [email protected]
ThierryCOLIN PhilippeROBERT
Inst.Math.,UniversitéBordeaux1,FR INRIARocquencourt,LeChesnay,FR
[email protected] [email protected]
Marie-ChristineCOSTA PierreROUCHON
UMA,ENSTA,Paris,FR AutomatiqueetSystèmes,ÉcoleMines,Paris,FR
[email protected] [email protected]
ArnaudDEBUSSCHE BrunoSALVY
ENSCachan,Bruz,FR INRIA,LIP-ENSLyon,FR
[email protected] [email protected]
IsabelleGALLAGHER AnnickSARTENAER
Inst.Math.Jussieu,Univ.Paris7,FR Dépt.Mathématiques,Univ.Namur,Namur,BE
[email protected] [email protected]
JosselinGARNIER EricSONNENDRÜCKER
Lab.Proba.etMod.Aléatoires,Univ.Paris7,FR IRMA,Strasbourg,FR
[email protected] [email protected]
StéphaneGAUBERT AlainTROUVÉ
INRIA,Saclay,îles-de-France,Orsay,FR CMLA,ENSCachan,FR
[email protected] [email protected]
EmmanuelGOBET CédricVILLANI
CMAP,ÉcolePolytechnique,Palaiseau,FR IHP,Paris,FR
[email protected] [email protected]
RaphaèleHERBIN EnriqueZUAZUA
CMILATP,Universitéd’Aix-Marseille,FR BCAM,Bilbao,ES
[email protected] [email protected]
MarcHOFFMANN
CEREMADE,UniversitéParis-Dauphine,FR
[email protected]
Directeurs de la collection:
J. GARNIER et V. PERRIER
Pierre Del Moral Christelle Vergé
•
Modèles et méthodes
stochastiques
Une introduction avec applications
123
Pierre DelMoral ChristelleVergé
School ofMathematics and Statistics ONERA-The French Aerospace Lab
The Universityof New SouthWales Palaiseau
Sydney, NSW France
Australia
and
CNES
Toulouse
France
ISSN 1154-483X
ISBN 978-3-642-54615-0 ISBN 978-3-642-54616-7 (eBook)
DOI 10.1007/978-3-642-54616-7
Springer Heidelberg NewYork Dordrecht London
LibraryofCongressControlNumber:2014934117
MathematicsSubjectClassification(2010):37A50,46N30,60H99,60J20,60J25,60J60,60J75,62L20
(cid:2)Springer-VerlagBerlinHeidelberg2014
Tousdroitsdetraduction,dereproductionetd’adaptationréservéspourtouspays.
Laloidu11mars1957interditlescopiesoulesreproductionsdestinéesàuneutilisationcollective.
Toute représentation, reproduction intégrale ou partielle faite par quelque procédé que ce soit, sans
leconsentementdel’auteuroudesesayantscause,estilliciteetconstitueunecontrefaçonsanctionnée
parlesarticles425etsuivantsduCodepénal.
Imprimésurpapiernonacide
SpringerestmembredugroupeSpringerScience+BusinessMedia(www.springer.com)
Pierre Del Moral
`
A Laurence, Tiffany, et Timoth´ee
Christelle Verg´e
`
A mes parents
Avant-propos
La th´eorie des probabilit´es et des processus stochastiques est sans aucun
doute l’un des plus importants outils math´ematiques des sciences modernes.
Comme le soulignait James Clerk Maxwell d`es 1850 :
“Theactualscienceoflogicisconversantatpresentonlywiththingseither
certain, impossible or entirely doubtful, none of which fortunately we have to
reason on. Therefore the true logic for this world is the calculus of Probabi-
lities, which takes account of the magnitude of the probability which is, or
ought to be, in a reasonable man’s mind.”
La th´eorie des probabilit´es est aujourd’hui pleinement d´evelopp´ee au sein
des sciences math´ematiques fondamentales et appliqu´ees. Elle s’illustre au-
jourd’hui dans de nombreux domaines issus de la biologie, de la physique,
et des sciences de l’ing´enieur : dynamique des populations, traitement du
signal et de l’image, chimie mol´eculaire, ´econom´etrie, sciences actuarielles,
math´ematiques financi`eres, ainsi qu’en analyse de risque. Le but de cet ou-
vrage est de parcourir les principaux mod`eles et m´ethodes stochastiques de
cette th´eorie en pleine expansion.
Cevoyagenen´ecessiteaucunbagagesp´ecifiquesurlath´eoriedesprocessus
stochastiques. Quelques ´el´ements sur la th´eorie des probabilit´es, et sur la
th´eorie des syst`emes dynamiques d´eterministes permettrons d’appr´ecier la
beaut´e de certains paysages. D’un point de vue purement math´ematique, il
est important de souligner que la th´eorie des processus stochastiques est une
extension naturelle de la th´eorie de syst`emes dynamiques `a des ph´enom`enes
al´eatoires.
La nature al´eatoire ajout´ee `a ces syst`emes dynamiques stochastiques pro-
vient de trois sources naturelles et bien distinctes :
Toutd’abord,lesfluctuationsal´eatoiresstructurellesdecertaines´evolutions
degrandeursphysiques,biologiques,ou´economiques,telleslar´epartitiondela
chaleur sur des mat´eriaux, l’´evolution al´eatoires de populations bact´eriennes,
lesmutationsal´eatoires,ainsiqueless´electionsg´en´etiques,lesvariationschao-
tiques d’actifs boursiers, et bien d’autres.
VIII Avant-propos
D’autre part, la plupart des processus al´eatoires formalis´es sont des
mod`eles math´ematiques tr`es simplifi´es ne rendant compte que d’une par-
tie du ph´enom`ene ´etudi´e. Dans ce contexte, les al´eas rajout´es au syst`eme
repr´esentent les erreurs de mod´elisation, ou tout autre quantit´e influant sur
son´evolution:param`etresdecontrˆoleoudemod`elesinconnusetpartiellement
observ´es,perturbationsdecapteursdemesures.Lanatureprobabilistedeces
variables al´eatoires est bien souvent dict´ee par une connaissance a priori du
syst`eme.
Enfin, comme le souligne Ian Stewart dans son ouvrage [142], le mot
grec stochastikos signifie “habile a` viser”, et “transmet ainsi l’id´ee de l’uti-
lisation contemporaine des lois du hasard en vue d’avantages personnels”.
Dans le cadre des algorithmes stochastiques, les composantes al´eatoires du
syst`eme permettent d’augmenter les capacit´es d’exploration et d’adaptation
du mod`ele. A` la diff´erence de leurs homologues d´eterministes, les m´ethodes
de recherche stochastiques permettent d’explorer des espaces de grandes di-
mensions, tout en ´evitant certains pi`eges, tels des puits de minima locaux
en optimisation globale. A titre d’exemple, l’algorithme de recuit simul´e peut
s’interpr´etercommeunalgorithmededescentedegradientcoupl´ea`destransi-
tionsal´eatoirespeufr´equentesdansdesdirectionsoppos´eespour´eviterd’ˆetre
pi´eg´e dans des minima locaux. Dans un autre contexte, les algorithmes parti-
culairessontdestechniquesd’estimationstochastiquemimantdesdynamiques
al´eatoiresdepopulationsd’individuseninteractionetenadaptationavecleur
milieu.
Dans cet ouvrage, ces trois sources d’al´eatoire sont explor´ees sous des
angles th´eorique et pratique. Nous soulignerons leurs fondations math´e-
matiques,ainsiqueleursdiff´erentesinterpr´etationsdansdesdomainesscienti-
fiquesvari´esli´es`alaphysique,labiologie,ainsiquedanslessciencessociales,
en math´ematiques financi`eres, en analyse de risques, et dans les sciences de
l’ing´enieur.
La th´eorie des processus stochastiques est essentiellement consacr´ee `a
l’analyse de deux classes de mod`eles probabilistes :
La premi`ere classe concerne les processus stochastiques formalis´es repr´e-
sentant des ´evolutions de ph´enom`enes al´eatoires rencontr´es en physique, en
biologique, en ´economie, ou en sciences de l’ing´enieur. La seconde classe
concerne des algorithmes d’exploration stochastique d’espaces de solutions
complexes pour r´esoudre des probl`emes d’estimation, d’optimisation et d’ap-
prentissage statistique.
Ces deux classes de mod`eles et m´ethodes stochastiques sont intimement
li´ees. En effet, la plupart des algorithmes stochastiques modernes sont fond´es
sur des m´ecanismes de recherche mimant des processus d’exploration et
d’adaptation biologiques ou physiques. En d’autres termes, ces algorithmes
miment le plus souvent des processus d’´evolution ou d’apprentissage dict´es
pardesr`eglesoudesloisphysiques,ouencorecertainsprincipesdel’´evolution
naturelle. Les fonctions it´er´ees al´eatoires simulent l’´elaboration naturelle et
chaotique de formes sym´etriques complexes, telles les flocons de neige ou
Avant-propos IX
d’autres paysages fractals. L’algorithme de Robbins-Monro simule un pro-
cessusd’apprentissagehumainderecherched’undosageoptimalenobservant
les diff´erents effets et r´eactions du produit au cours du temps. Le recuit si-
mul´e mime le processus de refroidissement d’un m´etal `a l’´etat liquide vers
un ´etat solide stable `a ´energie minimale. L’´echantillonneurdeGibbs simule
pas `a pas les transitions conditionnelles locales de chaque composante d’un
syst`emephysiqueparrapportauxautrescomposantes.L’algorithmedesimu-
lation de Metropolis-Hastings mime les m´ecanismes d’apprentissage humains
fond´es sur des r`egles d’acceptation ou de rejet de propositions al´eatoires. Les
algorithmes de type g´en´etiques, et les arbres g´en´ealogiques correspondants,
simulent l’´evolution al´eatoire d’une population d’individus dans un environ-
nement suivant des m´ecanismes d’adaptation de type mutation-s´election, ou
encore des principes de naissance et mort.
Tous les mod`eles stochastiques d´ecrits dans cet ouvrage admettent ainsi
des interpr´etations distinctes et vari´ees, selon le domaine d’application consi-
d´er´e. Par exemple, les techniques d’exploration g´en´etiques d´ecrites ci-dessus
font actuellementpartie destechniquesde r´esolutionles plusavanc´eesen sta-
tistiquebay´esienne,entraitementdusignal,enanalysed’´ev`enementsrares,en
combinatoire ´enum´erative, en optimisation combinatoire, en math´ematiques
financi`eres,ainsiqu’enphysiqueetchimiequantique.Enstatistiquebay´esienne,
cesalgorithmesg´en´etiquessontplutoˆtper¸cuscommedes´echantillonsal´eatoires
suivant des lois a posteriori. Dans le cadre du filtrage de signaux, ces mod`eles
peuvent s’interpr´eter comme des approximations particulaires des ´equations
d’´evolution du filtre optimal. Dans ce contexte, les populations simul´ees
peuvents’interpr´etercommeunetechniquedemaillagestochastiqueadaptatif
d’unsyst`eme`avaleursmesures.Enanalysederisque,cesalgorithmesparticu-
laires sont aussi utilis´es pour explorer des s´equences de niveaux d´ecroissants,
en dupliquant les excursions ayant r´eussi `a d´epasser les niveaux recherch´es.
Dans ce contexte, ces mod`eles peuvent ˆetre vus comme des techniques de si-
mulation de lois cibles de type acceptation-rejet, coupl´ees a` des m´ecanismes
de recyclages. Enfin, en chimie mol´eculaire, ces algorithmes g´en´etiques s’in-
terpr`etent comme des populations de marcheurs ´evoluant dans des milieux
absorbants suivant des m´ecanismes de reconfigurations.
Suivant la litt´erature consid´er´ee, on rencontre ainsi le mˆeme algorithme
stochastique sous diverses appellations : m´ethodes de Monte Carlo s´equen-
tielles, m´ethodes et filtres particulaires, algorithmes de branchement multi-
niveaux, algorithme g´en´etique, ou encore m´ethodes de Monte Carlo diffusives
ou quantiques.
D’un point de vue purement math´ematique, les m´ethodes stochastiques
pr´esent´ees dans cet ouvrage s’expriment en terme d’une chaˆıne de Markov.
Les propri´et´es de convergence des algorithmes vers la solution du probl`eme
´etudi´e d´ecoulent de principes de moyennisation asymptotique en temps long,
ou encore de principes de moyennisation spatiale pour les algorithmes fond´es
sur des dynamiques de population. Ces deux propri´et´es de convergence sont
traduites en terme de lois des grands nombres, ou encore en terme de pro-
X Avant-propos
pri´et´esergodiquesdeprocessusal´eatoires.Cesdeuxnotionsmath´ematiquesne
sontquebri`evementexamin´eesdanscetouvrage.Lelecteurd´esireuxd’appro-
fondir ces aspects th´eoriques et analytiques peut consulter les trois ouvrages
consacr´es `a ces questions [10, 36, 37], ainsi que les articles r´ef´erenc´es dans ces
deux livres, et ceux cit´es `a la fin de cet ouvrage.
Dans cette ´etude, nous avons choisi de mettre l’accent sur les aspects
li´es `a la mod´elisation et aux techniques stochastiques, en soulignant les in-
terpr´etations biologiques ou physiques originelles, tout en illustrant leurs ap-
plicationsdanslar´esolutiondeprobl`emesd’estimationclassiquesdessciences
physiques et de l’ing´enieur. Bien entendu, ce catalogue est loin d’ˆetre exhaus-
tif, il refl`ete simplement certaines expressions classiques de ces mod`eles, ou
certains gouˆts des auteurs. D’autres domaines d’applications concrets sont
d´evelopp´es dans les ouvrages compl´ementaires de S. Asmussen [5], S. Asmus-
sen, et P.W. Glynn [6], O. Capp´e, E. Moulines, et T. Ryd`en [26], G. Fish-
man [65], S. P. Meyn [119], et l’ouvrage de r´ef´erence de S.P. Meyn et R.L.
Tweedie [118] sur la stabilit´e des chaˆınes de Markov.
Cetouvrageentroispartiestraiterespectivementdemod`elesprobabilistes,
de m´ethodes et algorithmes stochastiques, et de leurs diff´erentes expressions
dans divers domaines d’applications.
La premi`ere partie est consacr´ee `a la mod´elisation stochastique. Nous
d´ecrirons diff´erentes classes de mod`eles stochastiques dans un ordre de com-
plexit´e croissant. Nous commencerons cette´etude par des mod`eles de chaˆınes
deMarkovdiscr`etessurdesespacesfinis,puisnous´etendronscesmod`eles`ades
espacesabstraitsetplusg´en´eraux.Nousexamineronsensuitedeuxclassesim-
portantesdeprocessusstochastiqueseninteraction.Lapremi`ereconcernedes
mod`elesdechaˆınesdeMarkovnonlin´eairesd´efiniesentermesdetransitionsde
probabilit´esd´ependantdesloisdes´etatscourants.Nouspr´esentonsensuiteles
interpr´etations particulaires stochastiques de ces mod`eles. Ces sch´emas d’ap-
proximation num´eriques s’expriment en termes de syst`emes de particules en
interaction de type champ moyen. La seconde classe de processus en interac-
tion concerne des processus stochastiques en auto-interaction par rapport `a
leurs mesures d’occupation temporelle. Les liens entre processus a` temps dis-
creteta`tempscontinusontensuited´evelopp´essousdesanglesmath´ematiques
et physiques.
Le seconde partie est consacr´ee aux m´ethodes stochastiques, et plus par-
ticuli`erement aux m´ethodes de Monte Carlo avanc´ees et aux algorithmes sto-
chastiques. Nous commencerons cette ´etude avec les mod`eles assez classiques
de Monte Carlo par chaˆınes de Markov (en abbr´eg´e algorithmes MCMC), tels
les algorithmes de Metropolis-Hastings, et l’´echantillonneur de Gibbs. Nous
examinerons par la suite les mod`eles de Feynman-Kac, et leurs diff´erentes in-
terpr´etationsparticulaires.Cesmod`elesstochastiquesplusr´ecentspermettent
de repr´esenter des lois conditionnelles de trajectoires al´eatoires par rapport `a
des observations partielles du processus; ou encore des ´ev`enements critiques
tels des taux d’absorption, ou des r´egimes de fonctionnement critique. Outre