Table Of ContentAndreas Meister
Numerik linearer Gleichungssysteme
Aus dem Programm ____________
~
Mathematik
Lineare Algebra mit Mathematica und Maple
von W. Strampp
Lineare Algebra
von G. Fischer
Übungsbuch zur linearen Algebra
von H. Stoppel und B. Griese
Lineare Algebra
von A. Beutelspacher
Analysis, 3 Bände
von O. Forster
Einführung in die Analysis
von rh. Sonar
Numerische Mathematik für Anfänger
von G. Opfer
Übungsbuch zur Numerischen Mathematik
von J. Herzberger
Numerische Methoden in der Technik
von R. Mohr
vieweg ________________- -"
Andreas Meister
Numerik linearer
Gleichungssysteme
Eine Einführung in moderne Verfahren
IJ
vleweg
Dr. Andreas Meister
Institut für Angewandte Mathematik
Universität Hamburg
Bundesstr. 55
20146 Hamburg
meister®math.uni-hamburg.de
Alle Rechte vorbehalten
© Friedr. Vieweg & Sohn Verlagsgesellschaft mbH, BraunschweigiWiesbaden, 1999
Der Verlag Vieweg ist ein Unternehmen der Bertelsmann Fachinformation GmbH.
Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt.
Jede Verwertung außerhalb der engen Grenzen des Urheberrechtsgesetzes
ist ohne Zustimmung des Verlags unzulässig und strafbar. Das gilt insbe
sondere für Vervielfaltigungen, Übersetzungen, Mikroverfilmungen und
die Einspeicherung und Verarbeitung in elektronischen Systemen.
http://www.vieweg.de
Konzeption und Layout des Umschlags: Ulrike Weigel, www.CorporateDesignGroup.de
Gedruckt auf säurefreiem Papier
ISBN 978-3-528-03135-0 ISBN 978-3-322-93899-2 (eBook)
DOI 10.1007/978-3-322-93899-2
Für Christel
vii
Vorwort
Im Rahmen der Numerik linearer Gleichungssysteme befassen wir uns mit der effizien
ten Lösung großer, linearer Systeme, wodurch ein wichtiges Teilgebiet der Numerischen
Linearen Algebra betrachtet wird, das in den letzten Jahren immer größere Bedeutung
gewonnen hat.
Der in den vergangenen zwei Dekaden vollzogene drastische Anstieg der Leistungsfähig
keit von Personal Computern, Workstations und Großrechneranlagen hat zu einer weit
verbreiteten Entwicklung numerischer Verfahren zur Simulation praxisrelevanter Pro
blemstellungen in der Medizin, der Physik, den Ingenieurwissenschaften und vielen wei
teren Bereichen geführt. Neben der Methode der Finiten Elemente, die inhärent auf ein li
neares Gleichungssystem führt, benötigen auch die häufig verwendeten Finite-Differenzen
und Finite-Volumen-Verfahren in Kombination mit einem impliziten Zeitschrittverfahren
einen Algorithmus zur Lösung linearer Gleichungssysteme. So ist es nicht verwunderlich,
daß die Forschungsaktivitäten auf dem Gebiet der Gleichungssystemlöser einen deut
lichen Aufschwung erfahren und zur Entwicklung einer Vielzahl effizienter Verfahren
geführt haben.
Das vorliegende Buch basiert auf den Inhalten einer vom Autor am Fachbereich Mathe
matik der Universität Hamburg gehaltenen vierstündigen Vorlesung, die sich im Kontext
der erwähnten Entwicklungen mit der Herleitung und Analyse klassischer sowie moderner
Methoden zur Lösung linearer Gleichungssysteme befaßte.
Aufgrund der, in diesem Gebiet vorliegenden Vielzahl unterschiedlicher direkter und ite
rativer Verfahren ist es innerhalb einer vierstündigen Vorlesung sicherlich nicht möglich
alle existierenden Algorithmen vorzustellen. Ziel dieses Manuskriptes ist es daher, dem
interessierten Leser einen Überblick über weite Bereiche dieses Gebietes zu vermitteln,
die für praktische Anwendungen wichtigen Methoden zu diskutieren, verwandte Algo
rithmen durch Bemerkungen und Literaturhinweise zu integrieren und die Erarbeitung
weiterer Verfahren zu erleichtern.
Die vorausgesetzten Grundkenntnisse beschränken sich hierbei gezielt auf übliche Inhalte
der Analysis und linearen Algebra mathematischer Vorlesungen in den ersten zwei Seme
stern eines Hochschulfaches, da die beschriebenen Methoden weit über die Grenzen eines
Mathematikstudiums von großem Interesse sind. Zur Unterstützung eines Selbststudiums
werden zudem alle benötigten Grundlagen in einem eigenständigen Kapitel bereitgestellt.
Nachdem das Auftreten linearer Gleichungssysteme im ersten Kapitel anhand einiger
Modellbeispiele beschrieben wird, stellen wir im zweiten Kapitel die für die folgenden
Methoden benötigten Grundlagen der linearen Algebra zur Verfügung. Das dritte Kapi
tel widmet sich den direkten Verfahren, die häufig in modernen Gleichungssystemlösern
involviert sind oder teilweise in unvollständigen Versionen als Vorkonditionierer verwen
det werden. Der Schwerpunkt liegt auf der Beschreibung iterativer Verfahren, die im
anschließenden vierten Kapitel vorgestellt werden. Hierbei wird stets besonderen Wert
auf eine Motivation sowie eine übersichtliche, einheitliche und mathematisch abgesicherte
Herleitung der iterativen Gleichungssystemlöser gelegt. Neben den Splitting-Methoden,
wie zum Beispiel dem Jacobi- und Gauß-Seidel-Verfahren, der Richardson-Iteration und
viii Vorwort
den Relaxationsverfahren, beschreiben wir zunächst die Zweigittermethode und anschlie
ßend das Mehrgitterverfahren sowie dessen vollständige Variante. Die Herleitung des
CG-Verfahrens nehmen wir durch eine Kombination der zuvor beschriebenen Verfah
ren des steilsten Abstiegs und der konjugierten Richtungen vor. Desweiteren betrachten
wir vom GMRES-Verfahren über die BiCG-Methode bis zum QMRCGSTAB-Verfahren
eine große Bandbreite moderner Krylov-Unterraum-Methoden, die zur Lösung von Glei
chungssystemen mit einer unsymmetrischen und indefiniten Matrix geeignet sind. Das ab
schließende fünfte Kapitel ist einer ausführlichen Beschreibung und Untersuchung mögli
cher Präkonditionierungstechniken gewidmet, da die dargestellten Verfahren bei praxis
relevanten Problemstellungen in der Regel erst in Kombination mit einem geeigneten
Vorkonditionierer eine stabile und effiziente Gesamtmethode liefert.
Die präsentierten Methoden finden ihre Anwendung in unterschiedlichsten numerischen
Verfahren, die in verschiedensten Programmiersprachen entwickelt wurden. Daher wurde
gezielt eine Darstellung der Algorithmen gewählt, die eine Umsetzung in ein beliebiges
Computer Programm ermöglichen, weshalb die Verwendung einer expliziten Program
miersprache vermieden wurde. Viele der präsentierten Verfahren sind bereits in Softwa
repaketen wie zum Beispiel LAPACK [3], LINSOL [70], Matlab [1] und Templates [7]
verfügbar.
Bedanken möchte ich mich an dieser Stelle bei Frau Monika Jampert, die weite Tei
le meines handschriftlichen Manuskriptes in ein 1;\1EX-Skript verwandelt hat und bei
Dipl. Math. Dirk Nitschke für seine Unterstützung bei allen 1;\1EX-Fragen. Zudem gilt
mein Dank Dr. Christoph Bäsler, Dipl. Math. Michael Breuss, Martin Ludwig, Christian
Nagel, Dipl. Math. Stefanie Schmidt und Dipl. Math. Christof Vömel für das intensive
Korrekturlesen und die vielen konstruktiven Hinweise und Bemerkungen, die sich in vie
len Bereichen positiv ausgewirkt haben. Besonders bedanken möchte ich mich an dieser
Stelle bei Prof. Dr. Thomas Sonar, der durch seine ermutigende Unterstützung und jah
relange fachliche Begleitung wesentlich zur Entstehung dieses Buches beigetragen hat.
Hamburg, im September 1999 ANDREAS MEISTER
ix
Inhaltsverzeichnis
1 Beispiele im das Auftreten linearer Gleichungssysteme 1
2 Grundlagen der linearen Algebra 7
2.1 Vektornormen und Skalarprodukt ........ . 7
2.2 Lineare Operatoren, Matrizen und Matrixnormen . 13
2.3 Konditionszahl und singuläre Werte 24
2.4 Der Banachsche Fixpunktsatz . 29
3 Direkte Verfahren 32
3.1 Gauß-Elimination 32
3.2 Cholesky-Zerlegung 42
3.3 QR-Zerlegung .... 45
3.3.1 Das Gram-Schmidt-Verfahren . 46
3.3.2 Die QR-Zerlegung nach Givens 51
4 Iterative Verfahren 55
4.1 Splitting-Methoden 58
4.1.1 Jacobi-Verfahren 62
4.1.2 Gauß-Seidel-Verfahren 67
4.1.3 Relaxationsverfahren . 70
4.1.3.1 Jacobi-Relaxationsverfahren 71
4.1.3.2 Gauß-Seidel-Relaxationsverfahren 74
4.1.4 Richardson-Verfahren ...... . 82
4.1.5 Symmetrische Splitting-Methoden 86
4.2 Mehrgitterverfahren . . 91
4.2.1 Zweigitterverfahren . 99
4.2.2 Der Mehrgitteralgorithmus 103
4.2.3 Das vollständige Mehrgitterverfahren 105
4.3 Projektionsmethoden und Krylov-Unterraum-Verfahren 106
4.3.1 Verfahren für symmetrische, positiv definite Matrizen 111
x Inhaltsverzeichnis
4.3.1.1 Die Methode des steilsten Abstiegs ..... 113
4.3.1.2 Das Verfahren der konjugierten Richtungen 118
4.3.1.3 Das Verfahren der konjugierten Gradienten 120
4.3.2 Verfahren für reguläre Matrizen. . . . . . . . . . 129
4.3.2.1 Der Arnoldi-Algorithmus und die FOM 129
4.3.2.2 Der Lanczos-Algorithmus und die D-Lanczos-Methode . 134
4.3.2.3 Der Bi-Lanczos-Algorithmus 138
4.3.2.4 Das GMRES-Verfahren 143
4.3.2.5 Das BiCG-Verfahren. 158
4.3.2.6 Das CGS-Verfahren 165
4.3.2.7 Das BiCGSTAB-Verfahren 168
4.3.2.8 Das TFQMR-Verfahren . . 174
4.3.2.9 Das QMRCGSTAB-Verfahren 184
4.3.2.10 Konvergenzanalysen . . . . . . 187
5 Präkonditionierer 189
5.1 Skalierungen 190
5.2 Polynomiale Präkonditioner 193
5.3 Splitting-assoziierte Präkonditionierer 196
5.4 Die unvollständige LU-Zerlegung ... 197
5.5 Die unvollständige Cholesky-Zerlegung 200
5.6 Die unvollständige QR-Zerlegung 201
5.7 Die unvollständige Frobenius-Inverse . 203
5.8 Das präkonditionierte CG-Verfahren . 205
5.9 Das präkonditionierte BiCGSTAB-Verfahren 208
5.10 Vergleich der Präkonditionierer . 211
Literaturverzeichnis 215
Index 220
1
1 Beispiele für das Auftreten linearer
Gleichungssysteme
In diesem Kapitel beschäftigen wir uns mit der Entstehung linearer Gleichungssyste
me auf der Basis physikalisch relevanter Problemstellungen. Die ausgewählten Beispiele
verdeutlichen einerseits das Auftreten schwachbesetzter (Beispiele 1.1 und 1.4) sowie voll
besetzter (Beispiele 1.2 und 1.3) Matrizen und dienen andererseits als Modellprobleme
(Beispiele 1.1 und 1.4) für die Analyse der in den folgenden Abschnitten beschriebenen
Verfahren.
Beispiel 1.1 Die Poisson-Gleichung
Die Poisson-Gleichung stellt eine elliptische partielle Differentialgleichung zweiter Ord
nung dar, die zu einem Standardproblem bei der Untersuchung partieller Differentialglei
chungen und deren numerischer Behandlung geworden ist. Sie tritt unter anderem bei der
numerischen Simulation inkompressibler reibungsbehafteter Strömungsfelder, das heißt
bei der Diskretisierung der inkompressiblen Navier-Stokes-Gleichungen auf [15, 20].
Unter Verwendung des Laplace-Operators
{J2 (j2
ß = ax2 + ay2
läßt sich die Poisson-Gleichung als Randwertproblem auf dem Gebiet f! C 1R2 in der
Form
-ßU(X,y) = f(x,y) für (x,y) E f! C 1R2,
(1.0.1)
u~~)=~~~)mr~~)Eaf!
schreiben, wobei af! den Rand von f! beschreibt.
Bei gegebener Funktion fEe (f!; IR) und gegebenen Randwerten ~ E C (af!; IR) wird
folglich eine Funktion U E C2 (f!; IR) nC (0; IR) gesucht, die dem Randwertproblem
(1.0.1) genügt.
Zur Diskretisierung der Poisson-Gleichung auf dem Einheitsquadrat f! = (0,1) x (0,1)
mittels einer zentralen Finite-Differenzen-Methode wird 0 = f! u af! mit einem Gitter
f!h der Schrittweite h = 1/(N + 1) mit NE N versehen.
Wir schreiben
(Xi,Yj) = (ih,jh) für i,j = 0, ... ,N + 1
sowie
Desweiteren approximieren wir
A. Meister, Numerik linearer Gleichungssysteme
© Friedr. Vieweg & Sohn Verlagsgesellschaft mbH, Braunschweig/Wiesbaden 1999
