Table Of ContentRolf Isermann
ProzeBidentifikation
Identifikation und Parameterschatzung
dynamischer Prozesse mit diskreten Signalen
Springer-Verlag
Berlin Heidelberg New York 1974
Dr.-.lng ROLF ISERMANN
Professor im Fachbereich Energietechnik
an der Universitat Stuttgart
Mit 42 Abbildungen
ISBN-I3: 978-3-540-06911-9 e-ISBN-I3: 978-3-642-95263-0
001: 10.1007/978-3-642-95263-0
Das Werk ist urheberrechtlich geschUtzt. Die dadurch begrOndeten Rechte Insbesondere die der
Obersetzung des Nachdruckes. der Entnahme von Abbildungen. der Funksendung. der Wiedergabe auf
pholomechanischem oder ahnlichem Wege und der Speicherung in Datenverarbeitungsanlagen
bleiben auch bei nur auszugsweiser Verwertung vorbehalten.
Bel Vervielfiiltigungen fUr gewerbliche Zwecke ist gemiiB § 54 UrhG eine Vergiitung an den Verlag zu
zahlen. deren Hohe mit dem Verlag zu verelnbaren ist.
<£) by Springer-Verlag. Berlin/Heidelberg 1974.
Softcover reprint of the hardcover 1st edition 1974
Die Wiedergabe von Gebrauchsnamen. Handelsnamen. Warenbezeichnungen usw. in dlesem Buche
berechtigt auch ohne besondere Kennzeichnung nlcht zur Annahme. daB solche Namen
im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachlen waren und daher
von jedermann benutzl werden dUrften.
Offsetdruck: fotokop wilhelm weiher! kg. Darmstadt. Elnband Konrad Triltsch. Wiirzburg.
VOnNort
Eine wesentliche Voraussetzung zur Anwendung von Methoden der System
theorie ist bekanntlich die Kenntnis von mathematischen ModeZZen fur
das statische und dynamische Verhalten der Systeme. Die mathematischen
Modelle konnen dabei auf theoretischem oder experimentellem Wege ge
wonnen werden. Mann spricht dann von theoretischer Analyse (theoreti
sche Modellbildung) oder von experimenteller Analyse (ldentifikation,
Parameterschatzung). Welcher dieser beiden Wege fur einen bestimmten
Fall zu wahlen ist, hangt von der Aufgabenstellung und vom untersuch
ten System (ProzeB) abo Im allgemeinen erganzen sich beide Arten der
Modellgewinnung.
Im vorliegenden Band werden Verfahren zur Identifikation und Parame
tersch~tzung behandelt, die besonders fur den Einsatz von Oigital
rechnern geeignet sind. Dabei ist die Aufgabe zu losen, aus gemesse
nen Ein- und Ausgangssignalen mathematische Modelle fur das dynamische
(und statische) Verhalten zu ermitteln. Da die Elimination von uner
wunschten Storsignalen, die meist stochastischer Natur sind, eine we
sentliche Rolle spielt, ist die Identifikation nicht nur ein analyti
sches, sondern auch ein stochastisches Problem. Zu ihrer Losung be
notigt man auBer den speziellen ProzeBeigenschaften die Theorien der
dynamischen Systeme, der Signale, der Regelung, der Optimierung und
die digitale Rechentechnik.
Die ProzeBidentifikation kann auch als eine Proze~-Me~technik oder
System-Me~technik betrachtet werden, bei der nicht die Signalwerte
allein, sondern die durch die Prozesse gegebenen Wirkungszusammenhange
der Signalwerte interessieren.
In den letzten zehn Jahren wurden die Identifikationsmethoden wesent
lich durch den zunehmenden Gebrauch von DigitaZrechnern und durch die
moderne, auf parametrischen Modellen aufbauende RegeZungstheorie be
einfluBt. Dies fuhrte besonders zur Entwicklung von Parameterschatz
methoden fUr dynamische Prozesse, die im Zeitbereich arbeiten.
IV Vorwort
In diesem Band werden deshalb Identifikations- und Parameterschatz
methoden behandelt, die fUr die Auswertung mittels Digitalrechner
(bzw. ProzeBrechner) besonders geeignet sind und die fUr relativ
groBe Klassen von teahnisahen, bioZogisahen, okonomisahen und oko
Zogisahen Ppoaessen angewendet werden konnen.
Nach einigen grundsatzlichen Bemerkungen Uber die theoretischen und
experimentellen Verfahren der ModeZZgewinnung und ihre Wechselwir
kungen werden in Kapitel 1 die Aufgaben der ProzeBidentifikation be
schrieben. Es schlieBt sich eine KZassifikation dep Identifikations
vepfahpen an, mit der sich die vielfaltigen Verfahren Ubersichtlich
ordnen lassen.
Da die Identifikationsverfahren wegen des Einsatzes von Digitalrech
nern hauptsachlich in der Form fUr aeitdiskpete (abgetasteteJ SignaZe
interessieren, sind in Kapitel 2 einige grundlegende Beziehungen de
terminierter und stochastischer zeitdiskreter Signale und Prozesse
zusammengestellt.
Die weitere Unterteilung des Stoffes richtet sich nach der Form des
resultierenden mathematischen Modells. Teil A behandelt die fUr die
Identifikation von nichtparametrischen Modellen (Gewichtsfunktionen,
Korrelationsfunktionen) wichtigen KoppeZationsvepfahpen und die zu
gehorigen Testsignale. In Teil B werden Identifikationsverfahren fUr
parametrische Modelle (Differenzengleichungen, z-Ubertragungsfunktio
nen) dargestellt, die ausnahmslos Parameterschatzverfahren sind. Es
wird mit der einfachsten, grundlegenden Methode dep kZeinsten Quad
pate begonnen, die zunachst fUr statische und dann fUr dynamische Pro
zesse formuliert wird. Dabei werden sowohl nichtrekursive als auch
rekursive Schatzgleichungen angegeben. Die Behandlung der Parameter
schatzung mit Hilfe der stochastischen Parameteroptimierung fUhrt
dann zur (rekursiven) Methode der stoahastisahen Apppoximation.
Da be ide Methoden fUr gestorte dynamische Prozesse im allgemeinen
keine erwartungstreuen Parameterschatzwerte liefern, folgt die Be
schreibung verbesserter Parameterschatzmethoden: Methode dep vepaZZ
gemeinepten kZeinsten Quadpate, Methode dep HiZfsvapiabZen (instru
mental variables) und schlieBlich die Maximum-LikeZihood- und die
Bayes-Methode. Besonderer Wert wurde auf die Darstellung der inner en
Zusammenhange dieser Methoden gelegt. Es wird gezeigt, wie sich die
Vorwort v
wichtigsten Methoden aus der Bayes-Methode, die theoretisch die all
gemeinste Methode ist, systematisch ableiten lassen (Kapitel 10).
Die Verfahren zur Identifikation nichtparametrischer Modelle und die
Parameterschatzverfahren lassen sich so kombinieren, daB sich beson
dere Vorteile ergeben. In Teil C wird deshalb gezeigt, wie man die
Parameter dynamischer Prozesse aus einfachen Antwortfunktionen auf
nichtperiodiscrre Testsignale (z.B. Ubergangsfunktionen) bestimmen
kann, und wie sich insbesondere durch Kombination der Korrelationsana
lyse und der Methode der kleinsten Quadrate eine Parametersahatzung
in zwei Stufen ergibt, die besonders fur die On-Zine-Identifikation
mit Proze2reahnern entwickelt wurde.
In Teil D folgt ein VergZeiah der behandelten Identifikations- und
Parameterschatzverfahren in bezug auf ihre A-priori-Annahmen, Gute
(Konvergenz), Zuverlassigkeit und Rechenzeit. Dann werden Verfahren
zur Suahe der ModeZZordnung einschlieBlich Totzeit betrachtet.
Es folgt eine Behandlung verschiedener Probleme, wie Wahl des Ein
gangssignals und der Abtastzeit, die Elimination niederfrequenter
Storsignale, die Identifikation zeitvarianter Prozesse und die Uber
prufung identifizierter Modelle. SchlieBlich werden Ergebnisse der
On-line-Identifikation eines thermischen Prozesses mit einem ProzeB
rechner gezeigt.
Der Anhang enthalt Begriffe der Schatztheorie und verschiedene Ab
leitungen und Beispiele, die im Hauptteil ausgespart wurden.
Das Manuskript wurde in relativ kompakter Form geschrieben, sodaB es
sich fur den Unterricht eignet. Es richtet sich an Studenten der In
genieur- und Naturwissenschaften und an Ingenieure und Wissenschaft
ler in Industrie und Forschung. Vorausgesetzt werden grundlegende
Kenntnisse der linearen Regelungstheorie und der Statistik. Eine
Kenntnis der Theorie stationarer stochastischer Signale ist erwtinscht,
jedoch nicht unbedingt Voraussetzung, da in Abschnitt 2.2 die benotig
ten Begriffe und Gleichungen zusammengefaBt sind.
Zusammen mit den beiden Bandchen des Verfassers uber die "Experimentelle
Analyse von Regelsystemen" und die "Theoretische Analyse industrieller
Prozesse", die im Bibliographischen Institut, Mannheim 1971 erschienen
sind, und die die in den Jahren 1950-1969 entwickelten Identifikations
verfahren fur kontinuierliche Signale (Kennwertermittlung aus Uber
gangsfunktionen, Frequenzgangmessung, Fourieranalyse, Korrelationsver-
VI Vorwort
fahren, Modellabgleichverfahren) un9 eine Einfuhrung in die theore
tische Modellbildung zum Inhalt haben, durfte sich mit dem vorlie
genden Band ein abgerundetes Bild der Verfahren zur Modellgewinnung
dynamischer Prozesse ergeben.
Der Verfasser dankt seinen Mitarbeitern, insbesonders Herrn Dipl.-Ing.
U. Baur, Herrn Dipl.-Ing. W. Bamberger, Herrn Dipl.-Ing. H. Kurz und
Herrn Dipl.-Ing. H. Siebert, die verschiedene Parameterschatzverfahren
untersucht und beim Korrekturlesen behilflich waren. Fraulein Vlahov
danke ich fur das Anfertigen der Bilder. Mein Dank gilt ferner dem
Springer-Verlag fur die Herausgabe des Bandes und fur die angenehme
Zusammenarbeit.
SchlieBlich mochte ich besonders meiner Frau danken, die den vorlie
genden Text geschrieben hat.
Stuttgart, Juni 1974 Rolf Isermann
In haltsverzeich nis
1. Einflihrung .....••...•........•...••..................••.....
1.1 Theoretische und experimentelle ProzeBanalyse •........•.
1.2 Aufgaben und Probleme der ProzeBidentifikation .....•.... 7
1.3 Klassifikation von Identifikationsverfahren 13
2. Zeitdiskrete Signale und Prozesse •.....•..•......•.......... 23
2.1 Determinierte Signale und Prozesse ...................•.. 24
2.1.1 Determinierte diskrete Signale .•.....•..•..•...... 24
2.1 .2 Prozesse mit determinierten di·skreten Signalen .... 25
2.2 Stochastische Signale und Prozesse ...................... 26
2.2.1 Stochastische diskrete Signale .....•.............. 26
2.2.2 Prozesse mit stochastischen diskreten Signalen 33
A Identifikation mit nichtparametrischen Modellen ..•........... 35
3. Korrelationsanalyse ............•............................ 36
3.1 Schatzung von Korrelationsfunktionen ...........•...•.... 36
3.1 .1 Autokorrelationsfunktionen .••....•..•..•.......... 36
3.1.2 Kreuzkorrelationsfunktionen ...........•.•......... 39
3.2 Korrelationsanalyse linearer dynamischer Prozesse ....... 41
3.2.1 Ermittlung der Gewichtsfunktion ................... 41
3.2.2 EinfluB stochastischer Storsignale ......•......... 44
3.3 Binare Testsignale 45
B Identifikation mit parametrischen Modellen •....•....•........ 51
4. Methode der kleinsten Quadrate •.........................•... 52
4.1 Statische Prozesse ....................•...........•..... 52
4.1.1 Lineare statische Prozesse ...•.................... 52
4.1.2 Nichtlineare statische Prozesse .•................. 57
4.2 Dynamische Prozesse .••............•...•.............••.• 59
4.2 . 1 Grundg lei chungen .........•.....................•.• 59
4.2.2 Konvergenz ........................................ 65
VIII Inhaltsverzeichnis
4.3 Rekursive Methode der kleinsten Quadrate .••.••••••••••• 71
4.4 Methode der gewichteten kleinsten Quadrate •••••.••••••• 77
4.5 Numerische Probleme .•.••..•••••••.••••••••...••••••••.• 79
5. Stochastische Approximation ••••••.••.•••.•••.••••..•••..••• 82
6. Methode der verallgemeinerten kleinsten Quadrate ••••••..••• 87
6.1 Nichtrekursive Methode der verallgemeinerten kleinsten
Quadrate .•.•.••...•..••••••••••••••••••.•.•••..•••••••• 87
6.2 Rekursive Methode der verallgemeinerten kleinsten
Quadrate ....•••••.•••...••••••••.••••.••.•..•••.•..•.•• 90
7. Methode der Hilfsvariablen ..•.•..•••••••••...•......•••••.. 92
7.1 Nichtrekursive Methode der Hilfsvariablen •••••••••.•••• 92
7.2 Rekursive Methode der Hilfsvariablen 94
8. Maximum-Likelihood-Methode •••••.•••.••..•..•..••••••••••..• 97
9. Bayes-Methode .•..••.••••••••••••••••.••.•.••.•••••.•••••••• 106
10. Zusammenh~nge der Parametersch~tzmethoden .•...•..••..••••• 108
C Zweistufige Identifikation mit nichtparametrischen und
parametrischen Modellen ....•.••.•..•......•....•••••••••.•.• 111
11. Antwortfunktionen auf determinierte Testsignale und Methode
der kleinsten Quadrate ••.••••••••••••••••••••••.•••.•••••• 113
12. Stochastische Approximation und Methode der kleinsten
Quadrate .•.••••••••••••••••••..•••..••••••••••.•••••.•.••• 117
13. Korrelationsanalyse und Methode der kleinsten Quadrate .•.. 119
D Erg~nzungen 126
14. Vergleich der Parametersch~tzverfahren .•••••.••••••••••••• 127
14.1 Ubersicht •.••••.••.••••••••••••••.••.••.•••••••.•••.• 127
14.2 Giitevergleich •••.•.••••••••••••.•••••.•••••••••••.••• 132
15. Ermittl.u ng der Modellordnung ••••••••.••.••.••••••••••••••• 144
15.1 Bestimmung der Totzei t •...•..•.••••••.•••••••••••••.. 145
15.2 Bestimmung der Ordnung 146
Inhaltsverzeichnis IX
16. Verschiedene Probleme ..•.•.••.........•..•..•....••...•.• 1 51
16.1 Wahl des Eingangssignals •........•.•..........•...•. 151
!..............................
16.2 Wahl der Abtastzei t .. 153
16.3 Elimination niederfrequenter Storsignale (Drift) .••• 155
16.4 Identifikation von zeitvarianten Prozessen •••.•....• 158
16.5 UberprUfung des Modells (Verifikation) ....•.••.....• 158
16.6 On-line Identifikation mit ProzeBrechnern .•.••...••. 160
16.7 Zusammenfassung der Voraussetzungen fUr eine gute
ProzeBidentifikation ...•.••.•......•........••....•• 166
16.8 Nichtbehandelte Probleme der ProzeBidentifikation ••. 166
Anhang .••.•.••...••••.•.......•.•......•.•.••....••....•••••. 1 68
Einige Begriffe der Schatztheorie ...•...•............••.• 168
Zur Ableitung von Vektoren und Matrizen ......••....••.... 171
Satz zur Matrizeninversion 172
Vektorielle stochastische Prozesse •.••.•...•••........••. 173
Verschiedene Beispiele 175
Li tera turverzeichni s ....••••.•••...•.•.....••......•.••..•.•• 179
Sachverzeichnis ....•••....••.••.....••••.....•..........•.... 185
1. EinfOhrung
Das zeitliche Verhalten von beliebigen Systemen, wie z.B. technischen,
biologischen oder 6konomischen Systemen, kann mit Hilfe der System
theorie nach einheitlichen mathematischen Methoden beschrieben werden.
Zur Anwendung dieser Theorie mUssen jedoch mathematische Modelle fUr
das statische und dynamische Verhalten der Systeme bekannt sein.
Diese mathematischen Modelle werden durch eine Systemanalyse gewon
nen. Da sich das Verhalten eines Systems1 aus dem Verhalten seiner
verschiedenen Proaesse2 einschlieBlich Signale ergibt, setzt sich die
Systemanalyse im allgemeinen aus verschiedenen Proae2analysen und
Signalanalysen zusammen. Auch hierzu gibt es verschiedene Methoden,
die systemunabhangig gel ten.
1.1 Theoretische und experimentelle ProzeBanalyse
Man unterscheidet zwei verschiedene Wege der Analyse von Prozessen,
die theoretisahe und experimentelle ProzeBanalyse.
Bei der theoretisahen Analyse (theoretische Modellbildung) wird das
Modell berechnet. Man beginnt mit vereinfachenden Annahmen Uber den
ProzeB, die die Berechnung erleichtern oder Uberhaupt erst mit er
traglichem Aufwand erm6glichen. Dabei geht man wie folgt vor, vgl.
Bild 1.1:
(1) Aufstellen der Bilanagleiahungen fUr die gespeicherten Massen,
Energien und Impulse. Bei Prozessen mit 6rtlich verteilten
1 Unter einem System sei eine abgegrenzte Anordnung von aufeinander
einwirkenden Gebilden (Prozessen) verstanden (DIN 66201)
2 Mit Proae2 werde die Umformung und/oder der Transport von Materie,
Energie und/oder Information bezeichnet (DIN 66201)