Table Of ContentStudienskripten zur Soziologie
Dieter Urban
Jochen Mayerl
Angewandte
Regressions analyse:
Theorie, Technik und Praxis
5. Auflage
Studienskripten zur Soziologie
Reihe herausgegeben von
H. Sahner, Halle (Saale), Deutschland
M. Bayer, Nürnberg, Deutschland
R. Sackmann, Halle, Deutschland
Die Bände „Studienskripten zur Soziologie“ sind als in sich abgeschlossene Bau-
steine für das Bachelor- und Masterstudium konzipiert. Sie umfassen sowohl
Bände zu den Methoden der empirischen Sozialforschung, Darstellung der
Grundlagen der Soziologie als auch Arbeiten zu so genannten Bindestrich-Sozio-
logien, in denen verschiedene theoretische Ansätze, die Entwicklung eines The-
mas und wichtige empirische Studien und Ergebnisse dargestellt und diskutiert
werden. Diese Studienskripten sind in erster Linie für Anfangssemester gedacht,
sollen aber auch dem Examenskandidaten und dem Praktiker eine rasch zugängli-
che Informationsquelle sein.
Weitere Bände in der Reihe http://www.springer.com/series/12699
Dieter Urban · Jochen Mayerl
Angewandte
Regressionsanalyse:
Theorie, Technik und
Praxis
5., überarbeitete Auflage
Dieter Urban Jochen Mayerl
Stuttgart, Deutschland Kaiserslautern, Deutschland
Studienskripten zur Soziologie
ISBN 978-3-658-01914-3 ISBN 978-3-658-01915-0 (eBook)
https://doi.org/10.1007/978-3-658-01915-0
Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbiblio-
grafie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.
Springer VS
© Springer Fachmedien Wiesbaden GmbH, ein Teil von Springer Nature 2018
Zuvor erschienen unter „Regressionsanalyse: Theorie, Technik und Anwendung“
Das Werk einschließlich aller seiner Teile ist urheberrechtlich geschützt. Jede Verwertung, die
nicht ausdrücklich vom Urheberrechtsgesetz zugelassen ist, bedarf der vorherigen Zustimmung
des Verlags. Das gilt insbesondere für Vervielfältigungen, Bearbeitungen, Übersetzungen,
Mikroverfilmungen und die Einspeicherung und Verarbeitung in elektronischen Systemen.
Die Wiedergabe von Gebrauchsnamen, Handelsnamen, Warenbezeichnungen usw. in diesem
Werk berechtigt auch ohne besondere Kennzeichnung nicht zu der Annahme, dass solche
Namen im Sinne der Warenzeichen- und Markenschutz-Gesetzgebung als frei zu betrachten
wären und daher von jedermann benutzt werden dürften.
Der Verlag, die Autoren und die Herausgeber gehen davon aus, dass die Angaben und Informa-
tionen in diesem Werk zum Zeitpunkt der Veröffentlichung vollständig und korrekt sind.
Weder der Verlag noch die Autoren oder die Herausgeber übernehmen, ausdrücklich oder
implizit, Gewähr für den Inhalt des Werkes, etwaige Fehler oder Äußerungen. Der Verlag bleibt
im Hinblick auf geografische Zuordnungen und Gebietsbezeichnungen in veröffentlichten Karten
und Institutionsadressen neutral.
Verantwortlich im Verlag: Katrin Emmerich
Gedruckt auf säurefreiem und chlorfrei gebleichtem Papier
Springer VS ist ein Imprint der eingetragenen Gesellschaft Springer Fachmedien Wiesbaden
GmbH und ist Teil von Springer Nature
Die Anschrift der Gesellschaft ist: Abraham-Lincoln-Str. 46, 65189 Wiesbaden, Germany
Inhalt
Vorwort . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . IX
1 Einführung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1 .1 Benutzerhinweise zu einem „theoriegeleiteten Rezeptbuch“ . . . . . . . . 1
1 .2 Regressionsanalyse als statistisches Modell . . . . . . . . . . . . . . . . . . . . . 4
1 .3 Die wichtigsten Datenvoraussetzungen (in praktischer Hinsicht) . . . . 11
2 Das Grundmodell der Regressionsanalyse . . . . . . . . . . . . . . . . . . . . . . . 19
2 .1 Das allgemeine Regressionsmodell . . . . . . . . . . . . . . . . . . . . . . . . . . 19
2 .2 Regression im bivariaten Modell . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.2.1 Koeffizientenschätzung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.2.2 Varianzzerlegung der abhängigen Variablen (Y) . . . . . . . . . . 48
2.2.3 Der problematische Determinationskoeffizient (R2), Teil 1 . . 56
2 .2 .4 Regression und Standardisierung . . . . . . . . . . . . . . . . . . . . . . 61
2 .3 Regression im multivariaten Modell . . . . . . . . . . . . . . . . . . . . . . . . . 75
2.3.1 Modelllogik und Kontrollfunktion zusätzlicher
X-Variablen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
2 .3 .2 Varianzzerlegung und Standardisierung im multivariaten
Modell . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 89
2.3.3 Die Problematik standardisierter Regressionskoeffizienten . . 96
2.3.4 Der problematische Determinationskoeffizient (R2), Teil 2 . . 101
2 .4 Schrittweise Variablenauswahl . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104
3 Regressionstheorie . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
3.1 Die bestmögliche Regressionsschätzung . . . . . . . . . . . . . . . . . . . . . 107
3.1.1 Kriterien einer präzisen Regressionsschätzung . . . . . . . . . . 108
3.1.2 Grundannahmen der BLUE-Schätzung . . . . . . . . . . . . . . . . . 112
V
VI Inhalt
3 .2 Inferenzstatistik in der Regressionsanalyse . . . . . . . . . . . . . . . . . . . . 121
3 .2 .1 Normalverteilung . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 122
3.2.2 Signifikanzniveau und Testlogik des Signifikanztests . . . . . 124
3.2.3 Testfehler und Teststärke (power) . . . . . . . . . . . . . . . . . . . . . 129
3 .3 Testverfahren im bivariaten Regressionsmodell . . . . . . . . . . . . . . . 133
3.3.1 Standardfehler, Konfidenzintervall und Signifikanztest
des Regressionskoeffizienten . . . . . . . . . . . . . . . . . . . . . . . . . 136
3.3.2 Signifikanztest des Gesamtmodells . . . . . . . . . . . . . . . . . . . . 144
3.3.3 Ermittlung von Effektstärke und Teststärke . . . . . . . . . . . . . 146
3 .3 .4 Ermittlung eines sinnvollen Stichprobenumfangs . . . . . . . . . . 149
3 .4 Testverfahren im multiplen Regressionsmodell . . . . . . . . . . . . . . . . . 152
3.4.1 Signifikanztest der Regressionskoeffizienten . . . . . . . . . . . . . 152
3.4.2 Signifikanztest des Gesamtmodells . . . . . . . . . . . . . . . . . . . . 154
3.4.3 Ermittlung von Effektstärken, Teststärken und
Stichprobenumfang . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
3 .5 SPSS-Beispiel: Multivariate OLS-Regression . . . . . . . . . . . . . . . . . 160
4 Entdeckung und Beseitigung von Modellverstößen . . . . . . . . . . . . . . . . 169
4 .1 Stichprobenumfang und Stichprobenfehler . . . . . . . . . . . . . . . . . . . . 177
4 .1 .1 Ausreißer-Residuen und Instabilität bei kleinen Fallzahlen . . . 177
4 .1 .2 Normalverteilung (A) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187
5
4 .2 0-Mittelwert der Residuen (A) . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196
2
4.3 Linearität (A, A) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196
3 4
4.3.1 Intrinsische Linearität . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201
4.3.2 Intrinsische Linearität: Interaktivität zwischen
metrischen X-Variablen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
4.4 Spezifikationsprobleme . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
4.4.1 Strategien zur Vermeidung von Spezifikationsfehlern . . . . . 225
4.4.2 Ermittlung von Spezifikationsfehlern (A) . . . . . . . . . . . . . . 228
3
4.5 Multikollinearität . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 231
4.5.1 Ermittlung von Multikollinearität . . . . . . . . . . . . . . . . . . . . . 237
4.5.2 Beseitigung von Multikollinearität . . . . . . . . . . . . . . . . . . . . 242
4.6 Streuungsungleichheit (Heteroskedastizität) (A) . . . . . . . . . . . . . . 252
1
4 .6 .1 Ermittlung von Streuungsungleichheit . . . . . . . . . . . . . . . . . 255
4 .6 .2 Gegenmaßnahmen bei Streuungsungleichheit . . . . . . . . . . . 267
4 .7 Autokorrelation (A) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283
4
4 .7 .1 Ermittlung von Autokorrelation . . . . . . . . . . . . . . . . . . . . . . . 287
4 .7 .2 Beseitigung von Autokorrelation . . . . . . . . . . . . . . . . . . . . . . 292
4 .8 Zusammenfassung: Residuenanalyse . . . . . . . . . . . . . . . . . . . . . . . . 297
Inhalt VII
5 Regressionsanalyse mit qualitativen Variablen . . . . . . . . . . . . . . . . . . 301
5 .1 Qualitative Variablen als Dummy-Variablen . . . . . . . . . . . . . . . . . . 301
5.2 Regressionsmodelle mit unabhängigen Dummy-Variablen . . . . . . . 308
5.3 Regressionsmodelle mit unabhängigen metrischen Variablen
und unabhängigen Dummy-Variablen (inkl. Interaktivität) . . . . . . . . 312
5 .4 Varianz- und Kovarianzanalyse als Regressionsmodell mit
Dummy-Variablen . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 318
5 .5 Dummy-Effekte und Standardisierung . . . . . . . . . . . . . . . . . . . . . . . 321
6 Mediator- und Moderatoreffekte . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 325
6 .1 Regressionsanalyse mit Moderatorvariablen . . . . . . . . . . . . . . . . . . 325
6 .1 .1 Moderatoreffekte als Interaktionseffekte . . . . . . . . . . . . . . . 326
6 .1 .2 Moderatoreffekte in der Multigruppenanalyse . . . . . . . . . . . . 331
6 .2 Regressionsanalyse mit Mediatorvariablen . . . . . . . . . . . . . . . . . . . 334
6.2.1 Signifikanz der direkten, indirekten und totalen Effekte . . . 340
6 .2 .2 Statistischer Nachweis von Mediatoreffekten . . . . . . . . . . . . 343
6 .2 .3 Kombination von Mediator- und Moderatoreffekten . . . . . . 346
7 Erweiterte Regressionsanalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 349
7 .1 Sequenzielle Regressionsanalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . 349
7.2 Regressionskoeffizienten als Stabilitätskoeffizienten
(Panelanalysen) ......................................... 356
7 .3 Bootstrapping in der Regressionsanalyse . . . . . . . . . . . . . . . . . . . . . . 361
7 .3 .1 Grundlogik des Bootstrapping-Verfahrens . . . . . . . . . . . . . . . 361
7 .3 .2 Resampling-Verfahren in der Regressionsanalyse . . . . . . . . 364
7.3.3 Standardfehler und Konfidenzintervall im Bootstrapping-
Verfahren . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 369
7 .3 .4 SPSS-Beispiel: Bootstrapping einer linearen Regression . . . 371
8 ML-basierte Regressionsanalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 379
8.1 Das Maximum-Likelihood Schätzverfahren . . . . . . . . . . . . . . . . . . . 381
8.2 Binär logistische Regressionsanalyse . . . . . . . . . . . . . . . . . . . . . . . . 387
8.2.1 Gewinnchancen (Odds) und Effektkoeffizienten
(Odds Ratios) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 399
8 .2 .2 Durchschnittliche marginale Effekte (AME’s) . . . . . . . . . . . 405
8 .2 .3 Modell-Evaluation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 415
8 .2 .4 Problemdiagnostik im logistischen Regressionsmodell . . . . . 419
8.2.5 SPSS-Beispiel: Binär logistische Regression . . . . . . . . . . . . 427
VII
VIII Inhalt
8 .2 .6 Modellvergleiche / sequenzielle Analyse
(Problem der unbeobachteten Heterogenität) . . . . . . . . . . . . 430
9 Regressionsanalyse bei fehlenden Werten . . . . . . . . . . . . . . . . . . . . . . . 437
9 .1 Die Problematik fehlender Werte in der Regressionsanalyse . . . . . 437
9 .2 Statistische Analyse fehlender Werte . . . . . . . . . . . . . . . . . . . . . . . . 441
9 .3 Strategien zum Umgang mit fehlenden Werten in der
Regressionsanalyse . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 453
9 .3 .1 Der listenweise Ausschluss von Fällen („listwise deletion“) . . 454
9 .3 .2 Die stochastische Regressionsimputation (sRI) . . . . . . . . . . 460
9 .3 .3 Die Multiple Imputation (MI) . . . . . . . . . . . . . . . . . . . . . . . . 466
9 .4 Imputation und Design-Gewichtung in SPSS . . . . . . . . . . . . . . . . . 485
Tabellenanhang . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 489
Literaturverzeichnis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 501
Register . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 507
Vorwort zur 2. Auflage
Das vorliegende Studienskript ist die komplett überarbeitete und um viele zusätzliche
Inhalte und Kapitel ergänzte Neuauflage des Studienskipts „Regressionstheorie
und Regressionstechnik“ (erschienen im ehemaligen Teubner-Verlag, Stuttgart) .
Auch in dieser Neuauflage wurde daran festgehalten, dass es sich dabei um eine
Arbeitshilfe für Praktiker der empirischen Sozialforschung handeln soll . Es sollen
in diesem Skript analytisch fundierte und anwendungsorientierte Informatio-
nen zur Durchführung von Regressionsanalysen angeboten werden, die sowohl
für Neueinsteiger als auch für fortgeschrittene Anwender dieser statistischen
Modellierung verständlich und nützlich sind. Um dies zu erreichen, wurde eine
Darstellungsweise gewählt,
• bei der alle wichtigen Schritte der Regressionsanalyse an Beispielen veran-
schaulicht werden,
• bei der zu allen Analyseschritten die entsprechenden SPSS-Anweisungen vor-
gestellt werden,
• bei der die Essentials der Regressionsanalyse deutlich herausgestellt werden
(in Z-Kästen),
• bei der auf formal-statistische Argumentationen entweder gänzlich verzichtet
wird, oder diese in markierten Erweiterungsblöcken (Ergänzungskästen) separat
vorgestellt werden, so dass die entsprechenden Ausführungen leicht zu übergehen
sind (bzw. für ein intensiveres Studium leicht aufzufinden sind).
Die inhaltlichen Schwerpunkte der vorliegenden Darstellung von Theorie und
Technik der Regressionsanalyse liegen in den Bereichen:
• SPSS-gestützte Anwendung regressionsanalytischer Verfahren,
• schätztheoretische Grundlagen der Regressionsschätzung,
• statistische Überprüfung regressionsanalytischer Modellannahmen,
IX
