Semidefinite Optimierung mit Anwendungen

91 Pages·2010·1.95 MB·German

SemidefiniteOptimierung L¨osungsverfahren Anwendungen
Semidefinite Optimierung mit Anwendungen
Christoph Helmberg (TU Chemnitz)
• Semidefinite Optimierung
• L¨osungsverfahren
• Anwendungen
SemidefiniteOptimierung L¨osungsverfahren Anwendungen
Inhalt
Semidefinite Optimierung
L¨osungsverfahren
Anwendungen
(cid:20) (cid:21)
x z
(cid:23) 0
z y
X (cid:23) 0 ⇐⇒
• X = (cid:80)n λ (X)v vT mit λ ≥ 0.
i=1 i i i i
• X = VTV 5
4
3
• (cid:104)X,A(cid:105) ≥ 0 ∀A (cid:23) 0
2
1
0
X (cid:31) 0 ⇐⇒ −1
−2
det(X ) > 0 ∀J ⊆ {1,...,n} −3 0
J −4 4 2
−5 6
0 1 2 3 4 5 6 7 8 9 10 108
A,B ∈ Sn, α ≥ 0 ⇒ α(A+B) ∈ Sn
+ +
Sn ist konvex, abg., selbstdual, spitz (A (cid:23) B :⇔ A−B (cid:23) 0),
+
aber nicht polyedrisch.
SemidefiniteOptimierung L¨osungsverfahren Anwendungen
Der Kegel der positiv semidefiniten Matrizen
X ∈ Sn positiv semidefinit (X (cid:23) 0,∈ Sn) :⇐⇒ vTXv ≥ 0 ∀v ∈ Rn
+
X ∈ Sn positiv definit (X (cid:31) 0,∈ Sn ) :⇐⇒ vTXv > 0 ∀v ∈ Rn \{0}
++
(cid:20) (cid:21)
x z
(cid:23) 0
z y
5
4
3
2
1
0
X (cid:31) 0 ⇐⇒ −1
−2
det(X ) > 0 ∀J ⊆ {1,...,n} −3 0
J −4 4 2
−5 6
0 1 2 3 4 5 6 7 8 9 10 108
A,B ∈ Sn, α ≥ 0 ⇒ α(A+B) ∈ Sn
+ +
Sn ist konvex, abg., selbstdual, spitz (A (cid:23) B :⇔ A−B (cid:23) 0),
+
aber nicht polyedrisch.
SemidefiniteOptimierung L¨osungsverfahren Anwendungen
Der Kegel der positiv semidefiniten Matrizen
X ∈ Sn positiv semidefinit (X (cid:23) 0,∈ Sn) :⇐⇒ vTXv ≥ 0 ∀v ∈ Rn
+
X ∈ Sn positiv definit (X (cid:31) 0,∈ Sn ) :⇐⇒ vTXv > 0 ∀v ∈ Rn \{0}
++
X (cid:23) 0 ⇐⇒
• X = (cid:80)n λ (X)v vT mit λ ≥ 0.
i=1 i i i i
• X = VTV
• (cid:104)X,A(cid:105) ≥ 0 ∀A (cid:23) 0
(cid:20) (cid:21)
x z
(cid:23) 0
z y
5
4
3
2
1
0
−1
−2
−3 0
−4 4 2
−5 6
0 1 2 3 4 5 6 7 8 9 10 108
A,B ∈ Sn, α ≥ 0 ⇒ α(A+B) ∈ Sn
+ +
Sn ist konvex, abg., selbstdual, spitz (A (cid:23) B :⇔ A−B (cid:23) 0),
+
aber nicht polyedrisch.
SemidefiniteOptimierung L¨osungsverfahren Anwendungen
Der Kegel der positiv semidefiniten Matrizen
X ∈ Sn positiv semidefinit (X (cid:23) 0,∈ Sn) :⇐⇒ vTXv ≥ 0 ∀v ∈ Rn
+
X ∈ Sn positiv definit (X (cid:31) 0,∈ Sn ) :⇐⇒ vTXv > 0 ∀v ∈ Rn \{0}
++
X (cid:23) 0 ⇐⇒
• X = (cid:80)n λ (X)v vT mit λ ≥ 0.
i=1 i i i i
• X = VTV
• (cid:104)X,A(cid:105) ≥ 0 ∀A (cid:23) 0
X (cid:31) 0 ⇐⇒
det(X ) > 0 ∀J ⊆ {1,...,n}
J
A,B ∈ Sn, α ≥ 0 ⇒ α(A+B) ∈ Sn
+ +
Sn ist konvex, abg., selbstdual, spitz (A (cid:23) B :⇔ A−B (cid:23) 0),
+
aber nicht polyedrisch.
SemidefiniteOptimierung L¨osungsverfahren Anwendungen
Der Kegel der positiv semidefiniten Matrizen
X ∈ Sn positiv semidefinit (X (cid:23) 0,∈ Sn) :⇐⇒ vTXv ≥ 0 ∀v ∈ Rn
+
X ∈ Sn positiv definit (X (cid:31) 0,∈ Sn ) :⇐⇒ vTXv > 0 ∀v ∈ Rn \{0}
++
(cid:20) (cid:21)
x z
(cid:23) 0
z y
X (cid:23) 0 ⇐⇒
• X = (cid:80)n λ (X)v vT mit λ ≥ 0.
i=1 i i i i
• X = VTV 5
4
3
• (cid:104)X,A(cid:105) ≥ 0 ∀A (cid:23) 0
2
1
0
X (cid:31) 0 ⇐⇒ −1
−2
det(X ) > 0 ∀J ⊆ {1,...,n} −3 0
J −4 4 2
−5 6
0 1 2 3 4 5 6 7 8 9 10 108
SemidefiniteOptimierung L¨osungsverfahren Anwendungen
Der Kegel der positiv semidefiniten Matrizen
X ∈ Sn positiv semidefinit (X (cid:23) 0,∈ Sn) :⇐⇒ vTXv ≥ 0 ∀v ∈ Rn
+
X ∈ Sn positiv definit (X (cid:31) 0,∈ Sn ) :⇐⇒ vTXv > 0 ∀v ∈ Rn \{0}
++
(cid:20) (cid:21)
x z
(cid:23) 0
z y
X (cid:23) 0 ⇐⇒
• X = (cid:80)n λ (X)v vT mit λ ≥ 0.
i=1 i i i i
• X = VTV 5
4
3
• (cid:104)X,A(cid:105) ≥ 0 ∀A (cid:23) 0
2
1
0
X (cid:31) 0 ⇐⇒ −1
−2
det(X ) > 0 ∀J ⊆ {1,...,n} −3 0
J −4 4 2
−5 6
0 1 2 3 4 5 6 7 8 9 10 108
A,B ∈ Sn, α ≥ 0 ⇒ α(A+B) ∈ Sn
+ +
Sn ist konvex, abg., selbstdual, spitz (A (cid:23) B :⇔ A−B (cid:23) 0),
+
aber nicht polyedrisch.
SemidefiniteOptimierung L¨osungsverfahren Anwendungen
Beispiele: Schnitt mit einer Hyperebene
Normalfall Nichtnegativer Orthant
5 5
4 4
3 3
2 2
1 1
0 0
−1 −1
−2 −2
−3 0 −3 0
−4 4 2 −4 4 2
−50 1 2 3 4 5 6 7 8 9 10 108 6 −50 1 2 3 4 5 6 7 8 9 10 108 6
Hyperbel (offene Projektion!) Seitenfl¨ache (≡ λvvT)
5 5
4 4
3 3
2 2
1 1
0 0
−1 −1
−2 −2
−3 0 −3 0
−4 4 2 −4 4 2
−5 6 −5 6
0 1 2 3 4 5 6 7 8 9 10 108 0 1 2 3 4 5 6 7 8 9 10 108
SemidefiniteOptimierung L¨osungsverfahren Anwendungen
Lineare Optimierung ↔ Semidefinite Optimierung
max (cid:104)c,x(cid:105) max (cid:104)C,X(cid:105)
s.t. Ax =b s.t. AX =b
x ≥0 X (cid:23)0
x ∈Rn nichtneg. Orthant X ∈Sn pos. semidef. Matrizen
+ +
(polyedrisch) (nicht polyedrisch)
(cid:80) (cid:80)
(cid:104)c,x(cid:105)= cx (cid:104)C,X(cid:105)= C X
i i i i,j ij ij
   
(cid:104)a ,x(cid:105) (cid:104)A ,X(cid:105)
1 1
. .
Ax = .  AX = . 
 .   . 
(cid:104)a ,x(cid:105) (cid:104)A ,X(cid:105)
m m
ATy =(cid:80) ay ATy =(cid:80) Ay
i i i i i i
min (cid:104)b,y(cid:105) min (cid:104)b,y(cid:105)
s.t. ATy −z =c s.t. ATy −Z =C
z ≥0 Z (cid:23)0
{X (cid:23)0:(cid:104)I,X(cid:105)=1} = conv(cid:8)vvT :(cid:10)I,vvT(cid:11)=vTv =1(cid:9)
und max (cid:10)C,vvT(cid:11) = max vTCv = λ (C)
max
(cid:107)v(cid:107)2=1 (cid:107)v(cid:107)=1
Menge primaler Optimall¨osungen:
conv(cid:8)vvT :(cid:10)I,vvT(cid:11)=1,vTCv =λ (C)(cid:9) [v =Pu]
max
= conv(cid:8)PuuTPT :(cid:10)I,uuT(cid:11)=1(cid:9)
= (cid:8)PUPT :(cid:104)I,U(cid:105)=1,U (cid:23)0(cid:9)
Spalten von P bilden orthonormale Basis des Eigenraums von λ (C).
max
dual: min λ s.t. λI −C (cid:23)0 ⇒ optimales λ=λ (C)
max
SemidefiniteOptimierung L¨osungsverfahren Anwendungen
Beispiel
max (cid:104)C,X(cid:105)
min y
s.t. (cid:104)I,X(cid:105)=1
s.t. Z =yI −C (cid:23)0
X (cid:23)0