習題一一、 考慮二次函式f(x)=
1) 寫出它的矩陣—向量形式: f(x)=2) 矩陣q是不是奇異的?
3) 證明: f(x)是正定的
4) f(x)是凸的嗎?
5) 寫出f(x)在點=處的支撐超平面(即切平面)方程解:1) f(x)=
=+其中 x= ,q= , b=
2) 因為q= ,所以 |q|==8>0 即可知q是非奇異的3) 因為|2|>0, =8>0 ,所以q是正定的,故f(x)是正定的
4) 因為=,所以||=8>0,故推出是正定的,即是凸的5) 因為=,所以=(5,11)
所以 f(x)在點處的切線方程為5()+11()=0二、 求下列函式的梯度問題和hesse矩陣1) f(x)=2++
2) f(x)=ln(+)
解: 1) = (, )
2) =( , )
三、 設f(x)=,取點.驗證=(1,0,-1)是f(x)在點處的乙個下降方向,並計算f(+t)
證明: =
d=(1,0,-1) = -3<0
所以是f(x)在處的乙個下降方向
f(+t)=f((1+t,1,1-t))
=f(+t)=6t-3=0 所以t=0.5>0所以f(+t)=3*0.25-3*0.5+4=3.25四、 設，b ，（j=1,2,….,n）考慮問題min f(x)=
j=1,2,….,n)
1) 寫出其kuhn tuker 條件
2) 證明問題最優值是
解：1）因為目標函式的分母故
所以（j=1,…,n）都為0
所以kuhn tuker 條件為
即 +=0
2）將代入 h(x)=0 只有一點得故有
所以最優解是
五、使用kuhn tuker 條件，求問題min f(x)=
的kuhn tuker 點，並驗證此點為問題的最優解解：x=(1/2,3/2)故， =0則即
而故即其為最優解
六、在習題五的條件下證明
l()其中 l（x,）=f(x)+
證明：l()=f()+
f()f()++2)=
f()習題二
一、 設f(x)為定義在區間[a,b]上的實值函式，是問題min的最優解。證明：f(x)是[a,b]上的單谷函式的充要條件是對任意
滿足f() 證明：不妨設<,則<
「必要性」 若
則由單谷函式定義知
故有「充分性」 由，的任意性取=時，f()>f()則》= 且f() 若取 =時, f()>f()<< 且 f()滿足單谷函式的定義
二、設<,
1)證明:滿足條件
的二次函式是（嚴格）凸函式
2）證明：由二次插值所得f(x)的近似極小值點（即的駐點）是或者
證明：1）設= （）則由
得或故1）得證
2）的駐點為
或三、設f(x)=試證：共軛梯度法的線性搜尋中，有，其中證明：由已知 ，得
令為t的凸二次函式。要使是的極小點即為駐點，故滿足而故有得
四、用共軛梯度法求解：
min f(x)= , x
取初始點
解：易知
第一次迭代：
線性搜尋得步長
從而 =
第二次迭代：
線性搜尋得步長：
所以最優解為
五、 用擬newton法求解：
min取初始點
解：1）dfc法
取初始對稱矩陣
第一次迭代：
計算得，
經一維線性搜尋得： =0.25
置第二次迭代
經一維線性搜尋得： =6.25
故最優解為：
2）bfgs法
取定初始對稱矩陣
第一次迭代：
計算得，
經一維線性搜尋得： =0.25
同dfp法，初始修正矩陣
第二次迭代：
經一維線性搜尋得：
故最優解為：
習題三1、 給定問題
min取初始點，用簡約梯度法求其最優解
解：約束條件為則，=
=得得故為問題的k-t點
2、 用梯度投影法求解問題
min取初始點
解： 迭代（1）
投影矩陣
故故投影矩陣
令故為其 k-t 點
3、用可行方向法求解問題
min取初始點
解：迭代一：
有效約束確定下降方向
min -4
i=1,2
解得且其最優值為-6，即處的搜尋方向
線性搜尋
而 迭代2：
有效約束確定下降方向
min -
i=1,2
得且其最優值為-2
線性搜尋
而 迭代3：
有效約束確定下降方向
min -
i=1,2
得，其最優值為-
線性搜尋
而 迭代 4：
有效約束確定下降方向
min -
i=1,2
得，其最優值為0
為k-t點
最優化方法習題一
習題一一 考慮二次函式f x 1 寫出它的矩陣 向量形式 f x 2 矩陣q是不是奇異的?3 證明 f x 是正定的 4 f x 是凸的嗎?5 寫出f x 在點 處的支撐超平面 即切平面 方程解 1 f x 其中 x q b 2 因為q 所以 q 8 0 即可知q是非奇異的3 因為 2 0,8 0 ...
最優化方法複習題
第一章概述 包括凸規劃 一 判斷與填空題 1 23 設若，對於一切恒有，則稱為最優化問題的全域性最優解.4 設若，存在的某鄰域，使得對一切恒有，則稱為最優化問題的嚴格區域性最優解.5 給定乙個最優化問題，那麼它的最優值是乙個定值.6 非空集合為凸集當且僅當中任意兩點連線段上任一點屬於.7 非空集合為...
最優化方法複習題
第一章概述 包括凸規劃 一 判斷與填空題 1 23 設若，對於一切恒有，則稱為最優化問題的全域性最優解.4 設若，存在的某鄰域，使得對一切恒有，則稱為最優化問題的嚴格區域性最優解.5 給定乙個最優化問題，那麼它的最優值是乙個定值.6 非空集合為凸集當且僅當中任意兩點連線段上任一點屬於.7 非空集合為...