四、问答题
1.什么是一维搜索问题?
答:当方向dk给定时,求最佳步长 k就是求一元函数
f(xk 1) f(xk kdk) ( k)的极值问题,它称为一维搜索。
2.试述两种一维搜索方向的原理,它们之间有何区别?
答:搜索的原理是:区间消去法原理
区别:(1)、试探法:给定的规定来确定插入点的位置,此点的位置确定仅仅按照区间的缩短如何加快,而不顾及函数值的分布关系,如黄金分割法
(2)、插值法:没有函数表达式,可以根据这些点处的函数值,利用插值方法建立函数的某种近似表达式,近而求出函数的极小点,并用它作为原来函数的近似值。这种方法称为插值法,又叫函数逼近法。
3.共轭梯度法是利用梯度求共轭方向的,那共轭方向与梯度之间有什么关系?
1TXGX bTX ck2对于二次函数,,从X点出发,沿G的某一共轭方向
dk作一维搜索,到达Xk 1点,则Xk 1点处的搜索方向dj应满足f X
(x,r1,r2) f(x) r1 G(gj(x)) r2 H(hk(x))
j 1k 1
kml d gjTjk 1 gk 0,即终点Xk 1与始点Xk的梯度之差gk 1 gk与d的共轭方向d正交。
3.惩罚函数法求解约束优化问题的基本原理是什么?
答:惩罚函数求解约束优化问题的基本原理是将约束优化问题
s.t.minf(x)gj(x) 0
hk(x) 0(j 1,2, ,m)(k 1,2, ,l)
中的不等式和等式约束优化函数 经过加权转化后,和原目标函数结合成新的目标函数----惩罚函数,即求解该新的目标函数的无约束极小值,以期得到原问题的约束最优解。
4.与最速下降法和牛顿法比较,试述变尺度法的特点。
答:牛顿法对于二次正定函数只需作一次迭代就得到最优解,特别是在极小点附近,收敛性很好、速度快,而最速下降法在极小点附近收敛速度很差。但牛顿法也有缺点,它要求初始点在最优点附近,否则牛顿法不能保证其收敛,甚至也不是下降方向。因此,变尺度法就是在克服了梯度法收敛速度慢和牛顿法计算量、存储量大的特点基础上而发展起来。