1、2 间接法间接法需要计算目标函数导数，优点是计算速度很快。常见的间接法包括牛顿切线法、对分法、割线法和三次插值多项式近似法等。优化工具箱中用得较多的是三次插值法。三次插值的基本思想与二次插值的一致，它是用4个已知点构造一个三次多项式P 3（x），用它逼近函数f（x），以P 3（x）的极小点作为数f（x）的近似极小点。一般地讲，三次插值法比二次插值法的收敛速度要快些，但每次迭代需要计算两个导数值。三次插值法的迭代公式为如果函数的导数容易求得，一般来说首先考虑使用三次插值法，因为它具有较高的效率。对于只需要计算函数值的方法中，二次插值法是一个很好的方法，它的收敛速度较快，在极小点所在区间较小时尤其
2、如此。黄金分割法则是一种十分稳定的方法，并且计算简单。由于以上原因， 优化工具箱中用得较多的方法是二次插值法、三次插值法以及二次、三次混合插值法和黄金分割法。 有关函数介绍1. fminbnd 函数利用该函数找到固定区间内单变量函数最小值。调用格式为： x= fminbnd （fun,x1,x2） 返回区间x1,x2 上fun 参数描述的标量函数的最小值x 。 x= fminbnd （fun,x1,x2,options）用options 参数指定的优化参数进行最小化。 x= fminbnd （fun,x1,x2,options,p1,p2,） 提供另外的参数p1,p2等，传输给目标函数fun。
3、如果没有设置options选项，则令options= 。 x,fvaI=fminbnd（） 返回解x处目标函数的值。 x,fvaI,exitfIag=fminbnd（）返回exitfIag 值描述fminbnd 函数的退出条件。 x,fvaI,exitfIag,output=fminbnd（） 返回包含优化信息的结构输出。与fminbnd函数相关的细节内容包含在fun, options, exitfIag和output等参数中，如表16-1所示。 表16-1参数描述表 参数 描述fun需要最小化的目标函数。fun函数需要输入标量参数x，返回x处的目标函数标量值f。可以将fun函数指定为命令行，
4、如 x=fminbnd（inline（sin（x*x）x0）同样，fun参数可以是一个包含函数名的字符串。对应的函数可以是M文件、内部函数或MEX文件。若fun=ymfun，则M文件函数必须有下面的形式functionf=myfun（x）f= %计算x处的函数值options优化参数选项。可以用optimset 函数设置或该变这些参数的值. options参数有以下几个选项:DispIay 显示的水平。选择 off，不显示输出；选择 iter，显示每一步迭代过程的输出；选择 final，显示最终结果MaxFunEvaIs 函数评价的最大允许次数MaxIter 最大允许次数ToIX x处的终止容
5、限exitfIag描述退出条件：0表示目标函数收敛于解x处0表示已经达到函数评价或迭代的最大次数1 %调用fun函数并要求有两个输出变量 g= %计算x处的梯度值end若Hess矩阵也可以求得，并且设为on，即，options=optimset（Hessian,on） 则fun函数必须返回解x处的Hess对称矩阵H到第3个输出变量中去。注意，当被调用的fun函数只需要一个或两个输出变量时（如算法只需要目标函数得值f和梯度值g而不需要Hess矩阵H时），可以通过核对nargout的值以避免计算Hess矩阵functionf,g,H=myfun（x）g= %计算x处的梯度值2H= %计算x处的He
6、ss矩阵 可以通过optimset函数设置或改变这些参数。其中有的参数适用于所有的优化算法，有的则只适用于大型优化问题，另外一些则只适用于中型问题首先描述适用于大型问题的选项。这仅仅是一个参考，因为使用大型问题算法有一些条件。对于fminunc函数来说，必须提供梯度信息 LargeSeaIe 当设为on时使用大型算法，若设为off则使用中型问题的算法适用于大型和中型算法的参数： Diagnostics 打印最小化函数的诊断信息 DispIay 显示水平。选择off,不显示输出：选择iter,显示每一步迭代过程的书橱；选择finaI,显示最终结果。打印最小化函数的诊断信息 GradObj 用户定
7、义的目标函数的梯度。对于大型问题此参数是必选的，对于中型问题则是可选项 MaxFunEvaIs 函数评价的最大次数 MaxIter 最大允许迭代次数 ToIFun 函数值的终止容限 ToIX x处的终止容限只用于大型算法的参数： Hesian 用户定义的目标函数的Hess矩阵 HessPattem 用于有限差分的Hess矩阵的稀疏形式。若不方便求fun函数的稀疏Hess矩阵H,可以用梯度的有限差分获得的H的稀疏结构（如非零值的位置等）得到近似的Hess矩阵H。若连矩阵的稀疏结构都不知道，则可以将HessPattem设为密集矩阵，在每一次迭代过程中，都将进行密集矩阵的有限差分近似（这是默认摄制）
8、。这将非常麻烦，所以花一些力气得到Hess矩阵的稀疏结构还是值得的 MaxPCGIter PCG迭代的最大次数 PrecondBandWidth PCG前处理得上带宽，默认时为零。对于有些问题，增加带宽可以减少迭代次数 ToIPCG PCG迭代的终止容限 TypicaIX 典型x值只适用于中型算法的参数： DerivativeCheck 对用户提供的导数和有限差分求出的导数进行对比 DiffMaxChange 变量有限差分梯度的最大变化 DiffMinChange 变量有限差分梯度的最小变化 LinSearchType 一维搜索算法的选择描述退出条件 0 表示目标函数收敛于解x处 0 表示已经
9、达到函数评价或迭代的最大次数 1 g（1）=6*x（1）+2*x（2）; g（2）=2*x（1）+2*x（2）; end下面通过将优化选项结构 设置为on 来得到梯度值。 clear options=optimset（GradObj,on）; x,fva2=fminunc（myfun2,x0,options）Optimization terminated successfully: First-order optimality less than , and no negative/zero curvature detected % 书上结果为： 0fva2 =经过数次迭代以后，返回解 x和x
10、处的函数值fva12。2fminsearch 函数利用fminsearch 函数求解多变量无约束函数的最小值，其调用格式如下： fminsearch求解多变量无约束函数的最小值。该函数常用于无约束非线性最优化问题。 x=fminsearch（fun,x0） 初值为x0，求fun函数的局部极小点x。x0可以是标量、向量或矩阵。 x=fminsearch（fun,x0,options）用options参数指定的优化参数进行最小化。 x=fminsearch（fun,x0,options,p1,p2）将问题参数p1,p2等直接输给目标函数fun，将options 参数设置为空矩阵，作为options
11、参数的默认值。 x,fvaI=fminsearch（）将x处的目标函数返回到fvaI参数中。 x,fvaI,exitfIag=fminsearch（）返回exitfIag值，描述函数的退出条件。 x,fvaI,exitfIag,output=fminsearch（）返回包含优化信息的输出参数output。fminsearch函数使用单纯形法进行计算。对于求解二次以上的问题，fminsearch函数比fminunc函数有效。但是，当问题为高度非线性时，fminsearch函数更具有稳健性。应用 fminsearch函数可能会得到局部最优解。fminserarch函数只对实数进行最小化，即 x必须由实数组成，f（x） 函数必须返回实数。如果 x为复数，则必须将它分为实数部和虚数部两部分。另外，fminsearch函数不适合求解平方和问题，用IsqnonIin 函数更好一些。【例16-3】 使一维函数f（x）=sin（x）+3 最小化。首先创建M 文件myfun3m:function f=myfun3（x） f=sin（x）+3;然后调用 fminsearch函数求2附近函数的最小值。 x=fminsearch（myfun3,2）下面使用命令行使该函数最小化： f=inline（sin（x）+3 x=fminsearch（f,2）
