无约束优化方法选择题作业-复习题（纯题目版）

1. 在梯度下降法中，为什么通常选择负梯度作为搜索方向？

A. 因为它是一个单位向量。

B. 因为它是最陡的上升方向。

C. 因为它是最陡的下降方向。

D. 因为它总是指向最小值。

2. 在无约束优化中，若目标函数 $f(\boldsymbol{x})$ 在某点 $\boldsymbol{x}^{(k)}$ 处的梯度为 $\nabla f(\boldsymbol{x}^{(k)})=[3,2,-1]^T$，则以下哪种方向是下降方向？

A. $[1,1,1]^T$

B. $[-1,-1,-1]^T$

C. $[0,0,-1]^T$

D. $[1,-1,0]^T$

3. 在最速下降法中，每次选择的方向是哪个？

A. 任意方向，只要不是梯度方向。

B. 正梯度方向。

C. 负梯度方向。

D. 单位向量方向。

4. 已知目标函数 $f(\boldsymbol{x})$ 在点 $\boldsymbol{x}^{(k)}$ 处的梯度为 $\nabla f(\boldsymbol{x}^{(k)})=[-2,1]^T$。下面哪个方向不是下降方向？

A. $[1,1]^T$

B. $[-1,-1]^T$

C. $[1,0]^T$

D. $[1,-2]^T$

5. 0.618 法中，初始搜索区间 $[a_0,b_0]$ 上的两个试探点 $\boldsymbol{x}_1$ 和 $\boldsymbol{x}_2$ 是如何确定的？

A. $\boldsymbol{x}_1=a_0+(b_0-a_0)\times 0.382$；$\boldsymbol{x}_2=a_0+(b_0-a_0)\times 0.618$

B. $\boldsymbol{x}_1=a_0+(b_0-a_0)\times 0.5$；$\boldsymbol{x}_2=a_0+(b_0-a_0)\times 0.5$

C. $\boldsymbol{x}_1=a_0+(b_0-a_0)\times 0.25$；$\boldsymbol{x}_2=a_0+(b_0-a_0)\times 0.75$

D. $\boldsymbol{x}_1=a_0+(b_0-a_0)\times 0.618$；$\boldsymbol{x}_2=a_0+(b_0-a_0)\times 0.618$

6. 0.618 法中，若两个分点 $f(\boldsymbol{x}_1)<f(\boldsymbol{x}_2)$，则下一步的搜索区间会变成：

A. $[a,\boldsymbol{x}_2]$

B. $[\boldsymbol{x}_1,b]$

C. $[\boldsymbol{x}_2,b]$

D. $[a,\boldsymbol{x}_1]$

8. 设初始区间为 $[a,b]$，第一个试探点 $\boldsymbol{x}_1$ 的位置如何确定？

A. $\boldsymbol{x}_1=a+0.618\cdot(b-a)$

B. $\boldsymbol{x}_1=a+0.5\cdot(b-a)$

C. $\boldsymbol{x}_1=b-0.618\cdot(b-a)$

D. $\boldsymbol{x}_1=a-0.382\cdot(b-a)$

9. 当 0.618 法的初始区间长度为 1，终止条件为区间长度小于某个给定精度 $\varepsilon$ 时，迭代次数 $n$ 应满足什么条件？

A. $(0.618)^n<\varepsilon$

B. $(0.618)^n>\varepsilon$

C. $(0.5)^n<\varepsilon$

D. $n<\log(\varepsilon)$

11. Wolfe 准则用于确定搜索方向的步长，其主要目的是保证什么？

A. 目标函数数值单调递减

B. 梯度方向与搜索方向一致

C. 满足充分下降条件和曲率条件

D. 步长不超过单位长度

12. 在 Wolfe 准则中，下列哪个条件用于确保下降方向的有效性？

A. $f(\boldsymbol{x}+\alpha\boldsymbol{d})\le f(\boldsymbol{x})+c_1\alpha\nabla f(\boldsymbol{x})^T\boldsymbol{d}$

B. $f(\boldsymbol{x}+\alpha\boldsymbol{d})\ge f(\boldsymbol{x})+c_2\alpha\nabla f(\boldsymbol{x})^T\boldsymbol{d}$

C. $\nabla f(\boldsymbol{x}+\alpha\boldsymbol{d})^T\boldsymbol{d}\ge c_2\nabla f(\boldsymbol{x})^T\boldsymbol{d}$

D. $\alpha\le 1$

13. 下列关于 Wolfe 准则的描述，哪一项是正确的？

A. 它是一种收敛性准则，用于保证算法的全局收敛性

B. 它仅适用于二次优化问题

C. 它是一种一维搜索准则，常用于线搜索方法中

D. 它要求目标函数必须是凸函数

15. 在最优化中，Armijo 准则与 Wolfe 准则之间有一个重要的区别。以下哪一项最准确地描述了这一区别？

A. Armijo 准则不涉及曲率条件，而 Wolfe 准则涉及

B. Wolfe 准则适用于凸函数，而 Armijo 准则适用于非凸函数

C. Armijo 准则需要梯度信息

D. Wolfe 准则总是比 Armijo 准则更高效

16. 下列关于梯度法的说法，哪一个是正确的？

A. 总是以最快的速度收敛

B. 搜索方向是负梯度方向

C. 适用于非光滑目标函数

D. 收敛速度比牛顿法快

18. 梯度法中，目标函数 $f(\boldsymbol{x})$ 在第 $k$ 步的更新公式是：

A. $\boldsymbol{x}_{k+1}=\boldsymbol{x}_k+\alpha_k\nabla f(\boldsymbol{x}_k)$

B. $\boldsymbol{x}_{k+1}=\boldsymbol{x}_k-\alpha_k\nabla f(\boldsymbol{x}_k)$

C. $\boldsymbol{x}_{k+1}=\alpha_k\nabla f(\boldsymbol{x}_k)$

D. $\boldsymbol{x}_{k+1}=\boldsymbol{x}_k\nabla f(\boldsymbol{x}_k)$

19. 在梯度法中，搜索方向 $\boldsymbol{d}_k$ 是由以下哪一项决定的？

A. 负梯度方向

B. 梯度方向

C. 正曲率方向

D. 任意方向

20. 在使用 Python 实现梯度法时，常见的终止准则不包括以下哪项？

A. 迭代次数达到上限

B. 梯度范数小于阈值

C. 函数值变化小于阈值

D. 步长 $\alpha_k$ 小于某个固定值

22. 在使用牛顿法的过程中，若目标函数的 Hessian 矩阵非正定，则修正牛顿法采取的改进方法是____。

A. 加入惩罚项

B. 使用拟牛顿法

C. 对 Hessian 矩阵进行修正以确保正定性

D. 切换到梯度下降法

23. 在修正牛顿法中，为了保证 Newton 方向的下降性质，通常通过什么方式修改 Hessian 矩阵？

A. 添加一个小的单位矩阵

B. 取 Hessian 的逆矩阵

C. 用正定矩阵来替代原 Hessian 矩阵

D. 将其与梯度向量相乘

24. 在 Python 中实现修正牛顿法时，如果 Hessian 矩阵近似值不是正定的，以下哪种做法是合理的？

A. 直接将其舍弃并采用梯度下降法

B. 使用 Cholesky 分解进行处理

C. 添加一个单位矩阵的倍数以保证正定性

D. 忽略该问题继续运行

25. 在修正牛顿法中，常用的正定修正形式是 $H_k+\mu I$，其中 $\mu>0$ 的作用是什么？

A. 增加计算效率

B. 降低迭代次数

C. 使矩阵正定，保证搜索方向的下降性

D. 减小梯度模长

26. 下列关于共轭方法的描述中，哪一项是正确的？

A. 共轭方法是一种无需计算梯度的直接搜索方法。

B. 共轭方法适用于任意非凸函数的最小化问题。

C. 在正定二次目标函数中，共轭方法可以在 n 步内收敛到最优解。

D. 共轭方法的搜索方向之间在欧几里得空间中正交。

27. 共轭方向法中，搜索方向满足什么条件？

A. 搜索方向两两正交。

B. 搜索方向两两共轭。

C. 搜索方向两两平行。

D. 搜索方向两两垂直。

28. 设 $A$ 是 $n\times n$ 对称正定矩阵，那么共轭向量集 $\{\boldsymbol{d}_1,\boldsymbol{d}_2,\dots,\boldsymbol{d}_n\}$ 的数量最多是：

A. $n-1$

B. $n$

C. $n+1$

D. $2n$

30. 设 $A$ 是一个对称正定矩阵，若 $\boldsymbol{d}_1,\boldsymbol{d}_2,\dots,\boldsymbol{d}_n$ 是一组关于 $A$ 共轭的方向向量，则以下哪个结论成立？

A. 这组向量线性相关。

B. 这组向量构成 $A$ 的特征向量集合。

C. 这组向量是 $A$ 的正交基。

D. 这组向量是线性无关的。

31. 共轭梯度法中的方向 $\boldsymbol{d}_k$ 需满足与之前的搜索方向 $\boldsymbol{d}_i\ (i<k)$ 满足什么条件？

A. 正交性

B. 共轭性

C. 相似性

D. 线性相关性

32. 在共轭梯度法中，搜索方向的更新公式通常依赖于当前的梯度和前一步的方向。下列哪个公式是 Fletcher-Reeves 版本中用于计算步长系数 $\beta_k$ 的？

A. $\beta_k=\dfrac{\|\boldsymbol{g}_k\|^2}{\|\boldsymbol{g}_{k-1}\|^2}$

B. $\beta_k=\dfrac{\boldsymbol{g}_k^T\boldsymbol{g}_k}{\boldsymbol{g}_{k-1}^T A\boldsymbol{g}_{k-1}}$

C. $\beta_k=\dfrac{\boldsymbol{g}_k^T(\boldsymbol{g}_k-\boldsymbol{g}_{k-1})}{\|\boldsymbol{g}_{k-1}\|^2}$

D. $\beta_k=\dfrac{\boldsymbol{g}_k^T\boldsymbol{d}_k}{\boldsymbol{g}_{k-1}^T\boldsymbol{d}_{k-1}}$

33. 在使用共轭梯度法求解无约束优化问题 $\min f(\boldsymbol{x})$ 的 Python 实现中，下列哪个条件用于判断搜索方向 $\boldsymbol{d}_k$ 是否与 $\boldsymbol{d}_{k-1}$ 共轭？

A. $\boldsymbol{d}_k^T A\boldsymbol{d}_{k-1}=0$

B. $\boldsymbol{d}_k^T\boldsymbol{g}_k=0$

C. $\boldsymbol{g}_k^T\boldsymbol{g}_{k-1}=0$

D. $\boldsymbol{x}_k^T\boldsymbol{x}_{k-1}=0$

34. 在共轭梯度法中，如果目标函数为正定二次函数 $f(\boldsymbol{x})=\dfrac{1}{2}\boldsymbol{x}^T A\boldsymbol{x}-\boldsymbol{b}^T\boldsymbol{x}$，则最多需要多少次迭代就可以达到最优解？

A. n 次，其中 n 是变量维度

B. n+1 次

C. 无限次

D. 取决于初始猜测

35. 拟牛顿法中，为了保证迭代过程收敛，矩阵 $H_k$ 应满足什么条件？

A. 对称且正定

B. 对称且半正定

C. 正交

D. 奇异

36. 拟牛顿法中，DFP 方法更新公式是基于哪种条件建立的？

A. 梯度信息和函数值

B. 搜索方向和步长

C. 梯度差和位置差

D. 海森矩阵的精确计算

37. 拟牛顿法中，BFGS 方法与 DFP 方法的主要区别在于？

A. BFGS 方法直接修正 Hesse 矩阵，而 DFP 方法修正其逆矩阵

B. BFGS 方法适用于非光滑函数，DFP 方法适用于光滑函数

C. BFGS 方法无需计算逆矩阵

D. DFP 方法收敛更快

38. 对称秩 1 算法（Symmetric Rank 1, SR1）在更新 Hesse 近似矩阵 $B_{k+1}$ 时，其更新公式为：$B_{k+1}=B_k+\dfrac{(\boldsymbol{y}_k-B_k\boldsymbol{s}_k)(\boldsymbol{y}_k-B_k\boldsymbol{s}_k)^T}{(\boldsymbol{y}_k-B_k\boldsymbol{s}_k)^T\boldsymbol{s}_k}$。其中 $\boldsymbol{y}_k$ 和 $\boldsymbol{s}_k$ 分别代表什么？

A. $\boldsymbol{y}_k=\boldsymbol{g}_{k+1}-\boldsymbol{g}_k$，$\boldsymbol{s}_k=\boldsymbol{x}_{k+1}-\boldsymbol{x}_k$

B. $\boldsymbol{y}_k=\boldsymbol{s}_k$，$\boldsymbol{s}_k=\boldsymbol{g}_{k+1}-\boldsymbol{g}_k$

C. $\boldsymbol{y}_k=H_k^{-1}\boldsymbol{g}_k$，$\boldsymbol{s}_k=\alpha_k\boldsymbol{d}_k$

D. $\boldsymbol{y}_k=\boldsymbol{x}_k-\boldsymbol{x}_{k+1}$，$\boldsymbol{s}_k=\boldsymbol{g}_k$

39. 在 BFGS 算法中，Hesse 矩阵的更新方式是基于什么原则？

A. 梯度方向的正交投影

B. 拟牛顿条件和正定性保持

C. 最小二乘法

D. 共轭梯度法

40. BFGS 算法在每次迭代中通过哪个参数更新 Hesse 矩阵？

A. 梯度差

B. 搜索步长

C. 梯度与变量的变化量

D. 目标函数值的变化

41. BFGS 算法的初始 Hesse 矩阵通常设为单位矩阵，这是为了保证什么特性？

A. 计算的稳定性

B. 正定性和对称性

C. 收敛速度

D. 搜索方向的确定

42. DFP 算法中，Hesse 矩阵的更新公式依赖于哪两个变量？

A. $\nabla f(\boldsymbol{x}_k)$ 和 $\nabla^2 f(\boldsymbol{x}_k)$

B. $\boldsymbol{s}_k$ 和 $\boldsymbol{y}_k$

C. $\boldsymbol{x}_k$ 和 $f(\boldsymbol{x}_k)$

D. $H_k$ 和 $B_k$

44. DFP 算法中，如何确定搜索方向 $\boldsymbol{d}_k$？

A. $\boldsymbol{d}_k=-\nabla f(\boldsymbol{x}_k)$

B. $\boldsymbol{d}_k=-H_k\nabla f(\boldsymbol{x}_k)$

C. $\boldsymbol{d}_k=-B_k\nabla f(\boldsymbol{x}_k)$

D. $\boldsymbol{d}_k=-\boldsymbol{s}_k$

2-无约束优化方法 选择题作业-复习题

2-无约束优化方法　选择题作业-复习题