新書推薦：
《
谈鬼说神
》
售價：NT$
1846
《
走出秦制：清末民初六十年（慈禧、奕?、李鸿章、张之洞、袁世凯、康有为、梁启超、宋教仁等对中国前途的思
》
售價：NT$
602
《
古典与文明·独尊儒术前夕的思想争锋：汉初“前经学时代”研究
》
售價：NT$
459
《
史记 全六册
》
售價：NT$
2030
《
图解计算机科学数学基础（原书第3版）
》
售價：NT$
607
《
柏拉图《理想国》指南（想读《理想国》，一直看不懂？这本书就是你的哲学通关攻略）
》
售價：NT$
407
《
你的代谢还好吗：控制“五高”饮食运动法
》
售價：NT$
254
《
战国史料编年辑证（全二册）（杨宽著作集）
》
售價：NT$
1265
|
| 編輯推薦： |
|
u系统讲解优化理论，夯实数学基础：本书以通俗清晰的语言系统介绍最优化的核心概念与常用算法，紧扣线性代数与多元微积分基础，循序渐进引导读者掌握凸优化、最优性条件及迭代方法等关键内容，兼顾理论深度与理解友好性。u聚焦人工智能应用，强化建模能力：结合人工智能与机器学习中的典型问题，如线性模型、主成分分析、支持向量机和神经网络等，深入讲解如何将实际工程任务转化为优化问题，并选择合适算法求解，助力读者建立完整的优化建模与实现流程。u突出向量化思维，兼顾理论与实践：全书以向量和矩阵为基本计算对象，贯穿优化建模与算法主线，强调数学结构对优化效率与模型解释力的重要性。配套大量例题与习题训练，帮助读者在学习中打通“理论—建模—实践”的关键环节。
|
| 內容簡介： |
|
本书系统介绍最优化的基本理论、建模方法与常用算法，旨在为人工智能、机器学习、数据科学等领域的学习者提供扎实的优化基础.内容涵盖优化的基本概念、最优性条件、凸优化、无约束与约束优化等基础知识，并重点讨论机器学习中的优化建模与算法，如主成分分析、支持向量机、随机优化和零阶优化算法等.书中通过丰富的例题讲解，结合理论与实际应用，帮助读者掌握从模型建立到算法实现的全面技能.本书适合人工智能、计算机科学、数学优化、运筹学、数据科学等专业的本科生、研究生及科研人员.它不仅能帮助学生打下坚实的理论基础，还能帮助从业者在实际问题中选择合适的优化方法与算法进行有效求解，是一本理论与实践兼具的优化学习和参考书.
|
| 目錄：
|
目录
第1 引言 1
1.1 最优化为什么重要 1
1.2 最优化问题示例 1
1.3 优化的基本概念与思想 2
1.3.1 优化问题的一般形式 2
1.3.2 最优化的基本概念 3
1.3.3 迭代算法与收敛速率 4
1.3.4 优化的基本思想 7
第2 章基础知识 8
2.1 线性代数 8
2.1.1 线性空间与线性映射 8
2.1.2 内积与范数 12
2.1.3 线性方程组与矩阵 18
2.1.4 矩阵的基本运算与性质 19
2.1.5 矩阵的特征分解 21
2.2 多元微积分基础 28
2.2.1 多元可微函数 28
2.2.2 可微映射与微分的链式法则 32
2.2.3 矩阵函数的梯度 34
2.2.4 微分中值定理与Taylor 公式 37
2.2.5 切向量与切空间 39
第2 章练习 41
第3 章凸集与凸函数 43
3.1 凸集 43
3.2 凸函数 46
3.2.1 凸集与凸函数的关联 48
3.2.2 凸函数的性质 49
3.2.3 凸函数的判定条件 50
3.2.4 强凸函数及其性质 55
第3 章练习 56
第4 章最优性条件 58
4.1 极小值点的存在性条件 58
4.2 无约束优化的最优性条件 58
4.2.1 一阶必要条件 59
4.2.2 二阶最优性条件 60
4.2.3 不可微函数的最优性条件 62
4.3 等式约束优化的最优性条件 63
4.3.1 切空间 64
4.3.2 拉格朗日乘子与一阶条件 65
4.3.3 二阶条件 68
4.4 一般约束优化的最优性条件 72
4.4.1 可行方向 73
4.4.2 KKT 条件 75
4.4.3 二阶最优性条件 78
4.5 对偶理论 80
4.5.1 拉格朗日对偶 80
4.5.2 约束规范条件与强对偶 82
4.5.3 凸规划问题 84
第4 章练习 85
第5 章机器学习中的优化问题与模型 88
5.1 机器学习的基本概念 88
5.2 参数估计 89
5.2.1 最大似然原理 90
5.2.2 最大后验估计 94
5.3 线性模型 94
5.3.1 线性回归 94
5.3.2 引入正则化 95
5.3.3 从最大似然估计到最小二乘问题 96
5.3.4 线性分类器 98
5.4 数据降维与主成分分析 99
5.4.1 投影 99
5.4.2 总体近似误差最小化 101
5.4.3 k-维特征子空间 103
5.4.4 幂迭代方法 107
5.4.5 矩阵近似 108
5.5 支持向量机 111
5.5.1 线性支持向量机 111
5.5.2 最优性条件与对偶 112
5.5.3 非线性特征映射与核函数 114
5.5.4 软边距SVM 114
5.6 神经网络 116
5.6.1 层次化特征学习 116
5.6.2 计算图与自动微分 118
第5 章练习 120
第6 章无约束优化算法 122
6.1 线搜索 122
6.1.1 非精确线搜索准则 123
6.1.2 线搜索方法 125
6.1.3 线搜索算法的全局收敛性 127
6.2 梯度下降法 130
6.2.1 最速下降方向 130
6.2.2 梯度法在二次函数上的收敛速率 131
6.2.3 梯度下降法的收敛性分析 134
6.3 牛顿法 142
6.3.1 非线性方程的零点 142
6.3.2 牛顿法相关概念 143
6.3.3 牛顿法的收敛性分析 146
6.3.4 修正牛顿法 149
6.4 共轭梯度法 150
6.4.1 共轭方向 151
6.4.2 子空间扩展定理 152
6.4.3 共轭梯度法 154
6.4.4 非线性共轭梯度法 157
6.4.5 共轭梯度法的性质 157
6.5 拟牛顿法 159
6.5.1 截线法 159
6.5.2 拟牛顿法的推导 160
6.5.3 拟牛顿法的性质和收敛性 163
6.5.4 非单调下降步长：BB 方法 165
6.5.5 有限存储的L-BFGS 166
6.6 信赖域方法 169
6.6.1 信赖域 169
6.6.2 信赖域子问题的求解 169
6.6.3 信赖域半径的确定 171
6.7 非线性最小二乘问题算法 171
6.7.1 高斯-牛顿法 172
6.7.2 LMF 方法 173
第6 章练习 174
第7 章约束优化算法 177
7.1 罚函数法 177
7.1.1 外点罚函数法 177
7.1.2 内点罚函数法 181
7.2 增广拉格朗日函数法 182
7.2.1 等式约束的增广拉格朗日函数法 182
7.2.2 不等式约束的增广拉格朗日函数法 183
7.3 投影梯度法 185
7.3.1 投影梯度法的收敛性 187
7.3.2 向标准单纯形投影 190
第7 章练习 193
第8 章机器学习中的优化方法 194
8.1 随机优化方法 194
8.1.1 随机梯度下降 195
8.1.2 自适应优化方法 198
8.2 随机优化中的方差缩减 200
8.3 近端梯度法 206
8.4 Nesterov 加速梯度法 209
8.5 坐标下降法 211
8.5.1 随机坐标下降法 211
8.5.2 分块坐标下降法 213
8.6 交替方向乘子法 215
8.7 零阶优化方法 217
8.7.1 高斯平滑与梯度近似 217
8.7.2 演化策略 220
参考文献 224
|
| 內容試閱：
|
前言
近年来， 随着人工智能技术的飞速发展， 优化方法的重要性愈发凸显. 优
化理论作为数学、计算机科学以及工程学等领域的重要分支， 不仅是深度学
习、机器学习等人工智能技术的核心支撑， 还在资源分配、物流和生产调度、
金融分析等实际应用中扮演着不可或缺的角色. 得益于算法理论的进步、计
算能力的提升以及应用需求的增长， 最优化研究逐渐成为推动科技与工业发
展的重要驱动力. 然而， 最优化问题的复杂性和多样性也对研究者提出更高
的要求.
本书旨在为读者提供系统、全面的最优化理论与应用的入门与进阶指
南， 帮助读者掌握基本概念、关键算法以及实际建模方法. 本书主要有以
下两个特点.
（1）本书结合人工智能专业的特点， 突出机器学习中的典型最优化问
题和优化建模， 将其作为例题分散于各章节中， 例如线性模型、主成分分
析和支持向量机等内容， 这些例题不仅用于理论练习， 也为算法应用提供
了丰富案例.
（2）本书以向量和矩阵为基本运算对象， 以矩阵运算和特征向量问题
作为主线贯穿全书， 帮助读者深化对模型和优化理论的理解. 通过这些内
容， 读者可熟练掌握矩阵运算， 提升数学成熟度， 为后续复杂模型(如深度
学习) 的学习奠定基础.
本书共8 章， 各章节内容逐步递进， 以适应不同读者的学习需求：第1
章概述最优化的核心思想与模型框架; 第2 章回顾线性代数与多元微积分
的基础知识， 为后续内容打下数学基础; 第3 章介绍凸集与凸函数的理论，
重点讨论其判定方法与应用; 第4 章阐述最优性条件， 分析无约束与约束优
化问题中解的存在性和唯一性; 第5 章通过线性模型、主成分分析和支持
向量机等实际案例， 探讨优化建模的具体方法; 第6 章深入剖析无约束优化
算法， 包括梯度类方法、牛顿法与信赖域方法等; 第7 章讨论约束优化的解
决方案， 如罚函数法与增广拉格朗日函数法; 第8 章聚焦机器学习需求， 讲
解随机优化等现代优化技术在人工智能中的应用. 书中在每章开头和结尾
分别给出了章节主要内容和习题， 帮助读者合理规划学习进度， 并在学习
后巩固核心知识点.
本书的编写得到了南京航空航天大学和太原理工大学的大力支持， 并
最优化模型与方法
获得国家自然科学基金优秀青年科学基金项目(T2322012) 资助. 感谢我的导师香港城
市大学张青富教授长期以来的指导和支持; 感谢同事在理论研究和实际应用中的指导与
帮助; 感谢清华大学出版社的编辑团队提供出版机会; 特别感谢在书稿写作过程中提出
建议和修改意见的读者朋友们. 由于编著者能力有限， 书中难免有不足之处， 恳请读者
批评指正. 希望本书能够为学习和研究最优化理论的读者提供帮助， 同时也为最优化技术
在实际问题中的应用贡献一份力量.
编者
2025 年10 月
|
|
購物車/收銀台(0) | 在線留言板
| 付款方式
| 聯絡我們
| 運費計算
| 幫助中心 |
加入書簽
HOME
新書上架
