优化方法有两大类：

①解析法(间接法)：如梯度法、牛顿法、变尺度法和共轭梯度法等;②直接法：如坐标轮换法、模式搜索法、方向加速法和单纯形法等。

约束优化问题中，随函数中设计变量的方次不同，有线性和非线性之分，分别以线性规划和非线性规划方法来解决。近二、三十年来，数学规划还发展起来几何规划和动态规划两个分支。几何规划用来处理目标函数；动态规划则用于与时间历程有关的问题的优化设计。