* Levenberg-Marquardt法 (LM)+ 通用全局优化算法(Universal Global Optimization - UGO)

* Quasi-Newton法 (BFGS)+ 通用全局优化算法(Universal Global Optimization - UGO)

* 遗传算法 (Genetic Algorithms - GA)

* 摸拟退火 (Simulated Annealing - SA)

* 下山単体法 (Simplex Method - SM)+ 通用全局优化算法(Universal Global Optimization - UGO)

* 离子群法 (Particle Swarm Optimization - PSO)

* 最大继承法 (Max Inherit Optimization - MIO)

* 差分进化法 (Differential Evolution - DE)

* 自组织群移法 (Self-Organizing Migrating Algorithms - SOMA)

* 共扼梯度法 (Conjugate-Gradient Method - CGM) + 通用全局优化算法(Universal Global Optimization - UGO)

* 包维尔法 (Powell Optimization - PO)+ 通用全局优化算法(Universal Global Optimization - UGO)

* 禁忌搜索法 (Tabu Search - TS)

* 单纯线性规划法 (Simplex Linear Programming)

Nelder–Mead simplex algorithm

Nelder-Mead法，或称下山单纯形法，可做非线性函数极值以及曲线拟合程序。

Nelder-Mead法是利用多面体来逐步逼近最佳点x*.设函数变量为n维,则在n维空间里多面体有(n+1)个顶点.设x1,x2,...,xn+1为多面体的顶点,且满足:

                                 f(x1)<=f(x2)<=...<=f(xn+1)

      Nelder-Mead法试着将多面体中最差的顶点xn+1(也就是函数的最大点)以新的最佳点替代,来更新多面体,使之逼近最佳解.更新的设定方式有四种,分别是:反射,扩展,外收缩,内收缩.如果这四种方法都不适用,则进行变小步骤.

，

 

----------------------------

1：遗传算法：Genetic Algorithm(GA)

2：麦夸特法：Levenberg-Marquardt(LM)

3：准牛顿法：Quasi-Newton(BFGS)

4：简面体爬山法：Simplex Method(SM)

5：最大继承法：Max Implementation Optimization(MIO)

6：模拟退火：Simulated Annealing(SA)

7：粒子群法：Particle Swarm Optimization(PSO)

8：自组织融合法：Self-Organizing Migrating Algorithm(SOMA)

9：共扼梯度法 (Conjugate-Gradient Method - CGM) + 通用全局优化算法(Universal Global Optimization - UGO)

10：包维尔法 (Powell Optimization-PO)+ 通用全局优化算法(Universal Global Optimization - UGO)

11：禁忌搜索法 ：Tabu Search(TS)

12：单纯线性规划法：Simplex Linear Programming(SLP)

---------------------------------