最优解惩罚函数可以分为外点法和内点法：等式约束罚函数

罚函数法的基本思想是借助罚函数将约束问题转化为无约束优化问题，然后通过求解一系列无约束优化问题得到原约束问题的解。在迭代过程中，惩罚函数法通过对不可行点施加惩罚来迫使迭代点逼近可行域。一旦迭代点变成可行点直线搜索方法,无约束优化方法,约束优化方法，这个可行点就是原问题的最优解

惩罚函数可分为外点法和内点法：

等式约束惩罚函数：

根据约束的特点直线搜索方法,无约束优化方法,约束优化方法，构造惩罚项，然后加到目标函数中，将其转化为无约束问题

对于以下约束：

构造一个辅助函数，求辅助函数的最小值：

σ为惩罚因子，取大正数，F(x,σ)为惩罚函数，σP(x)为惩罚项

罚款项目需满足的条件

原理：当x在可行域内时，没有惩罚，一般优化方法求最小值；当x不在可行域内时，加惩罚使F(x,σ)远离最优解；即σ→∞，若原问题有解，则必定在可行域内，且minf(x)==minF(x,σ)1。外点罚函数法外点法是从可行域外缓慢逼近边界，在逼近过程中的每个阶段计算极值点，一旦到达可行域，极值点就是原约束非线性规划的极值点

1) 方程：

目标函数：min f(x)

约束集：st hi(x)=0 i=1,2,3,...m

增强为异常值惩罚函数：

2）不平等：

目标函数：min f(x)

约束集：st gi(x)>=0 i=1,2,3,...m

增强为异常值惩罚函数：

3) 混合

2. 内罚函数法 内罚函数法是一种保持严格可行性的方法。它总是从一个可行点开始，不断在可行域内搜索。因此，此类方法仅适用于只有不等式约束的非线性优化问题。

内部惩罚函数法的基本思想是在目标函数上引入一个与约束相关的障碍项。当迭代点从可行域内部接近可行域边界时，障碍项将趋于无穷大，迫使迭代点返回可行域。内部，从而保持迭代点的严格可行性。然后，将求解约束的问题转化为求解一系列容易的子问题，从而得到原问题的最优逼近解。该方法也称为内点障碍函数法。

目标函数：min f(x)

约束集：st gi(x)>=0 i=1,2,3,...m

增强为异常值惩罚函数：

µ 是一个非常小的数字。那么当x接近边界时，F(x, µ) → +∞，反之，当µ小时，F(x, µ)逼近f(x)。

障碍函数 B(x) 一般需要满足：

(1) 在可行域内连续

(2) 当x趋向于g(x)=0的边界时，B(x) → ∞。

障碍函数有两种常见形式：

互易障碍函数

对数障碍函数