什麼是正則化引數，什麼是正則化？ 詳細的定義和例項將不勝感激

你想更詳細。

正則化是指在代數理論中，不定問題通常由一組線性代數方程定義，而這組方程通常是具有大量條件的不定逆問題。 大量的條件意味著捨入錯誤或其他錯誤會嚴重影響問題的結果。

求解不定問題的常用方法是用一組與原始不定問題“接近”的問題解來近似原始問題的解，這稱為正則化方法。 如何建立有效的正則化方法是逆問題領域不定式問題研究的重要內容。

通常的正則化方法包括基於變分原理的Tikhonov正則化、各種迭代方法和其他改進方法，這些都是求解不定問題的有效方法，在各類逆問題研究中得到了廣泛的應用和研究。

正則化：歸一化，代數幾何中的乙個概念。

通俗地說。 它是給平面不可約代數曲線某種形式的純引數表示。

即，對於 PC 2 中的不可約代數曲線 C，尋找乙個緊緻的黎曼曲面 C* 和乙個全純對映：C* PC 2，使得 （C*）=C

嚴格定義如下。

設 c 是不可約平面代數曲線，s 是 c 的奇點集合。 如果有乙個緊密的黎曼曲面 c* 和乙個全純對映：c* pc2，則製作它。

1） c*）=c （2） 1）（s） 是一組有限的點 （3） c* 1）（s） c s 是一對一的對映。

稱為（c*，這是c的正則化。 當沒有混淆時，它也可以稱為 C* 的正則化。

正則化的做法實際上是在不可約平面代數曲線的奇點處分離具有不同切線的曲線分支，從而消除這種奇點。

主要問題解決了。

1.正則化是對最小化經驗誤差的函式施加約束，這可以解釋為先驗知識（引數的正則化等同於對引數的先驗分布的引入）。 約束具有引導作用，在優化誤差函式時，它們傾向於選擇滿足約束條件的梯度約簡方向，使最終解趨於符合先驗知識（如一般的L範數先驗，這意味著原始問題更可能更簡單，並且這種優化往往會產生引數值較小的解， 通常對應於稀疏引數的平滑解）。

2.同時，正則化求解了不穩定性的不定問題，得到的解是存在的，唯一也依賴於資料的解是弱的，解不會過擬合，如果先驗（正則化）合適，解趨於與真解一致（更不用說過擬合了）， 即使訓練集中不相關的樣本數量很少。

例如，讓我們看一下功能擬合！ 給定一堆資料，讓你用乙個函式來擬合這個資料，其實就是對函式中的未知引數進行估計，如果你的資料不乾淨，比如說有一些噪音，那麼你的函式擬合效果肯定不是很好，效能就是得到的引數不是很平滑， 波動比較明顯，這就是所謂的過擬合問題。因為噪音是在裝配過程中安裝的！

這時就需要正則化，對正則化的普遍理解是給函式的引數指定乙個取值範圍，這樣可以防止引數出現較大的波動，優點是可以有效防止雜訊對函式引數估計的影響。

正則化通常通過在函式末尾新增或減去正則化項來表示。

我建議你去CSDN看看文章“談談你自己對正則化的理解”。

L1正則假設引數的先驗分布為拉普拉斯分布，可以保證模型的稀疏性，即部分引數等於0;

L2正則假設引數的先驗分布為高斯分布，可以保證模型的穩定性，即引數的值不會太大或太小。

L1 正則化和 L2 正則化可以看作是損失函式的懲罰項。 所謂懲罰，是指對損失函式中的某些引數施加一些限制。 對於線性回歸模型，使用 L1 正則化的模型稱為 LASSO回歸，使用 L2 正則化的模型稱為 Ridge 回歸。

下圖是 Python 中 LASSO回歸的損失函式，其中加號後跟 ||w||1 是 L1 正則化項。

正則化正則化運算子正則化運算子。