1樓：小知04016守頓
從資料來源頭獲取更多資料：這個是容易想到的，例如物體分類，我就再多拍幾張**好了；但是，在很多情況下，大幅增加資料本身就不容易；另外，我們不清楚獲取多少資料才算夠；
根據當前資料集估計資料分佈引數，使用該分佈產生更多資料：這個一般不用，因為估計分佈引數的過程也會代入抽樣誤差。資料增強（data augmentation）：
通過一定規則擴充資料。如在物體分類問題裡，物體在影象中的位置、姿態、尺度，整體**明暗度等都不會影響分類結果。
2樓：0飛鳥各投林
比如用ensemble類的，例如adaboost那樣，不訓練單個分類而是平均多個弱分類。
類似的方法對深度神經網路而言有random dropout，訓練的過程中每次都隨機遮蔽一些神經元（比如用binomial隨機出1或者0 ，概率為p），保證實際測試的時候，網路的輸出類似於訓練時隨機遮蔽過後的不同的神經網路的平均。就結果而言也可以緩解過擬合。
還有提早終止訓練的。
不過更普遍的方法一般都是歸一化，用l2或者l1來壓制模型本身的複雜度。參考「structural risk minimization」。
機器學習中，下面哪個方法不是為了防止過擬合的weight decay
3樓：匿名使用者
對於一個監督學習模型來說，過小的特徵集合使得模型過於簡單，過大的特徵集合使得模型過於複雜。對於特徵集過小的情況，稱之為欠擬合（underfitting）對於特徵集過大的情況，稱之為過擬合（overfitting）
機器學習中，下面哪個方法不是為了防止過擬合的 dropconnect
機器學習中，下面哪個方法不是為了防止過擬合的dropconnect
機器學習中使用「正則化來防止過擬合」到底是一個什麼原理？為什麼正則化項就可以防止過擬合？
4樓：蘇荷
減少covariance以減少複雜度。
可見 bayesian 派的 bayesian ocarm razor或 頻率派的可證偽性。
怎樣消除機器學習中的過度擬合
5樓：匿名使用者
1. dropout：訓練神經網路模型時，如果訓練樣本較少，為了防止模型過擬合，dropout可以作為一種trikc供選擇。
2. early stop結合cross validation使用。
3. 儘可能的擴大 training dataset，增加訓練集的全面性和數量。
神經網路如何防止過擬合？
6樓：令寄容
你這個問題本來就問的很模糊，你是想問神經網路的過擬合變現什麼樣還是為什麼出現過擬合呢。為此針對於第一個問題，神經網路的過擬合與支援向量機、高斯混合模型等建模方法的過擬合類似，表現為針對於訓練資料集的建模效果很好，而對於測試資料集的建模效果很差，因為過於強大的學習能力是的**模型中的噪聲將有用資訊湮沒了，致使泛化能力很差。針對於第二個問題，出現上述現象的主要原因在於隱層節點數太多(隱層節點數越多，學習能力越強)，使得**模型在訓練時候將訓練資料集中的噪聲也挖掘出來了，也就是噪聲將有用資訊湮沒了。
所以在使用神經網路進行建模時一定要處理好模型過擬合的問題，可以一方面增加資料的樣本集，另一方面採用交叉驗證選擇合適的隱層節點數，在精度與泛化能力之間做一個權衡，最常用的方法就是增加正則化項，一定程度上可以防止模型的過擬合問題。（+機器學習演算法與python學習）
用什麼演算法可以防止神經網路過擬合？
機器學習是什麼，什麼是機器學習？
機器學習是一類演算法的總稱，這些演算法企圖從大量歷史資料中挖掘出其中隱含的規律，並用於 或者分類，更具體的說，機器學習可以看作是尋找一個函式，輸入是樣本資料，輸出是期望的結果，只是這個函式過於複雜，以至於不太方便形式化表達。需要注意的是，機器學習的目標是使學到的函式很好地適用於 新樣本 而不僅僅是在...
機器學習有沒有什麼好的教材機器學習有沒有什麼好的推薦教材？
毫無疑問是tom.mitchell的 機器學習 幾乎全世界機器學習課程都在用的教材 作者個版人 上又新增了權一章的電子版 不過本書沒有系統介紹svm。土耳其人阿培丁寫的 機器學習導論 也不錯。可以結合看看模式識別方面的書籍。機器學習在我看來其實就是判別和分類。duda的 模式分類 很經典。無論如何，...
詩經中用於勉勵學習的詩句，詩經中用於勉勵學習的詩句有哪些？
它山之石,可以攻玉.詩經 小雅 鶴鳴 靡不有初,鮮克有終.詩經 大雅 蕩 高山仰止,景行行止.詩經 小雅 甫田之什 車舝 如切如磋，如琢如磨。詩經.衛風.淇奧 後世有許多人對 詩經 的評價很高,現在引用一下孔子和孟子的 孔子 對於 詩經 的思想內容,他說 詩三百,一言以蔽之,思無邪 對於它的特點,則...