小小程序员
2021-05-15 22:27:56
候補サンプリング（candidate sampling）
訓練時に行われる最適化手法で、ある関数（例えばソフトマックス）を使ってすべての正クラスラベルに対して確率を計算しますが、負クラスラベルについてはそのランダムサンプルのみで確率を計算します。例えば、あるサンプルのラベルが「ビーグル」と「犬」である場合、候補サンプリングは「ビーグル」と「犬」のクラス出力、および他のクラス（猫、ロリポップ、柵）のランダムなサブセットに対して予測確率とそれに対応する損失項を計算します。このサンプリングは、正クラスが常に適切な正の強化を受ける限り、負クラスは頻度の低い負の強化から学習できるという考えに基づいており、これは実際に観察される状況です。候補サンプリングの目的は、すべての負クラスに対して予測結果を計算しないことで計算効率を向上させることです。
171
item of content
機械学習は多分野にまたがる学問であり、確率論、統計学、近似理論および複雑なアルゴリズムに関する知識を包含しています。コンピュータをツールとして用い、人間の学習方法をリアルタイムで模倣することを目指すとともに、既存の内容を知識構造に分類して学習効率を効果的に向上させることを目指しています。
- 414hits
- 0replay
-
0like
- collect
- send report