Select Language

AI Technology Community

オプティマイザ(optimizer)

勾配降下法の具体的な実装の一つです。TensorFlowのオプティマイザの基底クラスはtf.train.Optimizerです。異なるオプティマイザ(tf.train.Optimizerのサブクラス)は以下の概念を考慮します:

  • モーメンタム (Momentum)

  • 更新頻度 (AdaGrad = ADAptive GRADient descent; Adam = ADAptive with Momentum;RMSProp)

  • 疎性/正則化 (Ftrl)

  • より複雑な計算方法 (Proximalなど)

さらにはNNによって駆動されるオプティマイザも含まれます。


post
  • 171

    item of content
機械学習は多分野にまたがる学問であり、確率論、統計学、近似理論および複雑なアルゴリズムに関する知識を包含しています。コンピュータをツールとして用い、人間の学習方法をリアルタイムで模倣することを目指すとともに、既存の内容を知識構造に分類して学習効率を効果的に向上させることを目指しています。