尤度関数(likelihood function)
機械学習において、尤度関数はモデルのパラメータに関する関数である。「尤度(likelihood)」と「確率(probability)」は語意が似ているが、統計学では全く異なる意味を持つ：確率はパラメータが既知の場合に、次の観測結果を予測するために用いられ；尤度はいくつかの観測結果に基づいて、与えられたモデルのパラメータの可能な値を推定するために用いられる。

その数学的な形式は次のように表される：

仮に$X$が観測結果の系列で、その確率分布fxがパラメータ θに依存するとすると、尤度関数は次のように表される

尤度関数は、**離散型確率分布(Discrete probability distributions)と連続型確率分布(Continuous probability distributions)**に対する定義が通常異なる。
離散型確率分布(Discrete probability distributions)
仮に Xが離散確率変数で、その確率質量関数 pがパラメータ θに依存するとすると、次のようになる

L(θ∣x)はパラメータ θ \theta θの尤度関数で、x x xは確率変数 X X Xの出力である。

時々、「パラメータの値が のときの値の確率」はP(X = x | θ) または P(X = x; θ) と書かれる。