【自然言語処理】言語モデルとは

定義

• 単語の出現頻度や語順などに基づいて、後続する単語の出現確率の予測や、ある単語列が実際の言語で用いられているかどうかの確からしさ（尤度）の計算を行うためのモデル
• word sequenceを推定するための統計的モデル（文法は含めない）
• 文の品詞や統語構造、単語と単語、文書と文書などの関係性について定式化したもの

  代表的な言語モデル

• Nグラムモデル
• 隠れマルコフモデル
• 最大エントロピーモデル