タグ
#Contrastive Decodingの記事一覧
1件の記事があります。
推論最適化
Contrastive Decodingとは？追加学習なしでLLMの出力品質を改善する推論手法
Contrastive Decodingは、大きな言語モデルと小さな言語モデルの確率差を使って、繰り返しや話題逸脱を抑える推論手法です。学習不要で導入できる仕組み、実験結果、LLMアプリへの使い道を日本語で解説します。
参照論文：Contrastive Decoding: Open-ended Text Generation as Optimization