タグ
#DoLaの記事一覧
1件の記事があります。
推論最適化
DoLaとは？LLMの層を比較してハルシネーションを減らすデコード技術
DoLaは、LLMの最終層と途中層の予測を比較して次トークンを選び、追加学習や外部検索なしで事実性を高める推論時最適化です。仕組み、実験結果、RAGやAIアプリでの使い方を解説します。
参照論文：DoLa: Decoding by Contrasting Layers Improves Factuality in Large Language Models