タグ
#Speculative RAGの記事一覧
1件の記事があります。
RAG・検索
Speculative RAGとは？RAGの精度と速度を両立する下書き生成・検証の仕組み
Speculative RAGは、小さな専用モデルで複数の回答候補を並列生成し、大きな汎用モデルがそれを検証することで、RAGの精度とレイテンシを同時に改善する技術です。仕組み、実験結果、実務での使い道を日本語で解説します。
参照論文：Speculative RAG: Enhancing Retrieval Augmented Generation through Drafting