タグ
#検索拡張言語モデルの記事一覧
1件の記事があります。
RAG・検索
RETROとは？巨大検索メモリを外付けして小さめのLLMを強くする技術
RETROは、巨大な外部テキストデータベースを検索しながら次トークンを予測する Retrieval-Enhanced Transformer です。仕組み、通常のRAGとの違い、実験結果、開発への使い道を日本語で整理します。
参照論文：Improving Language Models by Retrieving from Trillions of Tokens