タグ

#モデルマージの記事一覧

1件の記事があります。

学習・ファインチューニング

TIES-Mergingとは?学習済みモデルの重みの干渉を抑え、追加学習なしで統合する技術

TIES-Mergingは、同じ基盤モデルから学習した専門モデルの差分を選別し、更新方向の衝突を抑えて統合する手法です。3段階の仕組み、言語・画像の実験結果、モデル運用への応用と導入時の注意点を解説します。

参照論文:TIES-Merging: Resolving Interference When Merging Models