LoRA(ローラ)

ざっくり言うと

イメージ

この例えは、アダプターを別のファイルとして読み込む使い方を表しています。実際には、付箋の中身を本文へ書き写すように、推論用のモデルへLoRAの差分をマージ（合体）させることもできます。

マージしたあとのファイルは、元のベースモデルと同じ状態ではありません。付箋の中身を書き写した本が、もとの本とは別物になるのと同じです。

正確には

LoRAは、Huらが2021年に発表した手法です。AIの中身には、答えを左右する数値が大量に並んでおり、調整とはこの数値をどう変えるかを決める作業を指します。

元の数値をW0、加えたい変化をΔWと書くと、LoRAは大きなΔWをそのまま学習しません。より小さな2つの行列（数値を縦横に並べた表）AとBのかけ算で表します。式にするとW = W0 + ΔW、ΔW = BAです。

ここでランクrという設定を、元の行列の大きさ（次元）より小さくとります。こうすると、学習する数値の数がぐっと減ります。

LoRAを差し込む場所も、全部ではありません。対象は、Attention（入力のどこに注目するかを決める部分）などで使われる線形層のうち、選んだところに限られます。どの層を選ぶかは、モデルと設定によって変わります。

元論文が出した数字の読み方

元論文は、GPT-3 175Bという大きなモデルで実験しています。Adamを使ったフルファインチューニングと比べて、学習対象のパラメータを最大1万分の1、GPUメモリの要件を約3分の1に減らせたと報告しています。

フルファインチューニングとの違い

全体を作り替えるやり方と並べると、性格の違いがはっきりします。

ファイルの大きさに、共通の目安はありません。ランク、対象にした層、モデルの規模、保存するときの精度で変わります。「必ず数MB」と思い込まず、アダプターの設定と実物のファイルを確かめてください。

ランクと対象モジュールという設定

ランクrは、学習する差分をどれくらいの細かさで表すかに関わる設定です。対象モジュールは、モデルの中のどの線形層にLoRAを入れるかを決めます。

ランクや対象の範囲を広げると、学習するパラメータは増えます。ただし、品質が必ず上がるとは限りません。

まずは小さな設定から始めましょう。そのうえで、学習に使っていない評価用のデータで、ねらった出力に近づいたかを確かめてください。

使うときは、別読み込みかマージか

どちらの形で使うかで、速さやメモリ、切り替えやすさが変わります。

速さ、メモリ、切り替えやすさ。このどれを優先するかで、選ぶ形が変わります。

使う場面

どこで使われる？

• 文章のAI（LLM）
  文体や書式、特定の作業への慣らし
• 画像を作るAI
  画像生成の流れの中で、選んだ層を効率よく調整
• 1つの土台を使い分ける
  1つのベースモデルに、複数のアダプターを組み合わせる

Hugging Face Diffusersは、画像を作るモデル向けのLoRA学習の方法を公式に案内しています。LoRAは、文章のAIだけの手法ではありません。

LoRAで何を改善できるかは、用意したデータと、評価するタスクによって決まります。文体や出力の形だけでなく、専門的な作業に慣らせる場合もあります。

ただし、よく変わる知識を正確なまま保ちたい用途では、RAG（答えるときに資料を検索して読ませるしくみ）やデータベース参照のほうが、更新しやすいことがあります。

注意点

画像や文章を学習・配布に使うときは、「公開されているから自由に学習・再配布できる」とは限りません。文化庁の「AIと著作権」などの公的な資料にも目を通し、個別の案件は必要に応じて専門家へ相談してください。

関連用語

LoRAは、もっと広い調整の話の中にある1つのやり方です。近い言葉と並べて見ると、位置関係がつかめます。

• ファインチューニング — 学習済みのAIに追加のお手本を見せて、望む答え方へ寄せる調整全体の呼び名です。LoRAはその中のひとつにあたります
• パラメータ — モデルの中にある、答えを左右する数値のことです。LoRAが減らすのは、このうち学習する分の数にあたります
• トレーニング — データを読ませて覚えさせる工程のことです。LoRAでの調整も、この工程の一部にあたります

やってみよう

LoRAは目的ではなく、調整の手段のひとつです。採用するかどうかは、評価の結果を見てから決めましょう。