Top-K(トップケー)
生成AIの出力候補を「上位 K 個」だけに絞り込む仕組み。確率の高い候補だけを残して、変な単語が混ざるのを防ぐためのスイッチを、小中学生でも分かるレベルに超訳します。
ざっくり言うと
似た仲間に Top-P(累積確率で絞る方式)があります。Top-K は「個数」で絞る、Top-P は「確率の合計」で絞る、と覚えてください。
イメージ
正確には
Top-K サンプリングは、確率の高い順に上位 K 個の候補だけを残して、残りの候補をすべて切り捨てるサンプリング手法です。Hugging Face の解説ブログでは、Top-K サンプリングを「次のトークン候補のうち、確率が最も高い K 個だけを抽出し、その K 個の間で確率を再分配してサンプリングする方式」として紹介しています。
この手法は、論文 Hierarchical Neural Story Generation(Fan et al., 2018)で広く知られるようになった代表的なサンプリング手法のひとつです。
Top-K と Top-P の違い
混同しやすいのが、もう一つのサンプリング方式である Top-P(Nucleus Sampling) との違いです。
| パラメータ | 絞り方 | 値の意味 | 候補数 |
|---|---|---|---|
| Top-K | 個数で絞る | 整数(例:40) | 常に K 個に固定 |
| Top-P | 累積確率で絞る | 0〜1 の小数(例:0.9) | 状況によって変動 |
Temperature との関係
Top-K は、もう一つよく見る Temperature(温度) とも組み合わせて使われます。Temperature が「確率分布の形を変える」のに対し、Top-K は「候補の数を絞る」役割です。両者は別の角度から「出力のランダムさ」を調整します。
- Temperature: 確率の山を尖らせる/平らにする(味付けを変える)
- Top-K: 候補リストの上から K 個だけ残す(選択肢の数を絞る)
組み合わせて使うことで、「ある程度バリエーションは出したいけど、明らかにおかしい候補は除外したい」という細かい調整ができます。
よくある使い方
やってみよう
関連用語として Temperature と Top-P も合わせて読むと、生成AIの「ランダムさ調整スイッチ3兄弟」の全体像がつかめます。
参考ソース
UPDATES
新着用語をLINEでお届け
新しい用語記事やAIの最新ニュース、仕事に役立つヒントをお届けします！
リンク先は、運営元の Nanoha AI Labo 公式LINEです。