Top-p
とっぷぴー ・ 別表記: Top-p sampling / 核サンプリング
Top-pとは、生成AIが次の言葉を選ぶ際に、確率の高い候補をどこまで含めるかを決める設定値です。出力のばらつきを調整します。意味・特徴・Temperatureとの違いを解説します。
Top-p（生成AIの設定値）とは
Top-p（トップP）とは、生成AIが次の言葉を選ぶときに、確率の高い候補をどこまで含めるかを決める設定値のことです。核サンプリング（nucleus sampling）とも呼ばれます。
簡単に言うと、AIが言葉を選ぶ「候補の範囲」を絞るためのつまみです。確率の高い言葉から順に、合計の確率が設定値に達するまでを候補とし、その中から選ばせます。
Top-p（生成AIの設定値）は何のためのものか
生成AIは、次に来る言葉を確率にもとづいて選びます。すべての候補を対象にすると、確率の低い不自然な言葉が混じることがあります。
Top-p は、確率の低すぎる候補を除き、もっともらしい候補の範囲内から言葉を選ばせるために使われます。これにより、出力の多様さを保ちつつ、極端に外れた言葉が選ばれるのを抑える点に意味があります。
Top-p（生成AIの設定値）の主な特徴
確率の合計で候補を絞る
確率の高い言葉から順に足していき、合計が設定値（たとえば0.9）に達するまでを候補にします。残りの確率の低い言葉は候補から外れます。
候補の数が状況で変わる
固定の個数で区切るのではなく、確率の合計で区切るため、候補の数は場面によって変わります。確率が一部の言葉に集中する場面では候補が少なく、分散する場面では多くなります。
低いほど安定、高いほど多様
設定値を低くすると候補が狭まり、無難で安定した出力になります。高くすると候補が広がり、多様な出力になりやすくなります。
どのような場面で使われるのか
- 出力の多様さを保ちながら、不自然な言葉を抑えたいとき
- 安定した回答がほしいとき（低めに設定）
- 表現にバリエーションがほしいとき（高めに設定）
- Temperature と組み合わせて出力を細かく調整したいとき
これらの場面では、Top-p が言葉の選び方の範囲を左右します。
具体的な例
低めに設定する場合
確実で無難な回答がほしいときは Top-p を低めにし、確率の高い候補だけから言葉を選ばせます。出力が安定します。
高めに設定する場合
多様な表現がほしいときは Top-p を高めにし、候補の範囲を広げます。変化に富んだ出力になりやすくなります。
関連する用語
Temperature
出力のばらつきを調整するもう一つの設定値です。Top-p と組み合わせて使われることがあります。
プロンプト
AIに与える指示や質問の文です。Top-p は、その指示に対する出力の性質を調整します。
大規模言語モデル（LLM）
大量の文章で学習し、文章を生成するモデルです。Top-p はその言葉の選び方を調整します。
トークン
AIが文章を処理するときの最小単位です。Top-p は、次のトークンを選ぶ候補の範囲を決めます。
似た用語との違い
「Temperature」は、言葉の確率分布全体の「とがり具合」を変えてばらつきを調整します。これに対して「Top-p」は、確率の高い候補をどこまで含めるかという範囲で絞り込みます。どちらも出力の多様さを調整しますが、Temperature は分布の形を変え、Top-p は候補の範囲を絞る、と考えると整理しやすくなります。
利点と注意点
利点
- 確率の低すぎる不自然な候補を除きつつ、多様さを保てる
- 状況に応じて候補の数が自動で変わる
注意点
- 設定が極端だと、単調すぎたり不自然になったりする
- Temperature と同時に強く調整すると、効果が分かりにくくなることがある
まとめ
Top-p（トップP）とは、生成AIが次の言葉を選ぶときに、確率の高い候補をどこまで含めるかを決める設定値です。
主に、出力の多様さを保ちながら、極端に外れた言葉が選ばれるのを抑えるために使われます。
初心者のうちは、「Top-p は言葉の候補の範囲を絞るつまみで、低いと安定、高いと多様。Temperature とは効き方が違う」と理解しておけば十分です。