推論モデル(Reasoning Model)

推論モデルは、最終的な答えを出す前に、見えるかどうかは別として「思考」フェーズで問題を一歩一歩掘り下げます。

  • モデルとアーキテクチャ
  • 更新日

推論モデルは中間ステップに追加のトークンを費やします。これは数学、コーディング、その他の多段階問題で結果を改善する傾向があります。オープンモデルの中には思考のオン・オフを切り替えるスイッチを備えたものもあり、精度と速度・コストを交換できます。

余分な思考はコンテキストを消費し、時間もかかるため、単純なチャットや短い回答には推論モデルが最適とは限りません。モデルを比較するときは、ベンチマークのスコアが思考をオンにして測定されたものか確認してください。

関連用語

  • トークン(Token) トークンは、言語モデルが読み書きする小さなテキストのかたまり(多くは単語か単語の一部)で、モデルは長さや速度をトークン単位で測ります。
  • コンテキストウィンドウ(Context window) コンテキストウィンドウとは、モデルが一度に考慮できるテキスト量の上限で、トークン単位で測られます。あなたのプロンプトとモデル自身の回答の両方が含まれます。
  • AI エージェント AI エージェントとは、モデルがツールを呼び出して多段階のタスクを計画・実行するシステムです。コードの実行、ウェブ検索、ファイル編集などを行います。

すべての用語