推論モデル(答える前に段階を踏んで考えるモデル、思考の深さ)
英語 reasoning model
推論モデルは、答える前に問題を段階的に考えるAIです。深く考えさせるほど難問に強くなりますが、時間と費用も増えます。
推論モデルは、質問を受けてすぐに答えるのではなく、まず頭の中で問題をいくつかの段階に分けて考えてから答えるAIです。難しい数学の問題を解くとき、答えだけを書かずに下書きに途中の式を書きながら解く生徒のようなものです。この頭の中で考える量を思考の深さと呼び、サービスによって「低・中・高」のように選べます。
気をつけたい点 深く考えさせるほど、答えが遅くなり、費用も増えることがあります。簡単な問い合わせの返事には浅く、複雑な計算やプログラミングには深く、というように使い分けます。頭の中の考えも利用量として数えられるサービスがあるので、料金表で確かめてください。
出典: OpenAI API ドキュメント「Reasoning models」・Anthropic ドキュメント「Extended thinking」