Inference
読み方は「インファレンス」。意味と使われ方を根拠つきで確認できます。
公式・公的資料で確認
30秒で分かる答え
Inferenceは、学習済みのAIモデルへ入力を渡し、予測、分類、検索用ベクトル、文章や画像などの出力を得る処理です。オンラインで要求ごとに行う場合と、まとめて事前計算する場合があります。学習そのものではなく、学習済みモデルを利用する段階を指します。
学習済みモデルを使って入力から予測や生成を行う処理
Inferenceの意味・使い方
要点と背景
学習済みモデルを使って入力から予測や生成を行う処理
Inferenceは、学習済みの機械学習モデルへ新しい入力を与え、予測や生成の結果を計算する処理です。Googleの機械学習用語集は、LLMでは入力プロンプトに対して応答を生成すること、一般の機械学習ではラベルのない例へ学習済みモデルを適用して予測することとして説明しています。ユーザーの要求ごとに結果を返すOnline InferenceやDynamic Inferenceと、複数の入力をまとめて処理して結果を保存するBatch Inferenceがあります。Inferenceの速度や費用は、モデルの大きさ、入力と出力のトークン数、ハードウェア、バッチサイズ、量子化、キャッシュ、ネットワークなどに左右されます。生成結果が返ったことは、内容が正しいことや、業務処理が完了したことを意味しません。モデルの学習、Fine-tuning、評価、Servingは関係しますが、Inferenceはその中の実行・予測段階として区別して扱います。
使われる分野・文脈
掲載データの使用場面
確認時の注意
断定を避けるポイント
Google公式用語集で、学習済みモデルを使って予測・生成する段階と、オンライン・オフラインの形態を確認した。推論結果の正確性とは分けて記録する。
関連する用語
同じ分野・使用文脈から探す
根拠資料と確認状況
確認日・出典
公式・公的資料で確認
最終確認2026/8/21
読み方と意味を、
分けて確認。
正式名称、意味、使われる分野を分けて記録しています。