Generative AIの意味

Generative AIは、入力データの構造や特徴を学習したモデルが、文章、画像、音声、動画、コードなどの新しいコンテンツを生成するAIの総称です。NISTは、生成AIを入力データの特徴をまねて派生した合成コンテンツを生成するAIモデルのクラスとして説明しています。検索結果をそのまま表示する検索システムや、決められたルールで分類するだけのシステムとは、中心となる処理が異なります。一方で、実際のサービスでは検索、データベース、ツール、テンプレートなどと組み合わせて使われるため、生成機能だけでサービス全体を説明できるとは限りません。生成物はもっともらしくても事実誤認、欠落、偏り、権利やプライバシーの問題を含む可能性があります。用途やモデルによって入力形式、出力品質、制限、利用条件が異なるので、Generative AIという名称だけで性能や安全性を断定しません。重要な用途では生成物を元資料やルールと照合し、出力をそのまま最終判断に使わない設計も必要です。

分類や検索だけでなく作成支援を扱えるため、創作、業務文書、開発支援など幅広い用途で導入が検討されます。

現在はモデルごとの入力・出力、著作権、個人情報、誤情報、利用規約、人による確認を組み合わせて管理します。