AI Safety
読み方は「エーアイセーフティ」。意味と使われ方を根拠つきで確認できます。
複数資料で一致
30秒で分かる答え
AI Safetyは、AIシステムが誤作動、危険な出力、悪用、情報漏えいなどを起こすリスクを把握し、低減するための考え方と実践です。モデルの拒否機能だけで完結せず、設計、データ、権限、評価、監視、インシデント対応まで含めて扱います。具体的な範囲は文脈で変わります。
AIによる事故や悪用などのリスクを抑えるための考え方と実践
AI Safetyの意味・使い方
要点と背景
AIによる事故や悪用などのリスクを抑えるための考え方と実践
AI Safetyは、AIシステムが意図しない事故を起こしたり、悪用されたり、利用者や社会に有害な影響を与えたりするリスクを把握して低減するための考え方と実践です。NISTのAI Risk Management Frameworkは、AIのリスクを管理するためにGovern、Map、Measure、Manageの機能を示し、信頼性、安全性、セキュリティ、説明可能性、プライバシー、公平性など複数の特性を扱います。AI Safetyという言葉の範囲は、モデルの危険な出力、プロンプトインジェクション、誤情報、個人情報、権限を超えたツール操作、社会的な影響など、文脈により変わります。モデルに拒否機能を付けるだけで安全になるわけではなく、利用目的の定義、脅威分析、データ管理、最小権限、評価、ログ、監視、停止・復旧手順を組み合わせます。安全性は一度のテストで証明できる固定属性ではなく、利用状況や攻撃方法の変化に応じて継続的に見直す対象です。
使われる分野・文脈
掲載データの使用場面
確認時の注意
断定を避けるポイント
NIST AI RMFとOpenAI安全ガイドで、モデル機能だけでなく設計・評価・権限・監視を含むリスク低減として整理した。単一の安全基準とはしない。
関連する用語
同じ分野・使用文脈から探す
根拠資料と確認状況
確認日・出典
複数資料で一致
最終確認2026/8/21
調査した根拠と項目別の確認履歴をもとに掲載しています。
読み方と意味を、
分けて確認。
正式名称、意味、使われる分野を分けて記録しています。