米国国立標準技術研究所（NIST）が示す生成AIのリスク管理とは何か？

生成AIを業務で使うとき、考えるべきなのは「AIの性能」だけではありません。

入力した情報は適切に扱われるのか。AIの回答に誤りはないか。人間がAIを信用しすぎていないか。問題が起きたときに、誰が確認して対応するのか。

こうしたAIのリスクを体系的に整理しているのが、米国国立標準技術研究所（National Institute of Standards and Technology、略してNIST）です。

AIのリスク管理を4つに整理

NISTは2023年、AI Risk Management Framework（AI RMF 1.0）を公表しました。

これは法律や強制的な規則ではなく、企業や組織がAIを安全かつ適切に利用するための自主的なリスク管理の枠組みです。

その中心となるのが、次の4つの考え方です。

Govern（統治する）
組織としてAI利用の方針や責任を決める。

Map（把握する）
AIを何に使い、どのようなリスクがあるかを把握する。

Measure（測定する）
誤回答、情報漏えいなどのリスクを評価する。

Manage（管理する）
人による確認、利用制限、アクセス管理などの対策を行う。

生成AIには特有のリスクがある

NISTは2024年、生成AI向けの補助資料 Generative Artificial Intelligence Profile（NIST AI 600-1） も公表しました。

そこでは、AIがもっともらしい誤情報を生成する問題、プライバシー、情報セキュリティ、知的財産、人間による過信、外部AIサービスの利用などがリスクとして取り上げられています。

特許業務にもそのまま当てはまる

特許業務では、未公開発明やクライアントの機密情報を扱います。

そのため、

「AIの学習に使われない設定だから大丈夫」

というだけでは十分とはいえません。

どの情報を入力するのか。どこで処理されるのか。AIの回答を誰が確認するのか。誤りをどう発見するのか。

AIそのものではなく、AIをどのような仕組みの中で使うか。

NISTの考え方は、生成AIを特許業務へ導入するときの基本的な視点として参考になります。