AWS認定資格 無料問題集

解答

正しい解答：Ｂ. エクスポージャー

　URL を直接入力して「解答・解説」画面を表示した場合、何を選択・解答したかを特定できないため、解答の正誤判定ができません。必要に応じて「同じ問題に再挑戦」ボタンをクリックして、この問題に再チャレンジしてみてください。

徹底解説

　大規模言語モデル（LLM：Large Language Model）を利用したチャットボットで、トレーニングデータが利用者への応答の一部としてそのまま出力されてしまう事象に該当するリスクは、エクスポージャー（Exposure）です。エクスポージャーは、モデルが学習時に取り込んだ機密性の高い情報や個人情報を、出力結果としてそのまま外部に漏洩してしまうリスクです。具体的には、本問題のようにトレーニングデータに含まれていた顧客の氏名や住所、電話番号、取引履歴などの個人情報が、利用者への応答や出力されるログの中に意図せずそのまま現れることで顕在化します。この現象は、データのマスキングが不十分なままで学習素材をモデルに投入した場合や、モデルが内部に記憶した生データの断片を再現してしまう場合に起こり易くなります。機密性の高い情報の漏洩は、法令違反のリスクを高め、訴訟リスクや顧客からの信頼失墜につながる可能性があります。エクスポージャー対策としては、学習データの厳格な匿名化を行うとともに、本番運用時も出力結果のモニタリングやフィルタリングを徹底することが重要です。

　その他の選択肢は、トレーニングデータが利用者への応答の一部としてそのまま出力されてしまう事象に該当するリスクではありません。フールプルーフは、システムや製品の設計段階で、誤った操作をしても重大な事態に陥らないようにあらかじめ対策を施す手法を指します。操作や判断のミスを前提として、誤操作を未然に防ぐ工夫や、誤った操作が行われても安全な状態に留まる仕組みを組み込む設計思想のことであり、本問題で問われている事象とは何の関係もありません。また、プロンプトインジェクションは、生成AIモデルの挙動を意図的に操作・妨害するために、悪意のある指示を入力プロンプトへ埋め込む攻撃手法のことであり、ジェイルブレイクは、チャットボットが倫理的制約やコンテンツフィルターを回避するように誘導するプロンプトによって、その制限を解除して、不適切または攻撃的なコンテンツを生成させる手法です。プロンプトインジェクションやジェイルブレイク（Jailbreak＝脱獄）は、それらの名前が示すように悪意のある攻撃手法であり、本問題のユースケースのリスクを示すものではありません。

Keep it up！
　エクスポージャーは、 モデルの挙動による情報漏洩リスクであり、学習データの不十分な匿名化とデータガバナンスの不備に起因します。そのため、学習前のデータ加工（匿名化・マスキング）と出力側でのガードレール設定の両面から対策を行うことが重要です。