【AI】プロンプト・インジェクションとは

AIのお勉強

プロンプトとは

利用者から受け取る命令のこと。

プロンプト・インジェクションとは

AIに対して特殊な質問を入力することにより、AI開発者が想定していない結果を引き起こし、チャットボットが保有する機密情報や公開すべきでないデータを引き出す手法。
AIチャットボットに開発者の想定していない内容を指示すると、チャットボットの保有する機密情報や公開すべきでないデータが開示されてしまう可能性がある。