IPA公式正解:ア AIモデルに対して入力データを調整しながら出力結果の取得を繰り返し行って解析し,学習に用いた元のデータを推測する。
※ 正解はIPA公表の解答です。解説は当サイトが生成AIを用いて作成しています。誤りにお気づきの場合はお問い合わせください。
【解説】正解は選択肢【ア】です。モデルインバージョン攻撃は、AIモデルの出力結果を手がかりに入力データを逆算し、学習データに含まれていた機密情報を推測する攻撃手法です。
【詳細解説】■ 本問の核心・解法のポイント
AI・機械学習システムに対するセキュリティ脅威(AIセキュリティ)の主要な攻撃手法の一つである「モデルインバージョン(Model Inversion)攻撃」の定義を問う問題です。
・各選択肢の徹底解説:
・ア【選択肢ア★】 :AIモデルに対して入力データを調整・送信し、その出力結果から特徴を解析して、学習に用いた元のデータ(個人の顔画像や医療データなど)を推測する攻撃であり適切です。
・イ:AIモデルの機能やパラメータを盗み出す手法は「モデル抽出(Model Extraction)攻撃」と呼ばれます。
・ウ:学習データに悪意あるデータを混入させるのは「ポイズニング(Poisoning)攻撃」です。
・エ:実行ファイルからソースコードを得る行為は一般的なリバースエンジニアリングです。
よって正解はアです。