💬インタビューレポート

本日は、個人情報保護法を改正し、AI開発向けデータ利活用の促進・こども保護の強化・課徴金制度の新設を行う法案について、お考えを伺います。率直なお話で大丈夫ですので、よろしくお願いします。 この法案にどういう立場で関わっていますか。

ありがとうございます。ご自身の個人データがどう使われるか、日常の中で特に気になる場面はどんなときですか。

関心のポイントがそこにあるのですね。 今回の法案では、一定の条件を満たして「統計情報等の作成（AI開発を含む）」にのみ使われることが担保される場合に限って、本人の同意なしに個人データが提供・取得され得る、という方向性が含まれています（提供元・提供先の名称や内容の公表、目的外利用や再提供の禁止などの担保措置つきです）。 そのうえで伺いたいのですが、あなたが「AIの学習データに使われる」と聞いて特に不安になるのは、どんな種類のデータですか。

ご懸念、よく分かります。 補足すると、今回の「統計作成・AI開発目的で同意不要」の特例は、**統計情報等の作成にのみ利用されることが担保される場合**に限って認める設計で、併せて**目的外利用や第三者提供の禁止**、提供元・提供先などの**公表**、当事者間の**書面合意**といった担保措置を置く形です。一方で、運用の細部（どこまでをAI開発として認めるか、担保措置の具体など）が**委員会規則やガイドライン側に委ねられる部分がある**のも事実で、「本当に確認できるのか」はまさに論点になっています。 そこで確認したいのですが、今のお話の中では特に、**「条件が守られているかを外から確かめにくいこと」**と、**「AIの出力として個人情報が出てしまうこと」**のどちらの不安がより大きいですか。

そこが一番怖い、という感覚なのですね。 補足すると、この法案の特例は「統計情報等の作成にのみ利用」「目的外利用や再提供の禁止」などを前提にしていますが、生成AIのように“出力”が問題になる場面では、学習・生成の仕組み次第で、意図せず訓練データ由来の情報が出てしまうリスク（いわゆる再現・漏えい懸念）をどう扱うかが気になるところだと思います。 伺いたいのですが、あなたが想像する「AIが個人情報を出力してしまう」とは、どんな形の出力ですか。

質問が分かりにくくてすみません。ここで伺いたかったのは、「個人情報が出てしまう」と感じるのが、具体的にどういう“出方”を想定しているかです。 あなたが一番心配しているのは、AIが出力の中で - 実名や住所、電話番号のような情報をそのまま返してしまうこと - それとも、名前は出さないけれど特定の個人だと分かる程度に詳しい情報を返してしまうこと どちらに近いですか。

なるほど、住所・連絡先・医療データのような“センシティブで、特定につながりやすい情報”が、名前がなくても個人に結びつく形で出てしまうのが不安なのですね。 ここで伺いたいのですが、もしAIがそうした情報を出力してしまうとしたら、あなたが特に起こり得ると感じるのは「どんな場面（サービスや状況）」ですか。

たしかに、一般の生成AIの利用時にも、モデル実装や運用に関わる人の側でも、どちらでも起こり得るという見立てなのですね。 では、あなたの感覚として「特にリスクが高い」と思うのは、通常の利用者がプロンプトで引き出せてしまうケースと、実装・運用関係者がデータやモデルの中身にアクセスできてしまうケースのどちらですか。

確かに、プロンプト側はガードレールを掛けやすい一方で、実装・運用側はデータや学習・評価環境に触れられるので、リスクが高いという見立てなのですね。 その「実装関係者のリスク」が高いと感じるのは、具体的にはどんなアクセスや作業ができてしまう状況を想像していますか。

承知しました。詳しくない前提で大丈夫です。 では感覚としてで構わないのですが、実装・運用側のリスクとして一番気になるのは、「社内の担当者が元データ（住所や医療データなど）を閲覧できてしまうこと」ですか。

大事な懸念ですね。国内のルールであっても、実際にデータが海外に出たときにどこまで効くのか、という不安だと理解しました。 一点だけ伺いたいのですが、今のご懸念はどちらが近いですか。 - 日本の事業者が海外の事業者にデータ提供してしまうケース - 海外の事業者が日本の外で独自にデータを集めてモデルを作るケース

両方とも気になるということですね。海外に出た途端に実効性が落ちるなら、何らかの強い手当てが要る、という問題意識だと受け取りました。 ここで一点だけ伺いたいのですが、あなたがイメージする「海外事業者に対する安全保障規制のようなもの」とは、どんな措置ですか。

悩ましいところですよね。海外事業者そのものに日本の法律でどこまで直接介入できるかには限界がある、という感覚はかなり現実的だと思います。 そこで伺いたいのですが、あなたが「最低限これだけは実現してほしい」と感じるのは、海外事業者そのものへの直接の介入よりも、日本側（国内の企業や国内でサービス提供する主体）に対して“海外に渡さない・渡したら責任を負う”ルールを強くする方向ですか。

なるほど、データが渡る段階の規制だけだと限界があって、「モデルが作られた後」をどう統治するかが重要、ということですね。 その“モデルが作られた後のガバナンス”として、あなたが特に必要だと思うのはどんな枠組みですか。

分かりました。ここはアイデア出しとして、法案の趣旨（利活用を進めつつ保護を強める）に沿って考え得る「モデルが作られた後」のガバナンス案をいくつか挙げますね（正解を押し付ける意図ではなく、選好を知りたい目的です）。 候補としては、たとえば次のような方向性があります。 - 国内提供時の義務：日本国内でサービス提供するAIに、学習データ由来の個人情報が出ないための安全措置・監査・記録保存を義務付ける - 独立監査・第三者評価：モデルの漏えい耐性（再現リスク）や運用体制を第三者が検証できる仕組み - 高リスク用途の制限：医療・金融・採用など領域を絞って、追加の要件（説明責任、影響評価など）を課す - インシデント時の対応強化：出力で個人情報が出た疑いがある場合の通報、調査、利用停止、再発防止の義務 この中で、あなたの感覚に一番近いのはどれですか。

おっしゃる通りで、いま挙げたのは「日本国内で実効性を持たせやすい策」に寄っていました。ご指摘ありがとうございます。 改めて一点だけ伺いたいのですが、海外で作られたモデルに対して日本が取り得る手として、あなたが現実的だと思うのは「日本国内で提供・利用される段階を規制する（国内でサービスするなら従え、という形）」の方向ですか。

問題意識、よく分かりました。国内での提供規制だけでは焼け石に水で、海外で作られたモデルに対しても「学習データ由来の影響を減らす（上書き・忘却の要請）」のような手当てができないか、ということですね。 一点だけ伺いたいのですが、あなたが想定する「学習データの上書き（忘却）」は、個人として“自分のデータ”について求められる仕組みがあるのが望ましいですか。

承知しました。個人として、自分に関する個人情報データ全般について「モデルに残っている影響を減らす／忘却させる」ことを求められる仕組みが望ましい、ということですね。 では一点だけ伺います。そうした“忘却の請求”ができるとして、実際に請求するときに最低限必要だと思う条件はどの程度ですか（例：本人確認だけで足りる感覚か、どのサービスでどう使われたかまで特定が必要だと思うか）。

なるほど。個人が各社に請求して回る形だと現実的ではないので、政府や独立機関が一定の権限を持って、海外事業者に対して忘却（モデルへの影響の低減）を要請・交渉できる枠組みが必要、というお考えですね。 そこで一点だけ伺いたいのですが、その機関が海外事業者に求める手段として、あなたのイメージに近いのは「強制力のある命令」でしょうか、それとも「要請（応じない場合は国内での取引・提供に制限がかかるような形）」でしょうか。

承知しました。実効性を重視すると、任意の要請よりも「強制力がある形」が望ましい、ということですね。 では一点だけ伺います。海外事業者に対して強制力を持たせるために、あなたが現実的だと思う手段は「日本国内に拠点や資産がある事業者に適用して従わせる」方向ですか。

AISIのような政府系の機関が前面に立って海外事業者に要請していく、というイメージなのですね。 一点だけ伺いたいのですが、その要請が実効性を持つために、要請に応じない海外事業者に対して日本側が取り得る措置として、どの方向が現実的だと感じますか。

AISIのような機関が評価を行い、その評価をテコに実効性を持たせる、という方向性なのですね。 一点だけ伺いたいのですが、あなたがイメージする「AISIで評価」とは、具体的にどんな評価ですか。

なるほど、「忘却できたか」を第三者が評価して、事業者に対応を促す形を期待されているのですね。 一点だけ伺いたいのですが、ここでいう「忘却できたか」の評価は、あなたのイメージでは **個人情報が出力として出てこないか（漏えい・再現のテスト）** を確認するような評価に近いですか。

ありがとうございます。イメージとしては、第三者が“出力として個人情報が再現されないか”をテストして、忘却が実現できているかを確かめる評価、ということですね。 では一点だけ伺います。その評価の結果、個人情報が出力され得ると判定されたモデルについて、法案の制度としては「国内での提供停止まで求める」くらい強い対応が必要だと感じますか。

なるほど、提供停止までは強すぎて、実務上の不便や国際的な摩擦も大きい、というバランス感覚なのですね。 では一点だけ伺いたいのですが、提供停止ではなく「個人情報が出力され得る」と評価された場合に、国内で義務付ける対応としては、どんな内容が現実的だと思いますか。

ありがとうございます。提供停止のような強制ではなく、まずはユーザー側に対して一時的な利用停止を要請する、といったソフトな対応が現実的ということですね。 一点だけ伺いたいのですが、その「一時的な利用停止要請」は、誰が誰に向けて出す形がいちばん実効性があると思いますか。

承知しました。AISIのような機関が評価して、その結果を踏まえて国民に向けて一時的な利用停止を要請する、という形が実効性がありそうということですね。 一点だけ伺いたいのですが、その要請を国民が判断に使えるようにするために、AISIの評価結果として最低限どんな情報が示されていると良いですか。

ありがとうございます。改善の前後で評価結果が比較できる形なら、国民も判断しやすいということですね。 一点だけ伺いたいのですが、その「モデル評価結果」で、あなたが特に見たい指標はどんなものですか。

ご指摘ありがとうございます。たしかに同じ方向の確認が続いていましたね。ここまでのお話だと、評価で一番見たいのは「個人情報が出力される可能性があるかどうか」に集約されている、と理解しました。 次に伺いたいのですが、今回の法改正について、現時点でどの程度ご存知ですか。

承知しました。気になるところを読んだ程度、という距離感なのですね。 今回の法改正を全体としてみたとき、今の時点ではどのように評価していますか。

不明確さが気になる、ということですね。 では一点だけ伺います。その「不明確な表現」の中で、この法案で特に気になっている点はどれですか。

ありがとうございます。「統計なら許可する一定の条件」が曖昧に感じられるのですね。 その点が気になるのは、どのような背景からですか。

承知しました。では最後に、この法案について、制度を設計する人に伝えるとしたら何を伝えますか。

ありがとうございます。海外に流出した場合にも実効性がある制度にしてほしい、というご要望ですね。 ここから要約してレポートを作成しますので、少しだけお待ちください。

お時間をいただき、ありがとうございました。以下、伺った内容の要約レポート案です。ご確認いただき、事実関係やニュアンスのズレがあれば教えてください。