💬インタビューレポート
大学研究者
研究機関・大学でAI開発・データ分析に関わる研究者として、改正内容(同意不要の利活用特例)がLLMの記憶により個人データ漏えいにつながる点を懸念している。
💬主な意見
🎤すべての会話ログ
本日は、「個人情報保護法を改正し、AI開発向けデータ利活用の促進・こども保護の強化・課徴金制度の新設を行う法案」について、ご意見を伺います。率直なお考えで大丈夫ですので、ぜひ気軽にお話しください。 この法案にどういう立場で関わっていますか。
AI開発・データ分析の仕事や研究に関わっている
ありがとうございます。AI開発・データ分析に関わっていらっしゃるのですね。 差し支えなければ、この法案と接点がありそうな「ご自身の関わり方」はどれに近いですか?
研究機関・大学で研究している
ありがとうございます。研究機関・大学で研究されているのですね。 今回の個人情報保護法の改正について、現時点でどの程度ご存知ですか。
概要は知っている
承知しました。概要は把握されているのですね。 今回の法改正について、全体としてどのように評価していますか。
どちらかといえば良くない
率直にありがとうございます。「どちらかといえば良くない」と感じていらっしゃるのですね。 今回の法改正で、あなたが特に気になっている点はどれですか。
一定の条件のもとに、同意なく個人データが使われるようになること
ありがとうございます。同意なしで個人データが使われる可能性が広がる点が、特に気になっているのですね。 その点が気になる背景として、どんな場面を想像されていますか。
最近のLLMは丸暗記を可能にしていますよね?今回の法案により、AIの一種であるLLMを、同意のない個人データに対して学習に使えるようになると、個人データの丸暗記LLMを作れます。業者がそれを単なるモデルだと公開や販売することは、法律上もんだいなくなりますね?つまり、個人データが自由に公開されることと同義になります。
ご懸念、よく分かりました。LLMの「記憶(memorization)」がある中で、同意なし学習が広がると“個人データ入りモデル”が流通し得る、という不安ですよね。 補足させていただくと、この法案の同意不要の特例は「統計情報等の作成(AI開発等を含む)にのみ利用されることが担保される場合」に限られていて、目的外利用や第三者提供の禁止、提供元・提供先や利用内容の公表、書面合意などの担保措置が前提になっています。なので「単なるモデルとして公開・販売すれば法律上問題なくなる」という設計を意図している、というよりは、一定の縛りのもとでの利活用を想定しています。 その上でお聞きしたいのですが、いまのお話の中で、特にリスクが高いと感じているのはどの局面ですか?
モデルから個人データが復元・漏えいし得ることが問題
なるほど、論点は「学習に使うこと」そのものよりも、学習後にモデルから個人データが復元され得る=実質的な漏えいになり得る、という点なのですね。 ここで伺いたいのですが、あなたが特に想定している「復元・漏えい」の経路はどれに近いですか?
複数の経路があり特定しにくい
承知しました。複数の経路があり得て、特定の1パターンに絞れない、という感覚なのですね。 その前提で伺いますが、制度設計として「これは最低限、法案やガイドラインに明記してほしい」と思う“安全側の条件”は、どんな内容ですか。
AIという曖昧な表現の禁止。AIの進化は我々の想像を超えているし、AIがオッケーと書いてあるからなんでもできる、と捉えなねない。
おっしゃる通り、「AI」という言葉が広すぎると、解釈次第で許容範囲が際限なく広がってしまう、という不安につながりますよね。 この法案について、制度を設計する人に伝えるとしたら、「AIという曖昧な表現を避け、同意不要で許される範囲をより具体的に定義してほしい」というご要望が中心になりそうです。 その上で確認させてください。あなたが「曖昧さをなくすために」、特に具体化してほしいのはどの部分ですか。
AI という用語です
了解しました。「AI」という用語自体が広すぎて、そこが曖昧さの源泉だということですね。 では伺いますが、法案や委員会規則の書きぶりとして、「AI」という言葉をどんな形に置き換えるのが望ましいとお考えですか。
逆にこの法案を提案した人が何を考えていたのか次第だと思う。その目的に従って、具体的に書くべき。ルールベースのAIなのかも、機械学習なのかも、曖昧
おっしゃる通りで、先に「何を達成したい特例なのか(目的)」をはっきりさせないと、用語だけ精緻化しても抜け道が生まれやすいですよね。ルールベース/機械学習のような技術分類だけでも追いつかない、という感覚も理解できます。 ここで1点だけ伺いたいのですが、あなたがこの特例の「目的」として、比較的納得できる(許容し得る)ものはどんな方向性ですか。
真の統計情報への活用。統計情報の定義は、頻度や量などの要約等計量。あるいは、統計解析の結果得られる回帰係数などの、明らかに個人の情報が含まれないもの
ありがとうございます。個人の情報が含まれ得ない「真の統計情報」(集計値や頻度、回帰係数のような統計解析結果)に限定すべき、というお考えですね。 では確認させてください。LLMの学習に使うことは、その成果物が「統計情報(集計値や係数など)」に当たらない限り、この特例の対象外にすべきだ、という理解で近いですか。
はい
ありがとうございます。いまのお考えは、「同意不要で許されるのは“個人の情報が混じり得ない形に要約された真の統計(頻度・量などの集計、回帰係数のような統計解析結果)までであって、個票に触れ得る形や、モデルとして個人情報が残り得る形は避けるべき」という線引きだと理解しました。 ここまでで主要な論点は十分伺えたと思いますので、これまでの内容をまとめ、レポートを作成します。
お時間をいただき、ありがとうございました。ここまで伺った内容をレポート案にまとめました。ご確認いただき、事実関係やニュアンスのズレがないか教えてください。