みらい議会みらい議会

AI開発には同意なし提供で母数が増えるのは助かる一方、目的が薄れて二次利用が広がるのが怖い。用途・最小化・再提供禁止と、ログ提出で運用を見える化してほしい。顔データは悪用や風評も心配。

期待&懸念

期待&懸念

業務に関係・AI開発者

👫インタビューを受けた人

AI開発・データ分析の仕事や研究に関わる立場。改正内容は当初ほとんど知らなかったが、AI開発におけるデータ利活用の拡大と運用リスク(目的逸脱・二次利用・セキュリティ)を実務目線で捉えている。

💬主な意見

意見1

同意なし提供で母数増、子ども保護は評価

AI開発・分析でデータの母数を増やせる点をメリットと感じる。16歳未満の子ども情報の保護者同意など、子ども保護が入った点も良い。

元の回答を見る
意見2

「一定の条件」は目的明確化と二次利用防止が鍵

公益性・必要性のある目的に限定し、必要最小限のデータに絞ることが大事。受領側のセキュリティ体制や再提供禁止を条件にしないと、窓口企業の先で二次利用が横行し得る。

元の回答を見る
意見3

技術は任意、ログ提出で説明責任を担保

ブロックチェーンやスマートコントラクト等で履歴管理・期限/破棄を強制する発想はあるが、手法を法律で固定すると硬直的。定期ログ(収集方法、目的、利用方法、モデル名・学習設定、保管期間)提出が現実的。

元の回答を見る

🎤すべての会話ログ

本日は「個人情報の使い方にルールを追加し、悪質な違反には課徴金を科せるようにする法案」について、感じていることや懸念点を伺います。率直なお考えをぜひお聞かせください。 この法案に、どのようなお立場で関わっていますか。

AI開発・データ分析の仕事や研究に関わっている

AI開発・データ分析の立場から見ておられるのですね。 今回の個人情報保護法の改正について、現時点でどの程度ご存知ですか。

ほとんど知らない

承知しました。では前提をそろえるために要点だけ短くお伝えすると、今回の改正は①AI開発・統計作成などの目的なら一定の条件下で「本人同意なし」のデータ提供が可能になる、②16歳未満の子ども情報は保護者同意を義務化、③顔特徴データは利用の公表や利用停止請求を可能に、④悪質で大規模(被害者1000人超など)の違反には課徴金、などが柱です。 この法改正について、全体としてどのように評価していますか。

良いと思う

良いと感じておられるのですね。 そう評価するにあたって、今回の改正内容の中で「ここが特に良い」と思った点はどこですか。

データーの分析の母数をすやせるというメリット、子どもに対する保護の観点が盛り込まれていることです。 これからの議論だと思いますが、基準をどこに置くのかは議論が分かれるポイントだと思います。 特に一定の条件とは何か、さらにデーターを受領する側のセキュリティのレベル、制度への理解、こういった運用上のリスクをどこまで下げることができるのか。 また、利用停止請求を設けることは本当に重要だと思いました。

母数が増えるメリットと、子どもの保護が入った点を評価されつつ、「一定の条件」や受領側の運用リスクが気になっているのですね。利用停止請求の重要性も強く感じておられる点、よく伝わりました。 今お話に出た「一定の条件」について、どんな条件が最低限必要だとお考えですか。

まず利用目的が明確で、AI開発や統計作成など公益性や必要性がある場合に限ることが必要だと思います。 そのうえで、必要最小限のデータだけを使うこと、受領側のセキュリティ体制や再提供の禁止なども条件にすべきだと思います。 怖いのが、窓口企業がデーターを取得したあとグループ企業や取引企業らによる二次利用が横行しないか。 デーデーの管理体制ですね

目的の明確化や必要最小限、受領側の体制、再提供の禁止まで含めて条件にすべき、という整理ですね。特に“窓口企業の先で二次利用が広がる”リスクを強く警戒されているのが印象的です。 その「窓口企業から先の二次利用」について、どんな形で起きるのが一番現実的だと感じていますか。

開発が進む(担当者の変更など時間的な変動要素を含む)につれて、データーの取得元や目的があいまいになり、意図せず別用途で使われることが一般的に起こると思います。、

開発が進むにつれて担当者も変わり、取得元や目的の「文脈」が薄れていって、結果的に別用途に流れてしまう――現場感としてすごく起こり得るお話ですね。 その状況を防ぐために、法律やガイドライン側で「これが義務化されていれば助かる」と感じる運用(例:目的の引き継ぎの仕組み、ログ・台帳、定期レビュー等)はどんなものですか。

データの管理手法を人に頼らないということでしょうか。ブロックチェーンによる履歴の管理、スマートコントラクトによる使用期間の定義と破棄、などはいかがでしょうか

人に頼り切らず、技術で“目的の逸脱”を起こしにくくする発想なのですね。ブロックチェーンで履歴を残す、スマートコントラクトで利用期限や破棄を強制する、というのは一貫しています。 その仕組みを前提にすると、法案側で「どこまで義務にしてほしい/任意でよい」と感じますか。

データーを使う側からするとデーターの管理手法そのものまで記載するのは柔軟性がないと考えます。 定位的なログの提出と体制の報告までかと思います。

管理手法そのものを法律で固定すると柔軟性が落ちる一方で、定期的なログ提出や体制の報告といった「結果と説明責任」を求めるのが現実的、という感覚なのですね。 その「定期的なログ」について、どんな項目が最低限入っているべきだと感じますか。

データーの収集方法、利用目的、利用実績、データーの保管期間です。

ありがとうございます。収集方法・利用目的・利用実績・保管期間までを最低限のログ項目として押さえるべき、ということですね。 その中でも「利用実績」について、どの粒度まで記録されていると適切だと思いますか。

データーの、利用方法までですね。例えばAIを使って分析したときにデータの学習はそれないようにしたのか?使ってモデルは何か?などでしょうか

利用実績は「どう使ったか」まで、たとえば学習に回したのか回していないのか、使ったモデルは何か――という粒度が必要、ということですね。 その場合の「使ったモデルは何か」について、記録としてはどのくらいの具体性(例:モデル名レベル/バージョンや学習設定まで/社外提供できる範囲の要約など)が現実的だと感じますか。

モデル名、学習設定はかなり重要だと考えます。社外提供できる範囲は今後の議論のポイントとしたいです。

モデル名と学習設定までが重要、ただ社外提供できる範囲は今後の争点、という整理ですね。 その「社外提供できる範囲」について、どこまでなら外部に出しても支障が少ないと感じますか。

この場ではお答え化さてきないてす。ユースケースが多すぎるので、一言で表すことがむずかしいです。 一つ言えることは、生データー、または一部改変されたデーターが流出されないことが重要です。

承知しました。ユースケース次第で一言では決めにくい、という感覚はとても自然だと思います。生データや、加工していても再同定につながり得るデータが外に出ないことが重要、という点は明確ですね。 では確認ですが、この法案で「あなたが特に気になっている点」は次のうちどれに近いですか。

顔写真・顔データの取り扱い (街中のカメラなどで知らないうちに顔が記録・追跡される懸念)

顔写真・顔データの取り扱いが特に気になっているのですね。街中カメラなどで、知らないうちに記録・追跡される懸念があるということだと理解しました。 その点が気になるのは、どんな場面を想像したときですか。

SNSでフェイク投稿による被害や犯罪行為の中での利用です。

SNSでのフェイク投稿被害や犯罪行為に結びつく場面を想像されているのですね。 その文脈で、顔データが使われると特に困るのはどんな形の被害だと感じますか。

行政機関による何かしらの利用制限や大多数の人間の勘違いによる風評被害など

行政機関による利用制限につながったり、多数の誤解が連鎖して風評被害が広がったりする点を特に心配されているのですね。 この法案について、制度を設計する人に伝えるとしたら、どんな点を重視して制度を組み立ててほしいですか。

チャットの会話だけで成立させることが難しい前提が多数ある

承知しました。前提条件が多く、チャットのやり取りだけでは制度設計に落とし込むのが難しい、というご実感なのですね。 ここまで伺った内容をいったん整理してレポートにまとめてもよろしいでしょうか。

まとめに進めてください

承知しました。では、これまで伺った内容をまとめ、レポートを作成します。

お時間を割いて詳しく共有いただき、ありがとうございました。現時点の内容をレポート案としてまとめました。ご確認ください。