私たちの社会に急速に広がっている「AI」。

最近では飲食店の電話で予約受付を応対する「AI」がいたり、対話型チャットで色々な質問に答えてくれる「AI」がいたりと、我々の日常生活においても大変身近な存在となっています。

誰でも気軽に使える「AI」はとても便利である一方で、大きなリスクも抱えています。

例えば著作権侵害や情報の漏洩等です。

特に、大量のデータを元に文章や画像等を生成することができる「生成AI」はよりそのリスクが顕著です。

今回は、「生成AI」と個人情報について、その中に潜むリスクを主にみていきたいと思います。

とその前に、そもそも「生成AI」とは何か？をもう少し具体的にみていきましょう。

 

1. 「生成AI」とは？

「生成AI」とは、与えられた大量のデータから新たなデータを生成する能力を持つ「AI」のことを言います。

従来の「AI」との違いは、オリジナルコンテンツを創造できるかどうかにあります。

「AI」は与えられたデータの中から適切なデータを探して提示するだけでしたが、「生成AI」は与えらえたデータをもとに、ゼロから新しいものを生み出すことができます。

テキストや画像、音声等のデータをもとに、新たな画像やテキストを作成するなどクリエイティブな能力を発揮することができるということです。

例えば「ChatGPT」は、与えられたテキストデータから文章を自動作成し、まるで人間と話しているように自然な会話で応対することが可能です。

一方で「生成AI」は、人間とは異なり、もとの学習データこそが全てになってしまうので、そもそものデータが誤っていた場合、自ずと生成される情報も不確実なものになってしまいます。

そこに大きなリスクが潜んでいると考えます。

今回は、様々なリスクがあるなかでも、特に個人情報についてのリスクをみていきたいと思います。

 

2. 「生成AI」における個人情報流出のリスク

（参照）個人情報保護委員会「生成 AI サービスの利用に関する注意喚起等」

https://www.ppc.go.jp/files/pdf/230602_alert_generative_AI_service.pdf

 

上記の参照にあるように、日本では個人情報委員会が「生成AI」の利用について、注意喚起を行っています。

注意喚起対象は大きく３つ、1.個人情報取扱事業者、2.行政機関等、3.一般の利用者です。

例えば、個人情報取扱事業者に対しては、「個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること。」（上記参照U R Lより抜粋）とあります。

個人情報はその利用目的の範囲内で利用することがとても大切になります。

特に医療従事者や公務員等、プライバシーに関わる情報を取り扱う人たちは、充分に注意しなければなりません。

会社に属するサラリーマンも同様です。これまでに企業秘密が「生成AI」によって外部に漏れてしまった例もあります。安易に便利だからと会議の議事録作成に使用すると、それが学習データとなり多くの人に漏れてしまいかねませんので注意が必要です。

 

もう一つ怖いのは、「生成AI」が間違ったデータを学習してしまうことです。

個人情報保護委員会は一般の利用者に向けて、「生成AIサービスでは、入力された個人情報が、生成AIの機械学習に利用されることがあり、他の情報と統計的に結びついた上で、また、正確又は不正確な内容で、生成AIサービスから出力されるリスクがある。 そのため、生成AIサービスに個人情報を入力等する際には、このようなリスクを踏まえた上で適切に判断すること。」（上記参照U R Lより抜粋）とあります。

また、「生成AIサービスの中には、応答結果として自然な文章を出力することができるものもあるが、当該文章は確率的な相関関係に基づいて生成されるため、その応答結果には不正確な内容の個人情報が含まれるリスクがある。そのため、生成AIサービスを利用して個人情報を取り扱う際には、このようなリスクを踏まえた上で適切に判断すること。」ともあります。

我々利用者側も間違ったデータが潜んでいる可能性を踏まえて、「生成AI」を利用しなければならないということです。

 

まとめると、個人情報についてはむやみに「生成AI」の学習データに入力しない、また、「生成AI」の限界を知り、情報を鵜呑みにするのではなく自ら根拠や裏付けを確認することを心がけなければいけないということです。

ところで、どの入力データが「生成AI」の学習データに利用されるのかは曖昧です。

これまで以上に情報の入力自体を慎重に行っていく必要があるでしょう。