個人情報保護委員会生成 AI サービスの利用に関する注意喚起等について (2023.06.02): まるちゃんの情報セキュリティ気まぐれ日記

September 2023
Sun	Mon	Tue	Wed	Thu	Fri	Sat
					1	2
3	4	5	6	7	8	9
10	11	12	13	14	15	16
17	18	19	20	21	22	23
24	25	26	27	28	29	30

2023.06.06

個人情報保護委員会生成 AI サービスの利用に関する注意喚起等について (2023.06.02)

こんにちは、丸山満彦です。

個人情報保護委員会が生成 AI サービスの利用に関する注意喚起等を公表していますね。。。

2部構成で、

利用者側の注意点（【別添１】生成 AI サービスの利用に関する注意喚起等）と
OpenAI社への注意喚起（【別添１】生成 AI サービスの利用に関する注意喚起等）

注意喚起って...しかも、特定の１社に対して...

⚫︎個人情報保護委員会

・2023.06.02 [PDF] 生成AIサービスの利用に関する注意喚起等について

利用者への注意喚起...

（１）個人情報取扱事業者における注意点

個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的を達成するために必要な範囲内であることを十分に確認すること。
個人情報取扱事業者が、あらかじめ本人の同意を得ることなく生成AIサービスに個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該個人情報取扱事業者は個人情報保護法の規定に違反することとなる可能性がある。そのため、このようなプロンプトの入力を行う場合には、当該生成AIサービスを提供する事業者が、当該個人データを機械学習に利用しないこと等を十分に確認すること。

（２）行政機関等における注意点

行政機関等が生成AIサービスに個人情報を含むプロンプトを入力する場合には、特定された当該個人情報の利用目的のための必要最小限の利用又は提供であることを十分に確認すること。
行政機関等が、生成 AI サービスに保有個人情報を含むプロンプトを入力し、当該保有個人情報が当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合、当該行政機関等は個人情報保護法の規定に違反することとなる可能性がある。そのため、このようなプロンプトの入力を行う場合には、当該生成AIサービスを提供する事業者が、当該保有個人情報を機械学習に利用しないこと等を十分に確認すること。

（３）一般の利用者における留意点

生成 AI サービスでは、入力された個人情報が、生成 AI の機械学習に利用されることがあり、他の情報と統計的に結びついた上で、また、正確又は不正確な内容で、生成AIサービスから出力されるリスクがある。そのため、生成AI サービスに個人情報を入力等する際には、このようなリスクを踏まえた上で適切に判断すること。
生成AIサービスでは、入力されたプロンプトに対する応答結果に不正確な内容が含まれることがある。例えば、生成AIサービスの中には、応答結果として自然な文章を出力することができるものもあるが、当該文章は確率的な相関関係に基づいて生成されるため、その応答結果には不正確な内容の個人情報が含まれるリスクがある。そのため、生成AIサービスを利用して個人情報を取り扱う際には、このようなリスクを踏まえた上で適切に判断すること。
生成 AI サービスの利用者においては、生成 AI サービスを提供する事業者の利用規約やプライバシーポリシー等を十分に確認し、入力する情報の内容等を踏まえ、生成AIサービスの利用について適切に判断すること。

OpenAI社への注意喚起...

１要配慮個人情報の取得
あらかじめ本人の同意を得ないで、ChatGPTの利用者（以下「利用者」という。）及び利用者以外の者を本人とする要配慮個人情報を取得しないこと（法第20条第２項各号に該当する場合を除く。）。
特に、以下の事項を遵守すること。

（１） 機械学習のために情報を収集することに関して、以下の４点を実施すること。
① 収集する情報に要配慮個人情報が含まれないよう必要な取組を行うこと。
② 情報の収集後できる限り即時に、収集した情報に含まれ得る要配慮個人情報をできる限り減少させるための措置を講ずること。
③ 上記①及び②の措置を講じてもなお収集した情報に要配慮個人情報が含まれていることが発覚した場合には、できる限り即時に、かつ、学習用データセットに加工する前に、当該要配慮個人情報を削除する又は特定の個人を識別できないようにするための措置を講ずること。
④ 本人又は個人情報保護委員会等が、特定のサイト又は第三者から要配慮個人情報を収集しないよう要請又は指示した場合には、拒否する正当な理由がない限り、当該要請又は指示に従うこと。

（２） 利用者が機械学習に利用されないことを選択してプロンプトに入力した要配慮個人情報について、正当な理由がない限り、取り扱わないこと。

２利用目的の通知等利用者及び利用者以外の者を本人とする個人情報の利用目的について、日本語を用いて、利用者及び利用者以外の個人の双方に対して通知し又は公表すること。

⚫︎まるちゃんの情報セキュリティ気まぐれ日記

・2023.06.05 オーストラリア責任あるAIについての意見募集

・2023.06.01 生成的AIとプライバシー当局（カナダ　ニュージーランド）

・2023.05.27 米国国家人工知能研究開発戦略計画 2023更新 (2023.05.23)

・2023.05.19 ドイツ BSI 大規模AI言語モデル - 産業界と公的機関の可能性とリスク (2023.05.10)

・2023.05.18 フランス CNIL 人工知能に対する行動計画

・2023.05.15 欧州 CERT-EU 生成的AIの潜在的な影響とリスク

・2023.05.10 ロシア科学技術センター大規模言語モデル：認知的な視点

・2023.05.08 米国ホワイトハウス「米国人の権利と安全を守る責任あるAIイノベーションを推進する新たな行動」 (2023.05.04)

・2023.05.06 米国連邦取引委員会 AIと消費者の信頼の工学 (It’s cool to use the computer. Don’t let the computer use you. by Prince in 1999)

・2023.05.04 イタリアデータ保護庁 ChatGPTが復活... (2023.04.28)

・2023.05.01 米国国家人工知能諮問委員会1年間の活動報告書