日本個人資料保護委員會於2023年6月1日根據《個人資料保護法》第147條規範，向開發ChatGPT的美國新創公司OpenAI發布個人資料警告。個人資料保護委員會重申OpenAI公司不得在未取得本人同意下，向ChatGPT用戶或用戶以外的人收集其個人機敏資料。

另，為機器學習而收集資料應遵守以下事項：

• 須採取相關措施防止收集的資料含有個人機敏資料；
• 資料收集完畢後應盡快採取措施，盡可能減少收集的資料中含有個人機敏資料；
• 如在執行前述項目的情況下仍發現所收集的資料中有個人機敏資料時，應盡快在將其加工為機器學習所用數據前採取相關措施刪除該資料，或是使其無法被辨別特定人物。
• 若本人或個人資料保護委員會等提出不得從特定網頁或第三者收集個人機敏資料之要求或指示，如無拒絕之正當理由，則須遵守該要求或指示。

該警告亦要求OpenAI，若ChatGPT用戶選擇不將其資料用於機器學習及以特殊記號輸入之個人機敏資料，在無正當理由下不得使用。同時，若欲使用ChatGPT用戶及ChatGPT用戶以外的人之個人資料，須以日文向其告知或公開資料使用目的。

個人資料保護委員會表示，該警告僅針對現委員會明確意識到有隱憂的部分，未來如有新的隱憂，將可能再視情況增加注意事項。此外，委員會亦呼籲民間企業與行政機關等於生成式AI輸入個人資料時，須充分確認此行為的必要性。