اگر از «چت جی‌بی‌تی» بپرسید که با داده‌های شخصی شما که خیلی از افراد آن را در مکالمه با هوش مصنوعی به اشتراک می‌گذارند چه خواهد کرد، پاسخ می‌دهد: «به‌عنوان یک مدل زبان، من توانایی پردازش، ذخیره یا استفاده از اطلاعات شخصی کاربران را ندارم، مگر اینکه این اطلاعات در طول یک مکالمه فردی به من ارائه شود» با این حال، OpenAI – شرکتی که ChatGPT را در اختیار دارد – می‌تواند از این اطلاعات در موارد خاص، طبق خط‌مشی رازداری شرکت استفاده کند.
