در سال‌های اخیر، سازمان‌های متعددی بارها به کاربران ChatGPT هشدار داده‌اند که هرگز نباید اطلاعات شخصی خود را با این چت‌بات شرکت OpenAI به اشتراک بگذارند. با این حال، حادثه اخیر که مربوط به ویژگی است که اکنون حذف شده، نشان می‌دهد که احتمالاً افراد اطلاعات بسیار شخصی خود را با ChatGPT در میان گذاشته‌اند و هزاران مکالمه خصوصی به‌طور ناخواسته از طریق جستجوی گوگل قابل دسترسی شده است.
OpenAI به‌تازگی تأیید کرده است که ویژگی اختیاری را که تاریخچه چت‌ها را در وب آزاد منتشر می‌کرد، غیرفعال کرده است. اگرچه فعال‌سازی این قابلیت نیازمند تأیید صریح کاربران بود، توصیف آن ممکن است بیش‌ازحد مبهم بوده باشد؛ چراکه برخی کاربران پس از آن‌که متوجه شدند مکالمه خصوصی آنها با ChatGPT در نتایج جستجوی گوگل ظاهر شده، شوکه شدند.
کاربران اغلب فکر می‌کنند که وقتی لینک گفتگوهای خود را با دوستان، اعضای خانواده یا همکاران به اشتراک می‌گذارند، فقط گیرندگان موردنظر به آن دسترسی دارند. اما OpenAI یک گزینه آزمایشی دیگر را نیز امتحان کرده بود که طبق توضیحات جزیی آن، امکان ایندکس‌شدن چت‌ها در موتورهای جستجو وجود داشت.
کشف عجیب Fast Company
به نظر می‌رسد پیام‌رسانی شرکت برای بسیاری از کاربران بیش‌ازحد مبهم بوده است. مجله Fast Company با واردکردن بخش‌هایی از لینک‌های اشتراکی در نوار جستجوی گوگل، موفق شد حدود 4500 گفت‌وگو را پیدا کند؛ گفتگوهایی که بسیاری از آنها حاوی اطلاعاتی بودند که هیچ‌کس به‌طور معمول حاضر نیست آنها را عمداً در وب آزاد منتشر کند.
اگرچه نتایج جستجو هویت کامل کاربران را فاش نمی‌کرد، بسیاری از آنها شامل نام‌ها، موقعیت‌های جغرافیایی و اطلاعات شخصی دیگری در مکالمات ثبت‌شده بودند. برخی چت‌ها نشان می‌دادند که افراد متعددی مسائل شخصی خود را با ChatGPT مطرح کرده‌اند؛ مسائلی چون اضطراب، اعتیاد، سوءاستفاده و موضوعات حساس دیگر.
OpenAI بلافاصله این قابلیت را حذف و آن را یک «آزمایش» توصیف کرد که هدفش کمک به انتشار گفتگوهای «مفید» بوده است. این شرکت در حال حاضر تلاش می‌کند تا تمام محتوای اشتراک‌گذاری‌شده کاربران را از نتایج جستجو حذف کند (de-index).
کاربران ChatGPT باید آگاه باشند که طبق دستور دادگاه ایالات متحده، OpenAI موظف است تمام لاگ‌های چت را به‌طور دائمی ذخیره کند. در حالت عادی، این شرکت آنها را به‌صورت دوره‌ای حذف می‌کرد، اما در حال حاضر ناشرانی از جمله نیویورک تایمز از OpenAI شکایت کرده‌اند تا بررسی شود آیا ChatGPT می‌تواند اطلاعات دارای کپی‌رایت را در پاسخ‌ها بازتولید کند یا خیر. تا زمان مشخص‌شدن نتیجه این پرونده، تیم‌های حقوقی تعیین‌شده می‌توانند به هرگونه اطلاعاتی که کاربران وارد می‌کنند، دسترسی داشته باشند.
موارد پیشین نشان داده‌اند که این موضوع می‌تواند شامل اسرار تجاری نیز باشد. در سال 2023، کارمندان کارخانه‌های سامسونگ در استفاده از ChatGPT مرتکب اشتباه شدند و به‌طور ناخواسته اطلاعات محرمانه شرکت را به OpenAI منتقل کردند. به‌عنوان مثال، درخواست از چت‌بات برای بهینه‌سازی کد یا تهیه صورت‌جلسات جلسه نیازمند واردکردن داده‌هایی است که احتمال دارد حاوی اطلاعات محرمانه باشند.
در میانه این جنجال، شرکت پروتون نیز به‌تازگی چت‌باتی رقیب معرفی کرده است. چت‌بات Lumo آخرین محصول این شرکت سوئیسی است که تلاش می‌کند زنجیره محصولات خود را به‌عنوان جایگزینی متمرکز بر حفظ حریم خصوصی در مقابل گوگل و مایکروسافت معرفی کند. این شرکت وعده داده که ارتباطات کاربران را رمزنگاری کند، هیچ‌گاه اطلاعات شخصی را ذخیره نکند، مدل تجاری خود را بدون تبلیغات نگه دارد و کدهای خود را به‌صورت متن‌باز منتشر کند.