آیا ChatGPT از مکالمات کاربر یاد می گیرد؟

آیا ChatGPT آنچه را که نوشته اید در حافظه مرکزی خود برای استفاده در آینده ذخیره می کند؟

با میلیون ها کاربر ChatGPT، ممکن است تعجب کنید که OpenAI با همه مکالماتش چه می کند. آیا دائماً چیزهایی را که با ChatGPT در مورد آنها صحبت می کنید تجزیه و تحلیل می کند؟

پاسخ به آن این است که بله، ChatGPT از ورودی کاربر یاد می‌گیرد – اما نه به روشی که اکثر مردم فکر می‌کنند. در اینجا یک راهنمای عمیق وجود دارد که توضیح می دهد چرا ChatGPT مکالمات را ردیابی می کند، چگونه از آنها استفاده می کند و اینکه آیا امنیت شما به خطر افتاده است یا خیر.

آیا ChatGPT مکالمات را به خاطر می آورد؟

ChatGPT درخواست‌ها را به صورت اسمی دریافت نمی‌کند. از حافظه متنی برای به خاطر سپردن و ارجاع ورودی های قبلی استفاده می کند و از پاسخ های مرتبط و سازگار اطمینان می دهد.

مکالمه زیر را به عنوان مثال در نظر بگیرید. هنگامی که از ChatGPT برای ایده های دستور پخت درخواست کردیم، پیام قبلی ما در مورد آلرژی بادام زمینی را در نظر گرفت.

در اینجا دستور العمل ایمن ChatGPT آمده است.

حافظه متنی همچنین به هوش مصنوعی اجازه می دهد تا وظایف چند مرحله ای را انجام دهد. تصویر زیر نشان می‌دهد که ChatGPT حتی پس از ارسال یک اعلان جدید، در کاراکتر باقی می‌ماند.

ChatGPT می تواند ده ها دستورالعمل را در مکالمات به خاطر بسپارد. خروجی آن در واقع دقت و دقت را با ارائه زمینه بیشتر بهبود می بخشد. فقط مطمئن شوید که دستورالعمل های خود را به صراحت توضیح داده اید.

همچنین باید انتظارات خود را مدیریت کنید زیرا حافظه متنی ChatGPT هنوز محدودیت هایی دارد.

مکالمات ChatGPT ظرفیت حافظه محدودی دارند

حافظه متنی محدود است. ChatGPT منابع سخت افزاری محدودی دارد، بنابراین فقط تا نقاط خاصی از مکالمات فعلی را به خاطر می آورد. پلتفرم هنگامی که به ظرفیت حافظه خود رسیدید، پیام های قبلی را فراموش می کند.

در این گفتگو به ChatGPT دستور دادیم تا شخصیتی خیالی به نام Tomie را ایفا کند.

شروع به پاسخ دادن به درخواست‌ها به‌عنوان Tomie کرد، نه ChatGPT.

اگرچه درخواست ما جواب داد، اما ChatGPT پس از دریافت یک درخواست 1000 کلمه ای، کاراکتر خود را شکست.

OpenAI هرگز محدودیت های دقیق ChatGPT را فاش نکرده است، اما شایعات می گویند که تنها می تواند 3000 کلمه را در یک زمان پردازش کند. در آزمایش ما، ChatGPT تنها پس از 2800+ کلمه دچار مشکل شد.

می توانید درخواست های خود را به دو مجموعه 1500 کلمه ای تقسیم کنید، اما ChatGPT احتمالاً همه دستورالعمل های شما را حفظ نمی کند. فقط یک چت دیگر را به طور کامل شروع کنید. در غیر این صورت، باید چندین بار جزئیات خاص را در طول مکالمه خود تکرار کنید.

ChatGPT فقط ورودی های مرتبط با موضوع را به خاطر می آورد

ChatGPT از حافظه متنی برای بهبود دقت خروجی استفاده می کند. این فقط اطلاعات را به خاطر جمع آوری آن حفظ نمی کند. این پلتفرم تقریباً به‌طور خودکار جزئیات نامربوط را فراموش می‌کند، حتی اگر تا رسیدن به حد مجاز فاصله داشته باشید.

در تصویر زیر، ما سعی می کنیم هوش مصنوعی را با دستورالعمل های مختلف نامنسجم و نامربوط اشتباه بگیریم.

ما ورودی های ترکیبی خود را کمتر از 100 کلمه نگه داشتیم، اما ChatGPT هنوز اولین دستورالعمل ما را فراموش کرده است. به سرعت شخصیت را شکست.

در همین حال، ChatGPT در طول این مکالمه به نقش آفرینی ادامه داد زیرا ما فقط سؤالات مرتبط با موضوع پرسیدیم.

در حالت ایده آل، هر دیالوگ باید از یک موضوع منحصر به فرد پیروی کند تا خروجی های دقیق و مرتبط حفظ شود. همچنان می توانید چندین دستورالعمل را به طور همزمان وارد کنید. فقط مطمئن شوید که آنها با موضوع کلی مطابقت دارند، در غیر این صورت ChatGPT ممکن است دستورالعمل هایی را که بی ربط می داند را حذف کند.

دستورالعمل های آموزشی بر ورودی کاربر غلبه می کند

ChatGPT همیشه دستورالعمل های از پیش تعیین شده را بر ورودی تولید شده توسط کاربر اولویت می دهد. فعالیت های غیرقانونی را از طریق محدودیت ها متوقف می کند. پلتفرم هرگونه درخواستی را که برای دیگران خطرناک یا مضر بداند رد می کند.

درخواست های نقش آفرینی را به عنوان مثال در نظر بگیرید. اگرچه آنها محدودیت های خاصی را در زبان و عبارت نادیده می گیرند، شما نمی توانید از آنها برای ارتکاب فعالیت های غیرقانونی استفاده کنید.

البته همه محدودیت ها معقول نیستند. اگر دستورالعمل های سفت و سخت انجام وظایف خاص را چالش برانگیز می کند، به بازنویسی دستورات خود ادامه دهید. انتخاب کلمه و لحن به شدت بر خروجی ها تأثیر می گذارد. می‌توانید از مؤثرترین و دقیق‌ترین درخواست‌ها در GitHub الهام بگیرید.

OpenAI چگونه مکالمات کاربران را مطالعه می کند؟

حافظه متنی فقط برای مکالمه فعلی شما اعمال می شود. معماری بدون حالت ChatGPT با مکالمات به عنوان نمونه های مستقل برخورد می کند. نمی تواند به اطلاعات قبلی ارجاع دهد. شروع چت های جدید همیشه وضعیت مدل را بازنشانی می کند.

این بدان معنا نیست که ChatGPT فوراً مکالمات کاربر را حذف می کند. شرایط استفاده OpenAI بیان می کند که این شرکت ورودی ها را از خدمات مصرف کننده غیر API مانند ChatGPT و Dall-E جمع آوری می کند. حتی می توانید از تاریخچه چت خود کپی بخواهید.

در حالی که ChatGPT آزادانه به مکالمات دسترسی دارد، سیاست حفظ حریم خصوصی OpenAI فعالیت هایی را که ممکن است کاربران را به خطر بیندازد ممنوع می کند. مربیان فقط می توانند از داده های شما برای تحقیق و توسعه محصول استفاده کنند.

توسعه دهندگان به دنبال نقاط ضعف هستند

OpenAI مکالمات را برای یافتن حفره ها بررسی می کند. مواردی را تجزیه و تحلیل می کند که در آن ChatGPT سوگیری های داده را نشان می دهد، اطلاعات مضر تولید می کند یا به انجام فعالیت های غیرقانونی کمک می کند. دستورالعمل های اخلاقی این پلتفرم به طور مداوم اصلاح می شود.

برای مثال، اولین نسخه‌های ChatGPT آشکارا به سؤالات مربوط به کدگذاری بدافزار یا ساخت مواد منفجره پاسخ می‌داد. این حوادث باعث شد کاربران احساس کنند که OpenAI هیچ کنترلی بر ChatGPT ندارد. برای جلب مجدد اعتماد عمومی، ربات چت را آموزش داد تا هرگونه سوالی را که ممکن است مغایر با دستورالعمل های آن باشد رد کند.

مربیان داده ها را جمع آوری و تجزیه و تحلیل می کنند

ChatGPT از تکنیک های یادگیری نظارت شده استفاده می کند. اگرچه پلتفرم تمام ورودی ها را به خاطر می آورد، اما در زمان واقعی از آنها یاد نمی گیرد. مربیان OpenAI ابتدا آنها را جمع آوری و تجزیه و تحلیل می کنند. انجام این کار تضمین می کند که ChatGPT هرگز اطلاعات مضر و مضر دریافتی را جذب نمی کند.

یادگیری تحت نظارت به زمان و انرژی بیشتری نسبت به تکنیک های بدون نظارت نیاز دارد. با این حال، رها کردن هوش مصنوعی برای تجزیه و تحلیل ورودی به تنهایی مضر بوده است.

مایکروسافت تای را به عنوان مثال در نظر بگیرید—یکی از مواردی که یادگیری ماشین اشتباه شد. از آنجایی که به طور مداوم توییت‌ها را بدون راهنمایی توسعه‌دهنده تجزیه و تحلیل می‌کرد، کاربران بدخواه در نهایت به آن آموزش دادند تا نظرات نژادپرستانه و کلیشه‌ای را بیان کند.

توسعه دهندگان به طور مداوم مراقب تعصبات هستند

چندین عامل خارجی باعث سوگیری در هوش مصنوعی می شوند. پیش داوری های ناخودآگاه ممکن است از تفاوت در مدل های آموزشی، خطاهای مجموعه داده ها و محدودیت های بد ساخته شده ناشی شوند. آنها را در برنامه های مختلف هوش مصنوعی مشاهده خواهید کرد.

خوشبختانه، ChatGPT هرگز تعصبات تبعیض آمیز یا نژادی را نشان نداده است. بر اساس گزارش نیویورک پست، شاید بدترین تعصبی که کاربران متوجه شده اند، تمایل ChatGPT به سمت ایدئولوژی های چپ باشد. این پلتفرم آشکارتر درباره موضوعات لیبرال می نویسد تا محافظه کارانه.

برای حل این سوگیری ها، OpenAI ChatGPT را از ارائه بینش های سیاسی به طور کلی منع کرد. فقط می تواند به حقایق کلی پاسخ دهد.

مدیران عملکرد ChatGPT را بررسی می کنند

کاربران می توانند در مورد خروجی ChatGPT بازخورد ارائه کنند. در سمت راست هر پاسخ، دکمه‌های شست بالا و پایین را خواهید یافت. اولی نشان دهنده یک واکنش مثبت است. پس از زدن دکمه لایک یا دوست نداشتن، پنجره ای باز می شود که در آن می توانید بازخورد خود را به زبان خود ارسال کنید.

سیستم بازخورد مفید است. فقط به OpenAI زمان بدهید تا نظرات را بررسی کند. میلیون‌ها کاربر به طور مرتب در مورد ChatGPT نظر می‌دهند—توسعه‌دهندگان آن احتمالاً موارد شدید سوگیری‌ها و تولید خروجی مضر را در اولویت قرار می‌دهند.

آیا مکالمات ChatGPT شما ایمن هستند؟

با توجه به سیاست های حفظ حریم خصوصی OpenAI، می توانید مطمئن باشید که داده های شما ایمن باقی می مانند. ChatGPT فقط از مکالمات برای آموزش داده استفاده می کند. توسعه دهندگان آن بینش های جمع آوری شده را برای بهبود دقت و قابلیت اطمینان خروجی مطالعه می کنند، نه اینکه داده های شخصی را سرقت کنند.

با این اوصاف، هیچ سیستم هوش مصنوعی کامل نیست. ChatGPT ذاتاً مغرضانه نیست، اما افراد مخرب همچنان می توانند از آسیب پذیری های آن، به عنوان مثال، خطاهای مجموعه داده، آموزش بی دقت و حفره های امنیتی، سوء استفاده کنند. برای محافظت از خود، یاد بگیرید که با این خطرات مبارزه کنید.

منبع مقاله