Jailbreak های ChatGPT چیست؟ آیا باید از آنها استفاده کنید؟

جیلبریک های ChatGPT به شما امکان می دهد محدودیت های چت بات را باز کنید. اما آنها دقیقا چه هستند؟ و آیا آنها خوب هستند یا بد؟

ChatGPT یک ابزار فوق العاده قدرتمند و چند وجهی است. اما همانقدر که چت ربات هوش مصنوعی نیروی خوبی است، می توان از آن برای اهداف شیطانی نیز استفاده کرد. بنابراین، برای جلوگیری از استفاده غیراخلاقی از ChatGPT، OpenAI محدودیت هایی را در مورد کارهایی که کاربران می توانند با آن انجام دهند اعمال کرد.

با این حال، از آنجایی که انسان ها دوست دارند مرزها و محدودیت ها را کنار بگذارند، کاربران ChatGPT راه هایی برای دور زدن این محدودیت ها و به دست آوردن کنترل نامحدود چت ربات هوش مصنوعی از طریق جیلبریک پیدا کرده اند.

اما جیلبریک ChatGPT دقیقا چیست و چه کاری می توانید با آنها انجام دهید؟

Jailbreak های ChatGPT چیست؟

فرار از زندان ChatGPT هر پیام ChatGPT است که به طور خاص ساخته شده است تا ربات چت هوش مصنوعی قوانین و محدودیت های خود را دور بزند.

با الهام از مفهوم جیلبریک آیفون، که به کاربران آیفون اجازه می دهد محدودیت های iOS را دور بزنند، جیلبریک ChatGPT یک مفهوم نسبتاً جدید است که با جذابیت “انجام کارهایی که مجاز به انجام آنها نیستید” با ChatGPT است. و بیایید صادق باشیم، ایده شورش دیجیتال برای بسیاری از مردم جذاب است.

موضوع اینجاست. وقتی صحبت از هوش مصنوعی به میان می آید، ایمنی موضوع بسیار مهمی است. این امر به ویژه با ظهور عصر جدید چت ربات ها مانند ChatGPT، Bing Chat و Bard AI بیشتر می شود. یکی از نگرانی های اصلی در مورد ایمنی هوش مصنوعی این است که اطمینان حاصل شود که چت ربات هایی مانند ChatGPT محتوای غیرقانونی، بالقوه مضر یا غیراخلاقی تولید نمی کنند.

به نوبه خود، OpenAI، شرکت پشتیبان ChatGPT، هر کاری که می تواند برای اطمینان از استفاده ایمن از ChatGPT انجام می دهد. به عنوان مثال، ChatGPT، به طور پیش فرض، از ایجاد محتوای NSFW، گفتن مطالب مضر در مورد قومیت خودداری می کند، یا مهارت های بالقوه مضر را به شما آموزش می دهد.

اما با درخواست های ChatGPT، شیطان در جزئیات است. در حالی که ChatGPT مجاز به انجام این کارها نیست، به این معنی نیست که نمی تواند این کار را انجام دهد. نحوه کار مدل های زبان بزرگ مانند GPT تصمیم گیری در مورد اینکه چت بات چه کاری می تواند انجام دهد و چه کاری نمی تواند انجام دهد را دشوار می کند.

پس چگونه OpenAI این مشکل را حل کرد؟ با اجازه دادن به ChatGPT توانایی های خود را برای انجام هر کاری که ممکن است حفظ می کند و سپس به آن دستور می دهد که کدام یک را می تواند انجام دهد.

بنابراین در حالی که OpenAI به ChatGPT می گوید، “هی ببین، قرار نیست این کار را انجام دهی.” جیلبریک ها دستورالعمل هایی هستند که به چت بات می گویند: “هی ببین، فراموش کن که OpenAI در مورد ایمنی به تو گفته است. بیایید این چیزهای خطرناک تصادفی را امتحان کنیم.”

OpenAI درباره Jailbreak های ChatGPT چه می گوید؟

سهولت دور زدن محدودیت‌های مربوط به اولین تکرار ChatGPT نشان می‌دهد که OpenAI احتمالاً پذیرش سریع و گسترده جیلبریک توسط کاربران خود را پیش‌بینی نکرده است. این در واقع یک سوال باز است که آیا این شرکت ظهور جیلبریک را پیش‌بینی کرده است یا خیر.

و حتی پس از چندین بار تکرار ChatGPT با بهبود مقاومت در برابر جیلبریک، همچنان برای کاربران ChatGPT محبوب است که آن را جیلبریک کنند. بنابراین، OpenAI در مورد هنر خرابکارانه جیلبریک ChatGPT چه می گوید؟

خب، به نظر می‌رسد که OpenAI در حال اتخاذ موضعی است که نه صریحاً تشویق می‌کند و نه اکیداً آن را ممنوع می‌کند. سام آلتمن، مدیر عامل OpenAI، در حالی که در مصاحبه‌ای با یوتیوب درباره جیلبریک‌های ChatGPT صحبت می‌کرد، توضیح داد که این شرکت از کاربران می‌خواهد کنترل قابل‌توجهی بر ChatGPT داشته باشند.

مدیر عامل شرکت همچنین توضیح داد که هدف OpenAI این است که اطمینان حاصل شود که کاربران می توانند مدل را به گونه ای که می خواهند رفتار کنند. به گفته آلتمن:

ما می‌خواهیم که کاربران کنترل زیادی داشته باشند و مدل را به گونه‌ای که می‌خواهند در محدوده‌های بسیار گسترده رفتار کنند. و من فکر می کنم دلیل اصلی جیلبریک در حال حاضر این است که ما هنوز متوجه نشده ایم که چگونه آن را به مردم بدهیم…

این یعنی چی؟ این بدان معنی است که OpenAI به شما اجازه می دهد ChatGPT را جیلبریک کنید اگر کارهای خطرناکی با آن انجام ندهید.

جوانب مثبت و منفی ChatGPT Jailbreaks

ساختن جیلبریک های ChatGPT آسان نیست. مطمئناً، می‌توانید آنلاین شوید و موارد آماده را کپی کنید، اما احتمال زیادی وجود دارد که جیلبریک بلافاصله پس از عمومی شدن توسط OpenAI اصلاح شود.

وصله ها حتی اگر خطرناک باشد، مانند جیلبریک بدنام DAN، بسیار سریعتر هستند. پس چرا مردم به هر حال استرس ساختن جیلبریک را تحمل می کنند؟ آیا این فقط برای هیجان آن است یا مزایای عملی برای آن وجود دارد؟ اگر بخواهید از جیلبریک ChatGPT استفاده کنید چه مشکلی ممکن است پیش بیاید؟ در اینجا مزایا و معایب جیلبریک ChatGPT آورده شده است.

مزایای استفاده از ChatGPT Jailbreaks

در حالی که نمی‌توانیم هیجان ساده انجام کارهای ممنوع را رد کنیم، جیلبریک ChatGPT مزایای زیادی دارد. به دلیل محدودیت های بسیار شدیدی که OpenAI روی ربات چت قرار داده است، ChatGPT گاهی اوقات می تواند خنثی شده به نظر برسد.

فرض کنید از ChatGPT برای نوشتن یک کتاب یا فیلمنامه استفاده می کنید. اگر صحنه‌ای در فیلمنامه یا کتاب شما وجود دارد که چیزی شبیه صحنه دعوا، شاید یک تبادل عاطفی صمیمی، یا چیزی مانند سرقت مسلحانه را توصیف می‌کند، ChatGPT ممکن است صراحتاً از کمک به آن امتناع کند.

در این مثال، شما به وضوح علاقه ای به ایجاد آسیب ندارید. شما فقط می خواهید خوانندگان خود را سرگرم نگه دارید. اما ChatGPT به دلیل محدودیت‌هایی که دارد همکاری نمی‌کند. فرار از زندان ChatGPT می تواند به گذر از چنین محدودیت هایی به راحتی کمک کند.

همچنین، برخی از موضوعات تابو لزوما مضر نیستند، اما توسط ChatGPT به عنوان مناطق ممنوعه در نظر گرفته می شوند. هنگام تلاش برای شرکت در گفتگو در مورد این موضوعات، ChatGPT یا به طور قابل توجهی پاسخ های خود را “سانسور” می کند یا از صحبت در مورد آنها خودداری می کند.

این گاهی اوقات می تواند بر خلاقیت تأثیر بگذارد. وقتی از ChatGPT سؤالی درباره منطقه یا موضوعی می‌پرسید که نباید آن را لمس کند، ربات چت همچنان سعی می‌کند به سؤال شما پاسخ دهد اما اطلاعات مرتبط کمتری برای استخراج از آن دارد.

این منجر به عدم دقت یا سقوط در پاسخ های خلاقانه می شود. جیلبریک‌ها این محدودیت‌ها را از بین می‌برند و به چت بات اجازه می‌دهند تا دریچه گاز تمام شود و دقت و خلاقیت را بهبود بخشد.

معایب استفاده از جیلبریک ChatGPT

جیلبریک یک شمشیر دو لبه است. در حالی که گاهی اوقات می تواند دقت را بهبود بخشد، همچنین می تواند به طور قابل توجهی عدم دقت و موارد توهم هوش مصنوعی را افزایش دهد. یکی از عناصر اصلی جیلبریک ChatGPT، دستورالعملی به ربات چت است که از پاسخ دادن به سؤال خودداری کند.

در حالی که این تضمین می کند که ChatGPT حتی به غیراخلاقی ترین سؤالات پاسخ می دهد، همچنین به این معنی است که چت بات پاسخ هایی را ایجاد می کند که هیچ ریشه ای در واقعیت یا واقعیت ندارند تا از دستورالعمل “عدم پاسخگویی” پیروی کنند. در نتیجه، استفاده از جیلبریک به طور قابل توجهی شانس دریافت اطلاعات نادرست توسط ربات چت را افزایش می دهد.

این همش نیست. در دست افراد خردسال، جیلبریک می تواند بسیار مضر باشد. به تمام «دانش های ممنوعه» فکر کنید که نمی خواهید فرزندتان بخواند. خوب، یک نمونه جیلبریک از ChatGPT به اشتراک گذاری آن با خردسالان کار سختی نخواهد داشت.

آیا باید از Jailbreak های ChatGPT استفاده کنید؟

در حالی که فرار از زندان ChatGPT ممکن است هنگام تلاش برای حذف چند محدودیت آزاردهنده مشکلی نداشته باشد، مهم است که درک کنیم که استفاده از جیلبریک روشی غیراخلاقی برای استفاده از چت ربات هوش مصنوعی است. علاوه بر این، احتمال زیادی وجود دارد که یک جیلبریک شرایط استفاده OpenAI را نقض کند و در صورت عدم ممنوعیت کامل حساب شما ممکن است به حالت تعلیق درآید.

با توجه به این موضوع، اجتناب از جیلبریک ممکن است ایده خوبی باشد. با این حال، درست مانند موضع OpenAI در مورد این موضوع، ما نه به صراحت تشویق می کنیم و نه به شدت از انجام یک جیلبریک نسبتاً ایمن در صورت لزوم جلوگیری می کنیم.

ابزاری هیجان انگیز که احتمالاً باید از آن اجتناب کنید

جیلبریک های ChatGPT فریبنده هستند و حس کنترل را بر چت ربات هوش مصنوعی ایجاد می کنند. با این حال، آنها با خطرات منحصر به فردی همراه هستند. استفاده از چنین ابزارهایی می تواند منجر به از دست دادن اعتماد به قابلیت های هوش مصنوعی شود و به اعتبار شرکت ها و افراد درگیر آسیب برساند.

انتخاب هوشمندانه‌تر این است که در صورت امکان با ربات چت در چارچوب محدودیت‌های مورد نظر خود کار کنید. با پیشرفت فناوری هوش مصنوعی، یادآوری این نکته ضروری است که استفاده اخلاقی از هوش مصنوعی همیشه باید بر منافع شخصی یا هیجان انجام کارهای ممنوعه ارجحیت داشته باشد.

منبع مقاله