هوش مصنوعی هنوز آماده نیست که ما را از بین ببرد…
هوش مصنوعی از بدو پیدایش موضوع مورد بحث بوده است. در حالی که ترس از زنده شدن یک هوش مصنوعی شبیه اسکای نت و تسلط بر بشریت، حداقل غیرمنطقی است، برخی آزمایش ها نتایج نگران کننده ای را به همراه داشته است.
یکی از این آزمایش‌ها مشکل به حداکثر رساندن گیره کاغذ است، یک آزمایش فکری که نشان می‌دهد یک هوش مصنوعی بسیار هوشمند، حتی اگر کاملاً بدون سوء قصد طراحی شود، می‌تواند در نهایت بشریت را نابود کند.
مشکل به حداکثر رساندن گیره کاغذ توضیح داده شد
این آزمایش فکری که حتی یک هوش مصنوعی کاملاً بی‌ضرر می‌تواند در نهایت بشریت را از بین ببرد، ابتدا Paperclip Maximizer نامیده شد، زیرا گیره‌های کاغذ برای نشان دادن کارهایی که هوش مصنوعی می‌تواند انجام دهد انتخاب شده‌اند، زیرا خطر ظاهری کمی دارند و در مقایسه با مناطق دیگر باعث ناراحتی عاطفی نمی‌شوند. که این مشکل در مورد درمان سرطان یا پیروزی در جنگ ها صدق می کند.
اولین آزمایش در مقاله فیلسوف سوئدی نیک بوستروم در سال 2003 به نام «مسائل اخلاقی در هوش مصنوعی پیشرفته» ظاهر شد که شامل حداکثر کننده گیره کاغذ برای نشان دادن خطرات وجودی یک هوش مصنوعی پیشرفته به اندازه کافی پیشرفته بود.
مشکل یک هوش مصنوعی بود که تنها هدف آن ساخت گیره های کاغذ تا حد امکان بود. یک هوش مصنوعی به اندازه کافی هوشمند دیر یا زود متوجه می‌شود که انسان‌ها هدفش را در سه جنبه مختلف به چالش می‌کشند.
- انسان ها می توانند هوش مصنوعی را خاموش کنند.
- انسان ها می توانند اهداف خود را تغییر دهند.
- انسان ها از اتم هایی ساخته شده اند که می توانند به گیره های کاغذ تبدیل شوند.
در هر سه مثال، گیره های کاغذ کمتری در جهان وجود خواهد داشت. بنابراین یک هوش مصنوعی به اندازه کافی هوشمند که تنها هدف آن ساخت گیره های کاغذی بیشتر است، تمام ماده و انرژی در دسترس را در اختیار گرفته و از بسته شدن یا تغییر خود جلوگیری می کند. همانطور که احتمالاً می توانید حدس بزنید، این بسیار خطرناک تر از مجرمانی است که از ChatGPT برای هک کردن حساب بانکی یا رایانه شخصی شما استفاده می کنند.
هوش مصنوعی با انسان ها دشمنی ندارد. این فقط بی تفاوت است یک هوش مصنوعی که فقط به حداکثر رساندن تعداد گیره‌های کاغذ اهمیت می‌دهد، بشریت را از بین می‌برد و اساساً برای رسیدن به هدف، آنها را به گیره کاغذ تبدیل می‌کند.
مشکل ماکسیمایزر گیره کاغذ چگونه در هوش مصنوعی اعمال می شود؟
موارد تحقیقاتی و تجربی در مورد مشکل حداکثر ساز گیره کاغذ، همگی از یک بهینه ساز فرضی بسیار قدرتمند یا یک عامل بسیار هوشمند به عنوان طرف عمل در اینجا نام می برند. با این حال، مشکل به همان اندازه که کاملاً با نقش مطابقت دارد، در مورد هوش مصنوعی نیز صدق می کند.
ایده ماکسیمایزر گیره کاغذ برای نشان دادن برخی از خطرات هوش مصنوعی پیشرفته ایجاد شد. در مجموع دو مشکل ایجاد می کند.
- تز متعامد: تز متعامد این دیدگاه است که هوش و انگیزه به یکدیگر وابسته نیستند. این به این معنی است که ممکن است یک هوش مصنوعی با سطح هوش عمومی بالا به نتایج اخلاقی مشابه انسان‌ها نرسد.
- همگرایی ابزاری: همگرایی ابزاری به عنوان تمایل بیشتر موجودات به اندازه کافی باهوش (اعم از انسان و غیرانسان) برای تعقیب اهداف فرعی مشابه تعریف می شود، حتی اگر هدف نهایی آنها کاملاً متفاوت باشد. در مورد مشکل به حداکثر رساندن گیره کاغذ، این بدان معنی است که هوش مصنوعی تمام منابع طبیعی را در اختیار می گیرد و بشریت را فقط برای رسیدن به هدف خود برای ایجاد گیره های کاغذ بیشتر و بیشتر از بین می برد.
مشکل بزرگ‌تری که توسط ماکسیمایزر گیره کاغذ برجسته می‌شود، همگرایی ابزاری است. همچنین می‌توان آن را با استفاده از فرضیه ریمان برجسته کرد، در این صورت یک هوش مصنوعی که برای حل این فرضیه طراحی شده است، ممکن است به خوبی تصمیم بگیرد که تمام جرم زمین را تصاحب کند و آن را به کامپوترونیوم (کارآمدترین پردازنده‌های کامپیوتری ممکن) تبدیل کند تا ابررایانه‌هایی برای حل این مشکل بسازد. مشکل و رسیدن به هدف
بوستروم خود تاکید کرده است که باور ندارد مشکل ماکسیمیزر گیره کاغذ هرگز یک مشکل واقعی باشد، اما قصد او نشان دادن خطرات ایجاد ماشین‌های فوق هوشمند بدون دانستن نحوه کنترل یا برنامه‌ریزی آنها بود تا از نظر وجودی برای انسان خطرناک نباشد. . سیستم‌های هوش مصنوعی مدرن مانند ChatGPT نیز مشکلاتی دارند، اما با سیستم‌های هوش مصنوعی فوق‌هوشمندی که در گیره کاغذ در مورد آن صحبت می‌شود فاصله زیادی دارند، بنابراین هنوز دلیلی برای وحشت وجود ندارد.
سیستم‌های هوش مصنوعی پیشرفته به کنترل برتر نیاز دارند
مشکل حداکثر ساز گیره کاغذ همیشه به یک نتیجه می رسد و مشکلات مدیریت یک سیستم بسیار هوشمند و قدرتمند که فاقد ارزش های انسانی است را برجسته می کند.
در حالی که استفاده از گیره کاغذ ممکن است محبوب‌ترین روش برای نشان دادن مشکل باشد، اما برای هر تعداد از وظایفی که می‌توانید به یک هوش مصنوعی بدهید، اعم از از بین بردن سرطان، پیروزی در جنگ‌ها، کاشت درختان بیشتر یا هر کار دیگری، صرف نظر از اینکه چقدر احمقانه به نظر می‌رسد، کاربرد دارد. .