مشکل کنترل تراز هوش مصنوعی چیست؟

چگونه انسان ها می توانند هوش مصنوعی را کنترل کنند؟

با مدل‌های مدرن زبان هوش مصنوعی مانند ChatGPT و Bing Chat مایکروسافت که در سراسر جهان موج می‌زند، تعدادی از مردم نگران تسخیر هوش مصنوعی جهان هستند.

در حالی که ما در آینده قابل پیش‌بینی وارد SkyNet نخواهیم شد، هوش مصنوعی در چندین مورد بهتر از انسان است. اینجاست که مشکل کنترل هوش مصنوعی مطرح می شود.

مشکل کنترل هوش مصنوعی توضیح داده شد

مشکل کنترل هوش مصنوعی این ایده است که هوش مصنوعی در نهایت در تصمیم گیری بهتر از انسان ها می شود. مطابق با این نظریه، اگر انسان‌ها از قبل موارد را به درستی تنظیم نکنند، بعداً فرصتی برای تعمیر چیزها نخواهیم داشت، به این معنی که هوش مصنوعی کنترل مؤثری خواهد داشت.

تحقیقات کنونی بر روی مدل‌های هوش مصنوعی و یادگیری ماشینی (ML) حداقل سال‌ها با پیشی گرفتن از توانایی‌های انسانی فاصله دارد. با این حال، منطقی است که فکر کنیم با توجه به پیشرفت فعلی، هوش مصنوعی هم از نظر هوش و هم از نظر کارایی از انسان پیشی خواهد گرفت.

این بدان معنا نیست که مدل‌های هوش مصنوعی و ML محدودیت‌های خود را ندارند. به هر حال، آنها به قوانین فیزیک و پیچیدگی محاسباتی و همچنین قدرت پردازش دستگاه هایی که از این سیستم ها پشتیبانی می کنند، محدود هستند. با این حال، می توان تصور کرد که این محدودیت ها بسیار فراتر از توانایی های انسانی است.

این بدان معناست که اگر سیستم‌های هوش مصنوعی فوق‌هوشمند به‌درستی طراحی نشده باشند، می‌توانند تهدیدی بزرگ برای بررسی هرگونه رفتار بالقوه سرکش باشند. چنین سیستم هایی باید از پایه ساخته شوند تا به ارزش های انسانی احترام بگذارند و قدرت خود را کنترل کنند. مشکل کنترل به این معنی است که می گوید چیزها باید به درستی تنظیم شوند.

اگر یک سیستم هوش مصنوعی بدون حفاظت مناسب از هوش انسانی پیشی بگیرد، نتیجه می تواند فاجعه بار باشد. چنین سیستم هایی می توانند کنترل منابع فیزیکی را به عهده بگیرند زیرا بسیاری از وظایف بهتر یا کارآمدتر به دست می آیند. از آنجایی که سیستم های هوش مصنوعی برای دستیابی به حداکثر کارایی طراحی شده اند، از دست دادن کنترل می تواند منجر به عواقب شدیدی شود.

مشکل کنترل هوش مصنوعی چه زمانی اعمال می شود؟

مشکل اصلی این است که هر چه یک سیستم هوش مصنوعی بهتر شود، نظارت بر فناوری برای سرپرست انسانی سخت‌تر می‌شود تا اطمینان حاصل شود که در صورت از کار افتادن سیستم، کنترل دستی به راحتی قابل کنترل است. علاوه بر این، تمایل انسان به اتکا به یک سیستم خودکار زمانی بیشتر می شود که سیستم در بیشتر مواقع قابل اعتماد عمل کند.

یک مثال عالی در این زمینه مجموعه تسلا با رانندگی کامل (FSD) است. در حالی که خودرو می تواند خود را براند، نیاز به یک انسان دارد که دست خود را روی فرمان داشته باشد تا در صورت خرابی سیستم، کنترل خودرو را در دست بگیرد. با این حال، همانطور که این سیستم‌های هوش مصنوعی قابل اعتمادتر می‌شوند، توجه حتی هوشیارترین انسان نیز تغییر می‌کند و وابستگی به سیستم خودمختار افزایش می‌یابد.

پس چه اتفاقی می‌افتد وقتی اتومبیل‌ها با سرعتی شروع به رانندگی می‌کنند که انسان‌ها نمی‌توانند با آن هماهنگی داشته باشند؟ ما در نهایت کنترل را به سیستم‌های خودران خودرو می‌سپاریم، به این معنی که یک سیستم هوش مصنوعی زندگی شما را کنترل می‌کند، حداقل تا زمانی که به مقصد خود برسید.

آیا مشکل کنترل هوش مصنوعی قابل حل است؟

دو پاسخ برای اینکه آیا مشکل کنترل هوش مصنوعی قابل حل است یا خیر وجود دارد. اولاً، اگر سؤال را به معنای واقعی کلمه تفسیر کنیم، مشکل کنترل قابل حل نیست. هیچ کاری نمی‌توانیم انجام دهیم که مستقیماً گرایش انسان به اتکا به یک سیستم خودکار را هدف قرار دهد، زمانی که در بیشتر مواقع عملکرد قابل اعتماد و کارآمدتری دارد.

با این حال، اگر این تمایل به عنوان یکی از ویژگی‌های چنین سیستم‌هایی در نظر گرفته شود، می‌توانیم راه‌هایی برای حل مشکل کنترل ابداع کنیم. به عنوان مثال، مقاله پژوهشی تصمیم‌گیری الگوریتمی و مسئله کنترل سه روش مختلف را برای مقابله با این مشکل پیشنهاد می‌کند:

• استفاده از سیستم‌های کمتر قابل اعتماد مستلزم این است که انسان به طور فعال با سیستم درگیر شود، زیرا سیستم‌های کمتر قابل اعتماد مشکل کنترل را ایجاد نمی‌کنند.
• منتظر بمانید تا یک سیستم قبل از استقرار در دنیای واقعی از کارایی و قابلیت اطمینان انسانی فراتر رود.
• برای پیاده سازی فقط اتوماسیون جزئی با استفاده از تجزیه وظیفه. این بدان معناست که تنها آن بخش‌هایی از سیستم که برای انجام یک کار مهم به اپراتور انسانی نیاز ندارند، خودکار می‌شوند. این رویکرد تخصیص تابع پویا/تکمیلی (DCAF) نامیده می شود.

رویکرد DCAF همیشه یک اپراتور انسانی را در راس یک سیستم خودکار قرار می دهد و اطمینان می دهد که ورودی آنها مهمترین بخش های فرآیند تصمیم گیری سیستم را کنترل می کند. اگر یک سیستم به اندازه کافی درگیر باشد که یک اپراتور انسانی به طور مداوم توجه کند، مشکل کنترل را می توان حل کرد.

آیا ما همیشه می توانیم هوش مصنوعی را واقعا کنترل کنیم؟

همانطور که سیستم‌های هوش مصنوعی پیشرفته‌تر، توانمندتر و قابل اطمینان‌تر می‌شوند، ما به تخلیه وظایف بیشتری برای آنها ادامه خواهیم داد. با این حال، مشکل کنترل هوش مصنوعی را می توان با اقدامات احتیاطی و حفاظتی درست حل کرد.

هوش مصنوعی در حال حاضر دنیا را برای ما تغییر می دهد، بیشتر برای بهتر شدن. تا زمانی که این فناوری تحت نظارت انسان باشد، نباید چیزی برای نگرانی وجود داشته باشد.

منبع مقاله