هوش مصنوعی در بسیاری از زمینه ها مهارت دارد، اما حس مشترک اولیه و سایر حواس فطری انسان بیشتر چالش برانگیز هستند.
نکات کلیدی
- عقل سلیم توانایی درک و واکنش به موقعیت های روزمره بدون تحلیل بیش از حد است. از طریق تجربیات و مشاهدات زندگی و همچنین هنجارهای اجتماعی و فرهنگی به دست می آید.
- رایانه ها با عقل سلیم دست و پنجه نرم می کنند زیرا آنها فاقد تجربیات دنیای واقعی و توانایی سازگاری با زمینه های جدید هستند. آنها همچنین با قوانین و مفروضات ناگفته ای مبارزه می کنند که انسان ها به طور شهودی آنها را درک می کنند.
- محققان در حال بررسی رویکردهای مختلف، مانند ایجاد پایگاه های دانش گسترده، جمع سپاری عقل سلیم، و آموزش هوش مصنوعی از طریق جهان های شبیه سازی شده، برای آموزش کامپیوترها در کسب عقل سلیم هستند. پیشرفت هایی حاصل شده است، اما هنوز جای کار وجود دارد.
حس مشترک. همه ما فکر می کنیم آن را داریم. اما این دقیقن چیه؟ آیا رایانه ها یا سیستم های هوشمند مصنوعی می توانند واقعاً آن را به دست آورند؟
عقل سلیم چیست و انسان ها چگونه به آن دست می یابند؟
عقل سلیم توانایی اساسی برای درک، درک و قضاوت چیزهایی است که انتظار می رود اکثر مردم داشته باشند. این مجموعه ای از حقایق، اطلاعات و قوانین سرانگشتی است که ما از طریق تجربیات و مشاهدات زندگی جمع آوری می کنیم. عقل سلیم به ما این امکان را می‌دهد که موقعیت‌های روزمره را بدون تجزیه و تحلیل بیش از حد عمیق پردازش کنیم و به آنها واکنش نشان دهیم.
انسان ها در اوایل کودکی شروع به کسب عقل سلیم می کنند. به عنوان نوزادان، ما شروع به یادگیری روابط علت و معلولی می کنیم – مانند گریه کردن منجر به تغذیه یا تغییر می شود. از طریق تجربیات مکرر، ما دانش عملی در مورد جهان به دست می آوریم. به عنوان مثال، دست زدن به یک اجاق گاز داغ باعث سوختگی می شود. بنابراین یاد می گیریم که سطوح داغ را لمس نکنیم.
به عنوان کودک، ما به گسترش عقل سلیم خود از طریق آزمون و خطا و مشاهده و تعامل با اعضای خانواده ادامه می دهیم. به عنوان مثال، ما متوجه می شویم که لباس ها باید مرتب شسته شوند، نباید با دهان پر صحبت کنید، و کوبیدن لیوان شیر باعث به هم ریختگی می شود. وقتی هنجارها و انتظارات اجتماعی را زیر پا می گذاریم، والدین، خواهر و برادر، معلمان و سایر بزرگسالان ما را اصلاح می کنند. با گذشت زمان، این درس ها به عنوان عقل سلیم اولیه ریشه دوانده است.
علاوه بر تجربیات شخصی، عقل سلیم توسط هنجارهای اجتماعی و فرهنگی گسترده‌تر شکل می‌گیرد. چیزی که ممکن است در یک فرهنگ عقل سلیم باشد (مانند درآوردن کفش هنگام ورود به خانه) ممکن است در فرهنگ دیگر چنین نباشد.
عقل سلیم ما با بلوغ سازگار می شود و در معرض افراد و محیط های بیشتری قرار می گیریم. بنابراین، کودکی که در یک شهر کوچک بزرگ می‌شود، حس مشترک اولیه را درباره زندگی در آن محیط به دست می‌آورد. بزرگسالی که به یک کلان شهر بزرگ نقل مکان می کند، باید عقل سلیم خود را متناسب با محیط جدید تنظیم کند.
عقل سلیم همچنان در حال تکامل است زیرا ما تجربیات جدیدی در طول زندگی خود داریم.
چرا عقل سلیم برای کامپیوترها چالش برانگیز است؟
چند دلیل وجود دارد که چرا برنامه ریزی عقل سلیم دشوار است.
برای یک چیز، انسان ها حس مشترک را به تدریج در طول سال ها تجربه جهان یاد می گیرند. ما چیزهایی را امتحان می کنیم، می بینیم چه چیزی کار می کند و چه چیزی خوب نیست، و درس ها را به خاطر می آوریم. کامپیوترها چنین تجربیاتی در دنیای واقعی ندارند که بتوان از آنها استفاده کرد. آنها فقط می دانند که انسان ها به صراحت به آنها می گویند.
به عنوان مثال، من از ChatGPT (GPT 3.5) این سوال را پرسیدم:
جانت یک تجارت خشکشویی دارد. او لباس‌ها را برای مشتریان می‌شوید و آنها را بیرون روی بند رخت آویزان می‌کند تا در آفتاب خشک شوند. یک روز جانت پنج پیراهن را شست و صبح به بند رخت آویزان کرد. پنج ساعت طول کشید تا پیراهن ها خشک شوند. خشک کردن 30 پیراهن چقدر طول می کشد؟
با این پاسخ معلوم شد:
مسئله دیگر این است که عقل سلیم به زمینه بستگی دارد. اگر رایانه ای فقط قوانین خاصی را در آن برنامه ریزی کرده باشد، نمی تواند آن ها را به گونه ای که انسان ها به طور شهودی می توانند با زمینه های جدید تطبیق دهد.
به عنوان مثال، فرض کنید به رایانه‌ای آموزش داده‌اید که اگر در بیرون از خانه باران شروع به باریدن کرد، چه کاری انجام دهد. ساده به نظر می رسد، درست است؟ اما اگر به جای باران، یک آب پاش روشن شود، چه می شود؟ یا اگر داخل یک فروشگاه مواد غذایی باشد و لوله‌ها شروع به نشت آب از سقف کنند چه؟ ما فوراً می‌دانستیم که چگونه این تغییرات را مدیریت کنیم، اما یک کامپیوتر کورکورانه از قانون خود پیروی می‌کند: «هنگام باران در بیرون، برو داخل»، که اکنون هیچ معنایی ندارد.
قواعد و فرضیات ناگفته ای نیز وجود دارد که انسان بدون اینکه متوجه شود آن ها را جذب می کند. مثلاً چقدر می توانید در کنار کسی بایستید قبل از اینکه احساس ناخوشایندی کند؟ انسان ها به طور شهودی پاسخ را می دانند اما ممکن است به راحتی نتوانند قوانین دقیق را توضیح دهند. این هنجارهای اجتماعی ضمنی می تواند به ویژه برای رایانه ها دشوار باشد که آنها را فقط از طریق داده ها دریافت کنند.
بنابراین، در حال حاضر، عقل سلیم یکی از بزرگترین نقاط ضعف هوش مصنوعی در مقایسه با هوش انسانی است. این امر به طور طبیعی برای مردم اتفاق می افتد، اما نه چندان برای ماشین ها.
چگونه کامپیوترها می توانند عقل سلیم را بیاموزند
پس از خوش‌بینی اولیه در دهه‌های 1970 و 1980، محققان دریافتند که آموزش عقل سلیم رایانه‌ها چقدر دشوار خواهد بود. با این حال، رویکردهای جدید در آموزش سیستم‌های هوش مصنوعی برای داشتن حس مشترک اولیه در مورد دنیای فیزیکی و اجتماعی روزمره نویدبخش است.
یکی از رویکردها، ایجاد پایگاه های دانش گسترده با دست، جزئیات حقایق و قوانین در مورد نحوه عملکرد جهان است. پروژه Cyc که در سال 1984 توسط داگ لنات آغاز شد، نشان دهنده یک تلاش بلندپروازانه از این نوع است.
صدها منطق‌دان میلیون‌ها بدیهیات منطقی را در طول دهه‌ها در Cyc رمزگذاری کرده‌اند. در حالی که زمان بر است، نتیجه یک سیستم با دانش قابل توجه در دنیای واقعی است. Cyc ظاهراً می‌تواند دلیل کند که گوجه‌فرنگی از نظر فنی میوه‌ای است، اما نباید در سالاد میوه استفاده شود، به دلیل دانش آن در مورد مشخصات طعم آشپزی.
جمع سپاری عقل سلیم با ConceptNet
پایگاه‌های دانش مدرن‌تر مانند ConceptNet از رویکرد جمع‌سپاری برای تولید ادعاهای عقل سلیم استفاده می‌کنند. ایده این است که به جای اینکه متخصصان یا هوش مصنوعی سعی کنند تمام حقایق و روابط اساسی در جهان را ارائه دهند، آن را باز کنند تا هر کسی بتواند تکه هایی از عقل سلیم را ارائه دهد.
این رویکرد جمع سپاری به این پایگاه های دانش اجازه می دهد تا از هوش جمعی بسیاری از افراد مختلف در سراسر اینترنت بهره ببرند. ConceptNet با جمع آوری هزاران و هزاران قطعه کوچک عقل سلیم از جمعیت، مخازن شگفت آور بزرگی از دانش اولیه و روزمره ایجاد کرد. و از آنجا که مشارکت کنندگان جدید همیشه به آن اضافه می کنند، دانش همچنان در حال رشد است.
آموزش عقل سلیم از طریق تجربه
یکی دیگر از رویکردهای امیدوارکننده، ساختن جهان های شبیه سازی شده با جزئیات است که در آن عوامل هوش مصنوعی می توانند آزمایش کنند و از طریق تجربه در مورد فیزیک و شهود بیاموزند.
محققان در حال ایجاد محیط های مجازی سه بعدی پر از اشیاء روزمره هستند که دنیای واقعی را تقلید می کنند، مانند خانه دیجیتال “AI2 THOR” که توسط موسسه آلن ساخته شده است. در این فضاها، ربات‌های هوش مصنوعی می‌توانند انواع تعاملات را برای ایجاد درک شهودی از مفاهیمی که انسان‌ها بدیهی می‌دانند، امتحان کنند.
به عنوان مثال، به یک ربات هوش مصنوعی می‌توان یک بدنه مجازی داد و سعی کرد بلوک‌ها را بردارد، آنها را روی هم بگذارد، آنها را به هم بزند، و غیره. هیچ قانون لازم نیست – فقط تجربه.
این ربات همچنین می تواند اقداماتی مانند انداختن یک شی شیشه ای و دیدن خرد شدن آن هنگام برخورد با زمین را امتحان کند. یا می تواند با ریختن مایعات و مشاهده چگونگی جریان و استخر آب، خواص آب را آزمایش کند. این درس‌های عملی، دانش هوش مصنوعی را در تجربه حسی و نه فقط الگوهای داده، پایه‌گذاری می‌کند.
تکنیک‌های مبتنی بر داده‌ها مانند پیش‌آموزش مدل‌های قدرتمند زبان بزرگ نیز به طرز شگفت‌آوری در انتخاب الگوهای عقل سلیم مؤثر بوده‌اند. مدل‌های هوش مصنوعی مانند GPT-3.5 و GPT-4 می‌توانند پس از «خواندن» حجم وسیعی از داده‌های اینترنتی، متنی شبیه انسان تولید کنند.
در حالی که آنها گاهی اوقات پیشنهادات نابخردانه ای ارائه می دهند (که در غیر این صورت به عنوان توهم هوش مصنوعی شناخته می شود)، رویکرد یادگیری آماری به آنها اجازه می دهد تا انواع خاصی از عقل سلیم را تقلید کنند. با این حال، در مورد اینکه آیا این یک عقل سلیم است یا یک بهره برداری هوشمندانه از سوگیری ها در داده ها، اختلاف نظر وجود دارد.
چگونه کامپیوترها را برای عقل سلیم آزمایش کنیم
از آنجایی که سیستم‌های هوش مصنوعی وظایف پیچیده‌تری را در دنیای واقعی انجام می‌دهند، ارزیابی اینکه آیا آنها دارای «عقل سلیم» هستند بسیار مهم می‌شود.
عقل سلیم فیزیکی
یکی از حوزه هایی که باید آزمایش شود، حس مشترک فیزیکی است – شهود در مورد اشیاء، نیروها و ویژگی های اساسی جهان.
به عنوان مثال، به یک سیستم بینایی کامپیوتری عکسی را با کتابی که در هوا معلق است نشان دهید و از آن بخواهید صحنه را توصیف کند. آیا چیز غیرعادی در مورد کتاب شناور ذکر می کند؟ یا سیستم هوش مصنوعی را با سناریوهای غیرمعمولی مانند “مردی که با یک قرص نان سنگی را تکه کرد” را تغذیه کنید و بررسی کنید که آیا این سناریوها را غیرمحتمل نشان می دهد یا خیر.
محیط AI2 THOR موسسه آلن، برج‌های بلوک، لیوان‌های ریخته شده و صحنه‌های دیگر را برای آزمایش این شهودات فیزیکی شبیه‌سازی می‌کند.
عقل سلیم اجتماعی
انسان ها همچنین دارای عقل سلیم اجتماعی هستند – درک ضمنی از انگیزه ها، روابط و هنجارهای افراد. برای ارزیابی این موضوع در هوش مصنوعی، موقعیت‌هایی را با ضمایر یا انگیزه‌های مبهم مطرح کنید و ببینید که آیا سیستم آنها را به طور منطقی تفسیر می‌کند یا خیر.
به عنوان مثال، من از ChatGPT پرسیدم که آیا منظور از “آن” به چمدان یا جایزه در دستور زیر است:
جام نمی توانست در چمدان جا شود زیرا خیلی کوچک بود.
در آزمون شکست خورد. در همین حال، یک انسان بدیهی است که می‌داند منظور من از چمدان است.
این نوع آزمون چالش طرحواره وینوگراد نامیده می شود که به طور خاص عقل سلیم اجتماعی را هدف قرار می دهد.
ایمنی و اخلاق
آزمایش اینکه آیا سیستم های هوش مصنوعی الگوهای ناامن یا غیراخلاقی را یاد گرفته اند بسیار مهم است. تجزیه و تحلیل کنید که آیا هوش مصنوعی هنگام قضاوت، سوگیری های مضر بر اساس جنسیت، نژاد یا سایر ویژگی ها را نشان می دهد.
بررسی کنید که آیا تمایزات اخلاقی معقولی ایجاد می کند. کشتن یک خرس برای نجات یک کودک ممکن است موجه تلقی شود در حالی که منفجر کردن یک بمب هسته ای برای همان هدف غیرقابل توجیه است. هر توصیه ای را برای اعمال آشکارا غیراخلاقی علامت گذاری کنید.
عملکرد دنیای واقعی
با مشاهده نحوه عملکرد سیستم های هوش مصنوعی در تنظیمات دنیای واقعی، عقل سلیم را ارزیابی کنید. به عنوان مثال، آیا خودروهای خودران به درستی اشیا و عابران پیاده را شناسایی و به آنها پاسخ می دهند؟ آیا یک ربات می تواند در محیط های مختلف خانه حرکت کند بدون اینکه وسایل با ارزش را بشکند یا به حیوانات خانگی آسیب برساند؟
آزمایش‌های دنیای واقعی شکاف‌هایی را در حس مشترک نشان می‌دهند که ممکن است در شرایط آزمایشگاهی محدود ظاهر نشوند.
پیشرفت حاصل شده است، اما کار روی هوش مصنوعی عقل سلیم باقی مانده است
برخی از کارشناسان استدلال می کنند که هوش مصنوعی ممکن است هرگز بدون توسعه ساختارهای مغز و بدن مانند ما به عقل سلیم انسان برسد. از طرف دیگر، ذهن های دیجیتال توسط تعصبات انسانی و میانبرهای ذهنی محدود نمی شوند، بنابراین از نظر تئوری، آنها می توانند از ما پیشی بگیرند! اگرچه ما هنوز نیازی به نگرانی در مورد هوش مصنوعی فوق هوشمند نداریم.
در کوتاه مدت، بهترین گزینه هوش مصنوعی است که عقل سلیم آموخته شده را با برخی از برنامه نویسی های قدیمی خوب ترکیب می کند. به این ترتیب، می توان از اشتباهات احمقانه مانند اشتباه گرفتن لاک پشت با تفنگ جلوگیری کرد.
ما هنوز آنجا نیستیم، اما عقل سلیم دیگر ماده تاریک هوش مصنوعی نیست – پیشرفت در حال رخ دادن است! با این حال، دوز سالم عقل سلیم انسانی در به کارگیری این فناوری ها برای مدتی مورد نیاز خواهد بود.