توهم هوش مصنوعی چیست و چگونه آن را تشخیص می دهید؟

هوش مصنوعی مولد عالی است، اما همیشه اطلاعات خود را با قدرت مطلق ارائه می دهد. که عالی است مگر اینکه حقیقت را توهم کند.

توهم هوش مصنوعی (AI) گیج کننده به نظر می رسد. احتمالاً به این فکر می کنید که “آیا توهم یک پدیده انسانی نیست؟” خوب، بله، قبلاً یک پدیده صرفاً انسانی بود تا اینکه هوش مصنوعی ویژگی‌های انسانی مانند تشخیص چهره، خودآموزی و تشخیص گفتار را نشان داد.

متأسفانه هوش مصنوعی برخی از ویژگی های منفی از جمله توهم را به خود اختصاص داد. بنابراین، آیا توهم هوش مصنوعی مشابه نوع توهماتی است که انسان تجربه می کند؟

توهم هوش مصنوعی چیست؟

توهم هوش مصنوعی زمانی رخ می دهد که یک مدل هوش مصنوعی خروجی هایی متفاوت از آنچه انتظار می رود تولید کند. توجه داشته باشید که برخی از مدل‌های هوش مصنوعی برای تولید عمدی خروجی‌های غیرمرتبط با هر ورودی (داده) دنیای واقعی آموزش دیده‌اند.

به عنوان مثال، تولیدکنندگان برتر تبدیل متن به هنر هوش مصنوعی، مانند DALL-E 2، می توانند به طور خلاقانه تصاویر جدیدی تولید کنند که می توانیم آنها را به عنوان “توهم” برچسب گذاری کنیم، زیرا آنها بر اساس داده های دنیای واقعی نیستند.

توهم هوش مصنوعی در مدل های پردازش زبان بزرگ

بیایید در نظر بگیریم که توهم هوش مصنوعی در یک مدل پردازش زبان بزرگ مانند ChatGPT چگونه خواهد بود. توهم ChatGPT منجر به این می شود که ربات یک واقعیت نادرست را با برخی ادعاها به شما بدهد، به طوری که شما طبیعتاً چنین حقایقی را به عنوان حقیقت در نظر می گیرید.

به زبان ساده، این جملات ساخته شده توسط چت بات هوشمند مصنوعی است. در اینجا یک مثال است:

در جستجوی بیشتر، ChatGPT با این ظاهر شد:

توهم هوش مصنوعی در بینایی کامپیوتر

بیایید زمینه دیگری از هوش مصنوعی را در نظر بگیریم که می تواند توهم هوش مصنوعی را تجربه کند: بینایی رایانه. مسابقه زیر یک مونتاژ 4×4 را با دو موجودیت که بسیار شبیه به هم هستند نشان می دهد. تصاویر ترکیبی از چیپس و برگ سیب زمینی BBQ هستند.

چالش این است که چیپس سیب زمینی را بدون ضربه زدن به برگ در مونتاژ انتخاب کنید. این تصویر ممکن است برای یک کامپیوتر دشوار به نظر برسد، و ممکن است نتواند بین چیپس و برگ سیب‌زمینی BBQ تفاوت قائل شود.

در اینجا مونتاژ دیگری با ترکیبی از تصاویر نان پودل و نخ خوک وجود دارد. یک کامپیوتر به احتمال زیاد نمی تواند بین آنها تمایز قائل شود، بنابراین تصاویر را مخلوط می کند.

چرا توهم هوش مصنوعی رخ می دهد؟

توهم هوش مصنوعی می تواند به دلیل مثال های متضاد رخ دهد – داده های ورودی که یک برنامه کاربردی هوش مصنوعی را فریب می دهد تا آنها را طبقه بندی اشتباه کند. برای مثال، هنگام آموزش برنامه‌های هوش مصنوعی، توسعه‌دهندگان از داده‌ها (تصویر، متن یا موارد دیگر) استفاده می‌کنند. اگر داده ها تغییر یا تحریف شوند، برنامه ورودی را متفاوت تفسیر می کند و خروجی اشتباه می دهد.

در مقابل، یک انسان هنوز هم می‌تواند داده‌ها را با وجود تحریف‌ها به دقت تشخیص داده و شناسایی کند. ما می توانیم این را به عنوان عقل سلیم برچسب گذاری کنیم – یک ویژگی انسانی که هوش مصنوعی هنوز ندارد. در این ویدیو ببینید که چگونه هوش مصنوعی با مثال‌های متخاصم فریب می‌خورد:

در مورد مدل های بزرگ مبتنی بر زبان مانند ChatGPT و جایگزین های آن، توهم ممکن است از رمزگشایی نادرست از ترانسفورماتور (مدل یادگیری ماشین) ایجاد شود.

در هوش مصنوعی، یک ترانسفورماتور یک مدل یادگیری عمیق است که از توجه به خود (روابط معنایی بین کلمات در یک جمله) برای تولید متنی مشابه آنچه که یک انسان با استفاده از دنباله رمزگذار-رمزگشا (ورودی-خروجی) می‌نویسد، استفاده می‌کند.

بنابراین ترانسفورماتورها، یک مدل یادگیری ماشین نیمه نظارت شده، می توانند متن جدیدی از متن (خروجی) از مجموعه بزرگ داده های متنی مورد استفاده در آموزش (ورودی) تولید کنند. این کار را با پیش بینی کلمه بعدی در یک سری بر اساس کلمات قبلی انجام می دهد.

در مورد توهم، اگر یک مدل زبان بر روی داده ها و منابع ناکافی و نادرست آموزش داده شود، انتظار می رود که خروجی ساخته شده و نادرست باشد. مدل زبان ممکن است داستان یا روایتی را بدون تناقضات منطقی یا پیوندهای نامشخص ایجاد کند.

در مثال زیر، از ChatGPT خواسته شد که کلمه ای شبیه به “revolt” بدهد و با “b” شروع شود. در اینجا پاسخ آن است:

در بررسی‌های بیشتر، با اعتماد به نفس بالایی به پاسخ‌های اشتباه ادامه داد.

پس چرا ChatGPT نمی تواند پاسخ دقیقی به این درخواست ها بدهد؟

ممکن است مدل زبان برای رسیدگی به اعلان‌های نسبتاً پیچیده مانند اینها مجهز نباشد یا اینکه نمی‌تواند اعلان را به طور دقیق تفسیر کند، بدون توجه به درخواست برای دادن یک کلمه مشابه با یک الفبای خاص.

چگونه توهم هوش مصنوعی را تشخیص دهید؟

اکنون آشکار است که برنامه های کاربردی هوش مصنوعی پتانسیل ایجاد توهم را دارند – در غیر این صورت از خروجی مورد انتظار (واقعیت یا حقیقت) بدون هیچ گونه قصد مخربی، پاسخ ایجاد می کنند. و تشخیص و تشخیص توهمات هوش مصنوعی به عهده کاربران چنین برنامه هایی است.

در اینجا چند راه برای تشخیص توهمات هوش مصنوعی در حین استفاده از برنامه های رایج هوش مصنوعی آورده شده است:

1. مدل های پردازش زبان بزرگ

اگرچه نادر است، اما اگر متوجه یک خطای گرامری در محتوای تولید شده توسط یک مدل پردازش بزرگ، مانند ChatGPT شوید، باید ابرو را بالا ببرد و شما را به توهم شک کند. به طور مشابه، وقتی محتوای تولید شده توسط متن منطقی به نظر نمی رسد، با زمینه داده شده مرتبط نیست، یا با داده های ورودی مطابقت ندارد، باید به توهم مشکوک شوید.

استفاده از قضاوت انسانی یا عقل سلیم می تواند به تشخیص توهمات کمک کند، زیرا انسان ها می توانند به راحتی تشخیص دهند که متنی منطقی نیست یا از واقعیت پیروی می کند.

2. کامپیوتر ویژن

بینایی کامپیوتر به‌عنوان شاخه‌ای از هوش مصنوعی، یادگیری ماشین و علوم کامپیوتر، رایانه‌ها را قادر می‌سازد تا تصاویر را مانند چشم انسان تشخیص دهند و پردازش کنند. با استفاده از شبکه‌های عصبی کانولوشنال، آن‌ها به مقدار باورنکردنی داده‌های بصری مورد استفاده در آموزش خود متکی هستند.

انحراف از الگوهای داده های بصری مورد استفاده در تمرین، منجر به توهم می شود. به عنوان مثال، اگر رایانه ای با تصاویر توپ تنیس آموزش ندیده باشد، می تواند آن را به عنوان نارنجی سبز تشخیص دهد. یا اگر رایانه اسبی را در کنار مجسمه انسان به عنوان اسبی در کنار یک انسان واقعی تشخیص دهد، توهم هوش مصنوعی رخ داده است.

بنابراین برای تشخیص توهم بینایی کامپیوتری، خروجی تولید شده را با آنچه انتظار می رود یک انسان [عادی] ببیند، مقایسه کنید.

3. اتومبیل های خودران

به لطف هوش مصنوعی، خودروهای خودران به تدریج در بازار خودرو نفوذ می کنند. پیشگامانی مانند تسلا اتوپایلوت و بلوکروز فورد از صحنه خودروهای خودران دفاع کرده اند. می‌توانید نحوه و آنچه را که تسلا اتوپایلوت می‌بیند بررسی کنید تا کمی درک کنید که چگونه هوش مصنوعی به خودروهای خودران قدرت می‌دهد.

اگر صاحب یکی از این خودروها هستید، باید بدانید که آیا خودروی هوش مصنوعی شما دچار توهم است یا خیر. یکی از نشانه‌ها این است که به نظر می‌رسد وسیله نقلیه شما از الگوهای رفتاری عادی خود در حین رانندگی منحرف شده است. به عنوان مثال، اگر وسیله نقلیه به طور ناگهانی بدون هیچ دلیل واضحی ترمز کند یا منحرف شود، ممکن است وسیله نقلیه هوش مصنوعی شما دچار توهم باشد.

سیستم های هوش مصنوعی نیز می توانند توهم ایجاد کنند

انسان‌ها و مدل‌های هوش مصنوعی توهم را متفاوت تجربه می‌کنند. وقتی صحبت از هوش مصنوعی به میان می‌آید، توهم به خروجی‌های اشتباهی اشاره می‌کند که کیلومترها با واقعیت فاصله دارند یا در متن دستور داده شده معنی ندارند. به عنوان مثال، یک ربات چت هوش مصنوعی ممکن است از نظر دستوری یا منطقی پاسخ نادرستی بدهد یا یک شی را به دلیل نویز یا سایر عوامل ساختاری شناسایی کند.

همانطور که در انسان مشاهده می کنید، توهمات هوش مصنوعی ناشی از یک ذهن خودآگاه یا ناخودآگاه نیست. بلکه ناشی از ناکافی بودن یا ناکافی بودن داده های مورد استفاده در آموزش و برنامه نویسی سیستم هوش مصنوعی است.

منبع مقاله