ربات‌های چت هوش مصنوعی ممکن است دچار توهم شوند و با اطمینان پاسخ‌های نادرست را بدهند – که هکرها می‌توانند از آن بهره ببرند. در اینجا نحوه استفاده از توهم توسط هکرها آمده است.
AIهای مدل زبان بزرگ ناقص هستند و گاهی اطلاعات نادرست تولید می کنند. این موارد که توهم نامیده می شوند، می توانند یک تهدید سایبری برای مشاغل و علاقه مندان به هوش مصنوعی باشند.
خوشبختانه، شما می توانید با افزایش آگاهی و حدس زدن دوم سالم، دفاع در برابر توهمات هوش مصنوعی را افزایش دهید.
چرا هوش مصنوعی توهم می کند؟
هیچ اتفاق نظری در مورد اینکه چرا مدل‌های هوش مصنوعی توهم دارند، وجود ندارد، اگرچه چند حدس احتمالی وجود دارد.
هوش مصنوعی از مجموعه داده های انبوهی که اغلب حاوی نقص هایی مانند شکاف های فکری، واریانس برجستگی محتوا یا سوگیری های مضر هستند، آموزش دیده است. هر گونه آموزش از این مجموعه داده های ناقص یا ناکافی می تواند ریشه توهم باشد، حتی اگر تکرارهای بعدی مجموعه داده توسط دانشمندان داده بررسی شود.
با گذشت زمان، دانشمندان داده می توانند اطلاعات را دقیق تر کنند و دانش اضافی را برای پر کردن جای خالی و به حداقل رساندن پتانسیل توهم وارد کنند. ناظران ممکن است داده ها را اشتباه برچسب گذاری کنند. کد برنامه نویسی ممکن است دارای خطا باشد. رفع این موارد ضروری است زیرا مدل‌های هوش مصنوعی بر اساس الگوریتم‌های یادگیری ماشین پیشرفت می‌کنند.
این الگوریتم ها از داده ها برای تعیین تصمیم استفاده می کنند. توسعه این شبکه عصبی هوش مصنوعی است که تصمیمات جدیدی را از تجربه یادگیری ماشین ایجاد می کند تا با دقت بیشتری به اصالت ذهن انسان شبیه شود. این شبکه ها حاوی ترانسفورماتورهایی هستند که روابط بین نقاط داده دور را تجزیه می کنند. هنگامی که ترانسفورماتورها خراب می شوند، ممکن است توهم ایجاد شود.
چگونه توهمات هوش مصنوعی فرصت هایی را برای هکرها فراهم می کند
متأسفانه، این دانش عمومی نیست که هوش مصنوعی توهم می زند، و هوش مصنوعی حتی زمانی که کاملاً اشتباه باشد، مطمئن به نظر می رسد. همه این‌ها باعث می‌شود کاربران راضی‌تر و به هوش مصنوعی اعتماد کنند، و عوامل تهدید بر این رفتار کاربر تکیه می‌کنند تا آنها را وادار به دانلود یا تحریک حملات خود کنند.
برای مثال، یک مدل هوش مصنوعی ممکن است یک کتابخانه کد جعلی را دچار توهم کند و به کاربران توصیه کند آن کتابخانه را دانلود کنند. این احتمال وجود دارد که این مدل همچنان همین کتابخانه توهم‌آمیز را به بسیاری از کاربرانی که سؤال مشابهی می‌پرسند، توصیه کند. اگر هکرها این توهم را کشف کنند، می توانند یک نسخه واقعی از کتابخانه خیالی ایجاد کنند – اما پر از کدهای خطرناک و بدافزار. اکنون، وقتی هوش مصنوعی به توصیه کتابخانه کد ادامه می دهد، کاربران ناخواسته کد هکرها را دانلود می کنند.
انتقال کدها و برنامه‌های مضر با بهره‌گیری از توهمات هوش مصنوعی، گام بعدی غیرقابل تعجب برای عوامل تهدید است. هکرها لزوماً تهدیدات سایبری بی‌شماری را ایجاد نمی‌کنند – آنها صرفاً به دنبال راه‌های جدیدی برای ارائه آنها بدون شک هستند. توهمات هوش مصنوعی طعمه همان ساده لوحی انسان است که روی پیوندهای ایمیل کلیک می کند (به همین دلیل است که باید از ابزارهای بررسی پیوند برای تأیید URL ها استفاده کنید).
هکرها ممکن است آن را به سطح بعدی نیز ببرند. اگر به دنبال کمک برنامه نویسی و دانلود کد جعلی و مخرب هستید، عامل تهدید همچنین می تواند کد را با برنامه مضری که در پس زمینه اجرا می شود، عملاً کاربردی کند. فقط به این دلیل که همانطور که شما پیش بینی می کنید کار می کند به این معنی نیست که خطرناک نیست.
فقدان آموزش ممکن است شما را به دانلود توصیه های تولید شده توسط هوش مصنوعی به دلیل رفتار خلبان خودکار آنلاین تشویق کند. هر بخش برای پذیرش هوش مصنوعی در فعالیت های تجاری خود تحت فشار فرهنگی است. سازمان‌ها و صنایع بی‌شماری که از فناوری دور هستند، صرفاً برای رقابتی ماندن، با ابزارهای هوش مصنوعی با تجربه کم و حتی امنیت سایبری کم‌تر بازی می‌کنند.
چگونه از توهمات هوش مصنوعی مسلح شده در امان بمانیم
پیشرفت در افق است. قبل از اینکه شرکت ها مجموعه داده ها و شرایط و ضوابط را برای جلوگیری از نسل های غیراخلاقی تنظیم کنند، ایجاد بدافزار با هوش مصنوعی مولد آسان بود. با دانستن ضعف‌های اجتماعی، فنی و شخصی که ممکن است در برابر توهمات هوش مصنوعی خطرناک داشته باشید، راه‌هایی برای ایمن ماندن چیست؟
هر کسی در این صنعت می‌تواند روی اصلاح فناوری شبکه‌های عصبی و تأیید کتابخانه کار کند. قبل از اینکه پاسخ ها به کاربران نهایی برسد، باید چک و تعادل وجود داشته باشد. علیرغم اینکه این یک پیشرفت ضروری در صنعت است، شما همچنین باید نقشی در محافظت از خود و دیگران در برابر تهدیدات مولد هوش مصنوعی ایفا کنید.
کاربران متوسط می توانند با این استراتژی ها توهمات هوش مصنوعی را تمرین کنند:
- یافتن اشتباهات املایی و گرامری
- مشاهده زمانی که زمینه پرس و جو با زمینه پاسخ همخوانی ندارد.
- تصدیق زمانی که تصاویر مبتنی بر بینایی کامپیوتری با نحوه دیدن این مفهوم مطابقت ندارند.
همیشه هنگام دانلود محتوا از اینترنت، حتی زمانی که توسط هوش مصنوعی توصیه می شود، مراقب باشید. اگر هوش مصنوعی دانلود کد را توصیه می کند، کورکورانه این کار را انجام ندهید. بررسی هر گونه بررسی برای اطمینان از قانونی بودن کد و ببینید که آیا می توانید اطلاعاتی در مورد سازنده پیدا کنید.
بهترین مقاومت در برابر حملات مبتنی بر توهم هوش مصنوعی آموزش است. صحبت در مورد تجربیات خود و خواندن اینکه چگونه دیگران باعث ایجاد توهمات بدخواهانه شده اند، چه به صورت تصادفی یا آزمایشی عمدی، در مسیریابی هوش مصنوعی در آینده بسیار ارزشمند است.
افزایش امنیت سایبری هوش مصنوعی
هنگام صحبت با هوش مصنوعی باید مراقب باشید که چه چیزی می خواهید. با مشخص بودن تا حد امکان و زیر سوال بردن هر چیزی که روی صفحه می آید، پتانسیل پیامدهای خطرناک را محدود کنید. کد را در محیط های امن آزمایش کنید و سایر اطلاعات به ظاهر قابل اعتماد را بررسی کنید. علاوه بر این، همکاری با دیگران، بحث در مورد تجربیات خود، و ساده‌سازی اصطلاحات تخصصی درباره توهمات هوش مصنوعی و تهدیدات امنیت سایبری می‌تواند به توده‌ها کمک کند تا در برابر هکرها هوشیارتر و انعطاف‌پذیرتر باشند.