تصمیم گیری هوش مصنوعی در امنیت سایبری چیست و آیا می توانیم به آن اعتماد کنیم؟

آیا هوش مصنوعی می تواند به ما کمک کند تا خطاهای انسانی را حذف کنیم یا فقط به تهدید می افزاید؟

از آنجایی که افراد و سازمان های بیشتری با آغوش باز از فناوری های جدید استقبال می کنند، نادیده گرفتن هوش مصنوعی (AI) و تصمیم گیری مبتنی بر هوش مصنوعی غیرممکن شده است. تصمیمات مهمی که زمانی توسط انسان ها گرفته می شد را می توان به تخصص تصمیم گیری هوش مصنوعی سپرد.

ما مانده ایم که بدانیم هوش مصنوعی چگونه بر تصمیم گیری تأثیر می گذارد و آیا می توانیم به نتایج اعتماد کنیم. همانطور که بخش امنیت سایبری تکامل می یابد، تهدیدات سایبری نیز رشد می کند. با این حال، با وجود خطای انسانی به عنوان یکی از مهمترین تهدیدات امنیت سایبری، آیا تصمیم گیری هوش مصنوعی کمتر از انسان قابل اعتماد است؟

تصمیم گیری هوش مصنوعی چیست؟

تصمیم گیری هوش مصنوعی را می توان به عنوان توانایی سیستم های مجهز به هوش مصنوعی برای انجام وظایف پردازش داده و تصمیم گیری بدون کمک (یا کم) از سوی انسان ها توصیف کرد.

با کنار گذاشتن عامل انسانی از تصویر، هوش مصنوعی می‌تواند داده‌های کیفی را کمی کند، پیش‌بینی‌های دقیق‌تری انجام دهد و به تصمیم‌های درست برسد. این می تواند وظایف پیچیده ای مانند تجزیه و تحلیل داده ها، خرد کردن داده ها، تشخیص ناهنجاری و موارد دیگر را انجام دهد. پس از تکمیل کار، تصمیم نهایی یا کاملاً خودکار است یا توسط انسان گرفته می شود – اگر به سیستم بستگی دارد.

هوش مصنوعی با بر عهده گرفتن وظایف روزمره خسته کننده، وقت ما را برای فعالیت های خلاقانه تر و متمرکز بر تجارت آزاد می کند. با این حال، نیازی به ترس از اینکه هوش مصنوعی به زودی جایگزین انسان در فرآیند تجاری شود، وجود ندارد.

این فرآیند تصمیم گیری هوش مصنوعی را می توان به سه دسته اصلی تقسیم کرد:

• پشتیبانی تصمیم: در این سیستم، هوش انسانی و بینش‌های مبتنی بر داده‌های مبتنی بر هوش مصنوعی با هم ترکیب می‌شوند تا تصمیم‌های صحیح‌تری را ارائه کنند.
• تقویت تصمیم: مانند سیستم قبلی، در اینجا نیز هدف هوش مصنوعی جایگزینی انسان نیست، بلکه هدف آن حمایت از آنها در تصمیم گیری با گزینه های متعدد است. از تجزیه و تحلیل پیش بینی کننده (برای یافتن نتایج بالقوه) یا تجزیه و تحلیل تجویزی (برای یافتن گزینه های بیشتر با یک نتیجه خاص) برای رسیدن به این تصمیمات استفاده می کند.
• اتوماسیون تصمیم گیری: برخلاف دو مورد قبلی، این سیستم وظیفه دارد با خودکارسازی وظایف تصمیم گیری روزانه انسان ها را جایگزین کند.

از آنجایی که اجتناب از هوش مصنوعی در دنیای امروزی ما دشوار است، هوشمندانه است که قبل از مقابله با آنها، خطرات هوش مصنوعی را بررسی کنیم.

تصمیم گیری هوش مصنوعی چه نقشی در امنیت سایبری دارد؟

از آنجایی که سیستم‌های مجهز به هوش مصنوعی توانایی تصمیم‌گیری و انجام وظایف را مستقل از انسان دارند، می‌توانند حجم بیشتری از داده‌های مرتبط با ریسک را با سرعتی که هیچ انسانی نمی‌تواند برابری کند، تجزیه و تحلیل کنند. همچنین، با بهره‌گیری از هوش مصنوعی، سیستم‌های امنیتی می‌توانند از یادگیری ماشینی (ML) برای ارتقای دفاعی خود و مقابله با حملات سایبری مداوم استفاده کنند.

برای مثال، آن‌ها می‌توانند داده‌های بلادرنگ درباره تهدیدات سایبری فعال مانند جدیدترین کلاهبرداری‌های ایمیلی را جمع‌آوری کنند و از کلیک کردن روی پیوندهای مخرب یا دانلود اسناد آلوده به بدافزار توسط قربانیان جلوگیری کنند. به هر حال، جرایم سایبری مانند کلاهبرداری های فیشینگ و حملات انکار سرویس (DoS) به طور نگران کننده ای رایج هستند و یک سیستم امنیتی که می تواند مانند ساعت بدون خواب کار کند یا نیاز به استراحت برای ارتقاء تاکتیک های جرایم سایبری خود داشته باشد، متحد قدرتمندی است.

هر سه نوع فرآیند تصمیم گیری هوش مصنوعی (پشتیبانی، تقویت، و اتوماسیون) را می توان برای تقویت امنیت سایبری مورد استفاده قرار داد.

مزایای استفاده از هوش مصنوعی در امنیت سایبری

از آنجایی که همه ما موافقیم که استفاده از تصمیم‌گیری هوش مصنوعی در امنیت سایبری چیزی است که در آینده بیشتر شاهد آن خواهیم بود، بیایید بررسی کنیم که مزایای اصلی آن چیست.

• هوش مصنوعی می‌تواند شبانه روز کار کند: برخلاف کارکنان امنیت سایبری انسانی که هر از چند گاهی باید چشمانشان را ببندند، هوش مصنوعی می‌تواند داده‌ها را در جستجوی تهدیدها و آسیب‌پذیری‌های سایبری در شبانه‌روز تجزیه و تحلیل کند.
• این می تواند خطای انسانی را ریشه کن کند: از آنجایی که مردم ضعیف ترین حلقه در زنجیره امنیت سایبری هستند، ایمن تر است که به هوش مصنوعی اجازه دهیم تمام وظایفی را که در آنها وحشتناک هستیم (مانند اولویت دادن به وظایف و انجام وظایف اصلی) انجام دهد.
• ML یک تغییر دهنده بازی برای تشخیص تهدید است: برخلاف متخصصان امنیت سایبری انسانی که باید برای شناسایی و درک تهدیدات سایبری جدید آموزش ببینند، یک سیستم هوش مصنوعی می تواند به طور خودکار تهدیدهای جدید را شناسایی کند.
• این امر احراز هویت بیومتریک را هوشمندتر می کند: چه در مورد نوک انگشت، عنبیه یا تشخیص صدا صحبت کنیم، هوش مصنوعی ورود بیومتریک را روان تر و ایمن تر می کند.
• این می‌تواند هزینه‌های حملات سایبری را کاهش دهد: در صورت موفقیت‌آمیز بودن حمله سایبری، یک سیستم امنیتی مبتنی بر هوش مصنوعی می‌تواند آسیب‌ها را کاهش داده و خسارات مالی را به حداقل برساند.

معایب استفاده از هوش مصنوعی در امنیت سایبری

ما فکر نمی کنیم هوش مصنوعی ناگهان هوشیار شود، شروع به تحقیر جدی نسبت به بشریت کند و هر کاری برای نابودی آن انجام دهد – دور از آن (در حال حاضر). با این حال، در امنیت سایبری نیز همه چیز با هوش مصنوعی آفتاب و رنگین کمان نیست. علاوه بر این، بیش از چند دلیل وجود دارد که چرا نباید کورکورانه به هوش مصنوعی اعتماد کنید.

• سوگیری در هوش مصنوعی و ML: دو نوع سوگیری در هوش مصنوعی وجود دارد، هوش مصنوعی الگوریتمی (بهتر به عنوان سوگیری داده شناخته می شود) و سوگیری هوش مصنوعی اجتماعی، و هر دو می توانند سیستم های امنیتی مبتنی بر هوش مصنوعی را نیز سوگیری کنند.
• عدم شفافیت در هوش مصنوعی: از آنجایی که هوش مصنوعی به عنوان یک جعبه سیاه عمل می کند، نمی توانیم اطلاعات مورد نیاز خود را جمع آوری کنیم تا بفهمیم یک سیستم هوش مصنوعی واقعا چگونه تصمیم می گیرد.
• مسائل مربوط به یکپارچه سازی با سیستم های امنیتی موجود: همه سیستم های امنیتی مبتنی بر هوش مصنوعی را نمی توان به راحتی با سیستم های موجود ادغام کرد که می تواند به معماری امنیتی سازمان آسیب برساند.
• تمایل به موارد مثبت کاذب: به دلیل عدم درک ما از تصمیم‌گیری هوش مصنوعی و اتکای هوش مصنوعی به داده‌ها، الگوریتم‌های ML می‌توانند اشتباهات تشخیص ناهنجاری (مانند حذف داده‌هایی که تهدید نیستند) انجام دهند و سیستم‌ها را در معرض خطر تهدیدات سایبری واقعی قرار دهند.

آیا می توانیم به هوش مصنوعی در امنیت سایبری اعتماد کنیم؟

با پیشرفت هر دو فناوری، هوش مصنوعی و امنیت سایبری به طور فزاینده ای در هم تنیده می شوند. با این حال، آیا این بدان معناست که ما باید نگرانی های خود را پشت سر بگذاریم و به تصمیم گیری هوش مصنوعی اعتماد کنیم؟

مانند هر بخش دیگری از فناوری، پتانسیل تصمیم گیری هوش مصنوعی دارای مزایا و معایب خود است. می تواند شبانه روز از سیستم های ما محافظت کند، خطاهای انسانی را از بین ببرد و همزمان از حملات سایبری جدید درس بگیرد. با این حال، می‌تواند مانند سایر اجزای یک سیستم امنیتی مورد حمله قرار گیرد و این حملات می‌تواند بر «ذهن» آن به شیوه‌ای تأثیر بگذارد که ما هنوز درک نکرده‌ایم.

این امر باعث می‌شود قبل از اینکه بتوانیم آن را یکی از نزدیک‌ترین متحدان خود بدانیم، خطرات و مزایای استفاده از هوش مصنوعی در امنیت سایبری را درک کنیم.

منبع مقاله