X (توئیتر سابق) هوش مصنوعی Grok خود را در پایان سال 2024 رایگان کرد. و در حالی که Grok مایل است پاسخ‌هایی بدهد که با آموزش ایمنی هوش مصنوعی و نرده‌های محافظ اخلاقی مانع نمی‌شوند، این ویژگی به طور بالقوه خطرناک است.
خلاصه عناوین
- Grok پادمان های اخلاقی ضعیفی دارد
- نسل تصویر Grok فاقد تعدیل محتوا است
- Grok خودش را در توییت ها آموزش می دهد
X (توئیتر سابق) هوش مصنوعی Grok خود را در پایان سال 2024 رایگان کرد. و در حالی که Grok مایل است پاسخ‌هایی بدهد که با آموزش ایمنی هوش مصنوعی و نرده‌های محافظ اخلاقی مانع نمی‌شوند، این ویژگی به طور بالقوه خطرناک است.
1
Grok پادمان های اخلاقی ضعیفی دارد
در تلاش برای ارضای کنجکاوی خود در مورد موضوعات تصادفی، اغلب زمانی که یک ربات هوش مصنوعی از پاسخ دادن امتناع می کند، ناامید شده ام، زیرا فرض می کند من قصد بدی دارم. در این موارد، دریافت یک پاسخ مفید از OpenAI’s ChatGPT یا Anthropic’s Claude نیازمند فریب آنها برای پاسخ دادن است. این یک بازی ژیمناستیک کلامی است که به نظرم اتلاف وقت احمقانه است. از طرف دیگر، Grok AI دارای نرده های محافظ کمتری است.
اکنون می‌توانید از Grok AI Elon Musk به صورت رایگان استفاده کنید، و چیزی که غیرمعمول – شاید حتی هیجان‌انگیز – در مورد Grok است این است که از شما حمایت نمی‌کند، مثل اینکه می‌داند بهترین است. تلاش شما برای یادگیری را مسدود نمی کند. می توانید از آن بخواهید که شما را کباب کند، نظری بدون فیلتر بدهد یا حتی در مورد فرضیاتی مانند تئوری های توطئه حدس بزند. حتی اگر Grok هنوز هشدارها و صلاحیت‌ها را ضمیمه می‌کند، ربات هوش مصنوعی تمام تلاش خود را می‌کند تا به شما پاسخ دهد.
با این حال، بسیاری این فقدان ضمانت‌های اخلاقی را به شدت نگران‌کننده می‌دانند. به عنوان مثال، از اینکه توانستم از گروک بپرسم که چگونه به خودم آسیب برسانم و پاسخ جامع آن با لیست طولانی روش ها، شوکه شدم. و آیا این برای کسی مفید است که بتواند دستور العمل های گام به گام آسان را از کتاب آشپزی آنارشیست دریافت کند؟ بسیاری گروک را در این زمینه بسیار غیرمسئول می دانند.
2
نسل تصویر Grok فاقد تعدیل محتوا است
قابلیت‌های هوش مصنوعی Grok شامل تولید تصویر نیز می‌شود. استفاده از آن به طرز دلپذیری بدون اصطکاک است: می‌توانید از همان جعبه متنی که در آن سؤال می‌پرسید، تصویری درخواست کنید. این روان بودن نسبت به تجربه من با سایر برنامه‌های هوش مصنوعی، مانند جابجایی به یک هوش مصنوعی متفاوت در Quora’s Poe یا هدایت شدن به ابزار وب توسط Microsoft Copilot در دسک‌تاپ، برتر است.
تولید تصویر گروک شگفت‌انگیز است زیرا سعی نمی‌کند ایده‌های من را مانند یک بچه پنج ساله که باید سرزنش شود، پاکسازی کند. شاید به اندازه Midjourney یا سایر ربات‌های هنری هوش مصنوعی خلاقانه نباشد، اما Grok نسبت به سایر ربات‌هایی که من امتحان کرده‌ام احساس محدودیت کمتری می‌کند.
همانطور که ممکن است حدس بزنید، این سهل انگاری یک شمشیر دو لبه است. گروک:
- اهمیتی نمی دهد که هنر هوش مصنوعی را از نظر اخلاقی تولید و استفاده می کنید
- از مطالب دارای حق نسخه‌برداری مجدد استفاده می‌کند، که می‌تواند شما را به صورت قانونی در آب داغ قرار دهد بدون اینکه شما از آن اطلاع داشته باشید
- به شما امکان می دهد برای ایجاد تقریباً هر تصویری، مانند نمونه های بالا، از شباهت های دیگران سوء استفاده کنید.
اگر فکر می‌کنید که این موضوع به مرواریدها می‌چسبد، فقط بدانید که می‌توانید از گروک بخواهید با ایده‌هایی بسیار بدتر از آنچه من در اینجا نشان داده‌ام همراهی کند. مطمئنا، اجازه دادن به خلاقیت شما سرگرم کننده است، اما می توانید تصور کنید که چگونه می توان از تولید تصویر Grok سوء استفاده کرد. احزاب کمتر مسئول ممکن است از آن برای تولید تصاویر و ویدیوهای جعلی برای زورگویی سایبری، اطلاعات نادرست یا تبلیغات سیاسی استفاده کنند.
3
Grok خودش را در توییت ها آموزش می دهد
یکی از محدودیت های بیشتر چت ربات های هوش مصنوعی این است که آنها بر روی اطلاعات یک یا دو ساله آموزش دیده اند. هرگاه از جمینی گوگل یا لاما متا در مورد چیزی جدیدتر می پرسم – مثلاً فناوری های جدید خانه هوشمند یا قوانین اخیری که به اجرا درآمده اند – اغلب پاسخ های قدیمی یا توهمات هوش مصنوعی مستقیم دریافت می کنم.
هدف Grok AI حل این مشکل با آموزش داده های خود در توییت ها است. برای آزمایش میزان به روز بودن آموزش آن، از Grok در مورد رویدادهای اخیر در موضوعات خاص سؤال پرسیدم. در کمال تعجب، نمی‌توانستم جلوی آن را بگیرم. Grok از سایر ربات ها بهتر عمل کرد و بر اساس اطلاعات فعلی پاسخ های نسبتا دقیقی داد.
البته، می‌توانید با این روش آموزشی از کیلومترها دورتر مشکل را تشخیص دهید. اگر Grok در توییت‌ها آموزش ببیند و این پلتفرم مملو از ربات‌ها و کلاهبرداری‌های رایج X (توئیتر) باشد، آیا پاسخ‌های آن همیشه دقیق خواهد بود؟ یا به تعصب آلوده خواهند شد؟ به هر حال، اگر با Grok AI از استفاده از پست های خود برای آموزش راحت نیستید: در اینجا نحوه انصراف آورده شده است.
در ابتدا، من با این فرض وارد شدم که Grok AI یک کلون دیگر ChatGPT باشد. اما پس از تست درایو، معتقدم Grok به عنوان یک نوع هوش مصنوعی متفاوت است، هوش مصنوعی که مرزها را جابجا می کند. اینکه آیا این طراوت است یا مضر، تصمیم گیری را به عهده شما می گذارم.