پلتفرم کشف اجتماعی Yubo از فناوری تعدیل صدا برای بهبود ایمنی کاربر استفاده می کند

Yubo در حال برداشتن یک گام بیشتر برای تعدیل فیدهای صوتی برای بهبود امنیت کاربر است.

وقتی صحبت از رسانه‌های اجتماعی به میان می‌آید، همه ما می‌دانیم که علاوه بر مزایای بسیاری که در ایجاد ارتباطات آسان‌تر می‌کند، خطرات و خطرات خاصی نیز می‌تواند همراه با تعامل آنلاین، به‌ویژه برای جوانان باشد. خوشبختانه، اپلیکیشن‌هایی وجود دارند که فعال هستند و سعی می‌کنند با اجرای فناوری‌های تعدیل مناسب، این آسیب‌ها را که می‌تواند به جوانان وارد شود، محدود کنند.

Yubo، برنامه کشف اجتماعی زنده که بیشتر توسط Gen Z استفاده می‌شود، اعلام کرده است که فناوری تعدیل صوتی پخش مستقیم آن در حال گسترش به بزرگترین بازارهای خود، یعنی ایالات متحده، بریتانیا، استرالیا و کانادا است.

این پس از چندین ماه آزمایش این ویژگی در برخی مناطق ایالات متحده انجام می شود، زیرا این شرکت یاد گرفت که چگونه مشکلات ناشی از تجزیه و تحلیل صدا را در زمان واقعی حل کند.

اهمیت تعدیل محتوا

تعدیل محتوای آنلاین کار دشواری است. ما این را در فیس بوک و توییتر و اینستاگرام و غیره دیده ایم. بین توهین، نظرات نفرت‌آمیز، یا حتی گاهی اوقات خشونت یا آسیب رساندن به خود، اعتدال برای ایمن نگه داشتن این پلتفرم‌ها و محافظت از کاربران آنها بسیار مهم است. چیزی در مورد توانایی پنهان شدن در پشت ناشناس بودن فرضی ارائه شده توسط اینترنت وجود دارد که می تواند بدترین چیزها را در برخی افراد نشان دهد.

خب، یوبو همچنان نشان می‌دهد که هر کاری که می‌تواند برای جلوگیری از این امر انجام می‌دهد، به خصوص که پایگاه کاربران آن بسیار جوان‌تر است. طبق گفته Yubo، 99 درصد از پایگاه کاربران آنها Gen Z در سنین 13 تا 25 سال است. در حالی که آزار و اذیت آنلاین برای کسی قابل تحمل نیست، می تواند به ویژه برای نوجوانان مضر باشد.

فناوری تعدیل تصویر و ویدئو مدتی است که وجود داشته و با مراحل مختلف موفقیت اجرا شده است. با این حال، تعدیل صوتی، به‌ویژه با پخش‌های زنده، همچنان یک چالش بزرگ باقی مانده است. فرقی نمی‌کند این یک پخش زنده هنگام راه رفتن در خیابان باشد یا جایی که شخصی در حال انجام یک بازی ویدیویی است.

نظارت صوتی Yubo چگونه کار می کند

از ماه مه 2022، Yubo یک مرحله آزمایشی را برای فناوری تعدیل صدا در مناطق مختلف در سراسر ایالات متحده آغاز کرد. اکنون مرحله بعدی شامل اکثر مناطق انگلیسی زبان است که Yubo دارای پایگاه کاربر بزرگی است تا به شرکت اجازه دهد بینش بهتری در مورد ابزار ایمنی جدید خود جمع آوری کند.

اگرچه این فناوری هنوز جدید است، اما می‌تواند به طور گسترده برای تشخیص خشونت یا آسیب رساندن به خود در آینده مورد استفاده قرار گیرد.

Yubo این کار را به تنهایی انجام نمی دهد، بلکه با مشارکت Hive است. Hive، اگر نام آنها را نشنیده‌اید، شرکتی است که APIهای تعدیل محتوا را برای پردازش تصاویر و ویدیوها در زمان واقعی ایجاد و ارائه می‌کند.

فناوری ای که Yubo پیاده سازی کرد با ضبط و رونویسی قطعه های صوتی 10 ثانیه ای در پخش زنده 10 نفر یا بیشتر کار می کند. متن فوراً توسط هوش مصنوعی تجزیه و تحلیل می‌شود تا هر کلمه یا عبارتی را که دستورالعمل‌های انجمن برنامه را نقض می‌کند شناسایی کند.

صبر کنید، اینجا متوقف نمی شود. در حالی که هوش مصنوعی می تواند در تشخیص چنین چیزهایی عالی باشد، اما هنوز با نقطه ای فاصله دارد که بتواند بین استفاده های مشکل ساز واقعی و پرچم های دروغین تفاوت قائل شود.

به عنوان مثال، پرچم‌های دروغین می‌توانند آهنگ‌هایی باشند که در پس‌زمینه پخش می‌شوند، یا زبانی بازیگوش که سوء قصد نیست.

بنابراین، اینجا جایی است که متخصصان ایمنی Yubo وارد بازی می شوند، زیرا آنها برای بررسی حوادث پرچم گذاری شده آورده شده اند. انسان‌ها هستند که می‌توانند تعیین کنند که آیا یک وضعیت نیاز به تشدید دارد یا خیر، اگر اقداماتی وجود دارد که باید علیه مردم با استفاده از زبان بد انجام شود یا حتی اگر نیاز به اجرای قانون باشد.

اگر پخش جریانی زنده کاملاً خوب باشد، هیچ رونوشتی بررسی نمی‌شود یا از محدودیت 24 ساعته گذشته است، بنابراین همه چیز خصوصی باقی می‌ماند. یا به اندازه یک پخش زنده با بیش از 10 نفر خصوصی باشد.

با این حال، برای مثال، اگر الگوریتم‌ها تهدیدهای خشونت‌آمیز، سخنان مشوق تنفر یا آسیب به خود را شناسایی کنند، رونوشت‌ها تا یک سال ذخیره می‌شوند. البته این یک اقدام ایمنی برای شرکت است در صورتی که اجرای قانون مورد نیاز به اطلاعات باشد یا خود شرکت برای تحقیقات داخلی بیشتر به جزئیات نیاز دارد.

مدیر عامل یوبو، مارک-آنتوان دوراند، گسترش فناوری تعدیل صدا را یک عنصر کلیدی در تکامل ایمنی آنلاین در کل صنعت می‌داند.

«هنوز پیشرفت‌های زیادی در زمینه تشخیص صدا وجود دارد، اما ما مفتخریم که با راه‌اندازی کنترل صوتی با Hive و کمک به قابل اعتمادتر و مؤثرتر کردن این ابزار، مسیری را برای همتایان خود ایجاد می‌کنیم. دیورند گفت این محاکمه.

بدیهی است که پلتفرم‌های اجتماعی قلدری، سخنان نفرت‌انگیز و نظرات خشونت‌آمیز را نمی‌خواهند، زیرا سایر کاربران را از خود دور می‌کند. اجرای چنین فناوری تعدیل ابزاری عالی برای ایمن نگه داشتن کاربران و همچنین کمک به تضمین رشد و موفقیت Yubo در دراز مدت است.

منبع مقاله