هوش مصنوعی راهکاری برای حذف محتوای خشن و مبتذل

فناوری توسعه یافته می تواند فیلمبرداری، اشتراک گذاری یا پخش زنده محتوای مستهجن یا خشن را مسدود کند. این فناوری برای حفظ امنیت صدها هزار کودک کارامد است.

کد خبر: ۱۲۵۰۹۷۵

تاریخ: ۰۳ شهريور ۱۳۹۹ - ۱۲:۲۹

شهربانو شیرزاد، خبرگزاری دانا، سرویس دانش و فناوری، یک استارت آپ انگلیسی از نرم‌افزار ردیابی خطر به طور زنده (که مجهز به هوش مصنوعی است) برای شناسایی محتوای خطرناک در زمان فیلمبرداری یا اشتراک گذاری استفاده می کند.

این فناوری Safe To Watch نام دارد و سیستم هوش مصنوعی آن دوبرابر سریع تر از دوربین تلفن هوشمند است و با تحلیل فریم به فریم محتوای ویدئو، ریسک آن را ارزیابی می کند و بعد تصاویر با ریسک بالا مخدوش یا خاکستری می شوند.

همچنین این فناوری قابلیت رصد انیمیشن و کارتون را دارد و طوری آموزش دیده تا خشونت را رصد کند.

البته هنوز به طور دقیق مشخص نشده این فناوری پس از شناسایی تهدید چه اقدامی باید انجام دهد اما گزینه های مختلفی برای این بخش وجود دارد از جمله قفل کردن دستگاه از راه دور برای مدتی معین، مسدود کردن اپلیکیشن مورد استفاده برای فیلمبرداری یا اشتراک گذاری و مسدود کردن دوربین دستگاه.

این سیستم هوش مصنوعی طی فرایند تحلیل میلیون ها ویدئو و تصویر به طور موفقیت آمیز ۹۲ درصد محتوای مستهجن و ۸۴ درصد از محتوای خشن را ردیابی کرد. پیش بینی می شود با ادامه آموزش سیستم دقت آن نیز ارتقا یابد.

با نصب این فناوری در موبایل کودکان می توان از ایجاد ارسال یا دریافت ویدئو و تصاویری با محتوای مستهجن و خشن جلوگیری کرد. شبکه های اجتماعی نیز با استفاده از این فناوری می توانند از آپلود محتوای مضر جلوگیری یا پخش زنده آن را متوقف کنند.

شرکت تولید کننده این فناوری در حال حاضر دستگاهی را با استفاده از یک سیستم هوش مصنوعی مشابه ساخته الگوهایی روی کیبورد موبایل را ردیابی می کند تا به این ترتیب از قلدری سایبری و موارد دیگر سواستفاده در فضای مجازی جلوگیری کند.