به گزارش پایگاه خبری دانا به نقل از دیجیتال ترندز شرکت پیشرو در زمینه هوش مصنوعی، اعلام کرده است که مدل زبان بزرگ ChatGPT-4  (LLM) به زودی نقشی جدید و مهم را در تأمین امنیت و تعدیل محتوای شرور در شبکه‌های اجتماعی و تالارهای گفتمان آنلاین خواهد داشت. این خبر براساس یک پست جدید از توسعه دهنده ChatGPT OpenAI منتشر شده است و این کمپانی ادعا می‌کند که این تغییرات می‌توانند "دیدگاه مثبتی از آینده پلتفرم‌های دیجیتال" را به ما ارائه دهند.

با استفاده از هوش مصنوعی، GPT-4 قادر خواهد بود تغییرات سیاست‌ها و خط‌مشی‌ها را با سرعت بسیار بالاتری نسبت به تعدیل‌کننده‌های انسانی اجرا کند و مدت زمان تغییرات را از ماه‌ها به ساعت‌ها کاهش دهد، بنابراین از تاخیر در تصمیم‌گیری‌های حساس جلوگیری خواهد شد. همچنین، این مدل قادر خواهد بود قوانین و تفاوت‌های معقول در مستندات خط‌مشی را به طور خودکار تفسیر کند و با به‌روزرسانی‌های خط‌مشی‌ها، برچسب‌گذاری منسجم‌تری را ارائه دهد.

برای مثال، تیم‌های نظارت می‌توانند برچسب‌هایی را به محتوا اختصاص دهند تا نشان دهند آیا آن محتوا با قوانین پلتفرم مطابقت دارد یا خیر. سپس GPT-4 می‌تواند برچسب‌های خود را بدون دانستن پاسخ‌ها از قبل تعیین کند. در نهایت، ناظران می‌توانند برچسب‌های انسانی و برچسب‌های GPT-4 را با هم مقایسه کنند و با استفاده از تفاوت‌ها، قوانین خود را بهبود داده و شفاف‌سازی کنند. به عبارت دیگر، GPT-4 می‌تواند به عنوان یک کاربر هوشمند عمل کند و ارزیابی کند آیا قوانین منطقی هستند یا خیر.

در حال حاضر، تعدیل محتوا در وبهنوز یک چالش بزرگ است و شرکت‌های فناوری در تلاشند تا راه‌حل‌های بهتری برای مقابله با محتوای شرور ارائه دهند. اما GPT-4 به عنوان یک ناظر اینترنتی جدید، قادر خواهد بود بهبود قابل توجهی در این زمینه داشته باشد.

علاوه بر تعدیل محتوا، GPT-4 همچنین قادر خواهد بود در تشخیص اخبار جعلی و اطلاعات نادرست کمک کند. با توجه به ظهور پدیده‌هایی مانند اخبار جعلی و ترویج اطلاعات نادرست، وجود ناظران هوشمند مانند GPT-4 می‌تواند به کاهش گسترش این پدیده‌ها کمک کند و به کاربران ابزارهای قوی‌تری برای ارزیابی صحت اطلاعات ارائه دهد.

با وجود همه امکانات و قابلیت‌های GPT-4، همچنان نیاز به همکاری بین توسعه دهندگان هوش مصنوعی و ناظران انسانی وجود دارد. هرچند GPT-4 توانایی خودکارسازی فرایند تعدیل محتوا را دارد، اما هماهنگی و تعامل بین انسان و هوش مصنوعی همچنان اهمیت بالایی دارد تا از بروز خطاها و نتایج ناخواسته جلوگیری شود.

با انتشار GPT-4، امیدواریم که بهبود قابل توجهی در تعدیل محتوا و مبارزه با محتوای شرور در شبکه‌های اجتماعی وجود داشته باشد. با ادغام هوش مصنوعی و دانش انسانی، می‌توان یک زمینه امن‌تر و بهتر برای تعاملات آنلاین فراهم کرد و به کاربران احساس اطمینان و امنیت بیشتری بخشید.