به گزارش اپ خونه، کامنت‌های سمی و نفرت‌انگیز در یوتیوب یک دردسر دائمی برای این شرکت، سازندگان و کاربران بوده است. این شرکت قبلاً تلاش کرده است تا با ارائه ویژگی هایی مانند نشان دادن هشدار به افراد در زمان ارسال پست، این امر را کاهش دهد تا آنها بتوانند بیشتر مراقب باشند. در حال حاضر، سرویس استریم در حال معرفی ویژگی جدیدی است که با شدت بیشتری این افراد را از نظرات توهین آمیزشان سوق می دهد و اقدامات گسترده تری را انجام می دهد.
یوتیوب می گوید برای افرادی که نظرات توهین آمیز آنها به دلیل نقض قوانین این پلتفرم حذف شده است، اعلان ارسال می کند. اگر با وجود دریافت اعلان، کاربر همچنان به ارسال نظرات توهین آمیز ادامه دهد، سرویس او را از ارسال هر گونه نظر دیگر به مدت ۲۴ ساعت منع می کند. این شرکت گفت که این ویژگی را قبل از عرضه امروز آزمایش کرده است و متوجه شده است که اعلان‌ها و زمان‌بندی‌ها از نظر مادی موفق بوده‌اند.
در حال حاضر، تشخیص نظرات نفرت‌انگیز فقط برای نظرات انگلیسی زبان در دسترس است، اما هدف سرویس پخش این است که در آینده زبان‌های بیشتری را نیز شامل شود. قابل ذکر است، هشدار قبل از ارسال برای انگلیسی و اسپانیایی در دسترس است.
این شرکت گفت: «هدف ما هم محافظت از سازندگان در برابر کاربرانی است که سعی می‌کنند از طریق نظرات بر جامعه تأثیر منفی بگذارند، و هم شفافیت بیشتری را به کاربرانی که ممکن است نظراتشان را به دلیل نقض خط‌مشی حذف کرده‌اند، ارائه دهیم و امیدواریم به آنها کمک کنیم دستورالعمل‌های انجمن ما را درک کنند.»
اگر کاربر فکر می کند که نظرش به اشتباه حذف شده است، می تواند بازخورد خود را به اشتراک بگذارد. با این حال، این شرکت نگفته است که آیا نظرات را پس از بررسی بازخورد بازیابی خواهد کرد یا خیر.
علاوه بر این، یوتیوب در یک پست انجمن گفت که روی بهبود سیستم‌های تشخیص مبتنی بر هوش مصنوعی کار می‌کند. این شرکت ادعا کرد که ۱.۱ میلیارد کامنت “هرزنامه” را در نیمه اول سال ۲۰۲۲ حذف کرده است. یوتیوب همچنین سیستم خود را برای شناسایی و حذف بهتر ربات ها در ویدیوهای چت زنده بهبود بخشیده است.
یوتیوب و سایر شبکه‌های اجتماعی توانسته‌اند با تکیه بر شناسایی خودکار، محتوای هرزنامه و توهین‌آمیز را تا حدی کاهش دهند. با این حال، سوء استفاده کنندگان اغلب از کلمات عامیانه یا غلط املایی مختلف برای فریب سیستم استفاده می کنند. علاوه بر این، گرفتن افرادی که نظرات نفرت انگیز را به زبان های غیر انگلیسی ارسال می کنند، سخت تر است.
این شرکت استریم در سه ماهه اخیر طیف گسترده ای از ابزارها را برای کاهش نظرات نفرت انگیز در این پلتفرم آزمایش کرده است. این آزمایش‌ها شامل پنهان کردن نظرات به‌طور پیش‌فرض و نمایش سابقه نظرات کاربر در کارت‌های نمایه‌شان بود.
ماه گذشته، یوتیوب قابلیتی را ارائه کرد که به سازندگان اجازه می داد یک کاربر خاص را از نظرات پنهان کنند. این کنترل برای کل کانال اعمال می شود، بنابراین حتی اگر کاربر نظرات تنفرآمیز را در ویدیوی دیگری پست کند، نمایش داده نمی شود.
پلتفرم‌های جهانی با موضوع محدود کردن انتشار نظرات نفرت‌آمیز دست و پنجه نرم می‌کنند.
اینستاگرام زمانی که فوتبالیست های انگلیسی بوکایو ساکا، مارکوس راشفورد و جیدون سانچو به دلیل از دست دادن ضربات پنالتی در فینال یورو سال گذشته مورد آزار و اذیت قرار گرفتند، بستر مناسبی برای آنها بود. گزارش جدیدی از GLAAD و Media Matters اشاره کرد که توهین‌های ضد دگرباشان جنسی پس از تسلط الون ماسک روی توییتر به شدت افزایش یافته است.
در حالی که همه این پلتفرم‌ها ابزارهایی را برای نادیده گرفتن یا پنهان کردن نظرات و محدود کردن نظرات به افراد خاص ارائه کرده‌اند، میزان نظرات نفرت‌انگیز و توهین‌آمیز همچنان یک مشکل بزرگ است.
