به گزارش اپ خونه، یوتیوب سیاست‌های آزار و اذیت و آزار سایبری خود را به‌روزرسانی می‌کند تا محتوایی را که شبیه‌سازی واقعی افراد خردسال یا قربانیان حوادث مرگ‌بار یا خشونت‌آمیز در توصیف مرگ آن‌ها است، متوقف کند.
پلتفرم متعلق به گوگل می گوید از ۱۶ ژانویه انتشار چنین محتوایی را آغاز خواهد کرد.
این تغییر خط‌مشی زمانی اتفاق می‌افتد که برخی از تولیدکنندگان محتوای جنایی واقعی از هوش مصنوعی برای بازسازی شباهت کودکان مرده یا گمشده استفاده می‌کنند.
در این موارد نگران‌کننده، مردم از هوش مصنوعی استفاده می‌کنند تا به این کودکان قربانی موارد پرمخاطب با صدای کودکانه برای توصیف مرگ‌شان بدهند.
طبق گزارش واشنگتن پست ، در ماه‌های اخیر، سازندگان محتوا از هوش مصنوعی برای روایت موارد پرمخاطب متعددی از جمله ربوده شدن و مرگ جیمز بولگر دو ساله بریتانیایی استفاده کرده‌اند .
همچنین روایات مشابهی درباره مادلین مک کان، یک کودک سه ساله بریتانیایی که از یک استراحتگاه ناپدید شد، و گابریل فرناندز، پسر هشت ساله ای که توسط مادر و دوست پسرش در کالیفرنیا شکنجه و به قتل رسید، وجود دارد .
یوتیوب محتوایی را که قوانین جدید را نقض می‌کند حذف می‌کند و کاربرانی که اخطار دریافت می‌کنند به مدت یک هفته نمی‌توانند ویدیو، پخش زنده یا داستان را آپلود کنند. پس از سه اخطار، کانال کاربر برای همیشه از YouTube حذف خواهد شد.
تغییرات جدید تقریباً دو ماه پس از آن صورت می‌گیرد که یوتیوب سیاست‌های جدیدی را در مورد افشای مسئولیت‌پذیر محتوای هوش مصنوعی به همراه ابزارهای جدید برای درخواست حذف دیپ‌فیک‌ها معرفی کرد.
یکی از تغییرات، کاربران را ملزم می‌کند که چه زمانی محتوای تغییر یافته یا مصنوعی ایجاد کرده‌اند که واقعی به نظر می‌رسد. این شرکت هشدار داد که کاربرانی که به درستی استفاده خود از هوش مصنوعی را فاش نکنند مشمول «حذف محتوا، تعلیق از برنامه شریک YouTube یا سایر مجازات‌ها» خواهند بود.
علاوه بر این، یوتیوب در آن زمان خاطرنشان کرد که ممکن است برخی از محتوای هوش مصنوعی در صورت استفاده برای نشان دادن «خشونت واقعی» حذف شود، حتی اگر برچسب زده شده باشد.
در سپتامبر ۲۰۲۳، TikTok ابزاری را راه‌اندازی کرد که به سازندگان اجازه می‌دهد محتوای تولید شده توسط هوش مصنوعی خود را پس از به‌روزرسانی دستورالعمل‌های برنامه اجتماعی به‌روزرسانی کنند تا سازندگان را ملزم به انتشار رسانه‌های مصنوعی یا دستکاری شده که صحنه‌های واقعی را نشان می‌دهند، افشا کنند.
خط‌مشی TikTok به آن اجازه می‌دهد تصاویر واقعی هوش مصنوعی را که فاش نشده‌اند، حذف کند.
