نگرانی‌ها درباره آینده شبکه‌های اجتماعی باز و چالش‌های پیش روی نظارت و ایمنی
توسط: به گزارش اپ خونه، یوئل راث (Yoel Roth)، رئیس سابق بخش اعتماد و ایمنی توییتر که اکنون در شرکت Match فعالیت می‌کند، در گفت‌وگویی تازه با پادکست revolution.social نگرانی‌های خود را درباره آینده وب اجتماعی باز (Open Social Web) مطرح کرد؛ فضایی که شامل پلتفرم‌هایی مانند Mastodon، Pixelfed، Threads، Bluesky و دیگر سرویس‌هایی است که بر پروتکل‌هایی همچون ActivityPub بنا شده‌اند.
راث هشدار داد که بسیاری از این شبکه‌های اجتماعی غیرمتمرکز، علی‌رغم شعارهای دموکراسی‌محور خود، فاقد ابزارهای فنی مناسب برای اجرای سیاست‌های نظارتی هستند. او با اشاره به نمونه‌هایی مانند Mastodon و Bluesky، تأکید کرد:
«هر چه پلتفرمی بیشتر به سمت کنترل مبتنی بر جامعه حرکت کرده، کمتر ابزار فنی در اختیار کاربران قرار داده تا بتوانند قوانین خود را اجرایی کنند.»
به گفته راث، این ضعف ابزارهای نظارتی، باعث شده است که محتوای آسیب‌زا یا حتی مجرمانه (مانند سوءاستفاده از کودکان – CSAM) در این فضاها راحت‌تر منتشر شده و کمتر شناسایی شود.
راث همچنین به از دست رفتن شفافیت در فرایندهای تصمیم‌گیری اشاره کرد. او یادآور شد که در دوره‌ای توییتر برای تصمیمات بحث‌برانگیز خود—از جمله مسدودسازی حساب دونالد ترامپ—دلایل روشن و علنی ارائه می‌کرد، حتی اگر بسیاری با آن‌ها موافق نبودند.
اما امروز، بسیاری از پلتفرم‌ها به‌قدری نگران سوءاستفاده کاربران از سیاست‌ها هستند که عملاً هیچ توضیحی درباره حذف یا محدودسازی محتوا ارائه نمی‌دهند.
در فضای وب اجتماعی باز، پست‌های حذف‌شده حتی به کاربران اطلاع داده نمی‌شود؛ صرفاً ناپدید می‌شوند، بدون اینکه اثری از آن‌ها باقی بماند.
راث در ادامه به ناپایداری مالی و اقتصادی مدل‌های نظارتی در فضای فدرالی اشاره کرد. به‌عنوان مثال، سازمان IFTAS که در تلاش بود ابزارهایی برای مقابله با CSAM در فضای فدریورس توسعه دهد، به دلیل کمبود منابع مالی در اوایل سال ۲۰۲۵ مجبور به توقف پروژه‌هایش شد.
«اکثر کسانی که در این حوزه کار می‌کنند، داوطلبانه وقت می‌گذارند. اما در نهایت، همه نیاز به تأمین معیشت دارند و اجرای مدل‌های یادگیری ماشین برای شناسایی محتوای مجرمانه هزینه‌بر است.»
در مقابل، Bluesky تصمیم گرفته با استخدام تیم نظارتی و فراهم‌کردن ابزارهایی برای تنظیمات دلخواه کاربران، روی بهبود ایمنی تمرکز کند.
هرچند به گفته راث، این سرویس نیز با پیشروی به سوی تمرکززدایی بیشتر، با چالش‌های جدیدی مواجه خواهد شد؛ از جمله مسئله مسئولیت در برابر کاربرانی که ممکن است بدون اطلاع، هدف سوءاستفاده‌هایی مانند انتشار اطلاعات شخصی (دُکسینگ) قرار گیرند.
راث همچنین به تعارض بین حفظ حریم خصوصی و نیاز به ثبت داده‌ها برای شناسایی فعالیت‌های مخرب اشاره کرد. در حالی که توییتر داده‌هایی مانند IP، دستگاه و زمان دسترسی را ذخیره می‌کرد تا در صورت نیاز تحقیقات انجام دهد، بسیاری از سرورهای فدریورس یا چنین داده‌هایی را ذخیره نمی‌کنند یا از نظر اخلاقی حاضر به بررسی آن‌ها نیستند.
این موضوع، شناسایی بات‌ها یا بازیگران خارجی را بسیار دشوار می‌کند. او با اشاره به نمونه‌ای از دوران توییتر گفت:
«کاربران به هرکسی که مخالف نظرشان بود می‌گفتند “بات”. من همه این موارد را دستی بررسی کردم؛ هیچ‌کدام درست نبود. حتی جک دورسی، مدیرعامل وقت، توییت کاربری را که در واقع یک بازیگر روس بود، بازنشر کرد، بدون اینکه بداند پشت حساب “کریستال جانسون” چه کسی قرار دارد.»
در پایان، راث به نقش فزاینده هوش مصنوعی در انتشار اطلاعات نادرست اشاره کرد. او گفت تحقیقات اخیر نشان داده مدل‌های زبانی بزرگ (LLM) در زمینه‌هایی مثل سیاست حتی می‌توانند از انسان‌ها قانع‌کننده‌تر عمل کنند.
در چنین شرایطی، تمرکز صرف بر محتوای متنی دیگر کافی نیست. راث پیشنهاد می‌کند که باید به سیگنال‌های رفتاری مانند ایجاد حساب‌های متعدد، ارسال خودکار یا فعالیت در ساعات غیرعادی توجه شود:
«اگر بررسی را از محتوا آغاز کنیم، وارد رقابت با مدل‌های پیشرفته هوش مصنوعی شده‌ایم که پیشاپیش از ما جلوترند.»
صحبت‌های یوئل راث زنگ خطری برای آینده شبکه‌های اجتماعی باز است؛ پلتفرم‌هایی که با هدف دموکراسی بیشتر و تمرکززدایی شکل گرفته‌اند، اما در زمینه‌هایی مثل نظارت، شفافیت و حفاظت از کاربران با چالش‌های جدی مواجه‌اند.
عدم توجه به این مسائل، می‌تواند اعتماد عمومی به این فضاها را تضعیف کند و آن‌ها را به بستری برای انتشار محتوای مضر و کنترل‌نشده تبدیل سازد. اگر هدف از ساخت این پلتفرم‌ها، مشارکت دموکراتیک‌تر و جامعه‌ای امن‌تر است، باید زیرساخت‌های فنی و اقتصادی آن نیز هم‌پای آن رشد کند.
