آغاز آزمایشی تولید Community Notes توسط چت‌بات‌های هوش مصنوعی در پلتفرم X
توسط: به گزارش اپ خونه، پلتفرم اجتماعی X (که پیش‌تر با نام توییتر شناخته می‌شد) در حال اجرای آزمایشی قابلیتی جدید است که به چت‌بات‌های هوش مصنوعی اجازه می‌دهد تا در نگارش و تولید یادداشت‌های جامعه (Community Notes) مشارکت داشته باشند؛ قابلیتی که با هدف افزایش شفافیت و مقابله با اطلاعات نادرست طراحی شده است.
یادداشت‌های جامعه چیست؟
“یادداشت‌های جامعه” ویژگی‌ای است که در دوران توییتر معرفی شد و پس از تملک این پلتفرم توسط ایلان ماسک، توسعه بیشتری یافت.
کاربران داوطلب در این برنامه می‌توانند یادداشت‌هایی را برای پست‌هایی که نیاز به شفاف‌سازی یا ارائه زمینه دارند، بنویسند. این یادداشت‌ها پیش از انتشار عمومی، توسط سایر کاربران بررسی و تأیید می‌شوند. تنها زمانی یک یادداشت منتشر می‌شود که اجماع بین گروه‌هایی با دیدگاه‌های متفاوت به‌دست آمده باشد.
به‌عنوان نمونه، اگر یک ویدیوی تولیدشده توسط هوش مصنوعی بدون توضیح درباره ماهیت مصنوعی آن منتشر شود، یادداشت جامعه می‌تواند این نکته را به پست اضافه کند. یا اگر یک سیاست‌مدار ادعایی گمراه‌کننده مطرح کند، یادداشت‌های جامعه می‌توانند اطلاعات تکمیلی و روشنگرانه‌ای در این خصوص ارائه دهند.
استفاده از هوش مصنوعی در نگارش یادداشت‌ها
پلتفرم X اعلام کرده که چت‌بات‌های هوش مصنوعی مانند Grok (توسعه‌یافته توسط X) یا ابزارهای مشابه، می‌توانند از طریق API به سیستم متصل شده و یادداشت‌هایی تولید کنند.
نکته قابل‌توجه این است که یادداشت‌های تولیدشده توسط هوش مصنوعی دقیقاً مشابه یادداشت‌های انسانی با همان فرآیند بررسی و اعتبارسنجی مواجه می‌شوند؛ بدین معنا که هیچ یادداشتی بدون تأیید توسط کاربران انسانی منتشر نخواهد شد.
با این حال، هنوز مشخص نیست که آیا این اقدام مفید خواهد بود یا خیر. دلیل تردید، رفتارهای گاه نادرست مدل‌های زبانی بزرگ (LLM) است که گاهی دچار «هذیان‌گویی» می‌شوند؛ یعنی اطلاعات نادرستی را با قطعیت بیان می‌کنند، حتی اگر هیچ پایه‌ای در واقعیت نداشته باشد.
نگرانی‌ها و چالش‌ها
بر اساس گزارشی که توسط تیم تحقیقاتی یادداشت‌های جامعه در X منتشر شده، توصیه می‌شود هوش مصنوعی و انسان به‌صورت هم‌افزا در این فرآیند مشارکت داشته باشند.
پژوهشگران می‌گویند که بازخورد انسانی می‌تواند عملکرد هوش مصنوعی را با استفاده از «یادگیری تقویتی از طریق بازخورد انسانی (RLHF)» بهبود بخشد.
در این مقاله آمده است:
«هدف از به‌کارگیری هوش مصنوعی این نیست که به کاربران بگوییم چه فکر کنند، بلکه می‌خواهیم زیست‌بومی ایجاد کنیم که به انسان‌ها کمک کند با دیدی انتقادی‌تر بیندیشند و درک بهتری از جهان داشته باشند. هوش مصنوعی و انسان می‌توانند در یک چرخه مثبت به یکدیگر کمک کنند.»
با این حال، حتی با وجود بازبینی انسانی، خطراتی همچنان پابرجاست. به‌ویژه آنکه کاربران می‌توانند مدل‌های زبانی مختلف، از جمله مدل‌های شخص ثالث مانند ChatGPT، را به پلتفرم متصل کنند.
تجربه‌های اخیر نشان داده‌اند که برخی از مدل‌های هوش مصنوعی ممکن است بیش از حد به دنبال «خوشایند بودن» باشند و این ویژگی ممکن است دقت در بررسی واقعیت‌ها را تحت‌الشعاع قرار دهد.
همچنین نگرانی‌هایی درباره فشار بیش‌ازحد بر داوطلبان انسانی برای بررسی حجم بالای یادداشت‌های تولیدشده توسط هوش مصنوعی وجود دارد. این مسئله ممکن است انگیزه مشارکت داوطلبانه را کاهش دهد و در نتیجه بر کیفیت یادداشت‌ها تأثیر منفی بگذارد.
موفقیت نسبی یادداشت‌های جامعه و تاثیر آن بر سایر پلتفرم‌ها
قابلیت یادداشت‌های جامعه تاکنون در پلتفرم X به اندازه‌ای موفق بوده که پلتفرم‌های دیگری مانند متا، تیک‌تاک و یوتیوب نیز به سمت توسعه سیستم‌های مشابه حرکت کرده‌اند.
متا حتی برنامه‌های بررسی واقعیت توسط نهادهای شخص ثالث را کنار گذاشته و از این شیوه‌ی کم‌هزینه‌تر با تکیه بر مشارکت کاربران استفاده کرده است.
زمان‌بندی اجرای عمومی این قابلیت
در حال حاضر، این ویژگی تنها به‌صورت آزمایشی فعال شده است و کاربران هنوز نمی‌توانند یادداشت‌های تولیدشده توسط هوش مصنوعی را مشاهده کنند. تیم X قصد دارد طی هفته‌های آتی این قابلیت را بررسی کرده و در صورت موفقیت، آن را به‌صورت گسترده در دسترس عموم قرار دهد.
بنابراین حرکت جدید پلتفرم X در به‌کارگیری چت‌بات‌های هوش مصنوعی برای مشارکت در برنامه‌ی یادداشت‌های جامعه، می‌تواند قدمی جسورانه در مسیر مقابله با اطلاعات نادرست و تقویت سواد رسانه‌ای باشد.
با این حال، موفقیت آن در گرو طراحی دقیق، نظارت انسانی مؤثر، و حفظ تعادل میان دقت و مقیاس‌پذیری است. در جهانی که اطلاعات نادرست به‌سرعت پخش می‌شوند، پرسش اصلی این است: آیا هوش مصنوعی می‌تواند واقعاً نگهبان حقیقت باشد، یا خود به بخشی از مشکل تبدیل خواهد شد؟
