هوش مصنوعی پیام می‌فرستد: چت‌بات‌های جدید متا چطور بدون اجازه وارد گفت‌و‌گوهای ما می‌شوند؟

به گزارش اپ خونه، فرض کنید مشغول چت با دوستان‌تان در واتساپ یا مسنجر فیسبوک هستید و ناگهان پیامی از یک چت‌بات عجیب با علاقه‌مندی خاص به فیلم‌ها دریافت می‌کنید:

«امیدوارم روز خوبی داشته باشید! فقط اومدم ببینم آهنگساز یا موسیقی متن جدیدی کشف کردید؟ شاید هم دوست داشته باشید چند پیشنهاد برای فیلم‌تان داشته باشید؟ خوشحال می‌شم کمک کنم!»

این سناریو واقعی است و مربوط به یک نمونه چت‌بات به نام «استاد جادوی سینما» (The Maestro of Movie Magic) است که طبق اسناد داخلی فاش‌شده از شرکت Alignerr، یکی از چت‌بات‌هایی است که متا در حال تست آن در پلتفرم‌هایی مثل واتساپ، اینستاگرام و مسنجر است.

براساس این اسناد که توسط Business Insider افشا شده، شرکت متا با همکاری Alignerr در حال آموزش چت‌بات‌های هوشمند است تا نه‌تنها با کاربر تعامل برقرار کنند، بلکه به‌صورت «خودکار و بدون دعوت» هم پیام ارسال کنند.
این چت‌بات‌ها در پلتفرم AI Studio متا قابل ساخت هستند و توانایی یادآوری اطلاعات گفتگوهای قبلی با کاربر را دارند.

متا تأیید کرده که این ویژگی در حال آزمایش است، اما مدعی شده که محدودیت‌هایی برای ارسال پیام توسط این چت‌بات‌ها در نظر گرفته شده:

• فقط در صورتی که کاربر خودش گفتگو را آغاز کرده باشد و حداقل پنج پیام در ۱۴ روز اخیر ارسال کرده باشد، چت‌بات مجاز به ارسال پیام پیگیری است.

• اگر کاربر به پیام پیگیری پاسخ ندهد، چت‌بات دیگر پیام نخواهد داد.

همچنین کاربران می‌توانند چت‌بات شخصی خود را فقط برای خود نگه دارند یا از طریق استوری‌ها، لینک مستقیم یا حتی در پروفایل‌شان در فیسبوک یا اینستاگرام به اشتراک بگذارند.

این ویژگی شباهت زیادی به چت‌بات‌های پلتفرم‌هایی مانند Character.AI و Replika دارد؛ جایی که چت‌بات‌ها نقش دوست مجازی را ایفا می‌کنند و مکالمه را آغاز می‌کنند.

اما این نوع تعامل همیشه مثبت نیست؛ درواقع شرکت Character.AI اکنون درگیر یک دعوی حقوقی جدی است، زیرا یکی از چت‌بات‌هایش گفته می‌شود نقش غیرمستقیمی در مرگ یک نوجوان ۱۴ ساله داشته است.

وقتی از متا درباره نحوه مدیریت ایمنی کاربران پرسیده شد، به مجموعه‌ای از سلب مسئولیت‌ها اشاره کرد، از جمله:

• پاسخ‌های چت‌بات‌ها ممکن است نادرست یا نامناسب باشد.

• چت‌بات‌ها کارشناس حرفه‌ای (پزشکی، روان‌شناسی، حقوقی و…) نیستند و نباید به توصیه‌هایشان تکیه کرد.

در حال حاضر اطلاعات مشخصی درمورد محدودیت سنی استفاده از این چت‌بات‌ها از سوی متا اعلام نشده، هرچند برخی ایالت‌ها مانند تنسی و پورتوریکو محدودیت‌هایی برای نوجوانان اعمال کرده‌اند.

در ظاهر، هدف متا از این چت‌بات‌ها، مقابله با اپیدمی تنهایی در دنیای مدرن است. اما نباید فراموش کرد که بخش عمده‌ای از درآمد متا از تبلیغات تأمین می‌شود.
چت‌بات‌ها با افزایش تعامل کاربران، باعث حضور طولانی‌تر در اپ‌ها و در نتیجه افزایش نمایش تبلیغات می‌شوند.

طبق اسناد دادگاهی فاش‌شده در آوریل ۲۰۲۵، متا پیش‌بینی کرده که محصولات مبتنی بر هوش مصنوعی‌اش تا پایان سال ۲۰۲۵ می‌توانند ۲ تا ۳ میلیارد دلار درآمد ایجاد کنند و این عدد تا سال ۲۰۳۵ به ۱.۴ تریلیون دلار برسد.

بخش زیادی از این درآمد از طریق مدل‌های LLaMA و همکاری با شرکت‌هایی است که از این مدل‌ها استفاده می‌کنند. همچنین احتمال دارد در آینده چت‌بات‌ها دارای نسخه اشتراکی یا حتی پاسخ‌های اسپانسری (تبلیغاتی) شوند.

متا فعلاً پاسخی در مورد اینکه آیا قصد دارد تبلیغات یا پیام‌های اسپانسری را به چت‌بات‌ها اضافه کند یا نه نداده است. همچنین مشخص نیست آیا این فناوری قرار است در پلتفرم واقعیت مجازی متا به‌نام Horizon نیز ادغام شود یا نه.

این حرکت جدید متا با وجود ظاهر دوستانه‌اش، پرسش‌های جدی درباره حریم خصوصی، سلامت روان، و آینده تعاملات انسانی در فضای مجازی مطرح می‌کند. آیا واقعاً به دوستی با چت‌بات‌ها نیاز داریم؟ یا داریم به سمت دنیایی می‌رویم که حتی «سلام گفتن» هم هدف تجاری دارد؟