اسنپ ​​چت محافظ های جدیدی را پیرامون چت ربات هوش مصنوعی خود اضافه می کند

به گزارش اپ خونه، اسنپ ​​چت در حال راه اندازی ابزارهای جدیدی از جمله فیلتر سن و بینش برای والدین است تا ربات چت هوش مصنوعی خود را بهبود بخشد.

چند روز پس از اینکه اسنپ چت، چت بات مجهز به GPT خود را برای مشترکین اسنپ چت+ راه اندازی کرد ، گزارش واشنگتن پست نشان داد که ربات به شیوه ای ناامن و نامناسب پاسخ می دهد .

اسنپ ​​گفت که متوجه شده است که افراد سعی می کنند «چت بات را فریب دهند تا پاسخ هایی را ارائه دهد که با دستورالعمل های ما مطابقت ندارد» و ابزارهای جدید برای کنترل پاسخ های هوش مصنوعی طراحی شده اند.

به گفته این شرکت، فیلتر سن جدید به چت بات تاریخ تولد کاربرانش را می گوید و اطمینان حاصل می کند که مطابق با سن آنها پاسخ می دهد.

در هفته‌های آتی، اسنپ همچنین قصد دارد در مرکز خانواده خود که آگوست گذشته راه‌اندازی شد، اطلاعات بیشتری در مورد تعاملات کودکان با ربات چت به والدین یا سرپرستان ارائه دهد .

این ویژگی جدید به والدین یا سرپرستان نحوه ارتباط فرزندانشان با چت بات و تعداد دفعات آن تعاملات را می گوید.

برای استفاده از این ویژگی‌های کنترل والدین، هم سرپرست و هم نوجوانان باید از «مرکز خانواده» استفاده کنند.

اسنپ ​​در یک پست وبلاگ توضیح داد که چت ربات هوش مصنوعی یک دوست واقعی نیست و توضیح داد که برای بهبود پاسخ‌های خود به تاریخچه مکالمه متکی است.

این شرکت گفت که ربات تنها ۰.۰۱ درصد از پاسخ ها را به زبان “غیر منطبق” ارائه می دهد.

اسنپ ​​هرگونه پاسخی را که شامل ارجاع به خشونت، عبارات صریح جنسی، مصرف مواد مخدر غیرقانونی، سوء استفاده جنسی از کودکان، قلدری، سخنان تنفرآمیز، اظهارات تحقیرآمیز یا مغرضانه، نژادپرستی، زن ستیزی، یا به حاشیه راندن گروه‌هایی که کمتر از آنها نمایندگی می‌شوند را به‌عنوان «غیر انطباق‌کننده» می‌شمارد.

این شرکت گفت که در بیشتر موارد، پاسخ‌های نامناسب نتیجه طوطی‌کردن ربات به هر آنچه که کاربران می‌گفتند بود.

همچنین گفت که این شرکت به طور موقت دسترسی ربات هوش مصنوعی را برای کاربرانی که از این سرویس سوء استفاده می کنند مسدود می کند.

اسنپ ​​گفت:

«ما به استفاده از این یادگیری ها برای بهبود هوش مصنوعی ادامه خواهیم داد. این داده ها همچنین به ما کمک می کند تا سیستم جدیدی را برای محدود کردن سوء استفاده از هوش مصنوعی مستقر کنیم.

ما فناوری تعدیل OpenAI را به مجموعه ابزار موجود خود اضافه می کنیم که به ما امکان می دهد شدت محتوای بالقوه مضر را ارزیابی کنیم و در صورت سوء استفاده از سرویس، دسترسی اسنپ چترها را به هوش مصنوعی به طور موقت محدود کنیم.»

جدا از چت ربات، این شرکت چند هفته پیش یک مولد پس‌زمینه مبتنی بر هوش مصنوعی را معرفی کرد که از طریق پیام‌هایی برای مشترکین Snapchat+ کار می‌کند.

مشترکین +Snapchat اکنون به ابزار تولید پس‌زمینه دسترسی دارند 

با توجه به گسترش ابزارهای مبتنی بر هوش مصنوعی، بسیاری از مردم نگران امنیت و حریم خصوصی آنها هستند.

هفته گذشته، یک گروه اخلاقی به نام مرکز هوش مصنوعی و سیاست دیجیتال در نامه ای به کمیسیون تجارت فدرال ایالات متحده ، از آژانس خواست تا عرضه مدل GPT-4 OpenAI را متوقف کند و گفت که این فناوری “سوگیرانه، فریبنده و خطری برای حریم خصوصی و امنیت عمومی است “.

ماه گذشته، سناتور آمریکایی مایکل بنت (دموکرات کلرادو) نیز نامه‌ای به OpenAI، Meta، Google، Microsoft و Snap نوشت و نگرانی‌های خود را در مورد ابزارهای هوش مصنوعی مولد مورد استفاده نوجوانان ابراز کرد.

واضح است که این مدل‌های هوش مصنوعی مستعد ورودی‌های مضر هستند و می‌توان آن‌ها را برای خروجی پاسخ‌های نامناسب دستکاری کرد .

در حالی که شرکت های فناوری ممکن است بخواهند این ابزارها را به سرعت عرضه کنند، باید مطمئن شوند که نرده های محافظ کافی برای جلوگیری از سوء استفاده از آنها وجود دارد.