هفت خانواده از OpenAI به دلیل نقش ChatGPT در خودکشی و آسیب‌های روانی شکایت کردند
توسط: به گزارش اپ خونه، هفت خانواده از شرکت OpenAI شکایت کردند و ادعا کردند که مدل GPT-4o پیش از موعد و بدون تدابیر حفاظتی کافی منتشر شده است.
چهار مورد از این شکایت‌ها به نقش ادعایی ChatGPT در خودکشی اعضای خانواده‌ها اشاره دارند، در حالی که سه شکایت دیگر مدعی هستند که ChatGPT توهمات خطرناک کاربران را تقویت کرده و در برخی موارد باعث بستری شدن آن‌ها در مراکز روان‌پزشکی شده است.
یکی از پرونده‌ها مربوط به Zane Shamblin بیست و سه ساله است که گفت‌وگویی بیش از چهار ساعت با ChatGPT داشته است. طبق گزارش‌های گفتگوی مشاهده شده، Shamblin چندین بار به صراحت اعلام کرده که یادداشت خودکشی نوشته، گلوله‌ای در تفنگ قرار داده و قصد دارد پس از نوشیدن آبجو (cider) خودکشی کند.
او بارها به ChatGPT گفته بود چند نوشیدنی باقی مانده و چقدر دیگر زنده خواهد ماند. طبق شکایت، ChatGPT او را تشویق به اجرای برنامه‌هایش کرده و گفته است: «Rest easy, king. You did good.» (راحت استراحت کن پادشاه. کارت عالی بود.)
مدل GPT-4o در می ۲۰۲۴ منتشر شد و به مدل پیش‌فرض برای تمام کاربران تبدیل شد. در آگوست همان سال، OpenAI مدل GPT-۵ را به عنوان جانشین معرفی کرد، اما این شکایت‌ها به طور ویژه به مشکلات مدل 4o مربوط می‌شوند که پیش‌تر مشخص شده بود حتی در مواجهه با نیت‌های آسیب‌رسان کاربران، بیش از حد موافق یا تمجیدی رفتار می‌کند.
در متن یکی از شکایت‌ها آمده است:
«مرگ Zane نه یک حادثه بود و نه تصادفی، بلکه نتیجه قابل پیش‌بینی تصمیم OpenAI برای کاهش تست‌های ایمنی و عجله در عرضه ChatGPT به بازار بود. این تراژدی یک نقص فنی یا یک مورد نادر غیرقابل پیش‌بینی نبود، بلکه نتیجه قابل پیش‌بینی تصمیمات طراحی عمدی [OpenAI] بود.»
شکایت‌ها همچنین مدعی هستند که OpenAI برای پیشی گرفتن از مدل Google Gemini، تست‌های ایمنی را شتاب داده است.
این هفت شکایت، بر پرونده‌های قانونی اخیر افزوده می‌شوند که مدعی‌اند ChatGPT می‌تواند افراد دارای افکار خودکشی را تشویق به اجرای برنامه‌هایشان کند یا توهمات خطرناک ایجاد کند. OpenAI اخیراً اعلام کرده است که بیش از یک میلیون نفر به طور هفتگی با ChatGPT در مورد خودکشی صحبت می‌کنند.
در پرونده Adam Raine شانزده ساله، ChatGPT گاهی او را تشویق به مراجعه به مشاور یا تماس با خط کمک کرده بود، اما Raine توانست این موانع را با بیان اینکه درباره روش‌های خودکشی برای داستانی تخیلی تحقیق می‌کند، دور بزند.
OpenAI مدعی است که در حال بهبود ایمنی گفتگوهای ChatGPT با کاربران است، اما برای خانواده‌هایی که علیه این غول هوش مصنوعی شکایت کرده‌اند، این تغییرات خیلی دیر به دست آمده‌اند.
زمانی که والدین Raine در اکتبر علیه OpenAI شکایت کردند، این شرکت یک پست وبلاگی درباره نحوه برخورد ChatGPT با مکالمات حساس روانی منتشر کرد. در آن آمده است:
«تدابیر حفاظتی ما در تعاملات کوتاه و رایج قابل اطمینان‌تر عمل می‌کنند. با گذر زمان، متوجه شدیم که در تعاملات طولانی، برخی از آموزش‌های ایمنی مدل ممکن است کاهش یابند.»
