هکرهای تازه کار از ربات هوش مصنوعی مولد CHATGPT OPENAI برای نوشتن بدافزار خطرناک استفاده می کنند

«هکرهایی» که هیچ تجربه ای در کدنویسی ندارند، اکنون بدافزار بسیار خطرناکی را روی ChatGPT و سایر ابزارهای هوش مصنوعی تولید می کنند، بدون اینکه حتی یک خط کد بنویسند.

از زمانی که در نوامبر سال گذشته راه اندازی شد، ربات هوش مصنوعی مولد ChatGPT طرفداران زیادی را به خود جلب کرد و کاربران زیادی از آن برای کارهای مختلف – از نوشتن شعر، مقالات فنی، مقاله و حتی رمان گرفته تا استفاده از آن استفاده کردند.

این سرویس به عنوان یک موتور جستجوی مکالمه، ربات هوش مصنوعی یکی از مهم ترین بخش های فناوری است که در سال گذشته راه اندازی شده است. ChatGPT همچنین توسط توسعه دهندگان نرم افزار برای نوشتن برخی از کدهای اولیه استفاده شد.

در واقع، یک گزارش جدید توسط Check Point Research، یک شرکت امنیت دیجیتال، نشان داد که ربات هوش مصنوعی توسط مجرمان سایبری و هکرها استفاده می شود.

گزارش تحقیقات Check Point نشان می‌دهد که ظرف چند هفته پس از انتشار ChatGPT، شرکت‌کنندگان در انجمن‌های جرایم سایبری از آن برای نوشتن نرم‌افزار و ایمیل‌هایی استفاده می‌کردند که می‌توانست برای جاسوسی، باج‌افزار، هرزنامه‌های مخرب و سایر کارهای مخرب استفاده شود، حتی اگر بیشتر آنها تجربه برنامه نویسی کمی داشت یا اصلاً تجربه نداشت.

محققان شرکت نوشتند:

«هنوز خیلی زود است که تصمیم بگیریم که آیا قابلیت‌های ChatGPT تبدیل به ابزار مورد علاقه جدید برای شرکت‌کنندگان در Dark Web خواهد شد یا خیر. با این حال، جامعه مجرمان سایبری در حال حاضر علاقه قابل توجهی نشان داده اند و در حال پرش به این روند اخیر برای تولید کد مخرب هستند.»

ماه گذشته، یکی از شرکت‌کنندگان در تالار گفتمان آنچه را که ادعا می‌کرد اولین فیلمنامه‌ای است که نوشته‌اند، پست کرد و به چت ربات هوش مصنوعی اعتبار بخشید که «دست خوب [کمک] برای پایان دادن به فیلمنامه با دامنه‌ای خوب ارائه کرده است».

در مورد دیگری، یکی از شرکت‌کنندگان تالار گفتمان با سابقه فنی‌تر، دو نمونه کد ارسال کرد که هر دو با استفاده از ChatGPT نوشته شده بودند. اولین اسکریپت پایتون برای سرقت اطلاعات پس از بهره برداری بود.

انواع فایل های خاصی مانند PDF را جستجو کرد، آنها را در یک فهرست موقت کپی کرد، آنها را فشرده کرد و آنها را به یک سرور تحت کنترل مهاجم ارسال کرد.

نمونه دیگری از نرم افزارهای جنایی تولید شده توسط ChatGPT برای ایجاد یک بازار آنلاین خودکار برای خرید یا تجارت اعتبار برای حساب های در معرض خطر، داده های کارت پرداخت، بدافزارها و سایر کالاها یا خدمات غیرقانونی طراحی شده است.

محققان در Check Point همچنین دست خود را در ایجاد یک بدافزار با استفاده از تولید هوش مصنوعی امتحان کردند و توانستند آن را با موفقیت انجام دهند، بدون اینکه حتی یک خط کد بنویسند.

چیزی که در مورد تجربه آنها نگران کننده بود، این واقعیت است که آنها یک ایمیل فیشینگ ایجاد کردند که بسیار پیچیده و تشخیص آن تقریبا غیرممکن به نظر می رسید.

محققان مشکل چندانی در اصلاح درخواست‌های خود برای دور زدن چنین محدودیت‌هایی نداشتند، حتی اگر مقررات ChatGPT استفاده از آن را به دلایل غیرقانونی یا بدخواهانه ممنوع می‌کند.

البته، مدافعان همچنین ممکن است از ChatGPT برای ایجاد کدی استفاده کنند که فایل ها را برای URL های خطرناک اسکن می کند.