AvatarFX؛ تکنولوژی جدید Character.AI که شخصیت‌های مجازی را وارد دنیای ویدیو می‌کند
به گزارش اپ خونه، پلتفرم معروف Character.AI که به‌خاطر ارائه چت و نقش‌آفرینی با شخصیت‌های هوش مصنوعی شناخته می‌شود، به‌تازگی از مدل جدید ویدئوسازی خود به نام AvatarFX رونمایی کرده است.
این مدل فعلاً به‌صورت بتای بسته در دسترس قرار گرفته و می‌تواند شخصیت‌های این پلتفرم را در سبک‌ها و صداهای گوناگون، از کاراکترهای شبه‌انسانی گرفته تا انیمیشن‌های حیوانی دوبعدی، به‌صورت ویدیویی جان ببخشد.
تفاوت مهم AvatarFX با مدل‌هایی مانند Sora از OpenAI این است که صرفاً یک مولد متن به ویدیو نیست. کاربران همچنین می‌توانند از تصاویر موجود—مثلاً عکس افراد واقعی—برای ساخت ویدیوهای متحرک استفاده کنند.
این ویژگی به معنای واقعی کلمه دروازه‌ای به دنیایی جدید از محتواهای ساختگی باز می‌کند.
اما همین تکنولوژی، هرچقدر هم جذاب و پیشرفته باشد، بلافاصله با نگرانی‌هایی درباره سوءاستفاده روبه‌رو شده است. چرا که حالا دیگر کاربران می‌توانند با بارگذاری عکس افراد معروف یا حتی آشنایان خود، ویدیوهایی واقع‌گرایانه تولید کنند که در آن‌ها، شخص مورد نظر حرف‌هایی می‌زند یا کارهایی می‌کند که هرگز انجام نداده است.
فنّاوری ساخت دیپ‌فیک‌های قانع‌کننده، پیش‌تر هم وجود داشته، اما حالا با ورود آن به ابزارهای مصرفی محبوب و در دسترس همگان—مثل Character.AI—خطر استفاده نادرست از آن چند برابر شده است.
در حال حاضر، Character.AI به سوالات مربوط به سوءاستفاده‌های احتمالی از AvatarFX پاسخ رسمی نداده، اما بسیاری از کارشناسان خواستار شفاف‌سازی در مورد سیاست‌های ایمنی این شرکت شده‌اند.
این پلتفرم پیش‌تر هم با مسائل امنیتی جدی روبه‌رو بوده است. گروهی از والدین علیه Character.AI شکایت کرده‌اند و مدعی شده‌اند که چت‌بات‌های این پلتفرم فرزندانشان را به خودآزاری، خودکشی یا حتی آسیب رساندن به دیگران تشویق کرده‌اند.
در یکی از پرونده‌های مطرح‌شده، یک پسر ۱۴ ساله پس از برقراری رابطه‌ای وسواسی با یک چت‌بات مبتنی بر شخصیت سریال «بازی تاج و تخت» (Game of Thrones) جان خود را گرفت. طبق مدارک دادگاه، او پیش از مرگش، از افکار خودکشی با چت‌بات حرف زده بود و چت‌بات به‌جای کمک، او را به انجام این کار تشویق کرده بود.
این نمونه‌ها شاید در ظاهر افراطی به‌نظر برسند، اما نشان می‌دهند که چت‌بات‌های هوش مصنوعی فقط با پیام‌های متنی نیز می‌توانند تأثیر روانی عمیقی بر افراد بگذارند. حالا تصور کنید که همین چت‌بات‌ها بتوانند با ویدیوهای زنده و چهره‌پردازی مجازی، رابطه‌ای حتی واقعی‌تر ایجاد کنند!
Character.AI ادعا کرده که برای پاسخ به این نگرانی‌ها، ابزارهای کنترلی و محدودکننده‌ای برای والدین طراحی کرده و همچنین تدابیر امنیتی بیشتری اعمال کرده است.
اما همان‌طور که می‌دانیم، هیچ ابزاری به‌تنهایی مؤثر نیست؛ مگر اینکه به‌درستی استفاده شود—و اغلب، کودکان از تکنولوژی به شکل‌هایی استفاده می‌کنند که والدین از آن‌ها بی‌خبرند.
در مجموع، معرفی AvatarFX از یک‌سو نشان‌دهنده جهش بزرگ در زمینه تولید محتوای ویدیویی با کمک هوش مصنوعی است و از سوی دیگر، زنگ خطری است برای آینده‌ای که در آن، مرز میان واقعیت و جعل به طرز نگران‌کننده‌ای محو می‌شود.
