ترند خطرناکی که تسلیمش شده‌ایم!

می‌گفت یک دهه تلاش کرده تا به ساختن هوش فوق‌العاده‌ای کمک کند که سرطان را درمان کند و حالا یک روز با صدها پیام این چنینی بیدار می‌شود که «نگاه کن، من تو را به سبک جیبلی تبدیل کردم، هاها»؛ این شکوۀ طنزآمیز سم آلتمن، مدیرعامل OpenAI، پس از ترند شدن ابزار جدید تولید تصویر GPT-4o بود که میلیون‌ها کاربر را به تبدیل عکس‌هایشان به سبک انیمه‌های استودیو جیبلی ترغیب کرد. اما آنچه در سایۀ این سرگرمی به ظاهر بی‌ضرر پنهان مانده، هشدار کارشناسان امنیت سایبری است: با هر تصویری که آپلود می‌کنید، داده‌های بیومتریک چهره‌تان را به یک دیتابیس عظیم می‌سپارید!

کد خبر: ۷۹۳۶۴۱

تاریخ: ۳۱ فروردين ۱۴۰۴ - ۰۸:۴۹

به گزارش ایران اکونومیست، حتی اگر به این علاقه‌مند نبوده‌اید که مانند دیگران، تصویری انیمه‌ای از عکس‌هایتان بسازید هم شاید تبلیغ آموزش این کار را در جایی از فضای مجازی، دیده باشید؛ همانند این یکی:

«این عکس انیمه‌ای‌ چه کوفتیه ترند شده ؟!

توام با این ربات عکستو انیمیشنی کن 👇:»

در واقع همه‌چیز از آنجا آغاز شد که برخی کاربران متوجه شدند GPT-4o می‌تواند تصاویر را با استفاده از دستورات متنی به آثار هنری با سبک استودیو جیبلی تبدیل کند. این ویژگی زمانی بیشتر مورد توجه قرار گرفت که امکان ساخت عکس، حتی بدون اشتراک ChatGPT Plus هم امکان‌پذیر شد. به نظر می‌رسد GPT-4o برای برخی کاربران در نسخۀ رایگان امکان بارگذاری تصویر را دارد؛ البته در این نسخه تنها یک عکس در روز می‌توان بارگذاری کرد.

ماجرای ترند شدن ساخت عکس‌های انیمه‌ای با ChatGPT

در تاریخ ۲۶ مارس ۲۰۲۵ (حدود سه هفته پیش)، شرکت OpenAI نسخۀ جدیدی از هوش مصنوعی خود به نام GPT-4o را معرفی کرد که قابلیت‌های پیشرفته تولید تصویر داشت. این ابزار جدید با قابلیت‌های عملی متعددی از جمله رندرینگ متن دقیق‌تر و توانایی پیروی از دستورات پیچیده‌تر معرفی شد.

پس از معرفی این مدل، کاربران ChatGPT شروع به تبدیل تصاویر خود به سبک استودیو جیبلی (Studio Ghibli) کردند که یک استودیوی معروف انیمیشن‌سازی ژاپنی است. طی ۲۴ ساعت پس از معرفی این ابزار، سیل عظیمی از عکس‌هایی که به سبک استودیو جیبلی تبدیل شده بودند در شبکه‌های اجتماعی منتشر شد. PetaPixel کاربران از سراسر جهان عکس‌های خود، میم‌های معروف اینترنتی و تصاویر مشهور را به سبک انیمه‌های جیبلی تبدیل کردند.

این روند ویروسی باعث شد تعداد کاربران فعال هفتگی ChatGPT برای اولین بار در سال ۲۰۲۵ از مرز ۱۵۰ میلیون نفر عبور کند. سم آلتمن، مدیرعامل OpenAI، در پستی در شبکه اجتماعی X اعلام کرد: «ما در یک ساعت گذشته یک میلیون کاربر جدید اضافه کردیم» و این را با اضافه شدن یک میلیون کاربر در پنج روز پس از راه‌اندازی ChatGPT در بیش از دو سال پیش مقایسه کرد.

این ترند حتی فراتر از سبک استودیو جیبلی گسترش یافت و کاربران شروع به تبدیل تصاویر خود به سبک‌های مختلف انیمیشنی مانند پیکسار، سیمپسون‌ها، دیزنی کلاسیک، ماینکرفت، کارتون نتورک و موارد دیگر کردند. علاوه بر تبدیل تصاویر به سبک انیمه، کاربران همچنین از ابزار تولید تصویر ChatGPT برای تبدیل خود و دوستانشان به فیگورهای اکشن مجازی کوچک متناسب با شخصیت‌های فردی خود استفاده کردند.

این درحالی بود که سم آلتمن، مدیرعامل OpenAI، خودش هم در این روند مشارکت کرد و در پستی در شبکه X نوشت: «یک دهه تلاش کردم تا به ساخت هوش فوق‌العاده برای درمان سرطان یا هر چیز دیگری کمک کنم... و یک روز با صدها پیام بیدار می‌شوم: "نگاه کن، من تو را به سبک جیبلی درآوردم."»

این روند در ادامه نگرانی‌هایی دربارۀ مسائل کپی‌رایت را برجسته کرد. یک وکیل متخصص مالکیت معنوی به نام ایوان براون به تک کرانچ (TechCrunch) گفت که اگرچه یک سبک خاص به طور صریح مشمول حفاظت کپی‌رایت نیست، اما OpenAI ممکن است قوانین را نقض کرده باشد، زیرا بسیار محتمل است که برای تولید تصاویر به سبک استودیو جیبلی، مدل جدید ChatGPT روی میلیون‌ها فریم گرفته شده از فیلم‌های جیبلی آموزش دیده باشد.

این درحالی‌ست که هایائو میازاکی، بنیانگذار استودیو جیبلی که در سن ۸۴ سالگی به خاطر رویکرد دست‌ساز خود و داستان‌پردازی خیال‌انگیزش شناخته می‌شود، در گذشته نسبت به نقش هوش مصنوعی در انیمیشن ابراز تردید کرده بود. در سال ۲۰۱۶، در واکنش به یک نمایش تکنولوژی انیمیشن هوش مصنوعی، او گفته بود: «من کاملاً منزجر هستم. هرگز مایل نیستم این تکنولوژی را در کار خود به کار بگیرم.»

هایائو میازاکی، بنیانگذار استودیو جیبلی

نگرانی‌های دربارۀ حریم خصوصی و جمع‌آوری داده‌های کاربران

در این میان، کارشناسان حریم خصوصی هشدار داده‌اند که OpenAI ممکن است از این ترند برای جمع‌آوری هزاران تصویر شخصی برای آموزش هوش مصنوعی استفاده کند - که نگرانی‌های جدی دربارۀ امنیت داده‌های کاربران و حقوق دیجیتال ایجاد می‌کند. مدافعان حریم خصوصی در شبکه اجتماعی X ادعا کرده‌اند، در حالی که مردم از آواتارهای سبک جیبلی خود لذت می‌برند، ممکن است ناخواسته داده‌های بیومتریک جدید را به OpenAI تحویل دهند.

بسیاری از متخصصان امنیت سایبری دربارۀ ویژگی هنر جیبلی در ابزار جدید تولید تصویر ChatGPT نگرانی‌هایی را مطرح کرده‌اند. عکس‌های شخصی کاربران می‌تواند به دلیل روندهای جاری در رسانه‌های اجتماعی مورد سوء استفاده قرار گیرد. آن‌ها هشدار می‌دهند که این ابزار هوش مصنوعی می‌تواند عکس‌های شخصی کاربران را به خطر بیندازد.

در واقع، عکس‌هایی که کاربران آپلود می‌کنند می‌تواند برای آموزش مدل‌های هوش مصنوعی استفاده شود، بدون اینکه کاربران کاملاً از این موضوع آگاه باشند. همانطور که کارشناسان هشدار داده‌اند، در نتیجه این روند، بسیاری از کاربران ناخواسته عکس‌های شخصی و داده‌های منحصر به فرد چهره خود را با OpenAI به اشتراک می‌گذارند، که در درازمدت خطرات قابل توجهی ایجاد می‌کند. طبق توضیحات برخی کارشناسان، OpenAI دسترسی نامحدود به عکس‌های اصلی کاربران به دست می‌آورد، در حالی که پلتفرم‌های رسانه‌های اجتماعی و شرکت‌های هوش مصنوعی شخص ثالث فقط نسخه‌های سبک‌دار شده را می‌بینند.

این پدیده کاملاً جدید نیست. جوئل لاتو، مشاور تهدید در F-Secure، توضیح می‌دهد که خطرات مشابهی با اپلیکیشن‌هایی مانند Google Arts and Culture در سال ۲۰۱۸ و FaceApp در سال ۲۰۱۹ وجود داشت که هر دو باعث شدند F-Secure در مورد فرسایش حریم خصوصی هشدار دهد. گفته می‌شود آنچه این موضوع را با مدل‌های زبانی بزرگ (LLMs) مانند ChatGPT متمایز می‌کند، مقیاس بالقوه بهره‌برداری است، هنگامی که تصویر شما وارد سیستم می‌شود، از نظر تئوری می‌تواند برای تولید تصاویر بسیار دقیق از شما توسط دیگران استفاده شود.

کریستوف سمپر، بنیانگذار شرکت مدیریت پرامپت هوش مصنوعی AIPRM نیز هشدار داده که آپلود یک عکس برای تبدیل هنری ممکن است با خطرات بیشتری همراه باشد: «وقتی عکسی را در یک ژنراتور هنری هوش مصنوعی آپلود می‌کنید، داده‌های بیومتریک خود (چهره‌تان) را می‌دهید. برخی ابزارهای هوش مصنوعی آن داده‌ها را ذخیره می‌کنند، از آن برای آموزش مدل‌های آینده استفاده می‌کنند، یا حتی آن را به اشخاص ثالث می‌فروشند.» البته یک بررسی دقیق توسط وب‌سایت Gadgets To Use نشان داده که گرچه نگرانی‌هایی وجود دارد، اما امکان بازگرداندن تصاویر سبک جیبلی به عکس‌های اصلی وجود ندارد؛ تصاویر جیبلی با استفاده از هوش مصنوعی و شبکه‌های عصبی پیشرفته ساخته می‌شوند، جایی که ChatGPT هر بار که از آن سؤالی می‌پرسید، پاسخی تازه تولید می‌کند. حتی اگر از چت‌بات بخواهید همان تصویر را بیش از یک بار به سبک جیبلی تبدیل کند، هر بار عکسی جدید ایجاد خواهد کرد.

شایان ذکر است که سیاست حریم خصوصی OpenAI بیان می‌کند که می‌تواند داده‌های شما را به دولت منتقل کند، که برخی ممکن است آن را نگران‌کننده بیابند.