وقتی «فریب» برای هر مخاطب شخصی‌سازی می‌شود

نگار علی- شرکت‌های بزرگ فناوری با دسترسی به کلان‌داده‌های اینترنتی، به چنان توانایی در شخصی‌سازی پیام و تفکیک مخاطبان دست یافته‌اند که تشخیص واقعیت از دروغ به سخت‌ترین کارزار رسانه‌ای تبدیل شده است؛ در این خصوص با ستاره بنیادی، دکتری ارتباطات علم و فناوری به گفت‌وگو پرداختیم، مشروح این گفت‌وگو را در ادامه بخوانید:

هوش مصنوعی قدرت فریب محتوا را افزایش داد

ستاره بنیادی، در پاسخ به این پرسش که با تولید دیپ‌فیک‌ها، آیا رسانه از تفکیک حقیقت از دروغ ناتوان شده است، گفت:«اگر بخواهیم درباره تولید محتوا، به‌ویژه انواع محتوای جعلی، از فیک‌های سطحی تا آنچه به عنوان دیپ‌فیک یا جعل عمیق می‌شناسیم، صحبت کنیم، باید موضوع را از دو رویکرد بررسی کنیم؛اگر از رویکرد کاربر به ماجرا نگاه کنیم، هنگامی که کاربران در حال مصرف یک محتوا هستند، فرآیندی رخ می‌دهد که دانیل کانمن (Daniel Kahneman) به زیبایی آن را تبیین کرده است. او معتقد است ما دو سیستم پردازش اطلاعات در مغز خود داریم:

1. سیستم اول: سیستم اولیه و هیجانی ماست که بسیار تند و سریع عمل می‌کند و پردازش اطلاعات در آن بر پایه واکنش‌های آنی شکل می‌گیرد.

2. سیستم دوم: این سیستم زمانی روشن می‌شود که قرار باشد اطلاعات مورد بررسی عمیق‌تر، دقیق‌تر و تحلیل‌گرانه‌تر قرار گیرند.

اخبار جعلی سنتی (رویدادهای پیش از ظهور هوش مصنوعی)، در گذشته معمولاً هدفشان فعال‌سازی سیستم شماره یک ما بود. در آن مدل، محتوا برای باورپذیر شدن نیاز به گردش و تکثیر بسیار بالایی داشت. یکی از دلایلی که ما یک محتوا را باورپذیر تلقی می‌کنیم، فراوانی تکرار و مشاهده مکرر آن است که اصطلاحاً به آن «اثر حقیقت واهی» می‌گویند. وقتی شما یک محتوا را به‌دفعات زیاد در پیرامون خود می‌بینید، ذهن شروع به پذیرش آن می‌کند؛ پدیده‌ای که در روان‌شناسی شناختی به آن «سوگیری در دسترس بودن» نیز گفته می‌شود. وقتی محتوایی به‌وفور در دسترس باشد، آن را در یک خبرگزاری، یک وبلاگ یا پست‌های اینستاگرامی ببینید، مواجهه مکرر با آن باعث می‌شود احساس کنید واقعیت دارد. بنابراین، در تولید فاکتورهای حسی و هیجانی، سیستم یک مغز ما روشن می‌شود. در نوع سنتی، این محتوا باید تکثیر گسترده پیدا می‌کرد تا باورپذیر شود؛ در نتیجه، تولید یک شایعه یا خبر جعلی سنتی، مانند فرآیند دهان‌به‌دهان چرخیدن شایعه در سطح شهر و اذهان، زمان‌بر و در نهایت قابل تشخیص‌تر بود، زیرا صرفاً سیستم یک را درگیر می‌کرد.»

شبیخون هوش مصنوعی به قوه استدلال انسان

او در ادامه افزود:« اما در حوزه‌ای که اکنون هوش مصنوعی فرصت تولید محتوا در آن را به ما می‌دهد، فرآیند کاملاً متفاوت است؛ این فناوری از همان پایه شما را وارد سیستم شماره دو کرده و ذهن را درگیر می‌کند. یعنی محتوایی برای شما تولید می‌کند که به ظاهر کاملاً می‌تواند دارای استدلال‌ها و نشانه‌های منطقی باشد؛ به نحوی که سیستم شماره دو مغز و قوه استدلال ما را هم‌زمان درگیر کند و به همین دلیل، مواجهه با این ماجرا بسیار بسیار سخت‌تر می‌شود.»

بنیادی در ادامه گفت:«در مدل سنتی اخبار جعلی، ما به مخاطب توصیه می‌کردیم که تفکر پرسشگرانه داشته باشد؛ مثلاً بپرسد آیا تصویر با متن همخوانی دارد؟ یا منبع اصلی این محتوا چیست؟ اما اتفاقی که اکنون رخ می‌دهد این است که نشانه‌گذاری‌های متنی و محتوایی با هوش مصنوعی به سمتی رفته که باورپذیری به حداکثر رسیده است؛ تا جایی که حتی متخصصان این حوزه نیز دچار تردید می‌شوند و رسانه‌های بسیار معتبر و حرفه‌ای که سال‌ها برای کسب شهرت، اعتبار و اعتماد مخاطب تلاش کرده‌اند، در این دام می‌افتند. البته این به دام افتادن ممکن است کاملاً به‌صورت سیستمی و نهادی رخ دهد که مهار آن اتفاق به مراتب سخت‌تری است. بنابراین، اگر از فاز مصرف‌کننده و مواجهه با محتوا به موضوع نگاه کنیم، به دلیل درگیر شدن سیستم دو مغز، تفکیک حقیقت بسیار دشوارتر شده است.»

هوش مصنوعی چگونه افکار عمومی را بمباران می‌کند؟

بنیادی در ادامه گفت:« حال اگر از زاویه دوم، یعنی از فاز تولیدکننده به موضوع نگاه کنیم، ابعاد دیگری روشن می‌شود. تولیدکننده به کمک هوش مصنوعی، اولا یک محتوای شسته‌رفته با عالی‌ترین نشانه‌گذاری‌های ساختاری تولید می‌کند؛ ثانیا فرآیند فقط محدود به تولید متن نیست، بلکه پای چت‌بات‌ها و بات‌های تکثیرکننده محتوا به میان می‌آید. این ابزارها فرصت بی‌نظیری برای پر کردن فضا از انواع محتوا فراهم می‌کنند که همان اثر «دیدن زیاد» را بازتولید می‌کند.»

وقتی فیک‌نیوزها برای شما «شخصی‌سازی» می‌شوند

او در ادامه افزود:«از سوی دیگر، دنیای امروز دنیای مخاطبان تخصصی و بخش‌بندی شده است. برای ملموس شدن موضوع، فرض کنید می‌خواهید یک گزاره دروغ را منتشر کنید؛ مثلاً بگویید «این خودکار آبی، در واقع قرمز است». شما برای اقناع یک جامعه پزشکان باید این دروغ را با یک ادبیات بگویید، برای جامعه هنرمندان با ادبیاتی دیگر، برای محیط‌های دانشگاهی به شیوه علمی و برای یک راننده تاکسی محترم با بیانی متفاوت. هوش مصنوعی کاملا این ظرفیت را دارد که محتوا را برای هر صنف و گروهی شخصی‌سازی کند. این فناوری می‌تواند گروه‌های هدف، مثلاً جامعه هنرمندان ایرانی، را شناسایی کرده و با توجه به کلان‌داده‌های مربوط به آن‌ها، محتوایی کاملا متناسب تولید کند؛ ظرفیتی که اکنون در سراسر جهان و در ابعاد خرد و کلان وجود دارد.»

کنده شدن هویت از جغرافیا

این دکتری ارتباطات علم و فناوری در ادامه افزود:« علاوه بر این، هوش مصنوعی مزیتی به نام «پدیده‌های همباشی مجازی» را فعال کرده است. اگر بخواهیم درباره جامعه امروز ایران صحبت کنیم، یکی از اتفاقات مهم این است که مجاورت‌ها، همزیستی‌ها و به اصطلاح «همباشی‌ها» از جغرافیا کنده شده‌اند. در گذشته، موقعیت جغرافیایی هویت‌ساز بود؛ مثلاً می‌گفتند فلانی بزرگ‌شده محله دروازه شمرون تهران است و این اخلاقیات را دارد، یا فلانی اهل فلان محله اهواز است و این ویژگی‌های شخصیتی، هویتی و درکی را داراست. این شناخت جغرافیایی به شما کمک می‌کرد که اگر می‌خواستید کالایی را به آن‌ها عرضه کنید، می‌دانستید در محله شلنگ‌آباد اهواز با چه ژانر و ادبیاتی صحبت کنید و در شمرون تهران با چه کلامی وارد شوید.»

او در ادامه افزود:«امروز این همباشی‌ها در فضای مجازی پراکنده شده‌اند و این مسئله دیگر صرفاً محدود به مرزهای ایران نیست. برای مثال، شما با یک نوجوان نسل زد مواجه هستید که در ایران زندگی می‌کند، اما همباشی و علایق مشترک او با طرفداران موسیقی پاپ کره‌ای است. تمام اعضای این گروه در سراسر جهان، ویژگی‌ها و محله‌های مجازی مشترکی دارند؛ ممکن است یکی از آن‌ها ساکن کالیفرنیا باشد، دیگری در ژاپن و یکی از نوجوانان ما نیز در سیستان و بلوچستان زندگی کند. هوش مصنوعی برای متقاعد کردن این نوجوان در سیستان و بلوچستان، ویژگی‌های مشترک این همباشی جهانی را استخراج کرده، آن‌ها را در یک گروه دسته‌بندی می‌کند و بر اساس آن کلان‌داده‌ها پیش‌بینی می‌کند که این تیپ شخصیتی به چه محرک‌هایی واکنش‌های احساسی بهتری نشان می‌دهد و چه استدلال‌هایی او را راضی، اقناع و ترغیب می‌سازد.»

بنیادی در ادامه افزود:« بنابراین، داده‌های در اختیار این پلتفرم‌ها فراتر از شناخت ارزش‌های سنتی و صرف جامعه ایرانی است. وقتی فضا را بازتر کنیم، می‌بینیم حجم داده‌ای که شرکت OpenAI و سایر توسعه‌دهندگان هوش مصنوعی از کل اینترنت در اختیار دارند و اکنون با تعامل دائم کاربران روزبه‌روز آموزش‌دیده‌تر و دقیق‌تر می‌شوند، اتفاق عجیبی را در سطح تعقیب، ردگیری و اقناع‌سازی در کل دنیا رقم می‌زند که ابعاد آن فراتر از تصور کنونی ماست.»

بزرگ‌ترین رسانه‌ها هم در لبه سقوط به دام «دیپ‌فیک» هستند

او در ادامه و در پاسخ به این پرسش که با این اوصاف، می‌توان این‌گونه نتیجه گرفت که حتی رسانه‌های حرفه‌ای نیز دیگر به آسانی قادر به تفکیک واقعیت از دروغ نیستند و این فرآیند بسیار پیچیده شده است، گفت:«بله، دقیقاً همین‌طور است؛ این کار بسیار سخت شده و هرچه جلوتر می‌رویم، فرآیند تفکیک پیچیده‌تر و سخت‌تر می‌شود. هرچند نمی‌توان این گزاره را به شکلی مطلق تعمیم داد، اما می‌توان با قاطعیت گفت که اکنون در برهه‌ای قرار داریم که احتمال سقوط رسانه‌ها در دام دروغ‌های جعل عمیق به بالاترین حد خود رسیده است. محتواها با چنان ظرافت و مهارتی به سمت جعل حرفه‌ای حرکت می‌کنند که حتی مجرب‌ترین و معتبرترین رسانه‌ها نیز از خطر این دام در امان نیستند.»

ضرورت جراحی در سرفصل‌های آموزشی عصر هوش مصنوعی

ما در دوران اوج‌گیری موتور جستجوی گوگل نیز همواره با این چالش مواجه بودیم که لزوما هر داده‌ای که گوگل ارائه می‌کند، درست نیست. در آن مقطع، «سواد رسانه‌ای» به عنوان یک مبحث تخصصی تدریس می‌شد. ستاره بنیادی در پاسخ به این پرسش که با توجه به تغییرات فعلی، آیا نیازی به به‌روزرسانی سرفصل‌های آموزشی و دروس این حوزه وجود دارد و پژوهشگران این عرصه که در راس هرم علمی قرار دارند، چه گام‌هایی باید بردارند تا به کنشگران بدنه رسانه مانند روزنامه‌نگاران که در تعامل مستقیم با جامعه هستند، جهت ارتقای سطح سواد رسانه‌ای عموم مردم کمک کنند، گفت:«واقعیت این است که ما باید در چندین سطح عملیاتی وارد این کارزار شویم. اگر بخواهیم از فضای خود رسانه‌ها آغاز کنیم، من همواره تاکید دارم که اصحاب رسانه در خط مقدم مواجهه با چالش‌های محتوای تولید شده توسط هوش مصنوعی قرار دارند.

 در حال حاضر که با هم گفتگو می‌کنیم، ابزارهای توسعه‌یافته بسیار جدی در حوزه‌های علوم اعصاب محاسباتی و سیستم‌های نورومورفیک که بتوانند به کمک ما بیایند، هنوز به تجاری‌سازی و توسعه کامل نرسیده‌اند. با این حال، اگر بخواهیم اقدامات ضروری را در چند سطح دسته‌بندی کنیم، اولین سطح، ایجاد یک همگرایی و مطالبه‌گری بزرگ در میان تمامی رسانه‌ها در ابعاد جهانی است.»

او در ادامه افزود:«فارغ از اینکه ما در ایران زندگی می‌کنیم یا دیگران در سایر نقاط جهان، هر فردی که دارای مسئولیت مدنی نسبت به جامعه است و می‌خواهد به عنوان دیده‌بان و محافظ افکار عمومی عمل کند، چه فعال مدنی باشد و چه روزنامه‌نگار، باید در این مسیر گام بردارد. روزنامه‌نگاران همواره این نقش اصیل و دیده‌بانی را بر عهده داشته‌اند و رسانه‌ها نیز به طریق اولی، به عنوان نهاد متولی روزنامه‌نگاری، باید در یک سطح کلان و بین‌المللی فعالیت کنند.»

بنیادی در ادامه گفت:«یکی از این مطالبات جهانی، وادار کردن شرکت‌های بزرگ فناوری به مسئولیت‌پذیری است. برای نمونه، یکی از راه‌حل‌های فنی مطرح‌شده، الزام به رمزنگاری و نشانه‌گذاری محتواهای تولید شده توسط هوش مصنوعی است. البته منظور این نیست که برای هر محتوایی فوراً به دنبال کشف رمزنگاری آن باشیم، بلکه هدف این است که در صورت بروز شبهه یا گره‌های حقوقی و رسانه‌ای، مکانیسمی برای ردیابی، استدلال و تشخیص اینکه این محتوا توسط ماشین تولید شده یا خیر، وجود داشته باشد. این تنها یک نمونه از ابعاد مسئولیت‌پذیری شرکت‌های بزرگ توسعه‌دهنده هوش مصنوعی است؛ چرا که این چالش‌ها صرفاً به حوزه دیپ‌فیک‌ها محدود نشده و حوزه‌های حقوقی دیگری نظیر مالکیت فکری (Intellectual Property) هنرمندان و پدیدآورندگان را نیز در بر می‌گیرد.»

مسئولیت حقوقی و اخلاقی خطاهای هوش مصنوعی در رسانه‌ها با کیست؟

او در ادامه افزود:«امروز وقتی وارد این حوزه می‌شویم، با چالش‌های بسیار جدی مواجه می‌شویم که شدیداً محل بحث است. اکنون هوش مصنوعی به شکل گسترده‌ای وارد حوزه هنر شده است؛ از تولید آهنگ‌هایی با صدای بازسازی‌شده هنرمندان تا خلق نقاشی‌ها و صداهای کاملاً منحصربه‌فرد. پرسش اساسی این است که گواهی‌های مالکیت فکری که پیش از این به پدیدآورندگان انسانی تعلق می‌گرفت، اکنون باید به چه کسی داده شود؟ فرض کنید برخی آژانس‌های خبری از ابزارهایی استفاده می‌کنند که داده‌ها را جمع‌آوری و بازنویسی کرده و در نهایت خروجی را به عنوان خبر روی سایت قرار می‌دهند. اگر این محتوای تولیدشده توسط هوش مصنوعی حاوی خطا یا اطلاعات گمراه‌کننده باشد، مسئولیت حقوقی و اخلاقی آن با کیست؟ آیا شرکت توسعه‌دهنده هوش مصنوعی مقصر است یا سردبیر رسانه؟ این‌ها چالش‌های نوظهوری است که هنوز پاسخ قطعی برای آن‌ها وجود ندارد.»

این مدرس و پژوهشگر ارتباطات، راهکار کلان این بحران را در گرو یک اجماع بین‌المللی دانست و تأکید کرد: «یکی از مهم‌ترین حوزه‌های اثرگذاری، همگرایی و اتحاد جهانی برای پاسخگو کردن و مسئولیت‌پذیر ساختن شرکت‌های بزرگ فناوری است. این غول‌های تکنولوژی باید متعهد شوند که ابزارهایشان به صورت ۱۰۰ درصدی به نوع بشر وفادار بمانند. آن‌ها باید راهکارهایی را روی میز بگذارند که این فضای آشفته و ترکیب مبهم محتوای هوش مصنوعی و محتوای انسانی را شفاف کند تا در نهایت، اعتماد از دست رفته به فضای رسانه‌ای بازسازی شود.»

کلاه قرمزها وارد تحریریه شوند تا جلوی خطای هوش مصنوعی را بگیرند

بسیاری از رسانه‌ها در حال حاضر مغلوب سرعت و ظرافت هوش مصنوعی شده‌اند؛ بنیادی در پاسخ به این پرسش که در سطح نهادی و درون تحریریه‌ها، چه راهکار عملیاتی برای خروج از این وضعیت وجود دارد، گفت:«یکی از راهکارهای جدی که در سطح نهاد خبرگزاری مطرح می‌شود، فراتر از ابزارهای فنی تشخیص فیک‌نیوز است؛ پدیده‌ای به نام تشکیل «تیم‌های کلاه قرمز» در تحریریه‌ها. وظیفه این تیم که نام‌های مختلفی هم ممکن است روی آن بگذارند، این است که پیش از بارگذاری و انتشار هر محتوایی، آن را به طور کامل زیر ذره‌بین ببرند. کارکرد آن‌ها شبیه این است که شما به خبرگزاری رقیب یا دشمن خود پول بدهید تا نقاط ضعف شما را پیدا و نقض کند! یعنی اگر تحریریه خبری مبنی بر آبی بودن یک خودکار تولید کرده، تیم کلاه قرمز باید تمام مستندات و استدلال‌های ممکن را بخواند و بررسی کند تا ثابت کند این خودکار آبی نیست. با این روش، فرآیند دروازه‌بانی خبر تکثیر، جدی‌تر و چندلایه می‌شود.»

او در ادامه گفت:«برای رسانه‌های حرفه‌ای‌تر، توصیه می‌شود این تیم‌ها به صورت چندرشته‌ای طراحی شوند. یعنی یک تیم متشکل از تخصص‌های مختلف؛ مثلاً یک نیروی فنی و برنامه‌نویس که به الگوریتم‌ها مسلط است، یک هنرمند که زیبایی‌شناسی تصویر و صدا را می‌شناسد، و یک روزنامه‌نگار متخصص «نرم‌خبر» که به تکنیک‌های اقناع توده‌ها اشراف دارد. کار تخصصی این تیم این است که رو به روی تحریریه بایستد و بگوید: «پیش‌فرض‌های شما اشتباه است و این محتوا نباید منتشر شود.»

بنیادی در ادامه و در پاسخ به این پرسش که آموزش سواد رسانه‌ای در این عصر باید چه تغییری کند، گفت:« آموزش‌های سنتی سواد رسانه‌ای که به کاربر می‌گفت تفکر انتقادی داشته باش و پنج سوال استاندارد (چه کسی خبر را تولید کرده؟ هدفش چیست؟ چه منافع اقتصادی پشت آن است؟ و...) را بپرس، هنوز لازم هستند اما دیگر کافی نیستند. امروزه ما به ابزارهای تکمیلی نیاز داریم. یکی از راهکارهای جدیدی که اخیراً در فروم‌های بین‌المللی تفکر درباره مسئولیت‌پذیری هوش مصنوعی، از جمله در فروم دانشگاه هاروارد مطالعه می‌کردم، طراحی «بازی‌های عمیق شناختی» است. این بازی‌ها به کاربر نشان می‌دهند که در مواجهه با یک محتوا، چه فرآیندهای شناختی در مغز او رخ می‌دهد، مغز چگونه داده‌ها را پردازش می‌کند و درگیر چه سوگیری‌های پنهانی می‌شود. شناخت عملکرد مغز از طریق بازی، یک راهکار کلیدی است.»

این دکتری ارتباطات علم و فناوری در آخر گفت:« این فضا باید از دوران کودکی، یعنی از مهدکودک‌ها و مدارس ابتدایی و راهنمایی آغاز شود. امروزه سن استفاده از هوش مصنوعی در سراسر جهان به شدت پایین آمده است. دانش‌آموزان، نه فقط در ایران بلکه در کل دنیا، حتی برای حل مسائل ریاضی خود به چت‌بات‌هایی مثل ChatGPT مراجعه می‌کنند. بنابراین، طراحی بازی‌های شناختی برای کودکان یک ضرورت است.

 اما یک نکته بسیار حیاتی و نگران‌کننده وجود دارد؛ سرعت پیشرفت فناوری آن‌قدر سرسام‌آور است که راهکارهای آموزشی و ساختاری که امروز به عنوان راه حل روی میز می‌گذاریم، ممکن است سوار بر موج پیشرفت فردا نباشند و تنها به عنوان مسکن‌هایی بسیار موقت عمل کنند.»