جنگ‌هایی که هوش مصنوعی به راه می‌اندازد!

بالا بردن سطح خشم عمومی در راستای جنگ ترکیبی از پیامدهای گسترش هوش مصنوعی است که در شبکه‌های اجتماعی جریان دارد. الگوریتم‌های هوش مصنوعی همچنین می‌تواند نتایجی مانند تقویت پوپولیسم را به همراه آورد.

کد خبر: ۷۷۴۴۷۹

تاریخ: ۱۹ دی ۱۴۰۳ - ۱۴:۳۶

ششمین همایش «سواد فضای مجازی» با محوریت «فضای مجازی و فرهنگ در عصر هوش مصنوعی» دوشنبه هفدهم دی‌ماه در محل باغ زیبا برگزار شد. در این همایش چهره‌های دانشگاهی و صاحب‌نظران حوزه ارتباطات و مدیریت رسانه به بررسی چالش‌ها، راهکارها و تجربیات ایران و جهان در حوزه سواد فضای مجازی پرداختند.

عموپور: شایعه در قالب پوپولیسم افکار عمومی در فضای مجازی، به ایجاد ترس و نگرانی میان مردم در فضای واقعی، تضعیف اعتماد عمومی به منابع اطلاعاتی معتبر و رسانه‌های جریان اصلی، تاثیر منفی بر تصمیم‌گیری‌ها فردی و جمعی جامعه، ترویج تعصبات و تبعیض‌های بین اقوام، تضعیف روحیه عمومی و کاهش انگیزه و امید مردم نسبت به آینده جامعه و کاهش سرمایه اجتماعی و مشروعیت سیاسی حکومت‌ها نزد افکار عمومی منجر می‌شود

هوش مصنوعی و تقویت پوپولیسم فضای مجازی

در یکی از پنل‌های این همایش، «سمیرا عموپور» پژوهشگر رسانه به موضوع «افکار عمومی و پوپولیسم فضای مجازی در عصر هوش مصنوعی» پرداخت. او با اشاره به اینکه در دهه‌های اخیر فضای مجازی یکی از مهم‌ترین عرصه‌های تبادل اطلاعات و شکل‌گیری افکار عمومی بوده و با ظهور هوش مصنوعی و الگوریتم‌هایی که در این فضای پیشرفته به وجود آمده به شدت تحت تاثیر قرار گرفته، پوپولیسم را به عنوان یکی از مهم‌ترین پدیده‌هایی که در این عرصه ظهور کرده است، معرفی کرد.

عموپور افزود: الگوریتم‌های هوش مصنوعی می‌توانند محتواهای خاصی را بر اساس علایق و رفتارهای گذشته کاربران به آنها پیشنهاد دهند که همین موضوع می‌تواند به تقویت پوپولیسم منجر شود. پوپولیسم یا عوام‌گرایی یک فلسفه سیاسی‌ است که براساس آن، سیاست‌ها باید به جای تصمیم‌گیری توسط نخبگان، مستقیما توسط اراده توده‌ها تعیین شوند. این مفهوم در ادبیات سیاسی به معنای مخالفت با نخبگان و تاکید بر قدرت و حقوق مردم عادی است. در پوپولیسم جامعه به دو گروه متضاد تقسیم می‌شود؛ «مردم پاک» و «نخبگان فاسد». پوپولیست‌ها معتقدند که سیاست باید بیانگر خواست عموم مردم باشد و نخبگان را به عنوان مشکل اصلی جامعه معرفی می‌کنند. این فلسفه می‌تواند در شکل‌های مختلفی از جمله دموکراسی، سوسیالیسم و حتی فاشیسم ظاهر شود.

وی با توضیح درباره انواع پوپولیسم گفت: پوپولیسم به دو دسته تقسیم می‌شود؛ پوپولیسم چپ‌گرا که مستقیما بر عدالت اجتماعی، توزیع عادلانه ثروت و حمایت از حقوق کارگران تاکید دارد و پوپولیسم راست‌گرا که بر ملی‌گرایی، محافظه‌کاری فرهنگی و مخالفت با مهاجرت تاکید می‌کند. پوپولیسم فضای مجازی به مجموعه‌ای از رفتارها، واکنش‌ها، خشم، شادی، قضاوت‌ها و رفتارهای عامیانه مردم کوچه بازار به عنوان کاربران پلتفرم‌های فضای مجازی اطلاق می‌شود که مهم‌ترین ویژگی آن عدم تعقل، انتشار سریع، فراموشی سریع حوادث، عوام‌گرایی و توده‌پسندی است. از این ویژگی‌ها عمدتاً بلاگرها، سلبریتی‌ها و اینفلوئنسرها برای کسب درآمد و افزایش دنبال‌کننده استفاده می‌کنند.

سمیرا عموپور پژوهشگر رسانه

به گفته این پژوهشگر حوزه رسانه، پوپولیسم فضای مجازی به استفاده از تاکتیک‌های پوپولیستی در بستر اینترنت و شبکه‌های اجتماعی اشاره دارد. این تاکتیک‌ها شامل جلب حمایت عمومی از طریق پیام‌های ساده و احساسی، مقابله با نخبگان و قدرت‌های مستقر و بهره‌برداری از نارضایتی عمومی است. در فضای مجازی پوپولیست‌ها اغلب از لفاظی‌های ضدنخبه‌گرایی و شعارهای جذاب رای جذب مخاطبان استفاده می‌کنند و تلاش می‌کنند تا خود را به عنوان نماینده مردم عادی معرفی کنند. پوپولیسم در فضای واقعی و مجازی شباهت‌ها و تفاوت‌هایی دارند. مفهوم پوپولیسم در فضای واقعی و مجازی در تقسیم‌بندی جامعه یا فضای مجازی به دو گروه «ما» و «آنها»، استفاده از لفاظی‌های ساده و قابل فهم مانند الفاظ کوچه بازاری، تکیه بر احساس و عواطف کاربران، انتشار اطلاعات نادرست یا تحریف شده و جلب توجه از طریق تکنیک‌های تبلیغات رسانه‌ای شباهت دارند. تفاوت‌های مهم پوپولیسم در فضای واقعی و مجازی هم شامل سرعت و گستردگی انتشار بالا در فضای مجازی، تعامل مستقیم با کاربران، استفاده از ابزارهای چند رسانه‌ای مانند ارسال پیام از طریق نماد پلتفرم، گمنامی و ناشناس بودن و عدم پاسخگویی به عواقب و تاثیر الگوریتم‌های از قبل برنامه‌ریزی شده بر درک مخاطبان می‌شود.

صمدی: یکی از کارهایی که در جنگ ترکیبی انجام می‌شود بازنشر گسترده محتواها و کلیدهایی است که مردم را عصبانی می‌کند؛ برای مثال کتک خوردن یک دست‌فروش توسط مامور شهرداری. نکته جالب توجه این است که پلتفرم‌های شبکه‌های اجتماعی افراد را معتاد به دیدن کلیپ‌هایی می‌کند که آنها را عصبانی و ناراحت می‌کند

وی در ادامه درباره کاربردهای شایعه در قالب پوپولیسم افکار عمومی در فضای مجازی توضیح داد: شایعه در قالب پوپولیسم افکار عمومی در فضای مجازی به منظور ایجاد ترس و نگرانی میان مردم در فضای واقعی، تضعیف اعتماد عمومی به منابع اطلاعاتی معتبر و رسانه‌های جریان اصلی، تاثیر منفی بر تصمیم‌گیری‌ها فردی و جمعی جامعه، ترویج تعصبات و تبعیض‌های بین اقوام در فضای واقعی جامعه، تضعیف روحیه عمومی و کاهش انگیزه و امید مردم نسبت به آینده جامعه و کاهش سرمایه اجتماعی و مشروعیت سیاسی حکومت‌ها نزد افکار عمومی منجر می‌شود.

وی در پایان سخنرانی خود در این پنل به شیوه‌های مقابله با چالش‌های پوپولیسم در فضای مجازی اشاره کرد: شیوه‌های مقابله و مواجهه با چالش‌های پوپولیسم در فضای مجازی شامل آموزش آگاهی‌بخشی و افزایش سواد فضای مجازی کاربران، تقویت قوانین و مقررات برای مقابله با انتشار اطلاعات نادرست، ایجاد فضاهای گفتگو و تبادل نظر سازنده بین افکار عمومی در فضای واقعی، استفاده از فناوری‌های پیشرفته و الگوریتم‌ها برای حذف محتوای نادرست و مضر و تقویت و حمایت از رسانه‌های مستقل و معتبر در فضای واقعی می‌شود.

عموپور همچنین بر نقش سازمان‌ها و ادارات کشور برای مقابله با پدیده پوپولیسم فضای مجازی تاکید کرد و گفت: راهکارهای سازمانی و اداری در کشورها برای مقابله با پوپولیسم فضای مجازی وجود دارد که شامل ایجاد کمیته‌های مشترک بین دولت، سازمان‌های غیردولتی، شرکت‌های فناوری و رسانه‌ها، تدوین و اجرای سیاست‌های جامع و هماهنگ بین سازمان‌ها و نهادهای مرتبط، برگزاری نشست‌ها و کارگاه‌های آموزشی برای تبادل اطلاعات و تجربیات بین عوامل اجرایی کشور، توسعه و استفاده از فناوری‌های مشترک برای شناسایی و مقابله با محتوای نادرست، پایش و ارزیابی مستمر فضای مجازی و رصد تاثیرات آن بر فضای واقعی و اجرای کمپین‌های آگاهی‌بخشی عمومی برای اطلاع‌رسانی به مردم درباره خطرات پوپولیسم است.

هدف از کاربرد هوش مصنوعی در جنگ‌های ترکیبی چیست؟

در پنل دیگر، «مهران صمدی» استاد ارتباطات دانشگاه آزاد اسلامی تبریز به ارائه پژوهش خود با موضوع «هوش مصنوعی و جنگ ترکیبی» در زمینه کاربرد و مفهوم‌شناسی این موضوع پرداخت.

وی با اشاره به این موضوع که هوش مصنوعی با ترکیب روش‌های مرسوم و غیرمرسوم جنگی، دینامیک‌های درگیری‌ها را به طور بنیادین تغییر داده است گفت: این مقاله به بررسی نقش هوش مصنوعی در جنگ‌های ترکیبی می‌پردازد و تاکید دارد که این فناوری توانسته است به طور بنیادین ماهیت درگیری‌ها را متحول کند. با ادغام روش‌های مرسوم مانند تاکتیک‌های نظامی با روش‌های غیرمرسوم نظیر جنگ‌های سایبری، تبلیغات و اطلاعات نادرست، هوش مصنوعی به ابزاری تبدیل شده است که توازن قوا را در میدان نبرد به نفع بازیگرانی که از آن استفاده می‌کنند تغییر داده است. این پژوهش همچنین به چالش‌های اخلاقی و عملیاتی مرتبط با استفاده از هوش مصنوعی در این نوع درگیری‌ها پرداخته و پیشنهادهایی برای مواجهه موثر با این فناوری ارائه می‌دهد.

صمدی در ادامه به تعریف جنگ ترکیبی پرداخت: جنگ ترکیبی ادغام تاکتیک‌های متنوع از جمله حملات سایبری، تبلیفات و فشارهای اقتصادی است. در جنگ ترکیبی ما شکست یا پیروزی مطلق نداریم و در عوض موفقیت یا عدم موفقیت نسبی داریم. زمانی ممکن است دشمن موفقیت نسبی داشته باشد و گاهی هم ممکن است ما موفقیت یا شکست نسبی داشته باشیم. در جنگ سخت امکان رصد تحرکات دشمن از طریق ماهواره و یا هر ابزار دیگری وجود دارد و معمولا صدای انفجار هم شنیده می‌شود و اقناع افکار عمومی راحت‌تر است. اما در جنگ ترکیبی و جنگ نرم و جنگ شناختی اگرچه امکان رصد از طریق تحلیل داده‌ها در فضای مجازی جود دارد اما صدای انفجار وجود ندارد و به همین دلیل اقناع افکار عمومی و مسئولین برای اتخاذ آرایش جنگی رسانه‌ای دشوار است.

مهران صمدی مدرس ارتباطات

صمدی: در جنگ‌های ترکیبی از طریق هوش مصنوعی اتاق پژواک می‌سازند. مثلا کاربری در فضای مجازی با لایک یا کامنت از یک نگرش حمایت می‌کند. بلافاصله توسط نهادهای امنیتی برای او یک پرونده الکترونیک تشکیل می‌شود و ذائقه سیاسی فرد را تشخیص می‌دهند و از طریق بمباران اطلاعاتی شروع به ارسال یک سری محتوا می‌کند

به گفته این مدرس دانشگاه، یکی از اهداف دشمن در جنگ ترکیبی با استفاده از هوش مصنوعی برای بالا بردن میزان خشم در فضای مجازی است. طبق فرمول‌هایی که وجود دارد میزان خشم نمادین و خشم در فضای مجازی از طریق کلان داده‌ها ۱.۷ است. اگر میزان خشم بیشتر از این عدد شود این احتمال وجود دارد که این خشم به دنیای واقعی تسری پیدا کند که در بحران‌های اجتماعی مواردی بوده که حتی خشم در فضای مجازی به عدد ۲۷ نیز رسیده بود. هدف افرادی که به دنبال جنگ ترکیبی هستند از بالا خشم در فضای مجازی، انتقال کنشگران غیرفعال به فعال یا کشاندن کنشگران از صندلی به صحنه و از خانه به میدان است.

مهران صمدی به تاکتیک‌های هوش مصنوعی در جنگ‌های ترکیبی اشاره کرد و بیان داشت: یکی از کارهایی که در جنگ ترکیبی انجام می‌شود بازنشر گسترده محتواها و کلیدهایی است که مردم را عصبانی می‌کند. برای مثال کتک خوردن یک دست‌فروش توسط مامور شهرداری. نکته جالب توجه این است که پلتفرم‌های شبکه‌های اجتماعی افراد را معتاد به دیدن کلیپ‌هایی می‌کند که آنها را عصبانی و ناراحت می‌کند. یکی از تاکتیک‌ها هم استفاده از کهن الگوها است؛ مثلاً کهن الگویی مانند ظلم به زنان از مواردی‌ است که برای تحت تاثیر قرار دادن و هیجانی کردن افراد در فضای مجازی استفاده می‌شود. اغلب در تولید محتوا از یک مثلث استفاده می‌کنند؛ مثلث قربانی، قهرمان و شرور که کشته شده‌ها نقش قربانی را دارند، معترضین نقش قهرمان و نهادهای حاکمیتی هم چهره شرور را در روایتی که تعریف می‌کنند دارند. در این زمینه، یکی دیگر از روش‌ها تاکتیک خلاء موفقیت است؛یعنی فاصله بین وضع موجود و وضع مطلوب را آنقدر زیاد نشان می‌دهند که وقتی افراد در محتوا دقیق می‌شوند احساس ناکامی و یاس می‌کنند.

وی افزود: تاکتیک دیگری که در این جنگ‌ها توسط هوش مصنوعی استفاده می‌شود جایگزین کردن لذت به جای شادی و تداخل مفهوم تمتع با مالکیت است. لذت لحظه‌ای است اما شادی ماندگار است. لذت اعتیادآور است زیرا بعد از هربار استفاده باید دوز مصرف را بالا برد اما شادی این طور نیست. مثلاً ممکن است عملی انجام دهید و برای سال‌ها با هربار یادآوری آن شاد شوید. تفاوت تمتع و مالکیت هم به این صورت است که می‌گویند برای مثال اگر می‌خواهید از طبیعت لذت ببرید باید حتماً ویلا و جت شخصی و کشتی تفریحی داشته باشید در صورتی که برای لذت بردن از نعمات خدا نیازی به مالکیت نیست و با هنر تمتع هم می‌توان از این نعمت‌ها بهره‌برداری کرد.

این مدرس ارتباطات در پایان اظهار داشت: تاکتیک بعدی که از آن در جنگ‌های ترکیبی استفاده می‌شود اتاق پژواک است که از طریق هوش مصنوعی اتاق پژواک می‌سازند. مثلا کاربری در فضای مجازی با لایک یا کامنت از یک نگرش حمایت می‌کند. بلافاصله توسط نهادهای امنیتی برای او یک پرونده الکترونیک تشکیل می‌شود و ذائقه سیاسی فرد را تشخیص می‌دهند و از طریق بمباران اطلاعاتی شروع به ارسال یک سری محتوا می‌کند. محتوایی متناسب با پستی که فرد لایک کرده است تا او را در حباب فیلتر قرار دهند و فقط آن چیزی را به فرد می‌دهند که فکر می‌کنند او دوست دارد بشنود. این کار قدرت تساهل و تسامح در جامعه را به شدت پایین می‌آورد و باعث ایجاد دوقطبی می‌شود.