هوش مصنوعی در دولت‌ها؛ ابزار پیشرفت یا تهدیدی برای دموکراسی؟

بسیاری از کشورها در حال بررسی این موضوع هستند که چگونه می‌توان از هوش مصنوعی برای انجام وظایفی مانند پردازش مالیات‌ها یا تعیین مزایای رفاهی استفاده کرد. اما یک نظرسنجی نشان می‌دهد که مردم به اندازه دولت‌ها نسبت به این فناوری خوشبین نیستند و این مسئله می‌تواند خطری واقعی برای دموکراسی ایجاد کند.

کد خبر: ۸۱۹۹۸۲

تاریخ: ۲۳ تير ۱۴۰۴ - ۰۸:۱۹

به گزارش ایران اکونومیست، الکساندر ووتکه از دانشگاه لودویگ ماکسیمیلیان مونیخ در آلمان می‌گوید: تمرکز صرف بر بهره‌وری کوتاه‌مدت و فناوری‌های درخشان می‌تواند موجب واکنش منفی عمومی شده و در بلندمدت باعث کاهش اعتماد و مشروعیت دموکراتیک شود.

به نقل از نیوساینتیست، ووتکه و همکارانش از حدود ۱۲۰۰ نفر در بریتانیا خواستند نظرشان را درباره اقدامات فرضی دولت که در آن‌ها یا یک انسان یا یک سیستم هوش مصنوعی مسئولیت را بر عهده داشت بیان کنند. این سناریوهای فرضی شامل پردازش اظهارنامه‌های مالیاتی، تایید یا رد درخواست‌های رفاه اجتماعی، و ارزیابی ریسک در مورد صلاحیت افراد برای آزادی به قید وثیقه بود.

برخی از شرکت‌کنندگان فقط درباره مزایای افزایش بهره‌وری با استفاده از هوش مصنوعی آگاه شدند، اما گروهی دیگر هم از فواید و هم از خطرات آن مطلع شدند. این خطرات شامل مواردی مانند دشواری در درک چگونگی تصمیم‌گیری‌های هوش مصنوعی، وابستگی روزافزون دولت به سیستمی که به‌مرور کمتر قابل بازگشت می‌شود و نبود مسیرهای شفاف برای اعتراض و اصلاح تصمیمات اشتباه هوش مصنوعی بود.

وقتی افراد از این خطرات مطلع می‌شدند، هم اعتمادشان به دولت به‌طور قابل توجهی کاهش می‌یافت و هم احساس می‌کردند کنترل دموکراتیک خود را از دست می‌دهند. برای مثال، درصد افرادی که از کاهش کنترل دموکراتیک شکایت داشتند، از ۴۵ درصد به بیش از ۸۱ درصد در سناریوهایی که وابستگی دولت به هوش مصنوعی افزایش یافته بود، افزایش یافت.

همچنین درصد افرادی که خواهان استفاده کمتر از هوش مصنوعی در دولت بودند، به‌شدت افزایش یافت و از کمتر از ۲۰ درصد در حالت پایه، به بیش از ۶۵ درصد در هر سناریویی که هم مزایا و هم خطرات به آن‌ها گفته شده بود، تغییر کرد.

با این وجود، به گفته هانا کوی-دلاواله از مرکز فناوری و دموکراسی در واشینگتن دی‌سی، دولت‌های دموکراتیک همچنان می‌توانند به شکل مسئولانه‌ای از هوش مصنوعی استفاده کنند و اعتماد عمومی را حفظ نمایند. اما او تاکید می‌کند که تا امروز نمونه‌های موفق زیادی در این زمینه وجود ندارد و در مقابل، «موارد شکست زیادی» دیده شده‌اند، و این شکست‌ها می‌توانند پیامدهای سنگینی داشته باشند.

برای نمونه، تلاش ایالت‌های آمریکا برای خودکارسازی فرایند رسیدگی به درخواست‌های مزایای عمومی، باعث شد ده‌ها هزار نفر به اشتباه به تقلب متهم شوند. «مزایای عمومی» یا (public benefits) به خدمات یا حمایت‌های مالی‌ گفته می‌شود که دولت‌ها برای کمک به شهروندان، به‌ویژه افراد کم‌درآمد یا آسیب‌پذیر، ارائه می‌دهند. در این نمونه، برخی از این افراد مجبور شدند اعلام ورشکستگی کنند یا خانه‌هایشان را از دست بدهند. کوی-دلاواله می‌گوید: اشتباهات دولتی پیامدهای بزرگ و ماندگاری دارند.