درباره هوش مصنوعی و تاثیر آن بر تحولات جهان/ چرا نگرانی‌ها درباره استفاده از هوش مصنوعی رو به افزایش است؟

جهان شاهد نوآوری‌های سریعی در فناوری هوش مصنوعی بوده و همین موضوع باعث ایجاد نگرانی‌هایی شده است.

کد خبر: ۶۳۷۱۵۸

تاریخ: ۳۱ تير ۱۴۰۲ - ۱۴:۲۴

استفاده بدخواهانه و مخرب از سیستم‌های هوش مصنوعی می‌تواند باعث مرگ و ویرانی «وحشتناک» شود.

آنتونیو گوترش خواستار تشکیل یک نهاد جدید سازمان ملل برای مقابله با تهدیدات ناشی از این فناوری شد.

گوترش گفت که استفاده مضر از هوش مصنوعی برای اهداف تروریستی، جنایی یا دولتی همچنین می‌تواند باعث «آسیب روانی عمیق» شود.

وی می‌گوید که حملات سایبری مبتنی بر هوش مصنوعی عملیات‌های حافظ صلح سازمان ملل و عملیات بشردوستانه را هدف قرار می‌دهند.

به گفته وی، استفاده بدخواهانه از سیستم‌های هوش مصنوعی برای اهداف تروریستی، جنایی یا دولتی می‌تواند به سطوح وحشتناک مرگ و ویرانی، آسیب‌های روانی گسترده و آسیب‌های روانی عمیق در مقیاسی غیرقابل تصور منجر شود.

گونرش در اولین جلسه شورای امنیت سازمان ملل در موضوع هوش مصنوعی، گفت که پیدایش هوش مصنوعی مولد می‌تواند لحظه‌ای تعیین کننده در موضوع انتشار اطلاعات نادرست و سخنان نفرت انگیز باشد و بعد جدیدی به دستکاری رفتار انسانی بیافزاید.

منظور از هوش مصنوعی مولد، ابزار‌های هوش مصنوعی مانند ChatGPT است که متن، تصویر و صدای قانع‌کننده‌ای را از درخواست‌های انسان تولید می‌کنند.

انگلیس ریاست جلسه را بر عهده داشت و «جیمز کلورلی»، وزیر خارجه این کشور، جلسه را با فراخوانی برای حاکمیت جهانی هوش مصنوعی آغاز کرد.

کلورلی، گفت: ما باید فوراً به مدیریت جهانی فناوری‌های تحول‌آفرین شکل دهیم، زیرا هوش مصنوعی مرزی نمی‌شناسد. هیچ کشوری از هوش مصنوعی مصون نخواهد بود، بنابراین ما باید گسترده‌ترین ائتلاف بازیگران بین‌المللی از همه بخش‌ها را درگیر و مشارکت دهیم.

خطرات هوش مصنوعی

به گزارش «مدیوم»، جهان در سال‌های اخیر شاهد نوآوری‌های سریعی در فناوری هوش مصنوعی بوده است.

هوش مصنوعی در حال حاضر در صنایع مختلف یافت می‌شود. شرکت‌های بیشتری استفاده از سیستم‌های هوش مصنوعی در عملیات تجاری خود را به منظور افزایش کارایی، گسترش دسترسی یا گسترش دامنه محصولات و خدمات خود، آزمایش می‌کنند.

اما همانطور که هوش مصنوعی به تکثیر ادامه می‌دهد و دامنه آن وسیع‌تر و قدرتمندتر می‌شود، خطرات مختلفی نیز در این رابطه وجود دارد.

دیپ فیک و اطلاعات غلط

دیپ فیک یک تصویر یا ویدئوی مصنوعی متقاعد کننده و ساخته شده از سوی رایانه است.

کلمه دیپ فیک ممکن است از اصطلاح مرتبط با هوش مصنوعی «یادگیری عمیق» نشأت گرفته باشد؛ فرآیندی که در آن برخی از سیستم‌های هوش مصنوعی حجم عظیمی از داده‌ها را برای آموزش خود و یادگیری تجزیه و تحلیل می‌کنند.

دیپ فیک یک نگرانی در حال ظهور در چند سال اخیر بوده است.

بسیاری از دیپ‌فیک‌ها حاوی تصاویر یا ویدیو‌هایی از افراد مشهور هستند، اما می‌توان از آن‌ها برای ایجاد انواع دیگری از اطلاعات نادرست یا محتوای مخرب، از جمله گزارش‌های خبری گمراه‌کننده استفاده کرد.

خطرات احتمالی دیپ فیک‌ها قابل توجه است و یکی از بارزترین نمونه‌های دسته بندی گسترده‌تری از خطر هوش مصنوعی است: اطلاعات غلط.

از هوش مصنوعی می‌توان برای ایجاد و به اشتراک گذاری گسترده مطالبی استفاده کرد که نادرست است، اما به طور قانع کننده‌ای درست به نظر می‌رسد.

پیامد‌های اجتماعی، سیاسی و قانونی زیادی برای دیپ فیک‌ها و سایر اطلاعات نادرست تولید شده از سوی هوش مصنوعی وجود دارد، و یکی از بزرگترین مسائل این است که در حال حاضر اساساً هیچ قانونی برای این فناوری وجود ندارد.

حریم خصوصی

هوش مصنوعی از حجم عظیمی از اطلاعات برای آموزش خود استفاده می‌کند و این اطلاعات معمولاً از داده‌های واقعی افراد واقعی تشکیل شده است.

این به تنهایی یک تجاوز بالقوه به حریم خصوصی است و نمونه‌های خاصی از سیستم‌های هوش مصنوعی وجود دارد که تهدید‌های بزرگ‌تری برای حفظ حریم خصوصی ایجاد می‌کنند.

از بین رفتن مشاغل

یکی از رایج‌ترین نگرانی‌ها درباره هوش مصنوعی این است که به اتوماسیون مهارت‌ها و فرآیند‌هایی منجر می‌شود که به قدری کارآمد است که به حذف مشاغل انسانی یا حتی کل صنایع خواهد انجامید.

در واقعیت، کارشناسان درباره تأثیر احتمالی هوش مصنوعی بر مشاغل دچار تعارض هستند.

یک مطالعه اخیر نشان می‌دهد که ممکن است حدود ۸۵ میلیون شغل به دلیل اتوماسیون هوش مصنوعی بین سال‌های ۲۰۲۰ تا ۲۰۲۵ از بین برود.

مطالعه دیگر نشان می‌دهد که هوش مصنوعی می‌تواند تا سال ۲۰۲۵ میلادی ۹۷ میلیون شغل جدید ایجاد کند.