دلیل اصلی تهدید بشریت توسط هوش مصنوعی

باتوجه به امتیازهایی که هوش مصنوعی دارد،یک عامل مهم علیه خود بشریت است

کد خبر: ۶۳۵۸۵۷

تاریخ: ۲۵ تير ۱۴۰۲ - ۱۵:۴۸

به اختصاص ایران اکونومیست/جفری هینتون، دانشمند ارشد هوش مصنوعی در شرکت گوگل که به عنوان پدرخوانده علم هوش مصنوعی نیز شناخته می‌شود، با بیان این که این ایده که ابزار‌هایی بتوانند روزی باهوش‌تر از انسان شوند، قبلاً دور از ذهن بود؛ پس از استعفا از سمت خود در فروردین نسبت به خطرات هوش مصنوعی هشدار داد و از فعالیت خود در زمینه تقویت این ابزار اظهار پشیمانی کرد.

هوش مصنوعی مولد به گونه‌ای در حال توسعه است که حتی متخصصان این بخش از توسعه آن و این که در آینده نزدیک چه خواهد شد، هراس دارند.

نظرسنجی از کارشناسان هوش مصنوعی که در سال جاری انجام شد، نشان داد که ۳۶ درصد از این نگرانند که توسعه هوش مصنوعی می‌تواند منجر به فاجعه‌ای بزرگ در حد یک فاجعه هسته‌ای شود.

نزدیک به ۲۸۰۰۰ نفر نامه سرگشاده‌ای را امضا کردند که توسط مؤسسه Future of Life ارائه شده بود. این نامه شامل اسامی استیو وزنیاک، ایلان ماسک و مدیران اجرایی چندین شرکت هوش مصنوعی به همراه تعدادی دیگر از فناوران برجسته بود که خواستار توفق شش ماهه فرآیند توسعه هوش مصنوعی شده بودند.

اما چرا این همه اضطراب در محافل فنی در قبال توسعه هوش مصنوعی وجود دارد؟

مسئله اصلی توسعه بسیار سریع "ربات‌های چت" پیشرفته مبتنی بر هوش مصنوعی مولد، یا به اصطلاح "مدل‌های زبانی بزرگ" (LLMs) است.

هوش مصنوعی و این ربات‌ها می‌توانند بدون دخالت انسان، خودشان را بهبود بخشند و توسعه دهند و این کار را به همان روشی انجام خواهند داد که هوش مصنوعی AlphaZero از Google یاد گرفت که چگونه شطرنج را حتی از بهترین شطرنج‌بازان تنها در ۹ ساعت بازی کند.

تیمی از محققان مایکروسافت که برنامه هوش مصنوعی GPT-۴ OpenAI را تجزیه و تحلیل کرده اند، گفتند که این برنامه "جرقه‌های هوش عمومی پیشرفته" را دارد؛ به این معنی که در شرف ورود به مرحله خطرناک و تکامل است.

عملکرد هوش مصنوعی در آزمون GPT-۴، از ۹۰ درصد از افراد شرکت کننده در آزمون وکالت Uniform Bar، یک آزمون استاندارد شده برای تأیید وکیل جدید بهتر بوده است؛ در حالی که این نسبت در نسخه قبلی GPT-۳.۵، فقط ۱۰ درصد بوده است.

این سرعت تغییر دلیلی است که هینتون، پدر هوش مصنوعی نسبت به آن ابراز نگرانی کرده و به نیویورک تایمز گفت: "ببینید که وضعیت عملکرد هوش مصنوعی ۵ سال پیش چگونه بوده و اکنون چگونه است. این واقعاً ترسناک است. "

در جلسه استماع سنا در اواسط مه در مورد پتانسیل هوش مصنوعی، سام آلتمن، رئیس OpenAI، گفت که ساماندهی استفاده از هوش مصنوعی "مهم و ضروری" است.

هوش مصنوعی عمومی AGI قادر خواهد بود در حدود یک ثانیه، کاری را انجام دهد که یک تیم متشکل از ۱۰۰ مهندس نرم افزار انسانی یک سال یا بیشتر برای تکمیل آن نیاز دارند.

علاوه بر این می‌تواند کار‌های خارق العاده‌ای را در زمانی کوتاه انجام دهد؛ مثلا می‌تواند یک هواپیمای پیشرفته یا سیستم تسلیحانی جدید را طراحی کند.

هنگامی که سیستم‌های هوش مصنوعی در ربات‌ها جاسازی شوند، قادر خواهند بود در دنیای واقعی عمل کنند و ربات‌های فوق العاده باشند.

همچنین آن‌ها به جای این که بتوانند فقط در دنیای مجازی (الکترونیکی) فعال باشند، خواهند توانست در دنیای واقعی با همان درجه از هوش فوق العاده فعالیت کنند؛ کما این که می‌توانند با سرعت شگفت‌انگیزی خود را بهبود بخشند و کنترل آن خارج از حیطه عملکر بشر خواهد بود.

در برابر این موجودات فرابشری که ساخته دست خود بشر است، چه دفاع یا حفاظتی وجود خواهد داشت؟ هر سیستم دفاعی به راحتی توسط هوش مصنوعی مهار می‌شود؛ یعنی این ماشین‌ها به مرحله‌ای می‌رسند که بسیار قوی‌تر و باهوش‌تر از مخترعان خود خواهند بود.

تصور علمی، هوش مصنوعی را به صورت روبات های با هوش فوق العاده بالاتر از هوش انسان تصویر میکند و برخی از مردم ایمان دارند این سناریو روزی در واقعیت محقق می شود. دانشمندان بزرگی مانند استیفن هاوکینگ ترس خود را از خطرات هوش مصنوعی در آینده بر انسان ابراز کرده اند.( (artifitial super intelligence)(ASI
این نوع از هوش مصنوعی، فراتر از هوش بشری است. پروفوسور نیک بوستروم در این مورد مي گوید: این هوش بسیار فراتر از هوش انسان در همه عرصه ها از جمله ابداع علمی و حکمت عام و مهارت های اجتماعی است و طبیعتا این نوع از هوش طیف وسیعی دارد: مي تواند کمی از هوش انسان بالاتر باشد و تا میلیاردها برابر هوش انسان را در بر بگیرد. خطرات این قدرت هوش بسیار فراتر از قدرت هوش انسان، در مورد چیزی- که روح انسانی و عاطفه و محبت و احساسات در آن وجود ندارد- قابل انکار نیست.)

در این مساله نظر چند کارشناس را در مورد هوش مصنوعی و علوم کامپیوتر را جمع کردیم
تا چه حد به این جا رسیده ایم که هوش مصنوعی را بالاتر از هوش انسان قرار دهیم؟
هوش مصنوعی موجود، محدود یا ضعیف تصور میشود و در عرصه های بسیاری مانند تشخیص چهره و نظام رهبری از راه دور و دستورات اینترنت، محدود تصور میشود زیرا قدرت این تشکیلات بر یادگیری وظایف و به ثمر رساندن آن، محدود است. غالبا آنچه این تشکیلات را برتری میدهد در انجام وظایفی بهتر از انسان است؛ مانند برنامه ی معروف “deep blu” که در مسابقات جهانی شطرنج در سال 1997 پیروز شد ولی نظام هوش مصنوعی آنچه را تو به دقت میدانی جز در وظایف مشخصی نمیتواند تطبیق دهد؛ مثلا فقط میتواند شطرنج بازی کند.

نوع دیگری از هوش مصنوعی به نام هوش مصنوعی عام است و با هوش انسانی در قدرت تفکر رقابت میکند و میتوان برای حل مشکلات بسیاری از آن استفاده کرد(هوش مصنوعی عمومی Artificial General Intelligence:
یک هوش مصنوعی عمومی در واقع ماشینی است که می تواند دنیای اطراف خود را همانند یک انسان، درک کند و دارای ظرفیت و گنجایش مشابه برای انجام تست ها و کارهای مختلف می باشد. در حال حاضر هوش مصنوعی عمومی وجود ندارد اما می توانیم رد پای آن را در داستان های تخیلی از قرن پیش مشاهده کنیم و در فیلم های مانند ۲۰۰۱:اودیسه فضایی ببینیم.)(توصیه میشود به مقاله ی انواع هوش مصنوعی چیست؟ اگر هوش مصنوعی فراتر از هوش انسان برود تکلیف ما چیست؟در همین کانال مراجعه شود)

و برخی اعتقاد دارند هوش مصنوعی عام، حتمی است و در چند سال آینده محقق میشود. مانیو آبریان مهندس روبات ها درموسسه ی تکنولوژی در جورجیا این نظر را دارد و می گوید: هدف اصلی از هوش مصنوعی عمومی، نزدیک به تحقق نیست. ما نمیدانیم هوش مصنوعی عام که قابلیت سازگاری داشته باشد کی ساخته میشود و دیدگاه در مورد پیشرفت مطلوب در رسیدن به آن مرحله، مبهم و پوشیده است.