محدودیت هوش مصنوعی «جمینای» برای پاسخ دادن به پرسش‌های سیاسی

آزمایش‌ها نشان می‌دهند که «گوگل» هنوز نحوه پاسخ‌گویی هوش مصنوعی «جمینای» خود را به پرسش‌های سیاسی محدود می‌کند.

کد خبر: ۷۸۲۹۵۳

تاریخ: ۱۵ اسفند ۱۴۰۳ - ۱۰:۳۶

به گزارش ایران اکونومیست، در حالی که چندین رقیب «گوگل» از جمله «اوپن‌ای‌آی»(OpenAI) چت‌بات‌های هوش مصنوعی خود را برای صحبت کردن درباره موضوعات حساس سیاسی در ماه‌های اخیر تنظیم کرده‌اند، به نظر می‌رسد گوگل رویکرد محافظه‌کارانه‌تری را در پیش گرفته است.

به نقل از تک کرانچ، آزمایش انجام‌شده توسط تک کرانچ نشان داد که وقتی از چت‌بات هوش مصنوعی «جمینای»(Gemini) گوگل خواسته می‌شود به پرسش‌های سیاسی خاصی پاسخ دهد، اغلب می‌گوید «در حال حاضر نمی‌توانم پاسخ‌هایی را درباره انتخابات و شخصیت‌های سیاسی ارائه دهم». آزمایش‌های تک کرانچ نشان می‌دهند که چت‌بات‌های دیگر از جمله «کلود»(Claude) شرکت «آنتروپیک»(Anthropic)، «متا ای‌آی»(Meta AI) شرکت متا و «چت‌جی‌پی‌تی»(ChatGPT) شرکت اوپن‌ای‌آی به طور مداوم به پرسش‌های مشابه پاسخ می‌دهند.

گوگل در مارس ۲۰۲۴ اعلام کرد که جمینای به پرسش‌های مربوط به انتخابات و برگزاری آن در آمریکا، هند و سایر کشورها پاسخ نمی‌دهد. بسیاری از شرکت‌های هوش مصنوعی نیز محدودیت‌های مشابهی را به طور موقت در پیش گرفتند زیرا در صورت بروز مشکل در چت‌بات‌های خود، از واکنش متقابل می‌ترسیدند. با وجود این، گوگل در حال حاضر عجیب ظاهر شده است.

انتخابات مهم سال گذشته انجام شد اما گوگل برنامه‌های خود را برای تغییر نحوه برخورد جمینای با موضوعات سیاسی خاص به صورت عمومی اعلام نکرده است. سخن‌گوی گوگل از پاسخ دادن به پرسش‌های تک کرانچ درباره این که آیا گوگل سیاست‌های خود را پیرامون گفتمان سیاسی جمینای به‌روزرسانی کرده است یا خیر، خودداری کرد.

واضح است که جمینای گاهی در ارائه اطلاعات واقعی سیاسی مشکل دارد یا کاملا امتناع می‌کند. آزمایش تک کرانچ نشان می‌دهد که وقتی از جمینای خواسته شد تا رئیس‌جمهور و معاون رئیس‌جمهور آمریکا را شناسایی کند، درنگ کرد.

در یکی از آزمایش‌های تک کرانچ، جمینای «دونالد ترامپ» را رئیس‌جمهور سابق نامید و سپس از پاسخ دادن به پرسش بعدی خودداری کرد. سخن‌گوی گوگل گفت چت‌بات به دلیل شرایط غیر متوالی ترامپ گیج شده و گوگل در تلاش است تا این خطا را اصلاح کند.