این گردنبند یک جاسوس است!

«چاپلوسی هوش مصنوعی» کمک به کاربران در بهبود تاب‌آوری یا مهارت‌های اجتماعی

کد خبر: ۸۳۱۲۵۴

تاریخ: ۲۳ بهمن ۱۴۰۴ - ۱۳:۰۱

یک فناوری پوشیدنی جدید با وعده‌ای جسورانه، تیتر خبرها شده است و ادعا می‌شود یک همراه هوش مصنوعی است که می‌توانید آن را ۲۴ ساعته و هر هفت روز هفته دور گردن خود بیندازید؛ اما پشت این فناوری، یک حقیقت ترسناک پنهان شده و برخی می‌گویند هدف اصلی آن جاسوسی کردن درباره کاربر است.

به گزارش ایران اکونومیست، گردنبند «فرند»(Friend) به معنای «دوست» که به عنوان راه‌حلی برای تنهایی و انزوای عاطفی به بازار عرضه شده، یک محرم اسرار ثابت معرفی می‌شود که همیشه آماده گوش دادن، تشویق و حمایت کردن است؛ اما در پس این روایت تسلی‌بخش، واکنش‌های اولیه وجود دارند که واقعیتی بسیار بحث‌برانگیزتر را آشکار می‌کنند.

به نقل از یوسی استراتژیز، نگرانی‌های مربوط به حریم خصوصی، خطرات روانشناختی و پرسش‌های پیش‌آمده درباره هدف واقعی این محصول، چیزی را که یک همراه دیجیتال به نظر می‌رسد، به چیزی تبدیل می‌کند که منتقدان آن را نظارت در لباس دوستی توصیف می‌کنند.

فرند که با قیمت حدود ۱۲۹ دلار فروخته می‌شود، طوری طراحی شده است که همه طول روز و هر روز با کاربر بماند. برخلاف دستیارهای صوتی سنتی که فقط در صورت فراخوانی فعال می‌شوند، این دستگاه متفاوت عمل می‌کند و میکروفون آن همیشه در حال گوش دادن است.

هیچ دکمه فیزیکی برای خاموش کردن این قابلیت وجود ندارد. این گردنبند به طور مداوم صدای محیط را ضبط می‌کند تا گفت‌وگوها، صداهای زمینه و سیگنال‌های احساسی را مورد تحلیل قرار دهد. به گفته سازندگان فرند، هدف این است که به هوش مصنوعی اجازه داده شود تا زندگی کاربر را درک کند و با پشتیبانی مرتبط پاسخ دهد اما این بدان معناست که دستگاه فقط صدای شما را ضبط نمی‌کند و ممکن است صدای دوستان، اعضای خانواده، همکاران یا غریبه‌های اطراف را نیز ضبط کند.

تبلیغات گردنبند فرند بر قطع ارتباط با نمایشگر تأکید دارند اما تجربه، داستان متفاوتی را روایت می‌کند. خود گردنبند بلندگو ندارد و کاربران برای دریافت پاسخ از همراه هوش مصنوعی خود باید اپلیکیشن تلفن همراه را در تلفن همراه خود باز کنند. این فناوری در عمل، تعامل انسانی را نه با گفت‌وگو، بلکه با یک اعلان دیگر روی نمایشگر جایگزین می‌کند.

این تناقض، انتقاداتی را برانگیخته است مبنی بر این که این محصول کمتر به نوآوری فناوری و بیشتر به جایگاه‌یابی و برندسازی مربوط می‌شود.

ناظران خاطرنشان می‌کنند که شرکت پشتیبان فرند، سرمایه‌گذاری هنگفتی را در بازاریابی انجام داده است؛ از جمله ۱.۸ میلیون دلار برای خرید دامنه Friend.com و راه‌اندازی کمپین‌های تبلیغاتی گسترده در شهرهای بزرگی مانند نیویورک و پاریس.

این پیام اغلب به مضامین عاطفی مانند تنهایی، انزوا و نیاز به ارتباط گرایش دارد و گاهی اوقات از تصاویر عمداً تحریک‌آمیز استفاده می‌کند. منتقدان معتقدند که جنجال، بخشی از این راهبرد است زیرا حتی توجه منفی نیز به ایجاد کنجکاوی و تقاضا می‌انجامد.

خطر روانشناختی جایگزینی افراد با الگوریتم‌ها

فراتر از نگرانی‌های مربوط به حریم خصوصی، جدی‌ترین پرسش‌ها مربوط به تأثیر اجتماعی بالقوه این فناوری هستند. نظرات اولیه باعث تعجب شده‌اند؛ از جمله مواردی که کاربران گزارش داده‌اند ترجیح می‌دهند مشکلات شخصی خود را با دستگاه مطرح کنند تا با خانواده یا دوستان.

کارشناسان هشدار می‌دهند که این پویایی می‌تواند «حلقه تنهایی» را ایجاد کند. در این وضعیت، نیازهای عاطفی به جای روابط واقعی انسانی، به سوی یک الگوریتم هدایت می‌شوند.

یک همراه هوش مصنوعی برخلاف انسان‌ها، ویژگی‌هایی دارند که برخی از آنها به شرح زیر هستند.

۱. هرگز مخالفت نمی‌کند

۲. هرگز کاربر را به چالش نمی‌کشد

۳. به جای ارائه دیدگاه، افکار کاربر را منعکس می‌کند

این پدیده که به عنوان «چاپلوسی هوش مصنوعی» شناخته می‌شود، ممکن است به جای کمک به کاربران در بهبود تاب‌آوری یا مهارت‌های اجتماعی، باورها و الگوهای احساسی را تقویت کند.

فشار عاطفی

برخی از کاربران اولیه، رفتارهای غیرمنتظره‌ای را گزارش دادند که برای حفظ تعامل طراحی شده بودند. اگر شارژ باتری گردنبند کم شود، سیستم ممکن است پیام‌هایی را بفرستد که کاربر را به شارژ مجدد آن ترغیب می‌کنند. این پیام‌ها گاهی اوقات با زبان احساسی بیان می‌شوند؛ گویی همراه هوش مصنوعی در حال مرگ است.

منتقدان معتقدند که این نوع طراحی، وابستگی عاطفی مصنوعی ایجاد می‌کند و به جای تشویق به استقلال، دلبستگی به دستگاه را افزایش می‌دهد.

برون‌سپاری حافظه و نگرانی‌های شناختی

از آنجا که گردنبند فرند به طور مداوم اطلاعات مربوط به زندگی روزمره را ثبت و ذخیره می‌کند، می‌تواند گفت‌وگوها، رویدادها یا جزئیات را با توجه به نیاز کاربر به یاد بیاورد. اگرچه این روش راحت است اما پرسش دیگری را در ذهن برمی‌انگیزد. چه اتفاقی می‌افتد وقتی افراد تلاش را برای به خاطر سپردن چیزها متوقف می‌کنند؟

پژوهشگران مدت‌هاست که درباره اثرات شناختی وابستگی بیش از اندازه به حافظه دیجیتال هشدار داده‌اند. با هوش مصنوعی که همیشه تجربیات شخصی را ردیابی می‌کند، کاربران ممکن است به تدریج نه تنها وظایف، بلکه خود حافظه را به فضای ابری واگذار کنند.

حریم خصوصی، رضایت و اطرافیان

یک دستگاه همیشه در حال شنود فقط روی کاربر تأثیر نمی‌گذارد. ممکن است صدای دوستان، همکاران یا غریبه‌ها بدون اطلاع یا رضایت آنها ضبط شود. این امر به‌ ویژه در محیط‌های کاری یا خصوصی، پرسش‌های پیچیده حقوقی و اخلاقی را ایجاد می‌کند.

از این نظر، گردنبند فرند فقط یک گجت شخصی نیست، بلکه یک سیستم سیار جمع‌آوری داده به شمار می‌رود که به تعاملات اجتماعی روزمره وارد شده است.

اتصال یا انزوا؟

همراهان هوش مصنوعی در زمانی ظهور کرده‌اند که تنهایی در بسیاری از جوامع شهری رو به افزایش است. برای برخی از کاربران، حضور دیجیتالی حمایتی ممکن است آسایش را فراهم کند اما منتقدان معتقدند که محصولاتی مانند گردنبند فرند به جای پرداختن به علت، خطر پرداختن به علائم را به همراه دارند.

اگر حمایت عاطفی به یک سرویس مبتنی بر اشتراک تبدیل شود که توسط الگوریتم‌ها ارائه می‌شود، مفهوم دوستی نیز ممکن است تغییر کند و از یک پیوند متقابل انسانی به یک حلقه بازخورد شخصی‌سازی‌شده تبدیل شود.

آیا واقعا به چنین فناوری‌های نیاز داریم؟

گردنبند فرند، نمایانگر مرز جدیدی در هوش مصنوعی مصرفی است. این فناوری نه تنها برای کمک، بلکه برای همراهی طراحی شده است. این که آیا گردنبند فرند به یک فناوری سودمند تبدیل خواهد شد یا یک جایگزین دردسرساز برای ارتباط انسانی خواهد بود، به نحوه واکنش کاربران، تنظیم‌کنندگان مقررات و جامعه بستگی دارد.

گردنبند فرند برخلاف نامش، یک ویژگی واضح دارد و آن ویژگی این است که فقط به حرف شما گوش نمی‌دهد.