استفاده از روبات های هوش مصنوعی برای ارتباط عاطفی/ سمت و سوی تاریک ربات‌ شریک عاطفی

منبع: ساعد نیوز

1

1402/12/3

13:25


ساعد نیوز: پژوهشگران می‌گویند شریک عاطفی ساخته شده توسط هوش مصنوعی، داده‌های شخصی «ناجور» را ‏جمع‌آوری می‌کند

استفاده از روبات های هوش مصنوعی برای ارتباط عاطفی/ سمت و سوی تاریک ربات‌ شریک عاطفی

به گزارش پایگاه خبری تحلیلی ساعد نیوز به نقل از وقت صبح، بر پایه پژوهشی جدید، شریک‌های عاطفی پرطرفدار مبتنی بر هوش مصنوعی اطلاعات «ناجور» فرد را گردآوری کرده و معیارهای حریم خصوصی را رعایت نمی‌کنند. هیچ‌یک از 11 ربات مکالمه (چت‌بات) مبتنی بر هوش مصنوعی که پژوهشگران بنیاد موزیلا آن را بررسی کردند، از جمله رپلیکا و ایوا ای‌آی، با الزام‌های ایمنی این سازمان مطابقت نداشتند.

این امر آن‌ها را «همتراز با بدترین دسته محصولاتی» قرار داد که این سازمان تاکنون از لحاظ رعایت حفظ حریم شخصی بررسی کرده است. ربات‌های مکالمه‌ مبتنی بر هوش مصنوعی که رابطه احساسی با کاربران برقرار می‌کنند در سال گذشته رشد زیادی داشته‌اند و شمار نتایج جست‌وجو برای «شریک عاطفی هوش مصنوعی» در گوگل به بیش از سه میلیارد رسیده است. محبوبیت آن‌ها ناشی از عرضه مدل‌های پیشرفته هوش مصنوعی مولد مانند چت ‌جی‌پی‌تی است که می‌توانند پاسخ‌هایی مشابه با پاسخ‌های انسان‌ بدهند.

موزیلا در بررسی ربات‌های مکالمه پرطرفدار به چند «هشدار» از جمله به رمزگذاری‌نشدن اطلاعات شخصی برای رعایت حداقل استانداردهای امنیتی اشاره کرد. میشا رایکوف، پژوهشگر طرح «شامل حریم شخصی نیست» موزیلا می‌گوید: «خیلی صریح بگویم، شریک‌های عاطفی هوش مصنوعی دوستان شما نیستند

هرچند آن‌ها را به‌منزله چیزی عرضه و تبلیغ می‌کنند که موجب بهبود سلامت روان و خوشی شما می‌شوند، اما تخصص‌شان در ایجاد وابستگی، حس تنهایی و سمی بودن است، ضمن آنکه تا حد ممکن از شما اطلاعات می‌گیرند.» شرح این پژوهش در یک پست وبلاگی در روز چهارشنبه توضیح داده شد که همزمان با روز ولنتاین بود. یافته‌های این پژوهش هشداری است دراین ‌باره که ربات‌های مکالمه‌ احساساتی مبتنی بر هوش مصنوعی، حریم خصوصی کاربران را «به روش‌های جدید آزاردهنده‌ای» نقض می‌کنند.

در گزارش مربوط به «ایوا ای‌آی چت‌بات و سول‌میت»، رباتی که هزینه استفاده از آن در حدود 17دلار در ماه است، آمده که این ربات مکالمه‌ای، سیاست حفظ حریم خصوصی خوبی دارد، با این وجود برای دستیابی به اطلاعات شخصی «سمج» است. در یک پیام وبلاگی در وب‌سایت بنیاد موزیلا آمده است:

«ربات مکالمه مبتنی بر هوش مصنوعی "ایوا" به‌دلیل سماجت زیادی که برای دستیابی به انبوهی از اطلاعات شخصی دارد، ناجور است، حتی اگر سیاست حفظ حریم خصوصی آن‌ها به نظر می‌آید که یکی از بهترین‌هایی باشد که ما بررسی کرده‌ایم و فقط اینکه در سیاست رعایت حریم خصوصی آن‌ها گفته شده است که اکنون اطلاعات به‌دست آمده را به‌طور گسترده به دیگران نمی‌دهند یا نمی‌فروشند، به این معنی نیست که سیاست حفظ حریم خصوصی آن‌ها در آینده تغییر نخواهد کرد.»

این پژوهشگران به کاربران ربات‌های مکالمه مبتنی بر هوش مصنوعی توصیه کرده‌اند که هیچ اطلاعات حساسی را با آن‌ها به اشتراک نگذارند و زمانی که دیگر از این اپلیکیشن استفاده نمی‌کنند، درخواست بدهند که داده‌هایشان حذف و پاک شود. همچنین توصیه می‌شود که به برنامک‌های ربات‌های مکالمه‌ چت‌بات‌های مبتنی بر هوش مصنوعی اجازه ردیابی مداوم موقعیت جغرافیایی، دسترسی به عکس‌ها، ویدئوها، یا دوربین دستگاه ندهید.

مطالب مشابه


نظرات


تصویری


ویدئو