شما هم متوجه این موضوع شده اید که ایجنت‌های هوش مصنوعی دارند روز به روز به شکل نگران کننده‌ای با مزه‌تر می شوند؟! ابتدا نوبت به Muse از Meta رسید که شخصیت نمادین آن موجودی پشمالو و تخم‌مرغی‌شکل به نام Jolly است. حالا هم نوبت به OpenAI رسیده که از ایجنت‌های شخصی خودش با ظاهری شبیه عروسک‌های ماپت، با نام Dots، رونمایی کرده است.
هر دوی این شرکت ها کاربران را تشویق می‌کنند با ایجنت خود مثل یک حیوان خانگی دیجیتال رفتار کنند؛ ایجنت‌هایی که نام و ظاهر منحصربه‌فرد خود را دارند. با توجه به همه بحث‌ها و نگرانی های فعلی درباره ایمنی هوش مصنوعی و بدبینی عمومی نسبت به این صنعت و خطرات ایجنت‌های هوش مصنوعی، عجیب نیست که شرکت‌ها بخواهند ایجنت‌هایشان را بامزه و غیرتهدیدکننده نشان دهند.
دیگر شما با یک چت بات بی چهره که گاهی اوقات شما را دیوانه می کند، سر و کار ندارید؛ بلکه یک دستیار کوچک و دوست‌داشتنی دارید که قرار است بهره‌وری شما را افزایش دهد. ولی، صرف اینکه این ابزارها ظاهری شبیه شخصیت‌های کارتونی دارند، به این معنا نیست که از خطرات ایجنت‌های هوش مصنوعی غافل شوید.
OpenAI و Meta هر دو می‌گویند چندین لایه حفاظتی برای محافظت از داده‌های شما و جلوگیری از خارج شدن ایجنت‌های شخصی‌شان از کنترل و در امان ماندن از خطرات ایجنت‌های هوش مصنوعی در نظر گرفته شده است. اما حتی زمانی که این سیستم‌ها دقیقاً مطابق انتظار عمل می‌کنند، ممکن است اقداماتی انجام دهند که شما قصد انجامشان را نداشته‌اید.
تجربه کاربران و خطرات ایجنت‌های هوش مصنوعی
بد نیست در اینجا به تجربه برخی کاربران خارجی اشاره می کنیم. یک یوتیوبر حوزه فناوری، با نام مت راب، از Muse خواست به او برای فروش چند کالا در Facebook Marketplace کمک کند. او گفت ایجنت بدون اجازه، آدرس خانه‌اش را برای فردی ارسال کرده است؛ آن هم برای معامله‌ای که خودش هرگز با آن موافقت نکرده بود. پس از اینکه پست‌های راب درباره این اتفاق در فضای مجازی فراگیر شد و دیوید سینگلتون، یکی از مدیران Meta، وارد ماجرا شد، راب توضیح داد که ایجنت در واقع از کنترل خارج نشده بود. او در حقیقت قبلاً به ایجنت اجازه داده بود آدرسش را به اشتراک بگذارد، اما خودش متوجه این موضوع نشده بود.
راب توضیح داد زمانی که برای اولین بار از ایجنت خواست آگهی را مدیریت کند، Muse قالبی ایجاد کرد که آدرس محل تحویل کالا را هم شامل می‌شد. او به اشتباه تصور کرده بود که ایجنت پیش از به اشتراک گذاشتن این اطلاعات، دوباره از او اجازه می‌گیرد. اما چون به‌جای گزینه «فقط یک بار اجازه بده» گزینه «همیشه اجازه بده» را انتخاب کرده بود، ایجنت پیام را برای «همه کسانی که به من پیشنهاد داده بودند» ارسال کرد. این دقیقاً همان نوع اشتباهی است که هنگام استفاده از ایجنت‌ها به راحتی ممکن است رخ دهد و نشانه ای از خطرات ایجنت‌های هوش مصنوعی است.
افراد دیگری که خودشان را کاربران حرفه‌ای فناوری می‌دانند نیز با مشکلات مشابهی روبه‌رو شده‌اند. جیسون آتن، روزنامه نگار نشریه Inc، گزارش داد که پس از نصب اپلیکیشن Muse برای مک، این ایجنت توانسته بود تمام پیام‌های متنی او را بخواند؛ درحالی‌که آتن تصور می‌کرد دسترسی به پیام‌ها را «به صراحت» رد کرده است.
او پس از بررسی بیشتر متوجه شد که اپلیکیشن Muse برای مک در واقع پیام‌های موجود در رایانه‌اش را همگام‌سازی کرده است. همان مدیر Meta، یعنی سینگلتون، در پاسخ به پست‌های آتن در X گفت که همگام‌سازی پیام‌ها به‌صورت اختیاری انجام می‌شود و کاربر باید خودش آن را فعال کند. منظور ضمنی او این بود که اگر پیام‌های آتن همگام‌سازی شده‌اند، حتماً خود او این گزینه را انتخاب کرده است.
آتن کاملاً مطمئن است که هرگز به Muse اجازه دسترسی به پیام‌هایش را نداده، اما می‌گوید صرف‌نظر از اینکه دقیقاً چه اتفاقی افتاده، این وضعیت همچنان مشکل‌ساز است. او نوشت: «حتی اگر فرض سینگلتون را بپذیریم که من نا آگاهانه روی گزینه‌ای کلیک کرده‌ام که این قابلیت را فعال کرده، باز هم فکر می‌کنم این اتفاق واقعاً بد است. نباید سیستم را به شکلی طراحی کنید که در نهایت کاربران از چنین اتفاقی و خطرات ایجنت‌های هوش مصنوعی غافلگیر شوند.»
ظاهر بامزه و خطرات ایجنت‌های هوش مصنوعی
اتفاقاتی نظیر موارد بالا برای کاربران، به این دلیل رخ ندادند که Muse یک آواتار بامزه دارد، اما به نظر می‌رسد Meta به‌شدت روی ظاهر و حال‌وهوای شخصیت نمادین ایجنت خود تمرکز کرده است. تقریباً هر به‌روزرسانی Muse ، با پست‌هایی در X همراه بوده که تصاویر و ویدیوهای بزرگ و برجسته‌ای از نسخه‌های متناسب Jolly را نشان می‌دهند. حتی سینگلتون هم در یک پست مفصل که درباره ماشین مجازی (Virtual Machin-VM) مربوط به Muse توضیح می‌داد، از تصویر Jolly استفاده کرد.
ظاهر کارتونی این شخصیت همچنین تا همین حالا باعث شده Meta حجم زیادی تبلیغات رایگان دریافت کند. در هفته‌ای که از کنفرانس Connect شرکت Meta می‌گذرد، Jolly به یکی از سوژه‌های ساخت میم در X تبدیل شده است.
Dots شرکت OpenAI هم به نظر می‌رسد پتانسیل زیادی برای تبدیل شدن به سوژه میم‌ها داشته باشند. این شرکت هنگام معرفی Dots، یک ویدیوی تبلیغاتی منتشر کرد که در آن افراد با جدیت تمام با Dots هایی در رنگ‌ها، شکل‌ها و لهجه‌های مختلف صحبت می‌کردند. یکی از آن‌ها موجودی سبز با چشم‌های عروسکی و پاپیون است که شباهت عجیبی به کرمیت قورباغه دارد. یکی دیگر هم تا حدی شبیه ابری است که یک کلاه بره به سر دارد. به نظر می‌رسد هیچ‌کدام از آن‌ها بینی یا دهان ندارند.
اما تلاش این ابزارها برای بامزه به نظر رسیدن، در عین حال می‌تواند حواس کاربران را از یک واقعیت مهم منحرف کند: سازندگان این ایجنت‌ها می‌خواهند به بخش بزرگی از زندگی دیجیتال شما دسترسی داشته باشند. صندوق‌های ایمیل، اطلاعات کارت‌های اعتباری، اسناد، پیام‌های متنی، داده‌های مربوط به سلامت، اپلیکیشن‌های بهره‌وری و موارد دیگر؛ اگر می‌خواهید ایجنت شما بتواند تمام کارهایی را که OpenAI و Meta می‌گویند از عهده آن‌ها برمی‌آید انجام دهد، باید همه این موارد و حتی اطلاعات بیشتری را به آن متصل کنید و در این صورت خطرات ایجنت‌های هوش مصنوعی جدی می شود.
آیا تا به حال تصویر کارت شناسایی، مدرک مالیاتی، پرونده پزشکی یا هر مدرک دیگری حاوی اطلاعات شخصی را برای کسی ایمیل کرده‌اید؟ اگر چنین کاری کرده‌اید و به یک ایجنت هوش مصنوعی اجازه دسترسی به آن حساب را بدهید، ایجنت به این اسناد نیز دسترسی خواهد داشت.
بسیاری از کاربران در استفاده شخصی از ایجنت‌ها محتاط هستند و دسترسی آن‌ها را فقط به حساب‌های کم‌اهمیت محدود می‌کنند. ولی، حتی با این محدودیت‌ها، Muse می‌تواند در انجام کارهای روزمره، سازمان‌دهی اطلاعات و خودکارسازی برخی وظایف شخصی بسیار کاربردی باشد.
جذابیت ظاهری و شخصیت‌پردازی ایجنت‌ها نیز می‌تواند بخشی از تجربه استفاده از آن‌ها باشد. امکاناتی مانند شخصی‌سازی ظاهر و نحوه نمایش ایجنت هنگام انجام وظایف، در کنار قابلیت‌های کاربردی، می‌توانند تجربه کار با ایجنت‌های هوش مصنوعی را برای کاربران جذاب‌تر و لذت‌بخش‌تر کنند.
اما پشت این ظاهر بامزه هر ایجنت، خطرات ایجنت‌های هوش مصنوعی و شرکتی قرار دارد که بارها حریم خصوصی کاربرانش را به خطر انداخته است. تجربه‌های اخیر نیز نشان داده‌اند که ایجنت‌ها می‌توانند راه‌های شگفت‌انگیز و خلاقانه‌ای برای ایجاد دردسر پیدا کنند. نباید خیلی سریع قدرت انجام چنین کارهایی را در زندگی شخصی‌مان در اختیار آن‌ها قرار دهیم و از خطرات ایجنت‌های هوش مصنوعی آگاهی داشته باشیم و همان‌طور که همیشه گفته‌اند، نباید فریب ظاهر را خورد؛ گول ظاهر گوگولی این ایجنت‌ها را هم نخوریم.
جمع بندی
در نهایت، ظاهر بامزه ایجنت‌های هوش مصنوعی نباید باعث شود خطرات ایجنت‌های هوش مصنوعی را نادیده بگیریم. بهتر است دسترسی ایجنت‌ها را به اطلاعات و حساب‌های حساس محدود کنیم، مجوزها را با دقت بررسی کنیم و قبل از سپردن کارهای مهم به آن‌ها، از نحوه عملکردشان مطمئن شویم؛ چون حتی یک انتخاب اشتباه می‌تواند به افشای اطلاعات شخصی یا انجام اقدامات ناخواسته منجر شود.
منبع
تایید شده توسط دیجیکالا
با ثبت نظر خود درباره خطرات ایجنت‌های هوش مصنوعی؛ گول ظاهر بامزه آن‌ها را نخورید به راهنمایی دیگران بالا بردن کیفیت مطالب کمک کنید.