در سال های اخیر، افراد برای کمک به تصمیم گیری بیشتر به هوش مصنوعی وابسته شده اند. این مدل ها نه تنها به انسان ها کمک می کنند بلکه از رفتار آنها نیز درس می گیرند. بنابراین، مهم است که بدانیم تعامل ما با مدل های هوش مصنوعی چگونه بر آنها و رفتار انسان ها تأثیر میگذارد. رویه فعلی فرض میکند که رفتار انسانی که برای آموزش استفاده میشود، بی طرفانه است.
با این حال، تحقیقات دانشگاه واشنگتن این فرض را به چالش می کشد. این نشان می دهد که افراد وقتی می دانند که برای آموزش هوش مصنوعی استفاده می شود، رفتار خود را تغییر می دهند. علاوه بر این، این رفتار روزها پس از پایان تمرین ادامه می یابد.
این یافته ها مشکل توسعه هوش مصنوعی را برجسته میکند: مفروضات داده های آموزشی بی طرفانه میتواند منجر به مدل های سوگیری ناخواسته شود. این هوش مصنوعی ممکن است این عادات را تقویت کند و در نتیجه انسان و هوش مصنوعی از رفتار مطلوب منحرف شوند.
پدیده روانی غیرمنتظره
این مطالعه جدید بین رشته ای توسط محققان WashU یک پدیده روانشناختی غیرمنتظره را در تقاطع رفتار انسان ها و هوش مصنوعی کشف کرده است.
وقتی به انسان ها گفته شد که هوش مصنوعی را برای انجام یک بازی چانه زنی آموزش می دهند، شرکت کنندگان به طور فعال رفتار خود را طوری تنظیم کردند که منصفانه تر و منصفانه تر به نظر برسند، این انگیزه با پیامدهای بالقوه مهم برای توسعه دهندگان هوش مصنوعی در دنیای واقعی.
لورن تریمن، دانشجوی دکترا در بخش علوم محاسباتی و داده و نویسنده اصلی این مطالعه، گفت: “به نظر میرسید شرکت کنندگان انگیزهای برای آموزش هوش مصنوعی برای انصاف داشتند، که دلگرم کننده است، اما افراد دیگر ممکن است برنامه های متفاوتی داشته باشند.”
توسعه دهندگان باید بدانند که وقتی مردم بدانند برای آموزش هوش مصنوعی از آن استفاده می شود، عمداً رفتار خود را تغییر می دهند. این مطالعه که در PNAS منتشر شده است، با کمک مالی از موسسه بین رشته ای در علوم داده کاربردی (TRIADS)، یک ابتکار امضا شده از برنامه استراتژیک هنر و علوم پشتیبانی شد.
بازی اولتیماتوم در تغییر رفتار انسان ها
این مطالعه شامل پنج آزمایش بود که در هر آزمایش حدود 200 تا 300 شرکت کننده داشتند. از آزمودنی ها خواسته شد تا «بازی اولتیماتوم» را بازی کنند، چالشی که از آنها میخواهد در پرداخت های نقدی کوچک (فقط 1 تا 6 دلار) با سایر بازیکنان انسانی یا رایانه مذاکره کنند.
گاهی اوقات به آنها گفته می شد که تصمیمات آنها برای آموزش یک ربات هوش مصنوعی استفاده می شود که چگونه بازی کند. بازیکنانی که فکر میکردند هوش مصنوعی را آموزش میدهند، به طور مداوم به دنبال سهم منصفانه از پرداخت هستند، حتی اگر چنین انصافی برای آنها چند دلار هزینه داشته باشد.
جالب اینجاست که این تغییر رفتار حتی پس از اینکه به آنها گفته شد که تصمیم هایشان دیگر برای آموزش هوش مصنوعی استفاده نمیشود، ادامه داشت، و این نشان میدهد که تجربه شکل دهی فناوری تأثیری ماندگار بر تصمیم گیری داشته است.
ووتر کول، یکی از نویسندگان این مطالعه، گفت: “به عنوان دانشمندان شناختی، ما به شکل گیری عادت علاقه مندیم. این یک مثال جالب است زیرا این رفتار حتی زمانی که دیگر درخواست نشده بود ادامه داشت.”
با این حال، انگیزه پشت این رفتار کاملاً مشخص نیست.
پیامدهای آینده در فرآیند تغییر رفتار انسان ها
محققان در مورد انگیزه ها و استراتژی های خاصی سؤال نکردند و کول توضیح داد که شرکت کنندگان ممکن است تعهد قویتری برای اخلاقیتر کردن هوش مصنوعی احساس نکرده باشند.
او گفت که این آزمایش احتمالاً تمایلات طبیعی آنها را برای رد پیشنهادات ناعادلانه نشان داد. آنها ممکن است به عواقب آینده فکر نکنند، آنها فقط می توانند راه آسانی را انتخاب کنند.
هو، دانشمند کامپیوتری که روابط بین رفتارهای انسانی و الگوریتم های یادگیری ماشین را مطالعه میکند، گفت: “این مطالعه بر عنصر مهم انسانی در آموزش هوش مصنوعی تأکید میکند. بسیاری از آموزش های هوش مصنوعی مبتنی بر تصمیمات انسانی است،اگر سوگیری های انسانی در طول آموزش هوش مصنوعی در نظر گرفته نشود، هوش مصنوعی حاصل نیز مغرضانه خواهد بود. در چند سال گذشته، ما شاهد بسیاری از مسائل ناشی از این نوع عدم تطابق بین آموزش و استقرار هوش مصنوعی بوده ایم.”
به گفته هو، برای مثال، برخی از نرم افزارهای تشخیص چهره باید در شناسایی افراد رنگین پوست دقت بیشتری داشته باشند. این تا حدی به این دلیل است که داده های مورد استفاده برای آموزش هوش مصنوعی مغرضانه و غیرنماینده هستند.
دیدگاهتان را بنویسید