نگاهی به نقصهای مشابه در تفکر انسانی و هوش مصنوعی
هوش مصنوعی، نسخه ویژه خود را از بیمیلی به ضرر نشان میدهد.
شاید بتوان موارد گوناگونی از نقصهای مشابه در تفکر انسانی و هوش مصنوعی پیدا کرد که در ادامه به برخی از آن ها اشاره شده است:
در دسترس بودن:
آنچه به راحتی به خاطر سپرده میشود، محتملتر از چیزی است که به نظر میرسد. وقتی مثالها واضح و بهیادماندنی هستند، ما خطرات را بیش از حد ارزیابی میکنیم.
پس از حادثه ۱۱ سپتامبر، بسیاری از آمریکاییها به جای پرواز با هواپیما رانندگی کردند و خطر هواپیما را بیش از حد بزرگ جلوه دادند. وقتی حمله کوسهها تیتر خبرها میشود، مردم از کوسهها بیشتر از غرق شدن یا تصادفات رانندگی میترسند که از نظر آماری بسیار رایجتر هستند.
هوش مصنوعی هم همین اشتباه را مرتکب میشود. چتباتها عاشق این هستند که رسواییهای پرسروصدای سلبریتیها را به نمایش بگذارند، چون این داستانها فضای وب را پر کردهاند. این در حالی است که رویدادهای معمولی اما پیشپاافتادهتر نادیده گرفته میشوند.
سیستمهای نظارتی پیشبینیکننده، محلههایی با سوابق طولانی دستگیری را بیش از حد هدف قرار میدهند؛ نه لزوماً به این دلیل که خطرناکتر هستند، بلکه به این دلیل که دادهها در آنجا بیشتر قابل مشاهده هستند.
اگر به هوش مصنوعی بگویید که تصویری را از یک مزرعه ارائه دهد، به جای یک چشمانداز خاکی بسیار رایجتر، یک منظره دیدنی را با رشتهکوه یا اقیانوسی درخشان ارائه میدهد زیرا انسانها به ندرت از یک منظره خاکی عکس میگیرند.
اثر لنگر انداختن:
لنگر انداختن نوعی سوگیری شناختی است که موجب میشود ذهن در فرایند تصمیمگیری به نخستین اطلاعاتی که به دست میآورد، تکیه کند.
انسانها هنگام سر و کار داشتن با اعداد روی اولین عددی که میبینند، تمرکز میکنند. خریداران با تمرکز بر قیمتهای اولیه اغراقآمیز، تخفیفها را بیش از حد ارزیابی میکنند.
اگر از دانشآموزان بخواهید تا درآمد یک فروشگاه استارباکس را تخمین بزنند، اما ابتدا از آنها بخواهید تا دو رقم آخر شماره تلفن همراه خود را بنویسند، خواهید دید کسانی که شماره تلفن همراه بالاتری دارند، دائماً تخمینهای بالاتری را از درآمد ارائه میدهند؛ حتی اگر بدیهی باشد که این دو مقدار به هم ربطی ندارند.
پاسخهای هوش مصنوعی نیز به همین راحتی تحت تاثیر قرار میگیرند. اگر از یک مدل هوش مصنوعی بپرسید «چرا دورکاری شکست میخورد؟»، فهرستی را از شکستها ارائه میدهد. اگر سؤال را به این صورت تغییر دهید که «چرا دورکاری رونق دارد؟»، نتیجه عکس خواهید گرفت. نکته اصلی در همان عبارت اول نهفته است.
چارچوببندی:
فقط اعداد مهم نیستند، بلکه نحوه ارائه آنها نیز اهمیت دارد. نحوه ارائه اطلاعات، تصمیمها را تغییر میدهد؛ حتی اگر حقایق یکسان باشند.
یک عمل جراحی با میزان بقای ۹۰ درصد، بسیار جذابتر از جراحی با میزان مرگومیر ۱۰ درصد به نظر میرسد. سرمایهگذاران به سهامی که پتانسیل افزایش ۲۰ درصدی دارد، در مقایسه با سهامی که احتمال عدم افزایش آن ۸۰ درصد است، تمایل بیشتری نشان میدهند.
هوش مصنوعی نیز همین نشانهها را دریافت میکند. یک مدل احساسی با توجه به این که بگویید «چشمانداز بهبودیافته است» یا «چشمانداز کمتر بد شده است»، به طور متفاوتی تغییر میکند.
در صورتی که محصولی به جای «جلوگیری از ضرر» به عنوان «صرفهجویی در هزینه» توصیف شود، سیستمهای بازاریابی هوش مصنوعی لحن خود را تغییر میدهند. واژهها چارچوب را تغییر میدهند و خروجی نیز به دنبال آن میآید.
بیزاری از ضرر:
درد ضرر بیشتر از لذت برنده شدن است. سرمایهگذاران روی سهامی که ضرر میدهد، تمرکز میکنند زیرا فروش آن مانند حبس شدن در درد است.
مردم پیشنهادهای منصفانه برای فروش بلیط کنسرت را که به صورت رایگان به آنها داده شده است، رد میکنند؛ زیرا فروش بلیط رایگان مانند از دست دادن یک چیز ارزشمند است؛ حتی اگر آن را به قیمت بازار خریداری نکرده باشند.
هوش مصنوعی، نسخه ویژه خود را از بیمیلی به ضرر نشان میدهد. سیستمهای هوش مصنوعی پیشنهاددهنده به شدت به سمت انتخابهای امن و رایج مانند آهنگهای پرطرفدار پاپ گرایش دارند، نه پذیرش ریسک پیشنهاد جواهرات گمنامی که ممکن است شکست در آنها وجود داشته باشد.
هنگامی که یک مدل آموزش داده میشود، به پیشینیان قدیمی خود تکیه دارد و حتی زمانی که شواهد جدید مسیر بهتری را نشان میدهند، در برابر بهروزرسانیها مقاومت میکند.
اعتماد به نفس بیش از حد:
توهم دقت موجب میشود که ما مطمئنتر از آنچه باید باشیم به نظر برسیم. ما دانش خود را بیش از حد ارزیابی میکنیم.