انتقال نقصهای تفکر انسان به هوش مصنوعی!
آزمایشهای انجامشده روی هوش مصنوعی حاکی از آن است که نقصهای تفکر انسانی در تصمیمگیری سیستمهای هوش مصنوعی نیز دیده میشوند.
چندی پیش یک استارتآپ فینتک یک آزمایش ساده انجام داده است.
از این رو این استارتآپ دو متقاضی یکسان را به مدل هوش مصنوعی تأیید وام خود ارجاع داد. در یکی از پروندهها، متقاضی به عنوان فردی «با سابقه اشتغال ثابت و دو وقفه کوتاه» توصیف شده بود و از سوی دیگر در پرونده دیگر، عبارت به صورت «چندین وقفه در اشتغال» تغییر کرده بود و همان حقایق را با چارچوب متفاوت ارائه میداد.
براساس گزارش فوربس، نتیجه آزمایش این بود که هوش مصنوعی یک وام را تأیید و دیگری را رد کرد. بنیانگذاران استارتآپ با این موضوع روبهرو شدند که هوش مصنوعی بیطرف نیست و درست مانند انسانها به واژهها واکنش نشان میدهد.
«آموس تورسکی»(Amos Tversky) و «دنیل کانمن»(Daniel Kahneman) اقتصاددانان رفتاری، دههها پیش نشان دادند که انسانها ماشینحسابهای منطقی نیستند. ما به میانبرهایی به نام اکتشافات متکی هستیم که به ما کمک میکنند تا سریع تصمیم بگیریم، اما اغلب ما را گمراه میکنند. نکته نگرانکننده این است که چون هوش مصنوعی براساس دادهها و تصمیمهای ما ساخته شده، همان نقصها را دارد.
ما معمولا احتمال را براساس شباهت قضاوت میکنیم، نه منطق. براساس یک سناریوی کلاسیک مطرحشده توسط تورسکی و کانمن که به عنوان «مسئله لیندا»(Linda problem) شناخته میشود، مردم فرض میکنند «صندوقدار فمینیست بانک» محتملتر از «صندوقدار بانک» است یا فرض میکنند افراد قدبلند باید بسکتبالیستهای خوبی باشند؛ حتی اگر بیشتر مردم - از جمله افراد قدبلند - بسکتبال بازی نکنند.
هوش مصنوعی نیز از این دام مصون نیست. شرکت «آمازون» در یک مقطع زمانی، هوش مصنوعی بررسی رزومه را کنار گذاشت، زیرا همچنان کاندیداهای مرد را برای مشاغل کدنویسی ترجیح میداد. دلیل ترجیح این بود که آن برنامه هوش مصنوعی براساس دادههای استخدام در سالهای گذشته آموزش دیده بود و در گذشته، بیشتر مشاغل کدنویسی توسط مردان انجام میشدند. در یک مورد بدنام دیگر، یک سیستم هوش مصنوعی تشخیص تصویر، افراد سیاهپوست را «گوریل» نامید. این سیستم، تعصب را اختراع نکرده بود، بلکه آن را از پاسخهای انسانی جذب کرده بود.