پایگاه اطلاع رسانی دکتر رضا شجیع- وب نوشت
سلاح‌های کشتار ریاضی

حذف تصاویر و رنگ‌ها  | تاریخ ارسال: 1398/7/25 | 
سلاح‌های کشتار ریاضی
 
کوری دکترو
ترجمه آرش رضاپور (ترجمان)




یک روز صبح، شما را به اتهام قتل دستگیر می‌کنند. سوار ماشین پلیس می‌شوید، و وقتی بعد از ۱۰دقیقه به دادگاه می‌رسید، حکمِ نهایی‌ را به دستتان می‌دهند. هوش مصنوعی در این ۱۰دقیقه، با استفاده از کلان‌داده‌ها سوابق کیفری شما‌، الگوهای روان‌شناختی‌تان‌، روابطتان با دیگران، جزئیات ماجرا و هر چیز دیگری را مرور کرده و شما را گناهکار تشخیص داده است. نه نقطۀ مبهمی وجود دارد، نه کسی حوصلۀ شنیدن حرف‌هایتان را دارد. چه حالی خواهید داشت؟
سال‌هاست که دربارۀ کارهای کتی اونیل می‌نویسم. او دانشمند علوم داده‌ است و دکترایش را از هاروارد گرفته، و اصطلاح سلاح‌های کشتار ریاضی را وضع کرده تا نشان دهد مدل‌سازی‌های بی‌قید آماری، هرروزه، دمار از روزگار میلیون‌ها نفر درمی‌آورند، و زندگی‌های بیشتر و بیشتری را به نابودی می‌کشانند. اونیل مشتاق است مدل‌سازیِ برآمده از داده، تبدیل به نیرویی خیر در جهان شود، و این مسئله ناامیدش می‌کند که می‌بیند کارهای بی‌قید آماری می‌توانند با نقاب عینی‌گرایی ریاضی، و به بهای از بین بردن زندگی میلیون‌ها نفر، سودی سرشار نصیب چند شرکت کنند.
اونیل این مدل‌های خطرناک را «سلاح‌های کشتار ریاضی» می‌نامد، اما، در عین حال، این‌طور نیست که همۀ مدل‌هایی که خطا دارند، در این دسته قرار بگیرند. برای آنکه یک مدل در زُمرۀ «سلاح‌های کشتار ریاضی» جای بگیرد، باید برای افرادی که تحت آن مدل قرار می‌گیرند، فهم‌ناپذیر باشد، به منافعشان آسیب برساند، و به شکلی تصاعدی رشد کند تا به مقیاسی بسیار بزرگ برسد.
از آشکارترین ویژگی‌های سلاح‌های کشتار ریاضی، فقدان بازخورد و تنظیم است. در ورزش، تیم‌ها از مدل‌های جزئی‌نگر آماری برای پیش‌بینی این موضوع استفاده می‌کنند که کدام ورزشکار را باید خریداری کنند و هنگام آمادگی برای مسابقه، چگونه آن‌ها را به کار گیرند. اما پس از آنکه مسابقه برگزار شد، تیم‌ها مدل‌هایشان را روزآمد می‌کنند تا شکست‌هایشان را تبیین کنند. اگر دست رد به سینۀ بازیکن بسکتبالی بزنید و او به تیم رقیب شما بپیوندد و در آنجا افتخارآفرینی کند، مدلتان را روزآمد می‌کنید تا در فصل بعدی نقل و انتقالات عملکردی بهتر داشته باشید.
همین را مقایسه کنید با استفاده هرروزه از سلاح‌های کشتار ریاضی علیه ما. بزرگترین کارفرمایان در امریکا از سرویس‌های تجاری برای سنجش رزومه‌های دریافتی‌شان با مدل کارمند «موفق» استفاده می‌کنند. آیندۀ شغلی شما در دستان این مدل‌هاست. اگر یکی شما را رد کند، و بعد به جای دیگری بروید و در آنجا عملکردی عالی داشته باشید، بازهم این واقعیت هیچگاه برای اصلاح مدل به کار نمی‌رود. همه بازنده‌اند؛ کارجویان به اجبار از بازارکار کنار گذاشته می‌شوند، و کارفرمایان هم نیروهای عالی را از دست می‌دهند. در این میان، تنها تاجران سلاح‌های کشتار ریاضی هستند که، همچون راهزن‌ها، به نان و آب می‌رسند.
شرکت آمازون با دقت، مشتریانی را رصد می‌کند که دیگر از کارتهای خرید این شرکت استفاده نمی‌کنند، یا بعد از یکی دو خرید، قید خرید را می‌زنند. آن‌ها علاقه‌مندند همه‌چیز را دربارۀ «خرید مجدد» خریدارانشان بدانند، و به همین دلیل مدل‌سازی‌های آماری را با انسان‌شناسی -برای فهمیدن و صحبت‌کردن با خریداران- تلفیق می‌کنند تا سیستم خودشان را بهتر کنند.
به هر حال مدل‌سازی از میان نخواهد رفت؛ چراکه مدل‌ها، به عنوان ابزارهایی برای راهنمایی و مراقبت و همچنین به عنوان سیستم‌هایی مفید و چاره‌ساز، فوق‌العاده‌اند، اما اگر همچون ابزاری برای تنبیه و تضعیف به کار روند، تبدیل به کابوس می‌شوند. انتخابش با ماست. کتاب اونیل مانند یک دوره به زبانِ ساده است که پیرامون دانش آماری تخصصی نوشته شده است؛ دانشی که همۀ ما برای پرسشگری از سیستم‌هایی که دورتادورمان را گرفته‌اند، و همچنین برای مطالبه‌گری از آن‌ها، بدان نیاز داریم
نشانی مطلب در وبگاه پایگاه اطلاع رسانی دکتر رضا شجیع:
http://shajie.ir/find.php?item=1.38.958.fa
برگشت به اصل مطلب