بازار آریا - امیررضا انگجی * تصمیم‌گیری درباره اینکه آیا یک فردِ دستگیرشده تا زمان دادگاه باید آزاد یا در زندان بماند، یکی از مهم‌ترین تصمیم‌هایی است که در سیستم قضایی گرفته می‌شود. این تصمیم نه تنها روی زندگی آن فرد تاثیر می‌گذارد، بلکه بر روی امنیت جامعه و هزینه‌های نگهداری زندان‌ها هم اثر دارد. قضات برای این کار باید پیش‌بینی کنند که آیا فرد آزاد شده تا زمان دادگاه احتمال دارد دوباره جرم جدیدی مرتکب شده و از دادگاه فرار کند.
پیش‌بینی این موضوع کار سختی است و گاهی قضات اشتباه می‌کنند. حالا تصور کنید اگر یک کامپیوتر با استفاده از داده‌های زیاد بتواند این پیش‌بینی‌ها را بهتر انجام دهد! این گزارش درباره مطالعه‌ای است که نشان می‌دهد چطور یک برنامه کامپیوتری (هوش مصنوعی) می‌تواند به قاضی‌ها کمک کند تا تصمیمات بهتری بگیرند.
وقتی ماشین‌ها وارد عرصه قضاوت می‌شوند
برای این مطالعه، محققان از اطلاعات واقعی دستگیری‌ها در شهر نیویورک بین سال‌های 2008تا 2013 استفاده کردند. این اطلاعات شامل بیش از 750 هزار پرونده بود و هر پرونده، اطلاعاتی درباره یک فرد دستگیرشده داشت؛ مثلا نوع جرم، آیا قبلا دستگیر شده است (سابقه کیفری)، سن متهم و غیره. این اطلاعات شبیه همان چیزهایی است که قاضی‌ها در مواقع تصمیم‌گیری درباره وثیقه به آن نگاه می‌کنند. اما محققان عمدا اطلاعاتی مثل نژاد یا جنسیت را از برنامه کنار گذاشتند تا مطمئن شوند برنامه‌شان تبعیض‌آمیز نشود.
آنها داده‌ها را به سه بخش تقسیم کردند؛ یک بخش برای آموزش برنامه کامپیوتری، یک بخش برای آزمایش و یک بخش برای تحقیقات اضافی که کمک می‌کرد نتایج درست‌تر باشند. این کار مثل این بود که آنها یک کتاب بزرگ از اطلاعات را خریداری کرده و فقط بخشی از آن را به
ماشین برای یادگیری دادند و بعد با بقیه اطلاعات کتاب، برنامه را آزمایش کردند تا ببینند چقدر این
ماشین از یادگیری برخوردار شده است.
در واقع محققان یک برنامه کامپیوتری ساختند که می‌تواند با نگاه کردن به اطلاعات متهم‌ها، پیش‌بینی کند که چقدر احتمال دارد اگر آنها آزاد شوند، جرم جدیدی مرتکب شده یا از دادگاه فرار کنند.
این برنامه مثل یک دانشمند باهوش است که الگوها را در داده‌ها پیدا می‌کند. مثلا می‌تواند بفهمد که اگر یک نفر قبلا چند بار دستگیر و حالا به خاطر یک جرم جدی دیگر، دستگیر شده، احتمالا خطرناک‌تر است. برنامه به جای اینکه فقط به یک نوع از اطلاعات (مثلا تعداد دستگیری‌های قبلی) نگاه کند، همه اطلاعات را با هم ترکیب کرده و یک پیش‌بینی دقیق‌تر انجام می‌دهد. برای ساخت این برنامه، محققان از روشی موسوم به «درخت‌های تصمیم» استفاده کردند. در این روش، برنامه مجموعه‌ای از پرسش‌های پیاپی را تحلیل می‌کند. مثلا آیا فرد سابقه دستگیری دارد؟ اگر پاسخ مثبت است، نوع جرمش چه بوده است؟ سن او چقدر است؟
برنامه با ارزیابی هر پاسخ، به یک نتیجه‌گیری نهایی درباره میزان خطرناک بودن فرد نزدیک‌تر می‌شود. این برنامه همچنین برای پیش‌بینی حضور یا عدم حضور فرد در دادگاه آموزش دیده است. این موضوع از آن جهت اهمیت دارد که طبق قانون نیویورک، قضات باید بیش از هر عاملی به این مساله توجه کنند. با این حال، ارزیابی عملکرد این برنامه با دو چالش اصلی روبه‌رو بود.
چالش اول، محدودیت داده‌ها بود. اطلاعات مربوط به رفتار متهمان، مانند ارتکاب جرم یا حضور در دادگاه، تنها برای افرادی وجود داشت که قضات آنها را آزاد کرده بودند. در مقابل، هیچ اطلاعاتی در دست نبود که نشان دهد متهمان بازداشت‌شده در صورت آزادی چه رفتاری از خود بروز می‌دادند. این کمبود داده، مقایسه مستقیم عملکرد برنامه با تصمیمات قضات را دشوار می‌ساخت.
چالش دوم، اهداف چندگانه قضات بود. قضات هنگام تصمیم‌گیری ممکن است اهدافی فراتر از کاهش جرم را نیز در نظر بگیرند، مانند حفظ عدالت نژادی یا تمرکز ویژه بر جرائم خشونت‌آمیز. اگر برنامه فقط بر یک هدف، برای نمونه پیش‌بینی عدم حضور در دادگاه، متمرکز شود، ممکن است اهداف دیگر را نادیده بگیرد.
در این صورت، چنین برنامه‌ای از نظر قضات کاربردی نخواهد بود. محققان برای ارزیابی برنامه چند رویکرد مختلف را به کار گرفتند. هدف آنها این بود که از اعتبار نتایج مطمئن شوند و بتوانند عملکرد واقعی برنامه را نشان دهند.
این روش‌ها شامل بهره‌گیری از تفاوت در رویکرد قضات، شبیه‌سازی تصمیم‌گیری و بررسی اهداف گوناگون بود. این رویکردها به شرح زیر بود:
استفاده از تفاوت بین قضات (بهره‌گیری از تخصیص شبه‌تصادفی): در شهر نیویورک، پرونده‌های متهمان به‌صورت تقریبا تصادفی به قضات مختلف داده می‌شود. این یعنی هر قاضی پرونده‌های مشابهی دریافت می‌کند، اما بعضی قضات سخت‌گیرتر هستند و بیشتر متهمان را بازداشت می‌کنند، درحالی‌که برخی دیگر ملایم‌ترند و بیشتر متهمان را آزاد می‌کنند.
محققان از این تفاوت استفاده کردند تا رفتار متهمان را در موقعیت‌های مختلف بررسی کنند. آنها قضات را بر اساس میزان سخت‌گیری به پنج گروه تقسیم کردند، از خیلی ملایم (گروه 1) تا خیلی سخت‌گیر (گروه 5). بعد، متهمان آزادشده توسط قضات ملایم‌تر را بررسی کردند تا ببینند چه اتفاقی برایشان افتاده (مثلا آیا مرتکب جرم شدند یا نه). این اطلاعات به آنها کمک کرد تا بفهمند قضات سخت‌گیر چه کسانی را بازداشت کرده‌اند که شاید نباید بازداشت می‌شدند. مثلا اگر یک قاضی ملایم یک متهم را آزاد کرد و آن متهم جرمی انجام نداد، این نشان می‌داد که شاید قاضی سخت‌گیر همان متهم و کسی شبیه او را بی‌دلیل بازداشت کرده است.
این روش به محققان اجازه داد تا بدون نیاز به اطلاعات کامل درباره همه متهمان، عملکرد قضات را با برنامه مقایسه کنند؛ همچنین کمک کرد تا مشکل فقدان اطلاعات درباره متهمان بازداشت‌شده تا حدی حل شود. با مقایسه قضات ملایم و سخت‌گیر، محققان توانستند خطاهای قضات (مثل آزاد کردن افراد پرخطر یا بازداشت افراد کم‌خطر) را شناسایی کنند و ببینند برنامه چطور می‌تواند این خطاها را کاهش دهد.
شبیه‌سازی سیاست (تصمیم‌گیری فرضی توسط برنامه): محققان یک دنیای فرضی ساختند که در آن برنامه کامپیوتری به جای قضات تصمیم می‌گرفت کدام متهمان بازداشت شوند و کدام آزاد شوند.
این شبیه‌سازی‌ها به آنها اجازه داد تا ببینند اگر برنامه مسوول تصمیم‌گیری بود، چه اتفاقی می‌افتاد. برنامه همه متهمان را بر اساس میزان خطر پیش‌بینی‌شده (از کم‌خطر تا پرخطر) مرتب کرد و این خطر پیش‌بینی‌شده بر اساس اطلاعاتی مثل سوابق کیفری، نوع جرم و سن محاسبه شد. سپس دو سناریوی اصلی بررسی شد: کاهش جرم با همان تعداد بازداشت و کاهش بازداشت با همان سطح جرم.
روش انقباضی: این روش روی متهمانی تمرکز کرد که قضات آنها را آزاد کرده بودند، چون برای این گروه اطلاعات کافی وجود داشت.
محققان فرض کردند که برنامه فقط از بین متهمان آزادشده توسط قضات، آن‌هایی را بازداشت می‌کند که خطر بالایی دارند.
مثلا اگر یک قاضی 100 نفر را آزاد کرده و برنامه تشخیص دهد که 10 نفر از آنها خیلی پرخطرند، برنامه پیشنهاد می‌دهد این 10 نفر را بازداشت کنیم. چون اطلاعات این 10 نفر (مثلا اینکه مرتکب جرم شدند یا نه) موجود بود، محققان توانستند مستقیما ببینند که این تغییر چقدر جرم را کاهش می‌دهد و نتیجه این بود که با بازداشت این افراد پرخطر، جرم به‌طور قابل‌توجهی کم شد، بدون اینکه تعداد کلی بازداشت‌ها تغییر کند.
برتری
ماشین در تصمیم‌گیری
این مطالعه نتایج قابل‌توجهی به‌دست آورد که نشان‌دهنده برتری برنامه کامپیوتری نسبت به تصمیمات انسانی بود. برنامه شناسایی کرد که یک‌درصد از متهمان بسیار پرخطر هستند و با احتمال 62درصد در صورت آزادی ممکن است مرتکب جرم شوند یا در دادگاه حاضر نشوند. با این حال، قضات 48درصد از این گروه را آزاد کردند. داده‌ها نشان داد که این افراد نرخ بالایی از عدم حضور در دادگاه (56درصد) و بازداشت مجدد (62درصد) داشتند که نشان‌دهنده خطای قابل‌توجه در تصمیم‌گیری قضات است.
از طرفی قضات سخت‌گیرتر، متهمان را از سراسر طیف خطر (از کم‌خطر تا پرخطر) بازداشت می‌کنند، به جای اینکه تنها روی متهمان پرخطر تمرکز کنند. این امر منجر به بازداشت غیرضروری افراد کم‌خطر می‌شود، که هم هزینه‌بر است و هم ناعادلانه.
شبیه‌سازی‌ها نشان داد که
ماشین می‌تواند با حفظ همان تعداد بازداشت‌شده‌ها، نرخ جرم را تا 24درصد کاهش دهد یا با حفظ همان سطح جرم، تعداد بازداشت‌ها را تا 41درصد کاهش دهد. حتی در بدبینانه‌ترین سناریو (فرض اینکه همه متهمان بازداشت‌شده در صورت آزادی مرتکب جرم می‌شدند)، برنامه همچنان عملکرد بهتری داشت و جرم را 14درصد یا بازداشت‌ها را 18درصد کاهش داد. در این سناریو، فرض شد که برنامه همان تعداد متهمانی را بازداشت می‌کند که قضات در دنیای واقعی بازداشت کرده‌اند (یعنی نرخ بازداشت ثابت بماند).
اما به جای انتخاب تصادفی یا بر اساس معیارهای قضات، برنامه فقط متهمان با بالاترین میزان خطر را بازداشت کرد. نتیجه این بود که با تمرکز روی افراد پرخطر، نرخ جرم (مانند عدم حضور در دادگاه یا ارتکاب جرم جدید) تا 24درصد کاهش یافت.
این بهبود به این دلیل رخ داد که برنامه توانست افرادی را که واقعا احتمال بیشتری برای ارتکاب جرم داشتند، به‌طور دقیق‌تر شناسایی و بازداشت کند، درحالی‌که قضات گاهی افراد کم‌خطر را بازداشت و افراد پرخطر را آزاد می‌کردند. در سناریو دیگر، فرض شد که برنامه باید همان سطح جرم را حفظ کند که در تصمیمات قضات مشاهده شده است (یعنی نرخ جرم ثابت بماند). در این حالت، برنامه بررسی کرد که با بازداشت افراد پرخطر، چند نفر باید در زندان بمانند تا همان سطح جرم حفظ شود.
نتیجه نشان داد که برنامه می‌تواند با بازداشت 41درصد افراد کمتر نسبت به قضات، همان سطح جرم را حفظ کند. این به این معناست که برنامه با انتخاب دقیق‌تر افراد پرخطر، نیاز به بازداشت افراد کم‌خطر را کاهش داد و در نتیجه تعداد کلی بازداشت‌ها به‌طور قابل‌توجهی پایین آمد.
همین‌طور برخلاف نگرانی‌های رایج درباره تبعیض‌آمیز بودن هوش مصنوعی، این برنامه تعداد افراد اقلیت (مانند سیاه‌پوستان و اسپانیایی‌تبارها) در میان بازداشت‌شدگان را از 28درصد (در تصمیمات قضات) به 16درصد کاهش داد. این بهبود بدون استفاده مستقیم از اطلاعات نژادی به دست آمد.
بهبود قضاوت با هوش مصنوعی
به طور کلی این مطالعه به دنبال پاسخ به این سوال است که آیا می‌توان با استفاده از هوش مصنوعی تصمیم‌گیری‌های مربوط به وثیقه در سیستم عدالت کیفری را بهبود بخشید. قضات در فرآیند وثیقه باید پیش‌بینی کنند که آیا یک متهم در صورت آزادی، ممکن است مرتکب جرم جدیدی شود و یا در دادگاه حاضر نشود؟ این تصمیمات به‌دلیل پیچیدگی و احتمال خطای انسانی، گاهی ناکارآمد هستند و می‌توانند به افزایش جرم، بازداشت غیرضروری افراد کم‌خطر یا حتی تشدید نابرابری‌های نژادی منجر شوند.
مطالعه با استفاده از داده‌های واقعی دستگیری‌ها در نیویورک (2013-2008) و یک برنامه کامپیوتری مبتنی بر هوش مصنوعی نشان می‌دهد که این برنامه می‌تواند خطر متهمان را با دقت بیشتری پیش‌بینی کند.
قضات اغلب متهمان بسیار پرخطر را آزاد می‌کنند (مثلا 48.5درصد از پرخطرترین افراد)، که منجر به نرخ بالای جرم می‌شود. برنامه کامپیوتری می‌تواند با انتخاب دقیق‌تر افراد پرخطر، جرم را تا 24درصد کاهش دهد یا با حفظ همان سطح جرم، بازداشت‌ها را تا 41درصد کم کند. این برنامه همچنین نابرابری‌های نژادی را کاهش می‌دهد، زیرا تعداد افراد اقلیت در میان بازداشت‌شدگان را کمتر می‌کند. تصمیمات قضات گاهی ناسازگار و تحت‌تاثیر عوامل غیرمرتبط است، درحالی‌که برنامه به‌صورت یکنواخت و مبتنی بر داده عمل می‌کند.
این مطالعه استدلال می‌کند که هوش مصنوعی می‌تواند به‌عنوان ابزاری کمکی به قضات کمک کند تا تصمیماتی دقیق‌تر، عادلانه‌تر و کارآمدتر بگیرند، به شرطی که با دقت و در نظر گرفتن محدودیت‌ها (مانند پذیرش توسط قضات و اثرات بلندمدت) اجرا شود. این رویکرد نه تنها برای وثیقه، بلکه برای سایر حوزه‌های تصمیم‌گیری پیش‌بینی‌محور نیز کاربرد دارد.
اگرچه این مطالعه بر جنبه مکمل هوش مصنوعی و قضات تاکید دارد اما نتیجه گیری غیرمستقیم و یک جمله‌ای مهم آن این است که هوش مصنوعی در مواردی حتی می‌تواند جایگزین قضات شود!
منبع:
Kleinberg, J., Lakkaraju, H., Leskovec, J., Ludwig, J., & Mullainathan, S. (2018). Human decisions and machine predictions. The quarterly journal of economics, 133(1),
* کارشناس مرکز پژوهش‌های مجلس