مبلغ – سرویس معارف: تصمیمگیری درباره اینکه چه کسی استخدام شود، چه کسی وام بگیرد، چه کارمندی ارتقا پیدا کند و چه کسی از یک فرصت اقتصادی برخوردار شود، تا همین چند سال پیش عمدتاً در اختیار انسانها بود. حالا الگوریتمها بتدریج وارد همین قلمرو شدهاند. شرکتها از هوش مصنوعی برای غربال رزومهها استفاده میکنند، بانکها از مدلهای داده محور برای ارزیابی اعتبار مشتریان کمک میگیرند و پلتفرمهای کاریابی و اقتصاد دیجیتال، بخشی از فرصتهای شغلی را با سازوکارهای خودکار توزیع میکنند.
در نگاه نخست، این تحول میتوند خبر خوبی برای عدالت باشد. الگوریتم برخلاف انسان خسته نمیشود، رشوه نمیگیرد، با متقاضی آشنا نیست و ممکن است بتواند تصمیمی سریعتر و منسجمتر بگیرد. اما همین تصور، یک پرسش اساسی را پنهان میکند: اگر الگوریتم با دادههای نابرابر آموزش دیده باشد، آیا حذف انسان از تصمیمگیری الزاماً به معنای حذف تبعیض است؟
مسئله «عدالت الگوریتمی» دقیقاً از همینجا آغاز میشود. و در جوامع اسلامی، پرسش دیگری نیز به آن اضافه میشود: اگر عدالت یکی از معیارهای اساسی شریعت است، آیا میتوان یک سیستم هوش مصنوعی را که درباره حقوق و فرصتهای مردم تصمیم میگیرد، صرفاً به دلیل کارآمدی آن پذیرفت؟
الگوریتم بیطرف نیست؛ دادهها گذشته را با خود حمل میکنند
هوش مصنوعی بهخودیخود درباره انسانها داوری اخلاقی نمیکند. مدل بر اساس دادههایی که در اختیارش قرار میگیرد، الگوهایی را پیدا میکند و بر اساس همان الگوها پیشبینی یا تصمیمگیری میکند.
این موضوع در استخدام اهمیت ویژهیی دارد. فرض کنیم یک شرکت طی بیست سال گذشته بیشتر مدیران خود را از میان مردان انتخاب کرده باشد. اگر الگوریتم استخدامی با استفاده از سوابق همین شرکت آموزش داده شود، ممکن است به این نتیجه برسد که سابقه کاری، دانشگاه، نوع شبکه ارتباطی یا حتی برخی ویژگیهای ظاهراً خنثی که در میان مردان بیشتر دیده شدهاند، نشانه مناسبتری برای مدیریت هستند.
الگوریتم در اینجا الزاماً «علیه زنان» برنامهریزی نشده است؛ اما میتوند تبعیض گذشته را به قاعده تصمیمگیری آینده تبدیل کند.
همین مسئله در اعتبارسنجی مالی نیز وجود دارد. اگر دادههای تاریخی نشان دهند که ساکنان یک منطقه خاص کمتر وام دریافت کردهاند، یک مدل ممکن است احتمال بازپرداخت آنها را پایینتر ارزیابی کند؛ حتی اگر علت این سابقه، محرومیت تاریخی همان منطقه از خدمات بانکی بوده باشد.
در این وضعیت، ماشین صرفاً بیعدالتی را تشخیص نمیده؛ بلکه ممکن است آن را بازتولید کند.
آیا تصمیم انسانی واقعاً عادلانهتر است؟
با این حال، نقد تبعیض الگوریتمی نباید به یک نتیجه ساده منتهی شود: «پس تصمیمگیری انسانی بهتر است.»
انسان نیز گرفتار تبعیض، تعصب، روابط شخصی، کلیشههای جنسیتی و طبقاتی و خطاهای شناختی است. تفاوت مهم اینجاست که تبعیض انسانی معمولاً در مقیاس محدودتری رخ میدهد، در حالی که یک الگوریتم میتوند یک خطای واحد را در هزاران یا میلیونها تصمیم تکرار کند.
در مقابل، الگوریتم میتون برخی معیارها را نیز شفافتر و قابل آزمون کند. اگر مشخص باشد که سیستم چگونه متقاضیان را ارزیابی میکند، میتوان عملکرد آن را میان گروههای مختلف مقایسه و خطاهای آن را شناسایی کرد.
بنابراین مسئله اصلی، انتخاب میان «انسان» و «ماشین» نیست. پرسش مهمتر این است که چه قواعدی باید بر تصمیمگیری هر دو حاکم باشد؟
اینجاست که مفهوم عدالت اهمیت پیدا میکند.
عدالت اسلامی؛ پیش از الگوریتم وجود داشته است
فقه اسلامی برای مواجهه با هوش مصنوعی از یک نقطه کاملاً خالی آغاز نمیکند. فناوری جدید است، اما مسئلههایی که ایجاد میکند قدیمی است: چگونه میتوان درباره حقوق انسانها به گونهای تصمیم گرفت که ظلم و تبعیض رخ ندهد؟
قرآن بر داوری عادلانه میان مردم تأکید ویژه دارد و حتی دشمنی با یک گروه نباید انسان را از عدالت خارج کند. این نکته برای عصر الگوریتم اهمیت ویژهیی دارد. تصمیمی که یک بانک درباره اعطای وام میگیرد یا یک شرکت درباره استخدام فردی اتخاذ میکند، صرفاً یک محاسبه فنی نیست؛ تصمیمی درباره دسترسی یک انسان به یک امکان است.
در سنت نبوی نیز عدالت فقط یک فضیلت شخصی نیست. پیامبر(ص) عدالت را درباره کسانی که تحت اختیار انسان قرار دارند نیز مطرح میکند و برای حاکم عادل جایگاهی ویژه قائل میشود.
بنابراین، اگر یک مؤسسه مالی، شرکت یا دولت تصمیمگیری را به الگوریتم واگذار کند، اصل مسئولیت اخلاقی و حقوقی آن تصمیم از میان نمیرود.
ماشین مسئول نیست؛ صاحب ماشین مسئول است
یکی از نکات مهم در فقه اسلامی همین است: هوش مصنوعی موضوع تکلیف شرعی به معنای انسانی آن نیست.
یک الگوریتم نمیوند به معنای فقهی «مکلف» باشد و نمیوند مسئولیت یک تصمیم ناعادلانه را به خود نرمافزار نسبت داد. مسئولیت متوجه انسانها و نهادهایی است که سیستم را طراحی کردهاند، داده در اختیارش گذاشتهاند، آن را به کار گرفتهاند و تصمیم نهایی را بر اساس خروجی آن اتخاذ کردهاند.
این مسئله در نخستین مواضع رسمی فقهی درباره هوش مصنوعی نیز به چشم میخورد. مجمع فقه اسلامی بینالمللی در سال ۲۰۲۵ در قطعنامهای راجع به هوش مصنوعی، اصل استفاده از آن را در حالت عادی مباح دانست، اما آن را مشروط به رعایت شروطی مانند مشروعبودن هدف و نتایج، جلوگیری از ضرر، حفظ حقوق و آزادیهای عمومی و خصوصی و رعایت صداقت و شفافیت کرد.
این موضع یک نتیجه مهم دارد: اسلام با خودِ فناوری مسئله ندارد؛ مسئله با نحوه استفاده از فناوری است.
به عبارت دیگر، الگوریتم میتوند ابزار عدالت باشد، اما نمیوند جایگزین مسئولیت اخلاقی انسان شود.
(برای صحتسنجی: استناد به قطعنامه ۲۵۸ مجمع فقه اسلامی بینالمللی (۲۰۲۵) نیازمند ارجاع به متن اصلی و تأیید از منبع رسمی است. قبل از انتشار، صحت این ارجاع را تأیید کنید؛ در صورت نبود مدرک قطعی، عبارت را به «برخی مجامع فقهی معاصر» تعمیم دهید.)
«عدالت» دقیقاً چه چیزی را از الگوریتم میخواهد؟
در اینجا باید مراقب یک سوءفهم باشیم. عدالت الگوریتمی لزوماً به این معنا نیست که الگوریتم باید برای همه افراد نتیجه یکسانی ایجاد کند.
فرض کنیم بانک برای اعطای وام، توان بازپرداخت متقاضیان را بررسی میکند. عدالت اقتضا نمیکند که به فردی با درآمد بسیار پایین و فردی با توان مالی بسیار بالا دقیقاً شرایط اعتباری یکسان داده شود. تفاوت میان آنها ممکن است از نظر اقتصادی معنادار باشد.
آنچه مسئلهساز است، تفاوتی است که به دلیل ناموجه وارد تصمیم شده باشد.
برای مثال، اگر قومیت، جنسیت، محل تولد یا تعلق طبقاتی فرد بدون ارتباط موجه با موضوع تصمیم، باعث کاهش دسترسی او به یک فرصت شود، با یک مسئله جدی عدالت روبهرو هستیم.
از این منظر، معیار اسلامی را میتوان نه «یکسانسازی همه نتایج»، بلکه جلوگیری از ترجیح ناروا و تضییع حق دانست.
این تفاوت مهمی است. عدالت الزاماً به معنای یکسانبودن خروجی نیست؛ بلکه به این معناست که تفاوت در برخورد، باید دلیل قابل دفاع داشته باشد.
از «ضرر» تا تبعیض الگوریتمی
فقه اسلامی همچنین ابزار دیگری برای مواجهه با پیامدهای منفی فناوری در اختیار دارد: قاعده «لاضرر».
قاعده فقهی «الضرر یزال» یا رفع ضرر، در سنت فقهی جایگاه گستردهای دارد و بر اساس آن، ضرر باید تا حد امکان برطرف شود. دارالافتای مصر نیز این قاعده را از قواعد اساسی فقه اسلامی معرفی میکند و بر مبنای حدیث «لا ضرر ولا ضرار» مجموعهای از قواعد فرعی درباره دفع و کاهش ضرر را توضیح میدهد.
اگر یک الگوریتم استخدامی به شکل مستمر گروهی از افراد را بدون دلیل موجه از فرصت شغلی محروم کند، یا یک سیستم اعتبارسنجی مالی باعث شود گروهی از مردم به دلیل دادههای نادرست یا سوگیری تاریخی از دسترسی به خدمات مالی محروم شوند، مسئله دیگر صرفاً «خطای تکنولوژیک» نیست.
میتوان آن را از منظر فقهی بهعنوان ایجاد ضرر و تضییع حق مورد بررسی قرار داد.
در نتیجه، نظارت شرعی بر هوش مصنوعی نباید فقط به این پرسش محدود شود که «آیا این فناوری حلال است؟»؛ بلکه باید پرسید:
این فناوری با چه دادههایی کار میکند، چه کسی از آن آسیب میبیند، چه حقی را تحت تأثیر قرار میدهد و اگر اشتباه کند، چه کسی مسئول جبران آن است؟
عدالت فقط در خروجی نیست؛ در فرایند هم هست
یکی از مهمترین نکات در عدالت الگوریتمی، مسئله شفافیت است.
ممکن است الگوریتمی در ظاهر نتایج نسبتاً عادلانهای تولید کند، اما هیچکس نداند چرا یک فرد وام گرفته و دیگری رد شده است. یا چرا یک رزومه امتیاز بالاتری گرفته و دیگری کنار گذاشته شده است.
در چنین وضعیتی، فردی که از تصمیم آسیب دیده، حتی امکان اعتراض مؤثر نیز ندارد.
این مسئله با مفهوم «امانت» در قرآن قابل پیوند است. قرآن پیش از فرمان به عدالت، از ادای امانت سخن میگوید. اگر دادههای مالی، پزشکی یا شغلی افراد در اختیار یک نهاد قرار گرفتهاند، استفاده از آنها برای تصمیمگیری درباره زندگی همان افراد، نمیوند فارغ از مسئولیت اخلاقی و حقوقی باشد.
از همین رو، یک نظام هوش مصنوعی عادلانه باید دستکم چهار ویژگی داشته باشد:
شفافیت در حدی که مبنای تصمیم قابل فهم و بررسی باشد؛ قابلیت اعتراض برای فردی که از تصمیم آسیب دیده است؛ نظارت انسانی بر تصمیمهای پرخطر؛ و امکان اصلاح هنگامی که سیستم به تصمیم نادرست یا تبعیضآمیز منجر شده است.
این اصول در واقع ترجمه نهادی همان مسئولیتی هستند که در به تصمیم نادرست یا تبعیضآمیز منجر شده است.
این اصول در واقع ترجمه نهادی همان مسئولیتی هستند که در سنت اسلامی بر دوش صاحب اختیار قرار گرفته است.
**آیا «مقاصد شریعت» میتوند راهنمای الگوری مقاصد شریعت برای ارزیابی فناوریهای جدید استفاده کرد؟
پاسخ بخش قابل توجهی از ادبیات معاصر اسلامی مثبت است. پژوهشهای جدید در حوزه مالی اسلامی، از جمله مطالعات مربوط به هوش مصنوعی در اعتبارسنجی، بر مفاهیمی چون عدالت، شفافیت، امانت، منفعت عمومی و جلوگیری از ضرر بهعنوان معیارهایی برای ارزیابی سیستمهای هوش مصنوعی تأکید کردهاند.
اما نباید از این نکته نتیجه گرفت که «مقاصد شریعت» یک فرمول آماده برای برنامهنویسی الگوریتم است.
مقاصد شریعت نمیگوید یک مدل یادگیری ماشین دقیقاً چگونه باید ساخته شود. این مقاصد، مرزهای هنجاری را مشخص میکنند: چه نوع تصمیمی را نمیوند عادلانه دانست، چه نوع ضرری باید پیشگیری شود و چه حقوقی نباید قربانی کارآمدی شوند.
تکنولوژی باید روش تحقق این اصول را پیدا کند؛ فقه نیز باید بتواند در مواجهه با فناوری جدید، موضوع را دقیق بشناسد.
خطر بزرگتر؛ وقتی کارآمدی جای عدالت را میگیرد
هوش مصنوعی یک مزیت بزرگ دارد: سرعت.
میتوند هزاران رزومه را در چند دقیقه بررسی کند، میلیونها رکورد مالی را تحلیل کند و احتمال بازپرداخت وام را در مقیاس وسیع محاسبه کند.
اما سرعت و دقت آماری با عدالت یکی نیستند.
ممکن است الگوریتمی بتواند با دقت ۹۵ درصدی رفتار مالی افراد را پیشبینی کند و با این حال در مورد یک گروه اجتماعی خاص به شکل سیستماتیک خطا کند.
اگر معیار نهایی فقط «کارآمدی» باشد، چنین سیستمی موفق است. اگر معیار «عدالت» نیز وارد شود، باید پرسید آن پنج درصد خطا چه کسانی را قربانی میکند.
این همان نقطهای است که اخلاق اسلامی میتوند در برابر منطق صرفاً فنی فناوری ایستادگی کند: حق انسان را نمیوند صرفاً به یک متغیر در مدل آماری تبدیل کرد.
از فقه فناوری تا فقه حکمرانی الگوریتمی
بنابراین شاید مسئله آینده فقه، صدور احکام پراکنده درباره کاربردهای مختلف هوش مصنوعی نباشد. مسئله مهمتر، شکلگیری نوعی فقه حکمرانی الگوریتمی است.
در این رویکرد، فقیه فقط نمیپرسد استفاده از یک نرمافزار خاص حلال است یا حرام؛ بلکه درباره ساختار تصمیمگیری نیز پرسش میکند:
چه کسی دادهها را جمع میکند؟ چه کسی الگوریتم را طراحی میکند؟ چه کسی معیارهای موفقیت آن را تعیین میکند؟ چه کسی میتوند به تصمیم اعتراض کند؟ اگر الگوریتم اشتباه کند، چه کسی مسئول است؟ و اگر یک سیستم به شکل مستمر به یک گروه اجتماعی آسیب بزند، آیا ادامه استفاده از آن با اصل عدالت سازگار است؟
این پرسشها فقه را از مواجهه سطحی با فناوری به سمت حکمرانی فناوری میبرند.
در واقع، نخستین نشانههای چنین تغییری نیز در ادبیات فقهی معاصر دیده میشود. مجمع فقه اسلامی بینالمللی در قطعنامه ۲۰۲۵ خود، علاوه بر اصل اباحه، بر حفظ حقوق و آزادیها، جلوگیری از ضرر و شفافیت تأکید کرده است. پژوهشهای جدید در مالی اسلامی نیز پیشنهاد کردهاند که نظارت شرعی بر هوش مصنوعی باید از سطح «مطابقت صوری» فراتر برود و سوگیری الگوریتمی، شفافیت و امکان جبران را نیز بررسی کند.
عدالت شغلی در عصر ماشین
در نهایت، هوش مصنوعی نه ذاتاً دشمن عدالت است و نه خودبهخود ابزار تحقق آن.
اگر الگوریتم بتواند روابط شخصی، رشوه، تبعیض آشکار و تصمیمهای سلیقهای را از فرایند استخدام یا اعطای اعتبار حذف کند، میتوند به عدالت نزدیکتر شود. اما اگر دادههای نابرابر را بهعنوان واقعیت خنثی بپذیرد، تبعیضهای گذشته را در مقیاسی تازه بازتولید خواهد کرد.
از منظر اسلامی، معیار اصلی را نمیوند در «هوشمندبودن» سیستم جستوجو کرد. معیار، نسبت آن سیستم با حق و ضرر انسانهاست.
آیه قرآن نمیگوید فقط در داوریهای انسانی عادل باشید؛ فرمان به عدالت، عام است و در قرآن بهصورت مکرر بر داوری میان مردم با عدالت تأکید شده است.
امروز بخشی از این «حکمکردن میان مردم» ممکن است دیگر مستقیماً به دست انسان انجام نشود؛ اما مسئولیت آن همچنان انسانی است.
به همین دلیل، مسئله اصلی آینده این نیست که آیا هوش مصنوعی میتوند جای انسان را بگیرد؟
پرسش مهمتر این است که اگر ماشین قرار است در جایگاه تصمیمگیرنده بنشیند، چه چیزی باید مانع شود که بیعدالتی انسان را با سرعت و مقیاس بیشتری تکرار کند؟
در نگاه اسلامی، پاسخ را باید در پیوند سه عنصر جستوجو کرد: عدالت بهعنوان معیار، فقه بهعنوان سازوکار تشخیص حکم و مسئولیت انسانی بهعنوان ضامن اجرای آن. الگوریتم میتوند ابزار این سه باشد؛ اما نمیوند خودِ عدالت را تعریف کند.
این مطلب بدون برچسب می باشد.