العدالة التعويضية في عصر الذكاء الاصطناعي
16 أيّار/مايو 2025
استضاف المنتدى الدائم المعني بالمنحدرين من أصل أفريقي، بعد مرور أربع سنوات تقريبًا على إنشائه من قبل الجمعية العامة للأمم المتحدة، باعتباره هيئة استشارية لمجلس حقوق الإنسان وآلية استشارية للمنحدرين من أصل أفريقي ومنصة لتحسين سلامتهم ونوعية حياتهم وسبل عيشهم، دورته الرابعة في نيويورك، وذلك بين 14 و17 نيسان/ أبريل 2025.
أمّا موضوع الدورة الأساسي فهو "أفريقيا والمنحدرون من أصل أفريقي: متحدون من أجل تحقيق العدالة التعويضية في عصر الذكاء الاصطناعي"، حيث تكتسب الدعوات العالمية للتعويض عن إرث للاستعباد والاستعمار التاريخي أهمية قصوى. وفي العصر الرقمي، يبرز خطر تكرار أوجه عدم المساواة النظمية من خلال تصميم التكنولوجيات الرقمية واستخدامها وتنظيمها.
دعوة إلى تحقيق العدالة التعويضية يطلقها أحفاد المستعبِدين
تناولت إحدى حلقات النقاش الرفيعة المستوى التي عُقدت خلال هذه الدورة، مسألة العدالة التعويضية.
وتنبع المطالبة بالتعويض وجبر الضرر من الاعتراف بأن أفريقيا والمنحدرين من أصل أفريقي في الشتات عانوا لقرون من الزمن من ظلم الاستعمار والاستعباد والفصل العنصري والإبادة الجماعية، الذي لا تزال موروثاته الدائمة تتجلى اليوم في العنصرية النظمية.
وخلال الدورة، ناقش المشاركون كيف أنّ هذه المظالم التاريخية لا تزال تقوّض التنمية في الدول الأفريقية وتعيق تمتع السكان المنحدرين من أصل أفريقي بحقوق الإنسان بشكل كامل. وفي هذا السياق، ينبغي أن تشمل العدالة التعويضية مبادرات مجدية واسعة النطاق، بما في ذلك الاعتذارات الرسمية وقول الحقيقة والتعويض بأشكال مختلفة. فجبر الضرر من وسائل الإنصاف التي قد تؤدّي دورًا أساسيًا في تحقيق المصالحة وبناء مجتمعات شاملة للجميع وقائمة على العدالة والمساواة والتضامن، وفي تغيير علاقات التمييز وعدم المساواة.
أدركت لورا تريفيليان، وهي زميلة فخرية في معهد بي جيه باترسون التابع لجامعة جزر الهند الغربية، أنّ عائلتها استعبدت عددًا من الأشخاص في غرينادا، عندما ظهر اسمها في قاعدة بيانات كلية لندن الجامعية. وقد أدرجت قاعدة بيانات موروثات العبودية البريطانية أسماء المستعبِدين في منطقة البحر الكاريبي البريطانية، الذين حصلوا على 20 مليون جنيه إسترليني كتعويض من المكلّفين بالضرائب البريطانيين عند إلغاء الرق في العام 1833.
واستغرق الأمر من تريفيليان بضع سنوات لمعالجة ماضي عائلتها. وفي ذروة حركة أرواح السود غالية - كانت تعمل مراسلة لبي بي سي في الولايات المتحدة في ذلك الوقت - قررت إنتاج فيلم وثائقي عن حركة العدالة التعويضية في منطقة البحر الكاريبي، مستخدمة تاريخ عائلتها لإبراز علاقتها الشخصية بالقضية.
وشرحت تريفيليان أنّها سألت كل من قابلتهم عما إذا كان عليها الاعتذار وتقديم تعويضات عن دور أجدادها في العبودية. فأخبرها الناس أنهم لا يزالون يعيشون مع موروثات العبودية في غرينادا - انطلاقًا من المشاكل الصحية والصراعات الاقتصادية وصولًا إلى التمييز على أساس اللون والآثار النفسية.
واجتمعت تريفيليان مع أعضاء اللجنة الوطنية للتعويضات في غرينادا ولجنة التعويضات التابعة للجماعة الكاريبية، الذين أكّدوا أيضًا أنّ اعتذار أحفاد المستعبِدين علنًا ينطوي على إمكانية الشفاء ويُطلق نقاشًا أوسع نطاقًا بين أولئك الذين استفاد أسلافهم من العبودية.
لورا تريفيليان تدير مؤتمرًا صحفيًا لإطلاق "ريو+20: المستقبل الذي نصبو إليه"، نيويورك، الولايات المتحدة الأميركية، تشرين الثاني/ نوفمبر 2011. صور الأمم المتّحدة/ اسكندر ديبيبي
عندما أُلغيت العبودية في القرن التاسع عشر، كانت عائلة تريفيليان "تملك" أكثر من 1,000 شخص مستعبدين في 10 مزارع في جميع أنحاء الجزيرة الصغيرة. وهي تظنّ أنها لربما قابلت بعض أحفادهم عندما زارت غرينادا لتصوير فيلمها الوثائقي.
في نيسان/ أبريل 2023، أنشأت تريفيليان وسبعة أشخاص آخرين مجموعة صغيرة تُعرَف باسم ورثة العبودية.
وشرحت قائلة: "اعتبرنا أنه من المهم الاعتراف بأن أسلافنا قد استفادوا من العبودية، وتشجيع الآخرين الذين لديهم هذه الخلفية على القيام بذلك أيضًا. لدى منطقة البحر الكاريبي خطة من 10 نقاط في هذا الشأن، وأردنا تشجيع الحكومة البريطانية على الدخول في نقاش مع منطقة البحر الكاريبي على أساس هذه الخطة."
وأضافت تريفيليان أن أكثر من 150 شخصًا ينحدرون من المستعبِدين في منطقة البحر الكاريبي البريطانية اتصلوا بالمجموعة، بما في ذلك أحفاد ويليام غلادستون الذي كان رئيس وزراء المملكة المتحدة بين العامَيْن 1868 و1894.
وأشارت تريفيليان إلى أنّه يتمّ التعامل مع قضية التعويضات بشكل مختلف في منطقة البحر الكاريبي مقارنة مع الولايات المتحدة، حيث عاشت وعملت لأكثر من 20 عامًا.
وأوضحت قائلة: "إنّ حجّة الاستثمار في الصحة والتعليم والبنية التحتية والقدرة على التكيف مع المناخ لمقنعة تمامًا، وهذا ما تطالب به منطقة البحر الكاريبي من الديون البريطانية المستحقة. ويُظهر استطلاع الرأي الذي أجري بتكليف من حملة الإصلاح نموًا في دعم فكرة الاعتذار والتعويض منذ بدء الاستطلاع - وأظنّ أنه وصل إلى حدّ الـ40 في المائة. وقد أبدت بريطانيا اليوم رغبتها في مناقشة موضوع العدالة التعويضية عن العبودية والرق مع الكومنولث. وأعتبر أنّ هذا هو المجال السياسي المتاح حاليًا في بريطانيا."
وخلال دورة المنتدى الدائم، شاركت تريفيليان في استضافة حدث جانبي مع البعثة الدائمة لجامايكا وأحفاد المستعبِدين في منطقة البحر الكاريبي وأميركا الجنوبية، بهدف مناقشة كيفية معالجة الإرث التاريخي للاستعباد بشكل مجدٍ في أيامنا هذه.
مارتن كيماني، الرئيس الجديد لمنتدى الأمم المتحدة الدائم للمنحدرين من أصل أفريقي، متحدثًا خلال افتتاح الدورة الرابعة، نيويورك، الولايات المتحدة، 14 نيسان/ أبريل 2025. صور الأمم المتّحدة/ مانويل الياس
“
يطرح المنحدرون من أصل أفريقي تجاربهم التاريخية على طاولة النقاش، على أمل تحقيق المساءلة وبثّ حسّ بالإمكانية التي تلازم مواجهة الماضي.
“
مارتن كيماني، رئيس منتدى الأمم المتحدة الدائم للمنحدرين من أصل أفريقي
الذكاء الاصطناعي والعدالة الرقمية
استضاف المنتدى الدائم أيضًا مناقشة بشأن تحقيق العدالة الرقمية للمنحدرين من أصل أفريقي. ويشكل الذكاء الاصطناعي على نحو متزايد جوانب مهمة من الحياة الحديثة، بما في ذلك المراقبة والتوظيف والتعليم وإنفاذ القانون والرعاية الصحية وجمع البيانات وتحليلها. وعلى الرغم من قدرته على تعزيز حقوق الإنسان، إلا أن الذكاء الاصطناعي غالبًا ما يرث التحيزات القائمة لأنه قد يتم تصميمه واستخدامه وتنظيمه على أساس هياكل تعكس اختلال القوى والتمييز، ولأن البيانات التي يعالجها قد تؤدي إلى نتائج تمييزية.
وبالنسبة إلى المنحدرين من أصل أفريقي، يطرح ذلك تحديًا كبيرًا، حيث أنهم غالبًا ما يكونون ممثلين تمثيلاً ناقصًا أو خاطئًا في مجموعات البيانات التي تسترشد بها أنظمة الذكاء الاصطناعي. ما يؤدي إلى إدامة القوالب النمطية وتعميق الفوارق العرقية.
وقد أوضحت موتالي نكوندي قائلة: "تأتي غالبية الأبحاث بشأن العرق والتكنولوجيا من الولايات المتحدة الأميركية، إلا أن الإدارة الحالية قد سحبت التمويل الفيدرالي المخصص للجامعات. ما يعني أنه مع تقدم التكنولوجيا، لن نحصل على معارف جديدة. فغالبًا ما تُستخدم أنظمة التعرف على الوجه على الحدود، وقد أظهرت الأبحاث أن الأشخاص أصحاب البشرة الداكنة هم أقل عرضة للتعرف عليهم من قبل هذه الأنظمة. وبالتالي، تأتي الآثار المترتبة على ذلك في ما يتعلق بالهجرة واللجوء هائلة."
نكوندي باحثة ومستشارة في مجال السياسات ومعلقة إعلامية تدافع عن السياسات والممارسات التي تخفف من التعبير عن التحيز الخوارزمي في تصميم ونشر وحوكمة أنظمة الذكاء الاصطناعي المستخدمة في الحياة العامة.
بدأ عملها عندما أصبحت المدافعة الرئيسية عن قانون مساءلة الأنظمة الخوارزمية، الذي تم تقديمه لأول مرة إلى مجلس النواب الأميركي في العام 2019، عندما كانت زميلة في مؤسسة البيانات والمجتمع. وقد عزّزت هذا العمل بعد تأسيسها منظمة الذكاء الاصطناعي من أجل الشعوب، وهي منظمة غير حكومية عالمية تقدم خدمات استشارية لكبار صناع القرار المهتمين بالنهج المسؤولة في تطوير الذكاء الاصطناعي.
موتالي نكوندي هي مديرة منظمة الذكاء الاصطناعي من أجل الشعوب، وهي منظمة تدعو إلى اتباع نهج مسؤولة في تطوير الذكاء الاصطناعي. © موتالي نكوندي
وبالإضافة إلى رؤيتها، عرضت نكوندي الخطاب كجانب آخر من الذكاء الاصطناعي مثير للجدل والمشاكل، ودعمت حجّتها بورقة بحثية أعدها علماء الكمبيوتر في جامعة كارنيجي ميلون، بعنوان "المُعلّقون أصحاب المواقف"، التي وجدت أنّه من المحتمل أن تَسِمَ أنظمةُ ضبط المحتوى التي تعتمد على الذكاء الاصطناعي، خطابَ مستخدمي وسائل التواصل الاجتماعي الذين كتبوا باللغة الإنكليزية العامية الأميركية الأفريقية، بأنه سام. ونتيجة لذلك، أوضحت الورقة البحثية أن إمكانية وصول المبدعين السود إلى جمهورهم أقل من غيرهم.
وشرحت قائلة: "قد يتمّ تصنيف عبارات مثل ’it’s the bomb‘ (إنها قنبلة) أو ’it’s fire‘ (إنها نار) في السياق الأميركي، على أنها تهديد، في حين أنها تشكّل في اللغة العامية الأميركية الأفريقية طرقًا للتعبير عن البهجة والفرح بكلّ بساطة." وأضافت نكوندي أن مثل هذا التحديد للسياق يدفع مستخدمي وسائل التواصل الاجتماعي من السود إلى الخروج من اقتصاد إنشاء المحتوى العالمي الذي يقدر بنك غولدمان ساكس حجمه بـ250 مليار دولار أميركي.
ويوفّر الذكاء الاصطناعي أيضًا إمكانية إحداث تغيير إيجابي، لا سيما في جمع البيانات المصنفة وتحليلها، التي من الممكن أن تكون مفيدة في رصد الفوارق العرقية ومعالجتها.
وسلطت نكوندي الضوء على الإنجازات الطبية التي تحققت بفضل الذكاء الاصطناعي، وتعود بالنفع على الأفريقيين والمجتمعات المنحدرة من أصل أفريقي، بما في ذلك النساء الحوامل اللواتي يعشن في المناطق الريفية النائية في كينيا حيث تندر الرعاية الصحية المتاحة. فقد دخلت Jacaranda Health في شراكة مع عملاق التكنولوجيا Google لاستخدام الذكاء الاصطناعي كأداة إضافية لتفسير الصور المرسلة من الماسحات الضوئية المحمولة بالموجات فوق الصوتية، من دون الحاجة إلى متخصّصين في المجال. وأشارت نكوندي أيضًا إلى جائزة نوبل في الكيمياء لعام 2024 التي أظهرت كيف يمكن استخدام الذكاء الاصطناعي في تسلسل البروتين. ومع ذلك، فقد أقر الفائزان، ديميس هاسابيس وجون م. جامبر، بالجوانب الأخلاقية التي يجب مراعاتها.
وتمامًا كما بيّنه العديد من آليات الأمم المتحدة، يجب تطبيق المبادئ الستة للنهج القائم على حقوق الإنسان في التعامل مع البيانات - وهي المشاركة، وتصنيف البيانات، والتحديد الذاتي للهوية، والشفافية، والخصوصية، والمساءلة - لضمان استخدام البيانات بشكل أخلاقي وفعال ومنصف.
فعلى سبيل المثال، تشدّد التوصية العامة رقم 36 الصادرة عن لجنة القضاء على التمييز العنصري على أهمية منع التمييز العنصري في تطبيقات الذكاء الاصطناعي، كما تسلط الضوء على الحاجة إلى الشفافية والمساءلة وبذل العناية الواجبة لمراعاة حقوق الإنسان بغية التخفيف من الآثار السلبية للتحيز الخوارزمي.
وأوضحت نكوندي، التي سبق أن تعاونت منظمتها مع مقررة الأمم المتحدة الخاصة السابقة المعنية بالأشكال المعاصرة للعنصرية، تندايي أشيومي، في تقريرها بشأن التمييز العنصري في تصميم واستخدام التكنولوجيات الرقمية الناشئة، أنّ المنحدرين من أصل أفريقي بحاجة إلى الدفاع عن حقوقهم من خلال الانخراط مع الآليات العالمية مثل المنتدى الدائم وآليات الأمم المتحدة الأخرى المعنية بمكافحة العنصرية. وأعربت عن أملها في أن يتضمّن طلب المنتدى الدائم الذي رفعه إلى الأمم المتّحدة بإعداد إعلان بشأن تعزيز حقوق الإنسان للسكان المنحدرين من أصل أفريقي وحمايتها واحترامها الكامل، التحرر من العنصرية التي تدعمها التكنولوجيا.
كما أشارت إلى الحاجة إلى التفاعل مع شركات التكنولوجيا بشكل مباشر وتعزيز الدراية العرقية في عملية تطوير المنتجات. وقد كانت منظمة الذكاء الاصطناعي من أجل الشعوب عضوًا في المجلس الاستشاري لضبط المحتوى التابع لمقر شركة تيك توك في الولايات المتحدة على مدار السنوات الخمس الماضية.
وختمت نكوندي قائلة: "في العام 2025، أصبحت منظمة الذكاء الاصطناعي من أجل الشعوب من النشطاء المساهمين، واستخدمت أصواتهم بالوكالة لتشجيع أكبر مطوري الذكاء الاصطناعي في العالم على تبني نهج مسؤولة في مجال الذكاء الاصطناعي. ومن بين أوّل انتصاراتنا التصويت للحفاظ على سياسات التنوّع والإنصاف والإدماج في شركة Apple."
تمّ الكشف عن شعار المنتدى الدائم الجديد، الذي صممه صامويل أوكون-إيسين، خلال افتتاح الدورة الرابعة. © الأمم المتحدة