شدد خبراء في الأمم المتحدة على ضرورة تعزيز الجهود العالمية لمكافحة التنميط العرقي، في ظل خطر تنامي هذا المنحى بفعل تقنيات الذكاء الصناعي المستخدمة للتعرف على الوجوه أو تحديد مصادر الخطر المحتملة من جانب الشرطة.
وتقول فيرين شيبيرد، الخبيرة في حقوق الإنسان، في تصريحات لوكالة الصحافة الفرنسية: «يتعاظم خطر استنساخ هذه الأنماط الانحيازية وتفاقمها أو بروز ممارسات تمييزية» بفعل الذكاء الصناعي.
وتنتمي هذه الجامايكية إلى «لجنة الأمم المتحدة للقضاء على العنف العنصري» المؤلّفة من 18 خبيراً والتي أصدرت تقريراً عن السبل المتاحة للسلطات للتصدّي للتنميط العرقي الممارَس من قوى الأمن.
ولفتت اللجنة خصوصاً إلى خطورة الخوارزميات (وهي سلاسل طويلة من التعليمات) المستخدمة في أدوات «التنبؤ» أو تلك الخاصة بـ«تقدير المخاطر» المعتمدة في أجهزة الشرطة، كما في محرّكات البحث ومواقع التواصل الاجتماعي لتوجيه إعلانات موجهة الهدف مثلاً.
وكانت هذه الأنظمة للمساعدة في الحفاظ على الأمن والتي من المفترض أن تسهم في الحدّ من الجرائم قد انتشرت بدايةً في الولايات المتحدة في حدود العقد الثاني من القرن الحادي والعشرين. وهي غالباً ما تتعرّض للانتقاد باعتبار أنها تفاقم الأحكام المسبقة إزاء بعض الفئات.
وتشير شيبيرد إلى أن «البيانات التاريخية حول عمليات التوقيف في حيٍّ ما قد تعكس ممارسات انحياز من الشرطة»، ما قد ينعكس بدوره في أنظمة الذكاء الصناعي.
وتُردف بأن «هذه المعطيات قد تزيد من خطر انتشار الشرطة في موقعٍ ما بأعداد مبالغ بها، ما قد يؤدّي إلى مزيد من عمليات التوقيف ويُحدث من ثمّ حلقة مفرغة».
وأعربت اللجنة في توصياتها عن قلقها من الاستخدام المتزايد لتقنية التعرّف على الوجوه وغيرها من التقنيات المعتمدة في المهمّات الأمنية.
ففي هذه الحالة أيضاً، تكون تحاليل الذكاء الصناعي مرتبطة بشكل وثيق بالبيانات المستخدمة لتغذية النظام.
وقد أظهرت دراسات صعوبة هذه الأنظمة في التعرّف على الوجوه الداكنة البشرة أو حتّى النسائية.
ومن بين الأمثلة المقدّمة في هذا الصدد، توقيف الأميركي من أصل أفريقي روبرت ويليامز هذه السنة في ديترويت بالاستناد إلى تحاليل معادلة خوارزمية ركيكة خلصت إلى أنه أحد المشتبه بهم في حادثة سرقة.
وتقول شيبيرد: «تلقّينا شكاوى من هذا النوع بسبب أصل التكنولوجيا والجهات المشرفة على تطويرها والعيّنات المستخدمة في هذه الأنظمة»، مشدّدة على أن الوضع «يبعث فعلاً على القلق».
وتوصي اللجنةُ الدولَ خصوصاً بتنظيم الشركات العاملة في هذا المجال لضمان تماشي هذه الأنظمة مع القوانين الدولية لحقوق الإنسان، وتشدّد على أهمية الشفافية من ناحية التصميم والتطبيق لا سيّما إزاء الرأي العام.
وتذكّر شيبيرد بأن «التنميط العرقي لم يبدأ مع هذه التقنيات»، لكنها تعرب عن أملها في أن يساعد «اتّساع نطاق حركة (بلاك لايفز ماتر) أي (حياة السود مهمة)… وغيرها من الحملات المندّدة بالتمييز الذي يطال بعض الفئات الضعيفة على إبراز أهمية هذه التوصيات».