تحذير رسمي:أخطاء التعرف على الوجوه تهدد باعتقال أبرياء.. والأقليات العرقية الأكثر عرضة

لندن – عرب لندن

حذّر تقرير رسمي في بريطانيا من أن أخطاء أنظمة التعرف على الوجوه قد تؤدي إلى اعتقال أشخاص أبرياء، مع تعرض أفراد الأقليات العرقية لمخاطر أكبر بسبب الانحيازات التي تعاني منها الخوارزميات المستخدمة في هذه التقنية.

وكشف تقرير صادر عن هيئة التفتيش الملكية للشرطة وخدمات الإطفاء والإنقاذ في إنجلترا وويلز، نُشر الأربعاء، أن بعض ضباط الشرطة تعاملوا مع نتائج عمليات البحث اللاحقة عن الوجوه باعتبارها أدلة مؤكدة، رغم أنها لا تتجاوز معلومات استخباراتية أو مؤشرات احتمالية تتطلب إجراء تحقيقات إضافية قبل اتخاذ أي إجراء بحق المشتبه بهم.

وقال التقرير إن بعض المحققين لم يدركوا أن نتائج تقنية التعرف اللاحق على الوجوه (RFR) ليست أدلة إثبات، بل معلومات تستلزم التحقق منها عبر مصادر مستقلة. وأشار إلى أن بعض الضباط لم يجروا ما يكفي من الفحوصات للتأكد من صحة المطابقات المحتملة، فيما اعتمدت حالات محدودة بصورة مفرطة على نتائج النظام، ما أدى إلى إجراءات تحقيقية غير مناسبة.

وحذّر المفتشون من أن هذا الخلل قد يتسبب في تحديد هوية أشخاص بشكل خاطئ أو اعتقالهم، بما يقوض ثقة الجمهور في استخدام التكنولوجيا الأمنية.

انحياز ضد السود والآسيويين والنساء

وأشار التقرير إلى استمرار مشكلات الانحياز في الخوارزميات، التي قد تكون أكثر عرضة لتحديد أشخاص من الأقليات العرقية باعتبارهم مشتبه بهم على نحو خاطئ.

كما رصد المفتشون استخدام صور غير مناسبة في عمليات البحث، بينها صور ضبابية أو منخفضة الجودة، وأخرى تضم أكثر من وجه، وهو ما يقلل قدرة الأنظمة على تقديم نتائج موثوقة.

وقالت جاسلين تشاغار، من منظمة «بيغ براذر ووتش» المعنية بالدفاع عن الحريات المدنية، إن تعامل بعض الضباط مع نتائج التعرف على الوجوه باعتبارها أدلة مؤكدة، بدلاً من كونها تقديرات احتمالية، أمر مثير للقلق.

وأضافت أن هذا النهج يزيد خطر مداهمة منازل أبرياء واعتقالهم على خلفية جرائم ارتُكبت في مدن لم يزوروها أصلاً، مشيرة إلى أن الشرطة لا تسجل دائماً استخدام تقنية البحث اللاحق عن الوجوه، ما قد يجعل أشخاصاً موضع اشتباه في تحقيقات جنائية دون أن يعرفوا سبب ذلك.

ثغرات قانونية وبيانات لا تُحذف

ولفت التقرير إلى أن بعض صور المحتجزين التي كان ينبغي حذفها ظلت محفوظة في قواعد البيانات، كما انتقد عدم مواكبة التشريعات للتطورات في تقنيات التعرف على الوجوه، وغياب إطار قانوني شامل ينظم استخدامها ويحدد الضمانات اللازمة لحماية الجمهور.

وقالت كاثرين ستون، كبيرة مفتشي الشرطة، إن استمرار ثقة الجمهور بهذه التكنولوجيا يتطلب إثبات وجود ضمانات مناسبة، وإدارة مخاطر الانحياز والاحتفاظ بالبيانات بفاعلية، وضمان خضوع القرارات للحكم البشري.

وشددت على ضرورة وضع إطار تشريعي أكثر وضوحاً، ومعايير وطنية أقوى، وتحسين آليات الحوكمة والرقابة.

في المقابل، قال بن راسل، المسؤول عن ملف التعرف على الوجوه في المجلس الوطني لرؤساء الشرطة، إن أجهزة الشرطة ملتزمة بالاستخدام الأخلاقي والمتناسب والمسؤول للتقنية، بهدف دعم التحقيقات وملاحقة الجناة وحماية المجتمعات.

لكن البروفيسور بيت فوسي، من جامعة ساوثهامبتون، والذي سبق أن عمل مستشاراً للشرطة في هذا المجال، شدد على أن الرقابة البشرية الفعلية على أنظمة الذكاء الاصطناعي مطلب قانوني، معتبراً أن التقرير كشف حالات تعامل فيها المحققون مع اقتراحات أجهزة الكمبيوتر باعتبارها حقائق دون إجراء فحوصات إضافية.

ويغطي التقرير تقنية التعرف اللاحق على الوجوه، التي تُستخدم لمقارنة صور المشتبه بهم بصور محفوظة في قواعد البيانات، ولا يتناول بصورة مباشرة تقنية التعرف الحي على الوجوه المستخدمة في الوقت الفعلي لرصد الأشخاص في الأماكن العامة.