تقنية تعرف الوجه : هل ستتجه الشركات المصنعة إلى تنظيمها أم إيقافها؟

يحذر نشطاء الحريات المدنية في الولايات المتحدة من أن التكنولوجيا القوية التي تحدد هوية الأشخاص عن طريق مطابقة صورة أو فيديو لوجه شخص ما مع قواعد بيانات الصور، يمكن استخدامها للتجسس بشكل سلبي على الأشخاص دون أي اشتباه واضح أو أخذ موافقتهم. كثير من هؤلاء لا يريد فقط تنظيم تقنية تعرُّف الوجه، بل يريد حظر استخدامها أو إيقافها بالكامل.

يتفق المشرعون الجمهوريون والديمقراطيون الذين نادراً ما يتفقون على شيء ما، على الحد من قدرة وكالات تطبيق القانون على مراقبة الأميركيين باستخدام هذه التكنولوجيا، مشيرين إلى المخاوف التي ترى أن الاستخدام غير المقيد لتقنية تعرُّف الوجه يمكن أن يؤدي إلى إنشاء دولة مراقبة أورويلية (هي صفة لحالة، أو فكرة، أو ظرف اجتماعي نسبة لما حدده جورج أورويل كأداة لتدمير رفاهة العيش في المجتمعات الحرة والمفتوحة).

حظرت عدة مدن، مثل سان فرانسيسكو وأوكلاند وسومرفيل وماساتشوستس، استخدام الشرطة لهذه التقنية في العام الماضي. وتم تقديم مشروع قانون اتحادي جديد في وقت سابق من العام الفائت، بهدف تقييد استخدامها بشدة من خلال تطبيق القانون الفيدرالي، الأمر الذي يتطلب أمراً من المحكمة لتتبع الأشخاص لمدة تزيد على ثلاثة أيام. وقد ناقش بعض أعضاء مجلس الشيوخ الأميركي مشروع قانون بعيد المدى لإيقاف استخدام الحكومة لهذه التقنية بالكامل. ولكن الحقيقة هي أن هذه التقنية موجودة بالفعل، وهي تستخدم لإلغاء قفل أجهزة هواتف الآيفون، ومسح وجوه ركّاب الرحلات الجوية بدلاً من تذاكرهم، ومعاينة الأشخاص الذين يحضرون الحفلات الموسيقية، ومراقبة الحشود الكبيرة.

أدى انتشار هذه التقنية إلى خلق موقف حساس، فمن جهة، يقلّل أنصار هذه التقنية، مثل جهات تطبيق القانون ومصنعي التكنولوجيا، من قوتها في التعرّف على الوجه، لكن من جهة أخرى يصرّون على قدرتها في حلّ القضايا الجنائية الباردة والمفتوحة أو جمع شمل الأطفال المفقودين مع عائلاتهم.

في الوقت نفسه، يحذر المعارضون من السرعة التي يمكن أن يخرج بها استخدام هذه التقنية القوية عن السيطرة. على سبيل المثال، تستخدم الصين هذه التقنية بانتظام في مراقبة فئة معينة من شعبها. ويجدون أنه قد يكون الحل في مكان ما، فهناك حالات يمكن أن يكون فيها استخدام هذه التقنية جيداً، خاصة إذا تم تنظيمها بعناية، وكانت المجتمعات المتأثرة بها تتحكم في كيفية استخدامها. لكن في الوقت الراهن، يبدو هذا السيناريو مثالياً وما زلنا بعيدين عن تحقيقه.

يقول باري فريدمان، مدير هيئة التدريس في مشروع ضبط القانون التابع لجامعة نيويورك، وهو معهد أبحاث يدرس ممارسات حفظ النظام والقانون: «ما نحتاج إلى فعله حقاً كمجتمع هو تحديد الاستخدامات المفيدة لهذه التكنولوجيا والأضرار المصاحبة لها، ومعرفة ما إذا كانت هناك أية أدوار لاستخدامها في الوقت الحالي».

ويقول قادة السياسة التقنية والمدافعون عن الحريات المدنية: إن استخدام الحكومة الأميركية تقنية تعرّف الوجه بالطريقة الصحيحة سوف يشمل مجموعة واسعة من اللوائح التي تضفي الطابع الديمقراطي على كيفية استخدام هذه التقنيات.

الاستخدام اليومي

أكثر الأمثلة شهرة على استخدام تقنية تعرُّف الوجه لتطبيق القانون في الولايات المتحدة هي الأمثلة المتطرفة، كما هي الحال عند استخدامها من قبل الشرطة في ماريلاند لتعرُّف المشتبه به في إطلاق النار في مكاتب صحيفة «كابيتال غازيت».

لكن الواقع هو أنه يمكن لواحدة من كل أربعة أقسام شرطة في الولايات المتحدة الوصول إلى تقنية تعرُّف الوجه وفقاً لمركز الخصوصية والتكنولوجيا في كلية القانون بجامعة جورج تاون. وفي الوقت الحالي على الأقل، يتم في كثير من الأحيان استخدام هذه التقنية لإجراء تحقيقات جنائية روتينية.

في غياب تنظيم تقنية تعرُّف الوجه، من السهل أن نرى إمكانية الإفراط في تجاوز الحدود المسموحة. في مقابلة عام 2017 مع شركة «سيليكون آنجل » للتكنولوجيا الإعلامية، تحدث كريس أدزيما، كبير محللي أنظمة المعلومات في الشركة، عن كيفية قيام لقطات الفيديو بتعزيز قدرات الأداة، على الرغم من أن الإدارة تقول حالياً إنها لا تعتزم استخدام الفيديو في المراقبة.

تعدُّ مقاطعة واشنطن واحدة من مئات وكالات تطبيق القانون على المستوى المحلي والاتحادي التي تستخدم تقنية تعرُّف الوجه. ولأنها تستخدم أداة «ريكغنيشن Rekognition( » ( من إنتاج شركة أمازون، وربّما العملاق التكنولوجي الأكبر والأكثر تدقيقاً، كان رجال شرطة هناك أكثر علانية حول استخدامها من وكالات تطبيق القانون الأخرى التي تستخدم أدوات مماثلة، لكنها أقل شهرة. وقال دانييل كاسترو، نائب رئيس مركز أبحاث السياسة في سياسة التقنيات في واشنطن: إن بعض وكالات تطبيق القانون تشعر بالقلق ببساطة من أن تبادل المزيد من المعلومات حول استخدام تقنية تعرُّف الوجه سيؤدي إلى رد فعل عنيف.

يعزو الكثيرون المخاوف من تقنية تعرُّف الوجه إلى أن الجمهور لا يعرف سوى القليل عن كيفية استخدامها، أو ما إذا كانت فعالة في الحد من الجريمة. في غياب أي نوع من التنظيم الفيدرالي الممنهج أو عملية تقديم التصاريح في الولايات المتحدة، فإن القليل الذي نعرفه هو من القصص والمقابلات والتقارير العامة والاستقصائية حول انتشار استخدامها.

مشكلة التحيز

بالنسبة للأقليات العرقية والنساء، أثبتت أنظمة تعرُّف الوجه أنها أقل دقة بشكل غير متناسب؛ ففي دراسة عام 2018 ، وجدت الباحثة في معهد ماساتشوستس للتكنولوجيا جوي بولامويني أن ثلاث من الأدوات الرائدة في تعرُّف الوجه، من شركات «مايكروسوفت « ،» آي بي إم »، و «ميغفي »، كانت غير صحيحة بقدر الثلث في تحديد جنس النساء ذوي البشرة الداكنة، مقارنة إلى وجود معدل خطأ واحد بالمائة فقط للذكور البيض.

تم انتقاد أداة «ريكغنيشن » على وجه الخصوص لعرضها التحيز بعد أن أجرت منظمة اتحاد الحريات المدنية الأميركي اختباراً على البرنامج الذي أخطأ في تعرُّف 28 من أعضاء الكونغرس وصنّفتهم كمجرمين، وقدم بشكل غير متناسب مطابقات خاطئة للمشرّعين السود واللاتينيين.

من المفترض أن تتحسّن مشكلات التحيز في تعرُّف الوجه مع مرور الوقت، مع تطوير التقنية وتحسين مجموعات البيانات. في الوقت نفسه، يجادل المؤيدون بأنه على الرغم من أن تقنية تعرُّف الوجه في حالتها الحالية ليست خالية تماماً من التحيز، إلا أن البشر ليسوا كذلك أيضاً. وقد يكون من الصعب محاسبة تقنية تعرُّف الوجه أكثر من إنسان يقدم على ارتكاب خطأ ما.

يعزو الكثيرون المخاوف من تقنية
التعرف على الوجه إلى أن الجمهور
لا يعرف سوى القليل عن كيفية
استخدامها، أو ما إذا كانت فعالة في
الحد من الجريمة.

قالت رشيدة ريتشاردسون، مديرة أبحاث السياسات ب «معهد آل ناو « ،» إذا كان هناك ضابط يقوم بممارسة التمييز ضد شخص، فهناك تأثير مباشر أو سببي يمكنك رؤيته هناك، ومحاولة التخفيف من هذا الضرر أو معالجته. لكنّه نظام تعلم آلي، فمن المسؤول؟».

إن التقنية التي تحدد تطابقاً في تعرُّف الوجه هي في الأساس صندوق أسود؛ فالشخص العادي لا يعرف كيف تعمل، وغالباً لا يعرفها مطبّقو القانون غير المدرّبين ممن يستخدمونها. لذا فإن فكّ التحيزات المدمجة في هذه التقنية ليست مهمة سهلة.

وقد دعت بعض الشركات التكنولوجية مثل «مايكروسوفت « ،» آي بي إم »، إلى تنظيم حكومي لهذه التقنية. قالت أمازون في وقت سابق من هذا العام إنها تكتب مجموعة من القواعد الخاصة بها للتعرف على الوجه، وتأمل أن يتبناها المشرعون الفيدراليون. لكن هذا يثير السؤال التالي: هل يجب على الناس أن يثقوا بالشركات أكثر من الشرطة لتنظيم هذه التقنية ذاتياً؟

(المصدر: نسخة مختصرة ومحرّرة من مقال منشور في «ريكود » التقني بقلم شيرين غفاري).